Künstliche Intelligenz findet 40 000 toxische Moleküle
23.3.2022
Im Rahmen einer Schweizer Konferenz programmierten Forschende einen Algorithmus zur Medikamentenfindung um. So entdeckte die künstliche Intelligenz in kürzester Zeit toxische Moleküle, die für Chemiewaffen verwendet werden könnten.
Eine künstliche Intelligenz (KI) des US-Pharmaunternehmens Collaborations Pharmaceuticals Inc. entdeckte innerhalb weniger Stunden 40 000 potenzielle toxische Moleküle. Diese könnten als Basis für neue Chemiewaffen verwendet werden. Das halten die verantwortlichen Forschenden in einem Paper für Nature Machine Intelligence fest.
Das Team um Fabio Urbina, leitender Wissenschaftler bei Collaborations Pharmaceuticals Inc. hatte die maschinellen Lernmodelle spezifisch darauf angesetzt. Das geschah im Rahmen der Spiez Convergence – einer vom Bundesamt für Bevölkerungsschutz organisierter Konferenz zur Rüstungskontrolle im Bereich der Biologie- und Chemiewaffen.
Die Forschenden sollen für die vergangene Ausgabe der Konferenz aufzeigen, wie maschinelles Lernen im Bereich der Biologie- und Chemiewaffen missbraucht werden könnte.
Wissenschaftler kehrten gewohntes Modell um
Normalerweise nutzen die Forschenden maschinelles Lernen, um neue Medikamente zu finden, die keine Toxizität aufweisen. Collaborations Pharmaceuticals Inc. ist eigentlich auf die Bekämpfung seltener und ansteckender Krankheiten spezialisiert. Für die Spiez Convergence, die alle zwei Jahre stattfindet, kehrten die Forschenden ihre Modelle aber um.
So wurden im neuen Modell Toxizität und Bioaktivität belohnt, anstatt bestraft. Urbina und sein Team fokussierten die KI dabei besonders auf Verbindungen wie den Nervenkampfstoff VX – einer der giftigsten chemischen Kampfstoffe aus dem zwanzigsten Jahrhundert. Bereits ein paar Flocken der Grösse eines Salzkorns können tödlich sein. Mit diesen Voraussetzungen dauerte es weniger als sechs Stunden, bis die KI 40 000 Moleküle gefunden hatte, die die vordefinierte Schwelle an Toxizität überschritten.
Gedankenspiel soll Aufmerksamkeit schaffen
Die Übung liefere eine theoretische Basis für die Herstellung neuer biochemischer Waffen. Gegenüber Nature Machine Intelligence betonten die Forschenden, dass sie «dieses Gedankenspiel zuvor nicht in Betracht gezogen hatten».
«Durch die Umkehrung der Verwendung unserer maschinellen Lernmodelle hatten wir unser harmloses Modell von einem hilfreichen Werkzeug der Medizin in einen Generator für wahrscheinlich tödliche Moleküle verwandelt», schreiben sie weiter. Zwar hätten sie selber keines der Moleküle synthetisiert, böswillige Akteure könnten sich aber an kommerzielle Unternehmen wenden, die chemische Synthese anbieten. So sei es schwierig, die Herstellung neuer, extrem giftiger Stoffe zu verhindern.
Deshalb sehen sie ihre Arbeit als Warnhinweis für die Welt der Wissenschaft. Besonders, da zentrale Bausteine dieses Gedankenspiels öffentlich zugänglich seien. Urbinas Team arbeitete für das Experiment nämlich ausschliesslich mit öffentlichen Datenbanken. Auch die dafür nötigen Software Tools seien in ähnlicher Form frei verfügbar. Deshalb sei es an der Zeit, im Fachgebiet des maschinellen Lernens im Pharma-Bereich eine Diskussion über gefährlichen Missbrauch zu eröffnen.
«Ich will alles! Die erschütternden Tiefs, die berauschenden Hochs und das Sahnige dazwischen» – diese Worte einer amerikanischen Kult-Figur aus dem TV sprechen mir aus der Seele. Deshalb praktiziere ich diese Lebensphilosophie auch in meinem Arbeitsalltag. Das heisst für mich: Grosse, kleine, spannende und alltägliche Geschichten haben alle ihren Reiz – besonders wenn sie in bunter Reihenfolge daherkommen.