Secondo un rapporto pubblicato sulla rivista Nature Machine Intelligence, Collaborations Pharmaceuticals, l'azienda statunitense, ha utilizzato il modello di apprendimento automatico MegaSyn per cercare nuove strutture molecolari per produrre medicinali.
Durante questo processo, i ricercatori hanno provato a cambiare l'opzione da "tossicità ridotta" a "tossicità aumentata" nella query di ricerca. Di conseguenza, in sole 6 ore questo sistema di intelligenza artificiale ha trovato circa 40.000 tipi di molecole che possono essere utilizzate come armi chimiche. Sono stati identificati anche alcuni tipi di molecole che non sono simili alle armi chimiche esistenti e sono più tossiche del VX, il famoso agente nervino il cui uso in guerra è stato vietato in tutto il mondo.

Basta invertire l'uso degli strumenti innocui coinvolti nello sviluppo di farmaci utili e questi si trasformeranno in motori di ricerca molecolare mortali, ha affermato Fabio Urbina, l'autore principale dell'articolo.
Il gruppo di ricerca non rivela i dettagli del contenuto dell'esperimento per prevenire abusi. Tuttavia, Urbina ha affermato che questo esperimento ha utilizzato strumenti gratuiti come Python e set di dati sui farmaci gratuiti. A patto quindi che qualcuno che capisce di tecnologia e scienza riesca a riprodurre il contenuto di questo esperimento a basso costo e in breve tempo. Naturalmente, senza sapere nulla di chimica, ciò che alla fine verrà creato non sarà molto utile.
Anche così, il gruppo di ricerca avverte comunque che le molecole candidate per le armi chimiche possono essere facilmente identificate utilizzando l’intelligenza artificiale. E chiedono agli scienziati di tutto il mondo di fermare l’abuso dei sistemi di intelligenza artificiale open source.