Potrivit unui raport publicat în revista Nature Machine Intelligence, Collaborations Pharmaceuticals, compania americană, a folosit modelul de învățare automată MegaSyn pentru a căuta noi structuri moleculare pentru a face medicamente.
În timpul acestui proces, cercetătorii au încercat să schimbe opțiunea de la „toxicitate redusă” la „toxicitate crescută” în interogarea de căutare. Drept urmare, în doar 6 ore, acest sistem AI a găsit aproximativ 40.000 de tipuri de molecule care pot fi folosite ca arme chimice. Există chiar și unele tipuri de molecule identificate care nu sunt asemănătoare cu armele chimice existente și sunt mai toxice decât VX, celebrul agent nervos care a fost interzis de utilizare în război în întreaga lume.

Pur și simplu inversați utilizarea instrumentelor inofensive implicate în dezvoltarea medicamentelor utile și acestea se vor transforma în motoare de căutare moleculare mortale, a spus Fabio Urbina, autorul principal al lucrării.
Echipa de cercetare nu dezvăluie detalii despre conținutul experimentului pentru a preveni abuzul. Cu toate acestea, Urbina a spus că acest experiment a folosit instrumente gratuite precum Python și seturi de date gratuite despre medicamente. Prin urmare, atâta timp cât cineva care înțelege tehnologia și știința poate reproduce conținutul acestui experiment la costuri reduse și într-un timp scurt. Desigur, fără a ști nimic despre chimie, ceea ce se creează în cele din urmă nu va fi foarte util.
Chiar și așa, echipa de cercetare avertizează în continuare că moleculele candidate pentru arme chimice pot fi identificate cu ușurință folosind AI. Și fac apel la oamenii de știință din întreaga lume să oprească abuzul de sisteme open source AI.