Volgens een rapport gepubliceerd in het tijdschrift Nature Machine Intelligence heeft Collaborations Pharmaceuticals, het Amerikaanse bedrijf, het MegaSyn machine learning-model gebruikt om te zoeken naar nieuwe moleculaire structuren om medicijnen te maken.
Tijdens dit proces probeerden de onderzoekers de optie in de zoekopdracht te veranderen van ‘verminderde toxiciteit’ naar ‘verhoogde toxiciteit’. Als gevolg hiervan heeft dit AI-systeem in slechts zes uur ongeveer 40.000 soorten moleculen gevonden die als chemische wapens kunnen worden gebruikt. Er zijn zelfs enkele soorten moleculen geïdentificeerd die niet vergelijkbaar zijn met bestaande chemische wapens en die giftiger zijn dan VX, het beroemde zenuwgas dat wereldwijd niet meer in oorlogsvoering mag worden gebruikt.

Draai simpelweg het gebruik van onschadelijke hulpmiddelen die betrokken zijn bij de ontwikkeling van nuttige medicijnen om, en ze zullen in dodelijke moleculaire zoekmachines veranderen, zegt Fabio Urbina, de hoofdauteur van het artikel.
Het onderzoeksteam maakt geen details over de inhoud van het experiment bekend om misbruik te voorkomen. Urbina zei echter dat dit experiment gebruik maakte van gratis tools zoals Python en gratis datasets voor medicijnen. Daarom, zolang iemand die technologie en wetenschap begrijpt, de inhoud van dit experiment tegen lage kosten en in korte tijd kan reproduceren. Zonder iets van scheikunde te weten, zal wat uiteindelijk ontstaat natuurlijk niet erg nuttig zijn.
Toch waarschuwt het onderzoeksteam nog steeds dat kandidaat-moleculen voor chemische wapens gemakkelijk kunnen worden geïdentificeerd met behulp van AI. En ze roepen wetenschappers over de hele wereld op om het misbruik van open source AI-systemen te stoppen.