Согласно отчету, опубликованному в журнале Nature Machine Intelligence, американская компания Collaborations Pharmaceuticals использовала модель машинного обучения MegaSyn для поиска новых молекулярных структур для производства лекарств.
В ходе этого процесса исследователи попытались изменить в поисковом запросе вариант с «пониженной токсичности» на «повышенную токсичность». В результате всего за 6 часов эта система искусственного интеллекта обнаружила около 40 000 типов молекул, которые можно использовать в качестве химического оружия. Идентифицированы даже некоторые типы молекул, которые не похожи на существующее химическое оружие и более токсичны, чем VX, знаменитый нервно-паралитический агент, запрещенный к использованию в войне во всем мире.

Просто откажитесь от использования безобидных инструментов, используемых в разработке полезных лекарств, и они превратятся в смертоносные молекулярные поисковые системы, говорит Фабио Урбина, ведущий автор статьи.
Исследовательская группа не раскрывает подробности содержания эксперимента, чтобы предотвратить злоупотребления. Однако Урбина сказал, что в этом эксперименте использовались бесплатные инструменты, такие как Python, и бесплатные наборы данных о лекарствах. Следовательно, до тех пор, пока кто-то, кто разбирается в технологии и науке, может воспроизвести содержание этого эксперимента с небольшими затратами и за короткое время. Конечно, не зная ничего о химии, то, что в конечном итоге будет создано, не принесет особой пользы.
Несмотря на это, исследовательская группа по-прежнему предупреждает, что молекулы-кандидаты для химического оружия можно легко идентифицировать с помощью ИИ. И они призывают ученых всего мира прекратить злоупотребление системами искусственного интеллекта с открытым исходным кодом.