De acordo com relatório publicado na revista Nature Machine Intelligence, a Collaborations Pharmaceuticals, empresa norte-americana, utilizou o modelo de aprendizado de máquina MegaSyn para buscar novas estruturas moleculares para fabricar medicamentos.
Durante esse processo, os pesquisadores tentaram alterar a opção de “toxicidade reduzida” para “toxicidade aumentada” na consulta de pesquisa. Como resultado, em apenas 6 horas este sistema de IA encontrou cerca de 40.000 tipos de moléculas que podem ser usadas como armas químicas. Existem até alguns tipos de moléculas identificadas que não são semelhantes às armas químicas existentes e são mais tóxicas do que o VX, o famoso agente nervoso cujo uso em guerras foi proibido em todo o mundo.

Basta reverter o uso de ferramentas inofensivas envolvidas no desenvolvimento de medicamentos úteis e elas se transformarão em mecanismos de busca molecular mortais, disse Fabio Urbina, principal autor do artigo.
A equipe de pesquisa não divulga detalhes do conteúdo do experimento para evitar abusos. No entanto, Urbina disse que este experimento usou ferramentas gratuitas como Python e conjuntos de dados de medicamentos gratuitos. Portanto, desde que alguém que entenda de tecnologia e ciência consiga reproduzir o conteúdo desse experimento com baixo custo e em pouco tempo. É claro que, sem saber nada de química, o que for criado não será muito útil.
Mesmo assim, a equipa de investigação ainda alerta que moléculas candidatas a armas químicas podem ser facilmente identificadas através da IA. E estão a apelar aos cientistas de todo o mundo para que parem com o abuso de sistemas de IA de código aberto.