Según un informe publicado en la revista Nature Machine Intelligence, la empresa estadounidense Collaborations Pharmaceuticals ha utilizado el modelo de aprendizaje automático MegaSyn para buscar nuevas estructuras moleculares para fabricar medicamentos.
Durante este proceso, los investigadores intentaron cambiar la opción de "toxicidad reducida" a "toxicidad aumentada" en la consulta de búsqueda. Como resultado, en sólo 6 horas este sistema de IA encontró alrededor de 40.000 tipos de moléculas que pueden usarse como armas químicas. Incluso se han identificado algunos tipos de moléculas que no son similares a las armas químicas existentes y son más tóxicas que el VX, el famoso agente nervioso cuyo uso ha sido prohibido en la guerra en todo el mundo.

Simplemente invierta el uso de herramientas inofensivas involucradas en el desarrollo de medicamentos útiles y se convertirán en motores de búsqueda molecular mortales, dijo Fabio Urbina, autor principal del artículo.
El equipo de investigación no revela detalles del contenido del experimento para evitar abusos. Sin embargo, Urbina dijo que este experimento utilizó herramientas gratuitas como Python y conjuntos de datos de medicamentos gratuitos. Por tanto, siempre y cuando alguien que entienda de tecnología y ciencia pueda reproducir el contenido de este experimento a bajo coste y en poco tiempo. Eso sí, sin saber nada de química, lo que finalmente se cree no será de gran utilidad.
Aun así, el equipo de investigación advierte que las moléculas candidatas a armas químicas pueden identificarse fácilmente mediante IA. Y están pidiendo a los científicos de todo el mundo que detengan el abuso de los sistemas de inteligencia artificial de código abierto.