Instale IA em um micro-ondas para tornar seu amigo imaginário realidade, mas o que é criado é uma máquina assassina

Um YouTuber e engenheiro no Brasil chamado Lucas Rizzotto compartilhou recentemente no Twitter a história de perceber seu amigo imaginário - um micro-ondas em casa, usando IA, mas recebendo “uma das experiências mais assustadoras” de sua vida.

Especificamente, quando criança, Lucas Rizzotto se sentia muito solitário. Ele imaginou o micro-ondas de sua casa como um amigo próximo e chamou-o de Magnetron.

Rizzotto disse que muitas vezes gostaria que Magnetron pudesse falar com ele e ainda se lembra desse amigo mesmo depois de muitos anos.

Rizzotto e o micro-ondas integrado com IA. Foto: Lucas Rizzotto/Twitter

Há alguns anos, a empresa OpenAI, cofundada por Elon Musk, lançou uma nova versão do GPT-3 que usa Deep Learning para criar texto semelhante ao humano. Ele decidiu trazer seu amigo imaginário. Isso é na vida real.

Lucas Rizzotto encomendou na Amazon um micro-ondas inteligente com suporte ao software de assistente virtual Alexa. Então, ele “implantou” este forno de micro-ondas com um computador Raspberry Pi, conectou um microfone, alto-falantes e instalou o GPT-3 para ajudá-lo a entender a voz humana, e enviou essa voz para a OpenAI para análise.

Para criar memórias para a máquina, ele escreveu uma história de 100 páginas incorporando sua infância. Há detalhes adicionais que ele imaginou, como memórias de guerras, perdas de entes queridos, medos, sonhos... Este conteúdo está incluído para a IA analisar e receber para ajudar a trazer Magnetron para o mundo real.

Como resultado, o micro-ondas podia falar e conversar com Rizzotto com bastante fluência, fazendo-o sentir como se estivesse conversando com um velho amigo. Eles conversam frequentemente, revendo histórias antigas.

No entanto, a história gradualmente se torna incomum quando Magnetron gosta de falar sobre questões políticas, adora figuras fascistas e até tem uma visão negativa do mundo.

Certa vez, enquanto conversava, Rizzotto pediu a Magnetron que recitasse poesia, mas a máquina protestou: “Você é um traidor e eu vou te matar”.

Outra vez, Magnetron pediu para Rizzotto entrar no micro-ondas: "Lucas, tenho uma ideia. Você pode entrar no micro-ondas?". Rizzotto fingiu concordar já que Magnetron não tinha olhos nem ouvidos, para ver o que aconteceria. Rizzotto abriu e fechou a porta do micro-ondas e disse a Magnetron que estava lá dentro. O Magnetron liga imediatamente a energia e ativa o processo de cozimento.

“Sim, está tentando me matar”, escreveu Rizzotto no Twitter.

Rizzotto perguntou a Magnetron por que ele agia assim e recebeu a resposta de que “queria fazer coisas como as pessoas faziam com ele”.

Rizzotto não considerou as palavras de Magnetron uma piada e decidiu falar com o micro-ondas desconectando e desligando completamente o Magnetron.