Especialista da McAfee explica como deepfake e IA estão violando barreiras de segurança cibernética

“Cem palavras ouvidas não valem a pena ver”, este provérbio pode não ser mais preciso quando se trata de segurança cibernética diante da “ameaça” do deepfake no futuro, você não poderá mais acreditar em nada. com meus próprios olhos!

Relembrando o conceito, deepfake é um programa que utiliza inteligência artificial , permitindo aos usuários trocar o rosto de alguém em um vídeo pelo rosto de outra pessoa. Na verdade, ele ajuda os usuários a criar conteúdo falso, inserindo rostos de pessoas famosas no vídeo para fins de difamação ou lucro ilegal. Essa também é a razão pela qual o deepfake se tornou uma grande ameaça para empresas de entretenimento, celebridades e, acima de tudo, para a segurança cibernética.

• Google e DeepMind aplicam IA para prever a produção de parques eólicos

Steve Grobman, diretor de tecnologia da empresa de segurança cibernética McAfee, e Celeste Fralick, uma das principais cientistas de dados do mundo, emitiram o alerta em um discurso de abertura em uma conferência de segurança. A RSA revelou recentemente que a tecnologia Deepfake se tornou muito mais sofisticada do que a humanidade pensa. e é verdadeiramente uma grande ameaça no futuro. Para provar isso, esses dois cientistas mostraram um vídeo, que mostrava que as palavras de Celeste Fralick foram ditas a partir de uma imagem que lembrava o rosto de Steve Grobman, embora Grobman ainda não tivesse mencionado essas palavras. Portanto, pode-se perceber que somos facilmente enganados pelo deepfake, portanto, nesta época, o que vemos e ouvimos não é necessariamente preciso!

“Usei seus comentários públicos para criar e treinar um modelo de aprendizado de máquina que me permitiu desenvolver um vídeo deepfake, com minhas palavras saindo da boca de outra pessoa. Esta é apenas uma das inúmeras maneiras pelas quais a IA e o aprendizado de máquina podem ser usados ​​para fins nefastos. Isso me faz pensar no pior cenário, onde a IA poderia ser usada por invasores, coisas como engenharia social e phishing, onde nossos adversários poderiam agora criar alvos automáticos”, disse Celeste Fralick.

• China continua a lançar a primeira emissora feminina virtual do mundo com tecnologia de IA

Na verdade, são o deepfake e a IA que se tornaram assistentes poderosos para ajudar os hackers a criar ataques de phishing on-line personalizados e direcionados, com taxas de sucesso mais altas e que podem conduzir na escala de ataques automatizados.

“É justo dizer que a maioria das pessoas não percebe o quão perigoso a IA e o aprendizado de máquina podem realmente ser, e a linha entre ser usado para o bem ou para o mal é muito tênue. Há uma área técnica na qual minha equipe está envolvida chamada aprendizado de máquina adversário. Lá, conduzimos pesquisas sobre como os malfeitores podem invadir ou envenenar a hierarquia de aprendizado de máquina”, acrescentou Celeste Fralick.

Em entrevista na segunda-feira, 4 de março, Steve Grobman disse que ele e Celeste Fralick conseguiram criar vídeos deepfake em apenas um fim de semana, sem se esforçar muito para torná-los perfeitos. Isso mostra que, uma vez que um invasor deepfake qualificado tenha identificado um alvo, criar vídeos sofisticados fabricados com base em IA não é nada difícil.

Uma das maneiras mais comuns de enganar entre uma pessoa real e um modelo gerado por IA é tirar uma foto quase real e, em seguida, alterar uma pequena parte dos detalhes de uma forma que uma pessoa comum veria. . Fralick deu um exemplo em que a foto de um pinguim pode ser interpretada e interpretada pela IA como uma frigideira, graças a apenas algumas pequenas operações.

O que Celeste Fralick está se perguntando aqui é se as mesmas técnicas que estão sendo usadas para confundir classificadores de imagens ainda podem ser usadas para confundir seus modelos de rede, seja nós ou não, especificamente aqui está o Falso Positivo (falso erro de verificação).

• Engenheiro de IA do Facebook fala sobre aprendizado profundo, novas linguagens de programação e hardware para inteligência artificial

Existem vários tipos de falsos positivos, por exemplo, alguns programas anti-spyware desleixados fazem os usuários pensarem erroneamente que seu computador está sendo atacado por spyware, quando na verdade não há problema algum. O termo “falso positivo” também pode ser usado quando aplicativos antispyware legítimos são erroneamente identificados como ameaças. Falando mais sobre esta questão, o professor Steve Grobman disse que os falsos positivos podem ter consequências catastróficas. Um excelente exemplo disso foram os terríveis 23 minutos de 26 de setembro de 1983 – no auge das tensões da Guerra Fria. Vários centros de alerta internacionais, incluindo os Estados Unidos e a União Soviética, emitiram alertas em grandes altitudes sobre um ataque relâmpago que chocou o mundo, mas no final foi apenas um erro, realmente errado. Especificamente, o lado soviético descobriu 5 mísseis nucleares dos EUA lançados e dirigidos em direcção ao seu território, e imediatamente emitiu instruções para colocar todas as forças armadas em estado de prontidão para a guerra. Mas com as sirenes tocando e as telas piscando, o tenente-coronel Stanislav Petrov finalmente determinou que o incidente foi apenas um mau funcionamento do sistema de computador. Especificamente, Petrov argumentou que os Estados Unidos não seriam capazes de iniciar uma guerra mundial lançando apenas cinco mísseis. Ele ignorou as instruções com as quais foi treinado e com sua intuição o tenente-coronel julgou a situação com precisão, ajudando a evitar uma guerra nuclear.

“Descobriu-se que a causa raiz do incidente foi um raro alinhamento da luz solar nas nuvens altas, criando efeitos semelhantes aos de um foguete. Assim, podemos ver quão perigosas podem ser as consequências da confusão nos sistemas informáticos, podendo até desencadear uma guerra nuclear. E se a União Soviética tivesse lançado mísseis em resposta imediata? E é importante que estejamos conscientes do verdadeiro poder da IA ​​na resolução de problemas, mas também será uma faca de dois gumes se estiver nas mãos de bandidos que estão abundantes online”, partilhou Steve Grobman.

• Supercomputadores podem detectar completamente ameaças no ciberespaço

Além disso, Grobman também disse que sempre acreditou que a tecnologia é essencialmente apenas uma ferramenta inanimada e pode ser aplicada tanto para bons quanto para maus propósitos. Por exemplo, um mapa do crime com dados sobre onde o crime ocorreu e onde o perpetrador foi preso poderia ser usado para ajudar a polícia a resolver o crime - ou também poderia ser usado pelos próprios criminosos para evitar a captura. Num outro exemplo, um avião foi usado para bombardear civis, resultando em 2 milhões de vítimas durante a Segunda Guerra Mundial. Quando questionado se se arrependia de ter inventado o avião, Orville Wright disse em 1948 que o via como um uso de fogo, que poderia causar enormes danos se ocorresse um incêndio, mas ainda era usado para milhares de propósitos importantes. E a IA também.

“A visão de Orville nos mostra que a tecnologia é inerentemente moralmente irrelevante, só pode ser considerada benéfica ou prejudicial dependendo de como é usada. E é contra isso que nossa indústria, a segurança cibernética, está constantemente lutando!”