McAfee 전문가가 딥페이크와 AI가 어떻게 사이버 보안 장벽을 뚫고 있는지 설명합니다.

"백 마디 말을 들어도 볼 가치가 없다"는 이 속담은 미래의 딥페이크의 "위협" 앞에서 사이버 보안에 관해서는 더 이상 정확하지 않을 수도 있고, 더 이상 아무것도 믿을 수 없게 될 것입니다. 내 눈으로!

개념을 떠올려 보면 딥페이크는 인공지능을 활용해 사용자가 동영상 속 누군가의 얼굴을 다른 사람의 얼굴로 바꿀 수 있는 프로그램이다. 실제로 명예훼손이나 불법적인 이익을 목적으로 유명인의 얼굴을 영상에 삽입해 사용자들이 가짜 콘텐츠를 제작하도록 돕는다. 딥페이크가 엔터테인먼트 회사, 연예인, 그리고 무엇보다 사이버 보안에 가장 큰 위협이 된 이유이기도 합니다.

• Google과 DeepMind는 AI를 적용하여 풍력 발전 단지의 생산량을 예측합니다.

사이버보안 기업 맥아피(McAfee)의 최고기술책임자(CTO) 스티브 그로브먼(Steve Grobman)과 세계 최고의 데이터 과학자 중 한 명인 셀레스트 프랄릭(Celeste Fralick)은 보안 컨퍼런스 기조연설을 통해 경고했다.RSA는 최근 딥페이크(Deepfake) 기술이 인류가 생각하는 것보다 훨씬 더 정교해졌다고 밝혔다. 이는 정말로 미래에 큰 위협이 될 것입니다. 이를 증명하기 위해 이 두 과학자는 비디오를 보여주었는데, Grobman은 아직 언급하지 않았지만 Celeste Fralick의 말이 Steve Grobman의 얼굴과 유사한 이미지에서 나왔다는 것을 보여주었습니다. 그러니 우리는 딥페이크에 쉽게 속는다고 볼 수 있으니, 이 시대에는 우리가 보고 듣는 것이 반드시 정확하지는 않습니다!

“저는 여러분의 공개 댓글을 사용하여 다른 사람의 입에서 내 말이 나오는 딥페이크 동영상을 개발할 수 있는 기계 학습 모델을 만들고 훈련했습니다. 이는 AI와 머신러닝이 사악한 목적으로 사용될 수 있는 수많은 방법 중 하나일 뿐입니다. 이는 소셜 엔지니어링, 피싱 등 공격자가 AI를 사용할 수 있는 최악의 시나리오를 생각나게 합니다. 이제 적들이 자동 타겟팅을 생성할 수 있습니다.”라고 Celeste Fralick은 말했습니다.

• 중국, 세계 최초의 AI 기반 가상 여성 방송사 계속 출시

실제로 해커가 더 높은 성공률로 개인화되고 표적화된 온라인 피싱 공격을 생성하고 자동화된 공격 규모로 수행할 수 있도록 돕는 강력한 보조자가 된 것은 딥페이크와 AI입니다.

“대부분의 사람들은 AI와 머신러닝이 실제로 얼마나 위험할 수 있는지 깨닫지 못하고 있으며, 선을 위해 사용되는지 악을 위해 사용되는지 사이의 경계는 매우 희박하다고 말하는 것이 타당합니다. 우리 팀이 참여하고 있는 적대적 기계 학습이라는 기술 영역이 있습니다. 그곳에서 우리는 악의적인 행위자가 기계 학습 계층 구조에 침입하거나 해를 끼칠 수 있는 방법에 대한 연구를 수행합니다.”라고 Celeste Fralick은 덧붙였습니다.

3월 4일 월요일 인터뷰에서 Steve Grobman은 자신과 Celeste Fralick이 열심히 노력하지 않고도 단 한 주말 만에 딥페이크 비디오를 만들 수 있었다고 말했습니다. 이는 자격을 갖춘 딥페이크 공격자가 표적을 식별하면 AI를 기반으로 정교하게 조작된 비디오를 만드는 것이 전혀 어렵지 않음을 보여줍니다.

실제 사람과 AI 생성 모델을 속이는 가장 일반적인 방법 중 하나는 거의 실제 사진을 찍은 다음 일반 사람이 볼 수 있는 방식으로 세부 사항의 아주 작은 부분을 변경하는 것입니다. . Fralick은 몇 가지 작은 작업만으로 펭귄 사진을 AI가 프라이팬으로 해석하고 해석할 수 있는 예를 제시했습니다.

Celeste Fralick이 여기서 궁금해하는 것은 이미지 분류기를 혼동하는 데 사용되는 동일한 기술이 여전히 네트워크 모델을 혼동하는 데 사용될 수 있는지 여부입니다. 특히 여기서는 False Positive(거짓 검증 오류)가 있습니다.

• 페이스북 AI 엔지니어가 말하는 딥러닝, 새로운 프로그래밍 언어, 인공지능용 하드웨어

오탐지에는 여러 가지 유형이 있습니다. 예를 들어 일부 엉성한 스파이웨어 방지 프로그램으로 인해 사용자는 자신의 컴퓨터가 스파이웨어의 공격을 받고 있다고 잘못 생각하게 되지만 실제로는 전혀 문제가 없습니다. 합법적인 스파이웨어 방지 응용 프로그램이 위협으로 잘못 식별된 경우에도 "오탐지"라는 용어를 사용할 수 있습니다. 이 문제에 대해 더 자세히 이야기하면서 Steve Grobman 교수는 잘못된 긍정이 치명적인 결과를 초래할 수 있다고 말했습니다. 이것의 대표적인 예는 냉전의 긴장이 최고조에 달했던 1983년 9월 26일의 끔찍한 23분이었습니다. 미국, 소련 등 여러 국제경보센터가 전 세계를 경악케 한 낙뢰에 대해 고고도 경보를 발령했지만, 결국 그것은 실수일 뿐이었다. 정말 잘못된 일이었다. 구체적으로 소련 측은 미국이 발사해 자국 영토를 향해 향하고 있는 5발의 핵미사일을 발견하고 즉시 모든 군대에 전쟁 준비 태세를 갖추라는 지시를 내렸다. 그러나 사이렌이 울리고 화면이 번쩍이는 가운데 Stanislav Petrov 중령은 마침내 그 사건이 단지 컴퓨터 시스템 오작동에 불과하다고 판단했습니다. 특히 페트로프는 미국이 단 5발의 미사일만 발사한다고 해서 세계대전을 일으킬 수는 없다고 주장했다. 훈련받은 지시를 무시하고 직관으로 상황을 정확하게 판단해 핵전쟁을 막는 데 일조했다.

“사고의 근본 원인은 높은 구름에 햇빛이 드물게 정렬되어 로켓과 같은 효과를 만들어내는 것으로 밝혀졌습니다. 따라서 우리는 컴퓨터 시스템에 대한 혼란의 결과가 얼마나 위험할 수 있는지, 심지어 핵전쟁을 촉발할 수도 있는지 알 수 있습니다. 소련이 즉각 대응하여 미사일 발사를 시작했다면 어떨까요? 그리고 문제를 해결하는 데 있어서 AI의 진정한 힘을 인식하는 것이 중요하지만, 온라인에 만연한 악당의 손에 AI가 있다면 양날의 검이 될 것입니다.”라고 Steve Grobman은 말했습니다.

• 슈퍼컴퓨터는 사이버 공간의 위협을 완벽하게 탐지할 수 있습니다.

게다가 그로브먼은 기술은 본질적으로 무생물에 불과하며 좋은 목적과 나쁜 목적 모두에 적용될 수 있다고 항상 믿고 있다고 말했습니다. 예를 들어, 범죄가 발생한 장소와 가해자가 체포된 장소에 대한 데이터가 포함된 범죄 지도는 경찰이 범죄를 해결하는 데 도움이 될 수도 있고, 범죄자가 경찰의 추격을 피하는 데 사용될 수도 있습니다. 또 다른 예로, 비행기가 민간인을 폭격하는 데 사용되어 제2차 세계 대전 중에 200만 명의 사상자가 발생했습니다. 비행기를 발명한 것을 후회하느냐는 질문에 오빌 라이트는 1948년 비행기를 불을 사용하는 것으로 보았으며 화재가 발생하면 엄청난 피해를 입힐 수 있었지만 여전히 수천 가지 중요한 목적으로 사용되었다고 말했습니다. AI도 마찬가지다.

"Orville의 통찰력은 기술이 본질적으로 도덕적으로 부적절하며 사용 방법에 따라 실제로 유익하거나 해롭다고 말할 수 있다는 것을 보여줍니다. 이것이 바로 우리 업계인 사이버 보안이 끊임없이 싸우고 있는 것입니다!"