AI는 이제 거의 100% 정확도로 비밀번호를 훔칠 수 있습니다.

인공지능(AI)이 현대 생활의 모든 영역에 가져오는 수많은 혜택에 대해서는 길게 논할 필요가 없습니다. 하지만 그때가 바로 이 기술이 좋은 목적으로 사용되는 때입니다. 반대로 악용해 나쁜 행위를 하게 된다면 AI가 초래하는 피해는 헤아릴 수 없을 정도로 크다.

미국 코넬 대학교의 컴퓨터 과학 전문가들은 최근 AI 도구가 데이터를 훔치는 "새로운 트릭"인 키 입력을 발견했습니다. 연구팀은 키보드에서 입력하는 내용을 듣는 것만으로도 최대 95%의 정확도로 비밀번호를 훔칠 수 있는 AI 기반 공격을 자세히 설명했습니다.

이에 연구진은 키보드 입력 소리 분석을 전문으로 하는 AI 모델을 훈련해 휴대폰에 배치하는 실험을 진행했다. 휴대폰에 내장된 마이크는 MacBook Pro의 키 입력을 듣고 이를 95%의 정확도로 재현할 수 있었습니다. 이는 연구자들이 큰 언어 모델링을 사용하지 않고 기록한 것 중 가장 높은 정확도입니다.

또한 팀은 통화 중에 노트북의 마이크를 사용하여 키 입력을 녹음하는 Zoom 통화를 통해 모델의 정확성을 테스트했습니다. 이 테스트에서 AI는 93%의 정확도로 키 입력을 재현했습니다. Skype의 경우에도 마찬가지로 정확도는 91.7%입니다.

매일 사용하는 시끄러운 기계식 키보드를 너무 빨리 의심하지 마십시오. 키보드의 볼륨은 공격의 정확성과 거의 관련이 없다는 점은 주목할 가치가 있습니다. 대신 AI 모델은 인식을 위해 각 키 입력의 파형, 강도 및 타이밍에 대해 훈련됩니다. 예를 들어, 타이핑 습관으로 인해 다른 키보다 1초 정도 느리게 키를 누를 수 있으며, 이는 AI 모델에서 고려됩니다.

실제로 이 공격은 휴대폰이나 마이크가 있는 근처의 다른 장치에 설치된 악성 코드의 형태를 취합니다. 그런 다음 감염된 장치의 마이크를 사용하여 조용히 듣고 키 입력에서 데이터를 수집하고 이 데이터를 연구 AI 모델로 보냅니다. 연구원들은 AI 이미지 분류 도구인 CoAtNet을 공격에 사용하고 MacBook Pro에서 36번의 키 입력으로 모델을 훈련시켰으며, 각 키는 25번 눌렸습니다.

이러한 유형의 공격은 매우 위험합니다. 피해자가 키보드를 아무리 많이 변경해도 아무런 효과가 없습니다. 최고의 키보드라도 이 AI 모델의 정교한 공격 방법에 희생될 수 있습니다. 그러나 이를 제한하는 방법은 그리 어렵지 않습니다. 예를 들어, 비밀번호 입력을 피하고 Windows Hello 및 Touch ID와 같은 기능을 활용해야 합니다. 또한, 비밀번호를 입력할 위험을 피할 수 있을 뿐만 아니라 모든 계정에 임의의 비밀번호를 사용할 수 있는 좋은 비밀번호 관리자에 투자할 수도 있습니다.