비즈니스 소프트웨어

새로운 AI는 사용자의 필기체를 위조할 수 있다

아부다비(UAE)에 위치한 모하메드 빈 자예드 인공지능대학교(MBZUAI) 연구진은 몇 개의 조각을 기반으로 사람의 손글씨를 성공적으로 모방할 수 있는 인공지능 프로그램을 개발했는데, 텍스트가 너무 현실적이어서 구별할 수 없습니다.

아부다비(UAE)에 위치한 모하메드 빈 자예드 인공지능대학교(MBZUAI) 연구진은 몇 개의 조각을 기반으로 사람의 손글씨를 성공적으로 모방할 수 있는 인공지능 프로그램을 개발했는데, 텍스트가 너무 현실적이어서 구별할 수 없습니다.

새로운 AI는 사용자의 필기체를 위조할 수 있다

두바이 AI 시스템의 가장 큰 혁신은 이미지 속 텍스트 사이의 물리적 거리 연결, 특히 작가가 문자를 연결하고 단어의 간격을 두는 방법을 만드는 것이었습니다.

연구팀은 '비전 트랜스포머'라고 불리는 컴퓨터 신경망을 사용해 중소형 이미지의 정보를 읽었다. 테스트 결과, AI 시스템은 사람의 손글씨를 정확하게 포착해 시청자가 실제 손글씨와 시뮬레이션된 손글씨를 구별하는 것이 불가능하다는 사실이 드러났다.

이 도구는 이제 영어와 프랑스어 텍스트를 생성할 수 있지만 여전히 아랍어 필기체를 "학습"하는 데 어려움을 겪고 있습니다.

그러나 연구원들은 이 AI 시스템의 배치가 사칭에 악용될 수 있다는 우려 때문에 신중할 필요가 있다고 말합니다.

이제 많은 전문가들은 AI가 음성과 이미지를 재현해 인간을 모방할 수 있을 때 나타나는 무서운 힘과 잠재적 위험을 인정했니다. 맬웨어 생성, 온라인 사기 스크립팅, 사기 전화 걸기 등 악의적인 사람들이 이를 악용하고 오용할 수 있습니다. 공상과학 영화처럼 인공지능이 악용돼 악당들의 앞잡이가 되는 시나리오도 있지 않을까 걱정하는 이들도 있다.

More in 비즈니스 소프트웨어