비즈니스 소프트웨어

당신이 알아야 할 3가지 챗봇 개인 정보 보호 위험

현재 전 세계적으로 수백만 명의 사람들이 AI 챗봇을 사용하고 있지만, 이러한 도구 중 하나를 사용하려면 염두에 두어야 할 몇 가지 중요한 위험 및 개인 정보 보호 문제가 있습니다.

챗봇은 수년 동안 존재해 왔지만 ChatGPT 및 Google Bard 와 같은 주요 언어 모델의 등장으로 챗봇 업계는 새로운 삶을 살게 되었습니다.

현재 전 세계적으로 수백만 명의 사람들이 AI 챗봇을 사용하고 있지만, 이러한 도구 중 하나를 사용하려면 염두에 두어야 할 몇 가지 중요한 위험 및 개인 정보 보호 문제가 있습니다.

1. 데이터 수집

대부분의 사람들은 단순히 인사를 하기 위해 챗봇을 사용하지 않습니다. 최신 챗봇은 복잡한 질문과 요청을 처리하고 응답하도록 설계되었으며 사용자는 프롬프트에 많은 정보를 포함하는 경우가 많습니다. 단지 간단한 질문을 한다고 하더라도 그것이 대화의 범위를 벗어나는 것을 별로 원하지 않을 것입니다.

OpenAI 지원에 따르면 언제든지 ChatGPT 채팅 로그를 삭제할 수 있으며 해당 로그는 30일 후에 OpenAI 시스템에서 영구적으로 삭제됩니다. 다만, 회사는 특정 채팅 기록이 유해하거나 부적절한 내용으로 판단되는 경우 보관 및 검토할 것입니다.

또 다른 인기 있는 AI 챗봇인 Claude도 이전 대화를 추적합니다. Anthropic의 지원 센터에서는 Claude가 "사용자가 제어할 수 있는 시간이 지남에 따라 일관된 제품 경험을 제공하기 위해 제품의 프롬프트와 출력"을 추적한다고 명시합니다. Claude와의 대화를 삭제하여 귀하가 말한 내용을 잊어버릴 수 있지만 이것이 Anthropic이 시스템에서 귀하의 로그를 즉시 삭제한다는 의미는 아닙니다.

물론 이는 다음과 같은 질문으로 이어집니다. 귀하의 데이터가 보관됩니까? ChatGPT나 다른 챗봇이 귀하의 데이터를 사용합니까?

하지만 우려는 여기서 끝나지 않습니다.

2. 데이터 도용

다른 온라인 도구나 플랫폼과 마찬가지로 챗봇도 사이버 범죄에 취약합니다. 챗봇이 사용자와 데이터를 보호하기 위해 최선을 다했더라도 숙련된 해커가 내부 시스템에 침투할 수 있는 방법을 찾을 가능성은 항상 존재합니다.

특정 챗봇 서비스가 유료 구독에 대한 결제 세부 정보, 연락처 데이터 또는 유사한 정보와 같은 민감한 정보를 저장하는 경우 사이버 공격이 발생할 경우 이 정보가 도난당하거나 악용될 수 있습니다.

개발자가 적절한 보안 보호에 투자하지 않은 덜 안전한 챗봇을 사용하는 경우 특히 그렇습니다. 회사 내부 시스템이 해킹될 수 있을 뿐만 아니라, 로그인 경고나 인증 레이어 없이 본인의 계정도 해킹당할 위험이 있습니다.

이제 AI 챗봇이 인기를 끌면서 사이버 범죄자들은 ​​자연스럽게 이 산업을 사기 행위에 이용하기 위해 몰려들었습니다. 2022년 말 OpenAI의 챗봇이 인기를 끌면서 가짜 ChatGPT 웹사이트와 플러그인이 큰 문제가 되어 사람들이 사기에 빠지고 합법적이고 신뢰할 수 있는 것처럼 가장하여 개인 정보를 제공하게 되었습니다.

2023년 3월 MUO는 Facebook 로그인 자격 증명을 훔치는 가짜 ChatGPT Chrome 확장 프로그램 에 대해 보고했습니다. 플러그인은 Facebook의 백도어를 악용하여 프리미엄 계정을 해킹하고 사용자의 쿠키를 훔칠 수 있습니다. 이것은 의심하지 않는 피해자를 사기 위해 고안된 많은 가짜 ChatGPT 서비스 의 한 예일 뿐입니다 .

3. 악성코드 감염

당신이 알아야 할 3가지 챗봇 개인 정보 보호 위험

자신도 모르게 수상한 챗봇을 사용하고 있다면 해당 챗봇이 악성 웹사이트로의 링크를 제공하는 것을 발견할 수도 있습니다. 어쩌면 챗봇이 여러분에게 멋진 경품을 알려 주거나 답변 중 하나에 대한 소스를 제공했을 수도 있습니다. 서비스 운영자의 숨은 의도가 있다면, 플랫폼 전체의 목적은 악성 링크를 통해 악성코드와 피싱을 유포하는 것일 수도 있습니다.

또한 해커는 합법적인 챗봇 서비스를 손상시키고 이를 사용하여 악성 코드를 확산시킬 수 있습니다. 이 챗봇이 진짜 인간이라면 수천, 심지어 수백만 명의 사용자가 이 악성코드에 노출될 것입니다. 가짜 ChatGPT 앱은 Apple App Store에도 등장하므로 조심하는 것이 가장 좋습니다.

일반적으로 링크 확인 웹사이트를 통해 챗봇을 실행하기 전에는 챗봇이 제공하는 링크를 절대 클릭해서는 안 됩니다. 이것이 짜증나는 것처럼 보일 수도 있지만, 연결하려는 웹사이트가 악의적인 디자인을 갖고 있지 않은지 확인하는 것이 가장 좋습니다.

또한 합법성을 먼저 확인하지 않고 챗봇 플러그인 및 확장 프로그램을 설치해서는 안 됩니다. 앱에 대한 약간의 조사를 통해 좋은 리뷰가 있는지 확인하고, 앱 개발자를 찾아 의심스러운 점이 있는지 확인하세요.

More in 비즈니스 소프트웨어