인공지능 챗봇의 등장으로 많은 사람들이 다양한 주제에 대해 대화를 나누고 있으며, 이러한 상호작용이 익명으로 안전하게 이루어질 것이라고 믿는 경우가 많습니다.그러나 최근 발생한 대규모 데이터 유출 사건은 AI 챗봇의 개인정보 보호가 사용자들이 생각하는 것만큼 철저하지 않을 수 있음을 보여줍니다.
3억 건 이상의 채팅 기록이 유출되는 대규모 사태 발생
2026년 1월, 다양한 AI 모델을 탑재한 인기 채팅 애플리케이션 ‘챗앤애스크 AI’에서 충격적인 보안 침해 사건이 발생했습니다.단 한 명의 사용자가 앱 사용자 약 2, 500만 명의 채팅 기록 3억 건 이상에 접근한 것입니다.이 대화들은 일상적인 질문부터 건강, 금융, 심지어 불법 활동과 같은 민감한 주제에 이르기까지 매우 다양했습니다.
다행히도, 해리라는 이름으로만 신원이 확인된 이 사용자는 악의적인 의도가 아니라 앱의 취약점을 알려 개발자들이 문제를 해결할 수 있도록 도왔습니다.그럼에도 불구하고, 이 사건은 사적인 소통을 위해 설계된 시스템조차 해커들이 얼마나 쉽게 침투할 수 있는지를 극명하게 보여줍니다.
이번 침해의 근본적인 원인은 구글 파이어베이스의 잘못된 설정 때문이었는데, 이는 IT 업계에서 흔히 발생하는 문제입니다.코드웨이 개발자들은 해리로부터 이 사실을 통보받은 후 신속하게 결함을 수정했습니다.
하지만 이번 사건은 심각한 우려를 불러일으킵니다.앞으로 유사한 상황이 발생할 경우, 그 결과는 이처럼 가볍지 않을 수 있으며, 사적인 대화 내용이 노출될 가능성도 있습니다.
이번 유출 사건은 단발적인 사건이 아닙니다.이전에도 Grok 플랫폼에서 주고받은 개인 메시지가 구글 검색 결과에 노출된 적이 있으며, ChatGPT 사용자들에게도 유사한 문제가 발생한 바 있습니다.
때로는 이러한 정보 유출이 단순한 설정 오류에서 발생하기도 합니다.또 다른 경우에는 사용자가 자신도 모르게 채팅 내용을 더 많은 사람들과 공유하는 경우가 있습니다.예를 들어, 많은 사용자는 Meta AI의 Discover Feed가 채팅 내용을 친구에게만 공개한다고 생각했지만, 실제로는 플랫폼의 모든 사용자에게 메시지가 공개되었습니다.
AI 챗봇이 저장하는 정보 이해하기
많은 챗봇 업체들이 데이터 개인정보 보호를 최우선으로 한다고 주장하지만, 서비스 약관을 꼼꼼히 살펴보는 것이 중요합니다.길고 복잡한 법률 문서를 검토하는 것이 번거로울 수 있다는 점은 이해하지만, 데이터 수집 방식에 대한 명확한 이해는 필수적입니다.
일반적으로 사용자가 명시적으로 거부하지 않는 한, 사용자의 대화 내용은 AI 모델 학습에 사용될 수 있습니다.예를 들어, OpenAI는 개인 데이터가 모델 개선에 기여할 수 있다고 밝힌 바 있습니다.
무료 또는 프리미엄 계정을 사용하는 사용자의 경우, 많은 AI 플랫폼은 다음과 같은 정보를 수집합니다.
- 이름, 사용자 이름, IP 주소와 같은 개인 식별 정보.
- 사용자의 선호도에는 성격 특성과 향후 상호 작용을 위해 기억해야 할 구체적인 세부 정보(예: 레시피 검색 시 알레르기 정보)가 포함됩니다.
- 업로드된 문서(민감한 파일 포함)에서 추출한 정보입니다.
- 선택된 대화뿐 아니라 모든 채팅 기록이 포함됩니다.
- 챗봇 기능을 통해 이루어진 거래와 연관된 금융 데이터.
또한, 이러한 데이터는 종종 무기한으로 저장됩니다.사용자가 채팅을 삭제하더라도 해당 대화의 잔여물이 시스템에 남아 교육 목적이나 서비스 개인화에 활용될 수 있습니다.
인공지능 챗봇과의 대화는 때때로 사람과의 전통적인 소통 방식과는 다르게 느껴질 수 있다는 점을 기억하는 것이 중요합니다.그럼에도 불구하고, 사용자는 자신의 대화 내용이 개인에게 노출될 가능성이 있으므로 개인정보 보호에 항상 주의를 기울여야 합니다.핵심은 인공지능 도구를 사용할 때 진정한 익명성은 결코 보장되지 않는다는 것입니다.
타사 채팅 앱의 위험성
구글, 오픈AI, 메타와 같은 조직들은 개인정보 보호 기준을 준수하기 위해 노력하고 있지만, 타사 애플리케이션을 사용하여 AI 챗봇에 접근하는 것은 사용자 개인정보 보호에 대한 위험을 높입니다.
Chat & Ask AI와 같은 플랫폼은 여러 AI 모델을 통합하여 Yupp과 같은 앱처럼 사용자가 비교 및 결과를 확인할 수 있는 중앙 집중식 허브를 제공합니다.
이러한 유형의 애플리케이션을 사용할 때는 사용자가 주의를 기울여야 하며, 제3자 앱뿐만 아니라 접근하는 각 AI 모델 또한 사용자의 데이터를 수집한다는 점을 인지해야 합니다.궁극적으로 사용자의 개인정보 보호는 플랫폼의 가장 취약한 보안 조치에 의해 좌우됩니다.
따라서 타사 AI 챗봇 애플리케이션을 사용할 때는 각별히 주의하고, 민감한 정보를 공유하지 않도록 하는 것이 현명합니다.
AI 챗봇과 공유하지 말아야 할 것들
많은 사용자들이 인공지능과 대화하면서 자신도 모르게 너무 많은 정보를 공개하는 경우가 있는데, 이는 위험이 거의 없다고 잘못 생각하기 때문입니다.예를 들어 소셜 미디어를 생각해 보면, 많은 사용자들이 자신의 게시물이 친구들에게만 보인다고 생각하지만, 나중에 고용주가 논란이 될 만한 게시물을 발견하거나 도둑이 “휴가 중”이라는 공지를 악용하는 경우처럼 예상치 못한 상황에 직면하게 됩니다.
디지털 공간에서 공유되는 모든 정보는 공개 정보가 될 가능성이 있다는 점을 명심해야 합니다.개인 정보 보호 설정이 보안을 강화할 수 있지만, 절대적인 보호를 제공하지는 않습니다.플랫폼에 보안 침해가 발생하면 공유된 모든 정보가 유출될 수 있으며, 특히 AI 플랫폼은 사용자 데이터가 학습에 어떻게 활용되는지에 대한 투명성이 부족한 경우가 많기 때문에 더욱 위험합니다.따라서 다음과 같은 정보는 공유하지 않는 것이 좋습니다.
- 재무 정보.
- 보안 관련 답변, 비밀번호 또는 사용자 이름은 AI를 사용하여 생성하지 마십시오.
- 불법 활동에 대한 자세한 내용입니다.
- 기밀 업무 또는 개인 문서.
- 정신 건강 상태를 포함한 건강 관련 정보.
AI 챗봇 개인정보 보호 문제를 마치 공개 포럼처럼 접근하십시오.그렇게 하면 안전이 크게 향상될 것입니다.
보다 안전한 AI 챗봇 사용을 위한 전략
가장 안전한 선택지는 완전히 오프라인으로 작동하는 AI 챗봇입니다.이러한 챗봇은 로컬에서 실행되므로 안드로이드와 같은 플랫폼에서도 개인정보 보호 문제를 크게 완화할 수 있습니다.
오프라인 사용이 불가능한 경우, AI 제공업체의 공식 채팅 애플리케이션을 사용하는 것이 좋습니다.이러한 애플리케이션은 일반적으로 타사 애플리케이션보다 더 강력한 개인정보 보호 규정을 준수하기 때문입니다.
데이터 보존을 최소화하려면 채팅 기록 기능을 비활성화하는 것을 고려하고, 사용 후에는 채팅 기록을 즉시 삭제하십시오.
Proton의 Lumo 챗봇처럼 사용자 개인 정보 보호를 우선시하는 AI 챗봇을 선택하세요. Lumo 챗봇은 기밀 유지를 위해 접근 차단 암호화를 사용하고, Brave의 Private AI Search는 암호화된 채팅을 보장하며 24시간 후 자동으로 삭제됩니다.
인공지능이 우리 일상생활에 점점 더 깊숙이 자리 잡으면서, 기계와의 대화가 사적인 소통을 의미하는 것은 아니라는 점을 명심해야 합니다.
답글 남기기