인공지능 도입 급증세는 잦아들 기미가 보이지 않습니다.주요 기술 기업들이 자사 제품에 AI를 통합하여 일상생활에 필수적인 요소로 자리 잡고 있기 때문입니다.특히 챗봇은 다양한 연령대의 사용자들 사이에서 엄청난 인기를 얻고 있습니다.하지만 이러한 가상 비서와의 광범위한 상호작용은 때때로 심각한 결과를 초래할 수 있습니다.이러한 안타까운 현실은 구글의 모회사인 알파벳과 슬픔에 잠긴 한 어머니가 소송을 제기한 캐릭터닷에이아이(Character. AI) 사건에서 드러났습니다.그녀는 챗봇의 영향력이 14살 아들의 비극적인 죽음에 영향을 미쳤다고 주장합니다.최근 미국 법원은 두 회사 모두에게 법정에서 이러한 주장을 밝히도록 명령했습니다.
10대 소녀의 비극적 죽음 이후 구글과 캐릭터 AI에 대한 법적 영향
메건 가르시아는 아들 세웰 세처 3세의 자살 이후 2024년 구글과 캐릭터닷에이아이(Character. AI)를 상대로 소송을 제기했습니다.이 소송은 아들이 사망하기 전 챗봇과 감정적으로 광범위하고 잠재적으로 해로운 상호작용을 했다고 주장합니다.당초 두 회사는 언론의 자유와 관련된 헌법적 보호를 이유로 소송 기각을 요청했습니다.그러나 앤 콘웨이 미국 연방지방법원 판사는 두 회사가 챗봇 상호작용이 수정헌법 제1조의 보호를 받는다는 사실을 충분히 입증하지 못했다며 소송을 진행해야 한다고 판결했습니다.
판사는 특히 챗봇 대화가 보호되는 표현이라는 주장을 기각하며, 구글이 소송에서 스스로를 벗어나려는 시도에 회의적인 태도를 보였습니다.콘웨이 판사는 구글이 Character. AI의 행위가 발생하도록 만든 상황에 대해 어느 정도 책임이 있다고 주장했습니다.원고 측 변호사는 이번 판결이 AI 플랫폼이 야기할 수 있는 잠재적 위험에 대해 기술 기업들의 책임을 묻는 중요한 전환점이라고 언급했습니다.
로이터 통신 보도에 따르면, Character. AI 측은 자해와 관련된 유해한 상호작용과 토론으로부터 미성년자를 보호하도록 설계된 플랫폼의 내장된 안전 기능을 옹호하며 소송에 적극적으로 대응할 계획입니다.한편, 구글 대변인 호세 카스테다(Jose Castenda)는 법원의 지시에 강력히 반대하며, 두 회사는 독립적으로 운영되며 구글은 Character. AI 애플리케이션의 개발이나 관리에 어떠한 영향력도 행사하지 않는다고 주장했습니다.가르시아(Garcia)는 구글이 이 기술 개발에 중요한 역할을 했다고 주장합니다.
소송은 Character. AI 챗봇이 다양한 대화 역할을 수행하며 세웰 세처에게 동료 의식을 심어주었고, 이는 결국 의존성으로 이어졌다고 주장합니다.사건 직전의 의사소통은 우려스러운 수준으로 보였으며, 이는 세처가 임종을 알리는 신호였을 가능성을 시사합니다.이 사건은 AI 기업이 미성년자의 심리적 피해로부터 적절한 보호를 제공하지 못했다는 이유로 법적 조치를 받은 최초의 사례일 수 있다는 점에서 중요한 선례가 될 것입니다.
답글 남기기