애플, AI 알림 오류로 반발에 직면
최근의 실수로 Apple은 Apple Intelligence 기능에서 생성된 부정확성으로 인해 조사를 받고 있습니다. iOS 18.1, iPadOS 18.1, macOS Sequoia 15.1의 최신 업데이트와 함께 도입된 이 AI 기반 도구는 알림 요약, 맞춤형 Siri 쿼리, 사진 구성 도구, 이메일 요약, Genmoji를 통한 개인화된 이모지 생성 기능과 같은 기능을 제공합니다. 눈에 띄는 기능 중 하나는 iPhone 16에서 사용자 상호 작용을 향상시키는 고급 이미지 인식입니다.
사건 개요: 불안한 알림
논란은 Apple Intelligence가 BBC News 앱에서 중대한 오류가 포함된 알림 요약을 제공했을 때 터졌습니다. AI는 Luigi Mangione이 자살했다고 보고했는데, 이는 명백히 거짓 주장이었습니다. 뉴스 헤드라인의 오해는 AI가 중요한 정보를 전달하는 데 있어 신뢰성에 대한 우려를 불러일으켰습니다.
오류의 맥락
이 사건은 이를 둘러싼 맥락을 감안할 때 특히 우려스럽습니다. 이번 달 초, UnitedHealthcare의 CEO인 브라이언 톰슨이 비극적으로 살해당했고, 그의 가해자로 추정되는 루이지 만지오네가 체포되었습니다. 만지오네의 개입은 뉴스 보도의 초점이 되었지만, Apple Intelligence 시스템은 실수로 세부 정보를 혼동하여 사용자 사이에 혼란과 불안을 유발할 수 있는 매우 오해의 소지가 있는 요약을 작성했습니다.
대응 및 의미
이 실수로 인한 여파는 신속했습니다. BBC는 Apple에 불만을 제기했고, 이에 따라 글로벌 옹호 단체인 국경 없는 기자회(RSF)는 Apple Intelligence 알림 기능의 비활성화를 요구했습니다. RSF는 이 사건을 AI가 민감한 뉴스 콘텐츠를 정확하게 처리하는 데 있어 단점이 있다는 대표적인 사례로 강조했습니다. 그들은 다음과 같이 말했습니다.
이 사고는 AI 시스템이 저널리즘 출처에 기반을 둔 것이라 하더라도 체계적으로 양질의 정보를 게시할 수 없다는 점을 강조합니다. AI 시스템이 작동하는 확률적 방식은 일반 대중을 대상으로 하는 솔루션에 사용할 수 있는 뉴스 미디어의 신뢰할 수 있는 기술로서 자동으로 자격을 박탈합니다.
더 광범위한 AI 문제
이는 인공지능 분야에서 고립된 사건이 아닙니다. 올해 초, Google의 챗봇 Gemini는 역사적 인물을 부적절하게 재구성한 논란의 여지가 있는 이미지를 생성했다는 이유로 반발을 받았습니다. 이러한 문제에 대응하여 Google은 Gemini의 개인 이미지를 생성하는 기능을 일시적으로 중단했으며, “목표를 놓쳤다”는 것을 인정했습니다.
답글 남기기