연구 결과, AI가 생성한 이미지를 구별하는 인간의 능력은 제한적이라는 사실이 밝혀졌습니다.
Microsoft AI for Good에서 최근 실시한 연구에는 전 세계 12, 500명 이상의 참가자가 참여하여 약 287, 000개의 이미지를 평가했습니다.연구 결과, AI가 생성한 이미지와 실제 이미지를 구분하는 데 있어 성공률이 62%에 불과하여 우려스러운 결과를 보였습니다.이 통계는 특히 기술 발전 수준이 계속 높아짐에 따라 인간이 인공 콘텐츠를 정확하게 식별하는 데 어려움을 겪고 있음을 보여줍니다.
이미지 유형 인식에 대한 통찰력
참가자들은 AI가 생성한 인물 사진을 식별하는 데 가장 뛰어난 능력을 보였습니다.그러나 인공적인 자연 또는 도시 풍경과 실제 풍경을 구분하는 과제에서는 성공률이 59%에서 61%로 급격히 떨어졌습니다.이러한 결과는 명백한 인공물이나 문체적 불일치가 없는 AI 생성 이미지를 사람들이 인식하는 데 있어 극복해야 할 어려움을 보여줍니다.
실험 설계 및 방법론
이 광범위한 조사에서 연구팀은 “진짜인가 아닌가 퀴즈”라는 퀴즈를 고안했습니다.참가자들은 온라인에서 접할 법한 이미지를 AI가 생성하여 제시받았습니다.특히, 연구진은 지나치게 기만적인 이미지를 선택하지 않도록 의도적으로 노력했습니다.
투명성 개선 조치 요구
이러한 조사 결과를 바탕으로, 마이크로소프트는 워터마크 및 고급 AI 탐지 도구와 같은 투명성 조치의 도입을 지지합니다.이러한 노력은 AI가 생성한 이미지로 인한 허위 정보 위험을 완화하는 것을 목표로 합니다.또한, 마이크로소프트는 AI 관련 허위 정보에 대한 인식을 높이기 위한 다양한 이니셔티브를 시작했습니다.
AI 탐지 도구는 인간의 판단보다 뛰어납니다
흥미롭게도, 연구진은 자체 AI 탐지 도구를 활용하여 다양한 이미지 범주에서 95%를 넘는 놀라운 정확도를 달성했습니다.이는 AI가 이미지 탐지 능력을 크게 향상시킬 수는 있지만, 완벽하지는 않음을 시사합니다.
워터마크의 취약성
눈에 보이는 워터마크가 있더라도 악의적인 개인이 이러한 식별자를 쉽게 조작하거나 잘라낼 수 있으며, 이를 통해 사기성 콘텐츠가 확산될 수 있다는 점을 인식하는 것이 중요합니다.
탐지 과제 이해
연구진은 인간이 얼굴 인식에 대한 타고난 친화력과 이상 징후를 식별하는 능력 덕분에 AI가 생성한 얼굴을 감지하는 데 더 능숙하다고 추측합니다.흥미롭게도, 기존의 생성적 적대 신경망(GAN)과 인페인팅 기법은 아마추어 사진과 유사한 이미지를 생성하는 경우가 많았는데, 이는 Midjourney나 DALL-E 3와 같은 고급 모델로 생성된 이미지보다 합성 이미지로 식별하기가 더 어려울 수 있습니다.
인페인팅 기술의 위험
Microsoft에서 지적한 바와 같이, 실제 사진의 요소를 AI가 생성한 콘텐츠로 대체하는 방법인 인페인팅은 위조 감지 측면에서 상당한 어려움을 야기하고 허위 정보 유포 캠페인의 위험을 높입니다.
결론: 기술적 경계에 대한 요청
이 연구는 인간이 인공지능의 기만에 얼마나 취약한지를 극명하게 보여줍니다.기술 기업들이 오해의 소지가 있는 이미지의 악의적인 확산에 대응하기 위해 도구와 방법론을 개선해야 할 시급한 필요성을 일깨워줍니다.
출처: ArXiv | 이미지 출처: Depositphotos.com
답글 남기기