구글 제미니 앱, AI 이미지 감지 기능 도입
구글은 최근 제미니 앱에 인공지능(AI)을 사용하여 이미지가 생성 또는 변경되었는지 여부를 식별하는 매력적인 기능을 추가했습니다.이 새로운 기능은 현재 구글 AI 기술을 사용하여 생성 또는 편집된 이미지로만 제한되어 있습니다.
SynthID 이해: AI 감지의 핵심
Gemini의 이미지 감지 기능의 핵심에는 Google이 2023년에 도입한 선구적인 디지털 워터마킹 기술인 SynthID 가 있습니다. SynthID는 AI가 생성한 콘텐츠에 보이지 않는 신호를 내장하여 원본 이미지가 수정된 후에도 이러한 마커가 유지되도록 설계되었습니다.
테스트 및 검증: SynthID Detector Portal
이 기술을 검증하기 위해 구글은 올해 초 일부 언론인, 연구원, 미디어 전문가를 대상으로 SynthID Detector 검증 포털을 시범 운영했습니다.이 도구는 다양한 형식의 AI 생성 콘텐츠를 식별하고, SynthID 워터마크가 포함될 가능성이 가장 높은 콘텐츠 부분을 정확하게 찾아낼 수 있습니다.
Magic Editor 및 사용자 참여와의 통합
Google은 특히 Reimagine 생성 AI 도구 내에서 Magic Editor에 SynthID 지원을 통합했습니다.사용자는 챗봇에 “Google AI로 생성되었나요?” 또는 “AI로 생성되었나요?” 와 같은 간단한 질문을 통해 업로드한 이미지가 Google AI로 생성되었는지 쉽게 확인할 수 있습니다.챗봇은 SynthID 워터마크를 평가하고 추론 기능을 활용하여 이미지와 관련된 자세한 맥락적 답변을 제공합니다.
이미지를 넘어 확장: 미래 계획
앞으로 Google은 SynthID 인증 도구의 적용 범위를 오디오 및 비디오와 같은 추가 콘텐츠 유형으로 확대할 계획입니다.또한, Google 검색을 포함한 다양한 Google 서비스에 이 기능을 통합할 계획입니다.
잘못된 정보에 맞서는 협력적 노력
구글의 이번 이니셔티브는 사용자를 오도할 수 있는 AI 생성 콘텐츠로 인해 발생하는 점점 더 심각해지는 문제에 대한 업계의 광범위한 대응의 일환입니다.콘텐츠 출처 및 진위성 연합( C2PA )의 회원사인 구글은 어도비, 오픈AI, 메타, 마이크로소프트 등 다른 기술 대기업들과 협력하여 콘텐츠 진위성을 강화하는 표준을 수립하고 있습니다.
C2PA: 콘텐츠 검증을 위한 개방형 표준
SynthID가 콘텐츠 검증 분야에서 Google의 독자적인 기술을 대표하는 반면, C2PA는 이미지, 오디오, 비디오 등 다양한 형태의 미디어에 보안 메타데이터를 첨부하도록 설계된 개방형 표준입니다.특히 Adobe는 C2PA 원칙을 기반으로 자체 워터마킹 기술을 개발했습니다.
C2PA 자격 증명의 미래 통합
Google은 최근 Nano Banana Pro 이미지 생성 모델이 Gemini 앱, Vertex AI, Google Ads의 출력에 C2PA 메타데이터를 통합한다고 발표했습니다.이러한 C2PA 인증 정보 통합은 YouTube, Google 검색, Pixel, Photos를 포함한 다른 제품에도 도입되고 있습니다.
Google은 C2PA 콘텐츠 자격 증명을 검증 도구에 추가함으로써 사용자가 Google 생태계 외부의 모델과 제품에서 생성된 콘텐츠의 원래 출처를 추적할 수 있도록 지원합니다.
답글 남기기