끊임없이 변화하는 디지털 콘텐츠 환경에서 실제 영상과 인공지능(AI)이 생성한 영상을 구분하는 것은 어려운 일입니다. AI가 생성한 영상 중에는 확연히 인위적인 느낌이 드는 것도 있지만, 그 경계가 모호한 것도 있어 혼란을 야기하기도 합니다.다행히 구글 제미니는 AI가 생성한 영상을 식별하는 솔루션을 제공하여 이러한 어려움을 해소해 줍니다.
AI가 생성한 영상의 위험성
처음에는 AI가 생성한 영상들이 귀여운 반려동물이나 분위기 있는 장면을 담아 무해해 보일 수 있습니다.그러나 최근에는 마치 전문가인 것처럼 위장하여 시청자에게 조언을 하거나 파일을 다운로드하도록 유도하고, 문제를 해결하거나 특정 해킹 방법을 사용하도록 부추기는 등, 신뢰할 만한 콘텐츠인 것처럼 행세하는 사례가 늘고 있습니다.
이는 매우 위험한 영역입니다.제시되는 제안, 파일 또는 해결책은 종종 오해의 소지가 있거나 심지어 유해할 수 있습니다.유튜브와 같은 플랫폼에서 인공지능(AI)이 생성한 수많은 동영상들이 사용자들을 속여 악성 콘텐츠를 다운로드하게 만들었습니다.더욱 심각한 것은 이러한 위험이 기술 관련 주제를 넘어 건강 관련 조언과 같은 영역까지 확산되어, 마치 전문가의 합법적인 권고인 것처럼 위장하고 있다는 점입니다.
문제는 이러한 기만적인 영상이 소셜 네트워크에 공유될 때 발생합니다.당신은 진실이라고 믿고 공유한 영상이 팔로워들을 오도하거나 당신의 평판을 손상시켜 전문적인 입지를 위태롭게 할 수도 있습니다.
구글 제미니는 사용자가 동영상이 인공지능으로 생성된 것인지 식별하는 데 도움을 주는 혁신적인 기능을 도입했습니다.이는 현재 ChatGPT와 같은 플랫폼에서는 찾아볼 수 없는 기능입니다.
제미니의 AI 탐지 메커니즘
현재 이 탐지 서비스는 구글의 AI 기술을 사용하여 생성된 동영상과 이미지를 식별하는 데 특화되어 있습니다.구글 AI가 생성한 모든 콘텐츠에는 SynthID라는 보이지 않는 워터마크가 삽입되어 있으며, 이 워터마크는 그대로 유지되고 제거할 수 없습니다.
제미니 애플리케이션은 SynthID 워터마크를 사용하여 동영상이나 이미지 제작에 AI 도구가 사용되었는지 여부를 확인합니다. AI가 단순히 편집에만 사용된 경우에도 워터마크를 통해 AI의 존재를 확인할 수 있습니다.
Gemini를 사용하여 AI가 생성한 비디오를 식별합니다.
이 기능을 사용하려면 먼저 분석하려는 동영상을 다운로드하세요.특히 YouTube Shorts의 경우 다운로드를 위해 타사 애플리케이션이나 온라인 서비스가 필요할 수 있습니다.
기기 또는 웹 브라우저에서 Gemini 앱을 실행한 다음 채팅 인터페이스에서 + 아이콘을 클릭하여 동영상을 업로드하세요.이 앱은 최대 90초 길이 또는 100MB 크기의 동영상을 지원합니다.업로드 후 Gemini에게 해당 동영상이 AI를 사용하여 제작되었는지 물어보세요.
일반적으로 30초 이내에 답변이 옵니다.특히 인상적인 점은 Gemini가 콘텐츠가 AI 생성 콘텐츠인지 여부를 알려줄 뿐만 아니라, 그 판단의 근거까지 명확히 설명해 준다는 것입니다.영상에 SynthID 워터마크가 있는 경우, Gemini는 AI 생성 여부를 나타내는 다른 지표들과 함께 해당 워터마크의 존재를 명시합니다.
테스트 삼아 제미니의 Veo 플랫폼에서 AI가 생성한 클립을 다운로드하고 그것이 AI가 만든 것인지 문의해 보았더니, 몇 초 만에 확실한 답변을 받았습니다.
AI 콘텐츠 여부를 판단하기 위해 모든 비디오를 평가합니다.
Gemini는 주로 구글에서 생성한 콘텐츠를 분석하는 데 초점을 맞추고 있지만, 다른 AI 도구가 제작한 동영상도 평가할 수 있습니다.제 실험 결과, Gemini는 이러한 동영상을 식별하는 데 있어 훌륭한 능력을 보여주었습니다.
동영상 클립을 다운로드하거나 링크를 직접 붙여넣는 옵션이 있습니다. Jasmine이 링크를 잘못 해석하는 경우가 있다는 점에 유의하세요.예를 들어, YouTube에 있는 진저브레드 마을 동영상을 AirHead와 관련된 것으로 잘못 인식한 적이 있습니다.이런 경우 다시 확인하면 오류가 해결되는 경우가 많습니다.
더 나은 결과를 얻기 위해 “이 영상은 무엇에 관한 것인가요? [YouTube 링크] 그리고 AI를 활용했나요?”와 같은 프롬프트를 사용하여 쿼리를 구체화했습니다.한 테스트에서는 이미 알려진 AI 생성 영상을 사용하여 Gemini의 정확도를 확인했습니다.
반대로, 저는 AI 시대 이전에 제작된 것으로 알고 있는 영상도 확인해 보았고, AI의 영향이 전혀 없음을 확인했습니다.제미니는 이러한 결과를 뒷받침하는 정확한 근거를 제시했습니다.
AI를 위한 이미지 평가도 가능합니다.
제미니의 기능은 동영상에만 국한되지 않고, AI 생성을 위해 이미지도 분석할 수 있습니다.이 도구는 나노 바나나와 같은 구글의 AI 플랫폼을 통해 생성된 이미지에서 최적의 성능을 발휘합니다.
기능은 비슷합니다.이미지를 업로드하고 AI가 사용되었는지 확인할 수 있습니다. Gemini는 이미지와 비디오 모두에서 콘텐츠가 완전히 또는 부분적으로 AI로 생성되었는지 여부를 명확히 알려줍니다.예를 들어, 제작자가 기본 이미지나 배경에 AI를 사용한 후 다른 편집 도구를 사용하여 최종 결과물을 다듬는 방식으로 AI와 비디오의 조합을 만들어낼 수 있습니다.
AI 탐지의 한계 이해하기
구글 제미니는 첨단 기능을 갖추고 있지만 완벽하지는 않습니다.제가 평가하는 동안 유튜브 영상을 잘못 해석한 사례가 몇 번 있었습니다.
그럼에도 불구하고, 이 기능은 AI 생성 콘텐츠를 식별하는 데 있어 다른 많은 AI 탐지 도구들을 능가합니다.구글의 비교적 새로운 기능이라는 점을 고려하면, 다양한 플랫폼에서 AI 생성 동영상과 이미지에 대한 정확도가 크게 향상될 가능성이 있습니다.
틱톡을 비롯한 다른 플랫폼들도 AI가 생성한 콘텐츠를 감지하고 최소화하는 방법을 모색하기 시작했으며, 이는 AI 콘텐츠에 지친 사용자들에게 긍정적인 반응을 얻고 있습니다.또한, 진짜 콘텐츠와 조작된 콘텐츠를 구분하는 데 도움이 되는 다양한 AI 감지 도구도 이용 가능합니다.
답글 남기기