Gemini의 이미지 생성 기능은 Google의 Nerf 덕분에 예전만큼 강력하지 않습니다.

Google의 생성 AI 챗봇인 Gemini는 최근 부정확하고 공격적인 이미지를 생성하는 대실패를 겪었으며, 이 사례에 따라 회사는 수정 사항을 찾고 서비스를 재개할 수 있을 때까지 이미지 생성 기능을 너프하기로 결정했습니다.

쌍둥이 자리는 특정 민족의 사람들에 대한 문제가 있는 이미지 생성으로 인해 뜨거운 물에 빠졌습니다.

Google은 Gemini가 검색, AI 모델 및 제공하는 기타 서비스에 직접 연결되지 않도록 하는 별도의 제품 엔터티인 방법에 대해 설명합니다. 앱이 준비되면 Google은 특정 집단이나 민족에 대한 편견을 표시하는 대신 이미지 생성이 다양할 수 있도록 모델을 수동으로 조정했습니다. 전 세계가 큰 문제 없이 앱을 사용할 수 있습니다.

그러나 그 어떤 대책도 이후에 벌어질 일을 막을 수는 없었다. Gemini는 사용자가 실제로 이미지에 존재하는 특정 민족을 찾고 있는 사용 사례를 설명할 수 없었습니다. 이로 인해 “교실의 흑인 교사”와 같은 매우 이상한 메시지가 표시되어 모델이 불쾌할 뿐만 아니라 부정확한 이미지를 생성하게 되었습니다. 어떤 경우에는 애초에 이미지 생성을 거부하기도 했습니다. 그 이유는 모델에서는 민감하지 않은데도 민감하다고 간주했기 때문입니다.

그렇다면 이 모든 상황에 대한 구글의 입장은 무엇입니까? 글쎄, 회사는 Gemini에 있는 사람들의 이미지를 생성하는 기능을 중단했습니다. 회사는 전체 모델이 광범위한 테스트를 거친 후 문제가 해결되면 이를 어떻게 활성화할 것인지에 대해 이야기했습니다. 구글은 AI 모델이 완벽하지 않다는 점과, 도입 당시보다 발전했음에도 불구하고 여전히 환각 현상을 보이는 경향이 있어 문제가 발생할 수 있다는 점에 대해서도 언급했습니다.

타임라인에 관해서는 Google이 실제로 공유한 적이 없으며 Gemini 이미지 생성이 준비될 때까지 기다려야 합니다. 우리는 그것이 다시 돌아올 때 이전보다 더 나아지고 이미지 생성 능력이 훨씬 더 좋아지기를 바랍니다.

뉴스 출처: Google 블로그