Os recursos de geração de imagens do Gemini não são tão fortes quanto costumavam ser graças a um Nerf do Google

Gemini , o chatbot generativo de IA do Google, passou recentemente por um desastre onde acabou gerando imagens imprecisas e ofensivas e, seguindo o exemplo, a empresa decidiu nerfar seus recursos de geração de imagens até que uma solução possa ser encontrada e os serviços possam ser retomados.

Gêmeos cai em águas quentes por causa de alguma geração de imagem problemática de pessoas de certas etnias

O Google fala sobre como o Gemini é uma entidade de produto separada, o que faz com que não esteja diretamente vinculado à Pesquisa, aos seus modelos de IA e a outros serviços que fornece. Assim que o aplicativo ficou pronto, o Google ajustou manualmente o modelo para que a geração de imagens pudesse ser diversificada, em vez de mostrar preconceito em relação a determinados grupos de pessoas ou etnias, e faz sentido que o Google tenha feito isso porque foi feito para garantir que usuários de diferentes áreas de o mundo pode usar o aplicativo sem enfrentar grandes problemas.

No entanto, nenhuma das contramedidas poderia ter evitado o que aconteceu depois. Gemini não conseguiu contabilizar casos de uso em que os usuários estavam realmente procurando uma determinada etnia presente em uma imagem. Isso levou a algumas solicitações realmente estranhas, como “Professor negro em sala de aula”, que fez com que o modelo gerasse imagens incorretas e ofensivas. Em alguns casos, até se recusou a gerar imagens. A razão é que o modelo os considerou sensíveis, embora não o fossem.

Então, qual é a posição do Google sobre toda essa situação? Bem, a empresa foi em frente e desativou a capacidade de gerar imagens de pessoas em Gêmeos. A empresa falou sobre como irá habilitá-lo assim que o problema for corrigido, depois que todo o modelo passar por testes extensivos. O Google também falou sobre como os modelos de IA não são perfeitos e, apesar de avançados desde quando foram introduzidos, ainda têm tendência a alucinar, o que pode causar problemas.

Quanto à linha do tempo, o Google realmente não compartilhou nenhuma, e teremos que esperar que a geração da imagem Gemini esteja pronta e pronta. Esperamos que, quando voltar, volte melhor do que antes e muito melhor na criação de imagens.

Fonte de notícias: Blog do Google