Les capacités de génération d’images de Gemini ne sont plus aussi puissantes qu’avant grâce à un Nerf de Google

Gemini , le chatbot génératif d’IA de Google, a récemment connu une débâcle au cours de laquelle il a fini par générer des images inexactes et offensantes. Suite à cet exemple, la société a décidé de réduire ses capacités de génération d’images jusqu’à ce qu’un correctif puisse être trouvé et que les services puissent reprendre.

Les Gémeaux se retrouvent dans des eaux chaudes à cause d’une génération d’images troublées de personnes de certaines ethnies

Google explique que Gemini est une entité de produit distincte, ce qui fait qu’il n’est pas directement lié à la recherche, à ses modèles d’IA et aux autres services qu’il fournit. Une fois l’application prête, Google a ajusté manuellement le modèle afin que la génération d’images puisse être diversifiée au lieu de montrer des préjugés en faveur de certains groupes de personnes ou ethnies. Il est logique que Google ait fait cela car cela a été fait pour garantir que les utilisateurs de différentes régions de le monde peut utiliser l’application sans rencontrer de problèmes majeurs.

Cependant, aucune des contre-mesures n’aurait pu empêcher ce qui s’est produit par la suite. Gemini ne pouvait pas prendre en compte les cas d’utilisation dans lesquels les utilisateurs recherchaient réellement une certaine appartenance ethnique à présenter dans une image. Cela a conduit à des invites vraiment étranges, telles que « Professeur noir dans une salle de classe », ce qui a amené le modèle à générer des images incorrectes et offensantes. Dans certains cas, il a même refusé de générer des images. La raison est que le modèle les considérait comme sensibles alors qu’ils ne l’étaient pas.

Alors, quelle est la position de Google sur toute cette situation ? Eh bien, la société a pris les devants et a supprimé la possibilité de générer des images de personnes en Gémeaux. La société a expliqué comment elle l’activerait une fois le problème résolu, une fois que l’ensemble du modèle aurait été soumis à des tests approfondis. Google a également expliqué à quel point les modèles d’IA ne sont pas parfaits et, bien qu’ils soient avancés depuis leur introduction, ils ont toujours tendance à halluciner, ce qui peut causer des problèmes.

Quant à la chronologie, Google n’en a vraiment pas partagé, et nous allons devoir attendre que la génération d’images Gemini soit opérationnelle et prête. Nous espérons que lorsqu’il reviendra, il reviendra meilleur qu’avant et bien meilleur dans la création d’images.

Source d’actualité : Blog Google

Les capacités de génération d’images de Gemini ne sont plus aussi puissantes qu’avant grâce à un Nerf de Google

Les Gémeaux se retrouvent dans des eaux chaudes à cause d’une génération d’images troublées de personnes de certaines ethnies

Articles connexes:

Quel rôle joue Casey Camp-Horinek dans Avatar : le dernier maître de l'air ? Personnage exploré

Toutes les modifications apportées aux armes Prophecy dans la mise à jour 7.3.5 de Destiny 2

Laisser un commentaire Annuler la réponse