Sundar Pichai parle des erreurs « inacceptables » de Gemini et de la manière dont l’entreprise tente d’y remédier

Mardi, plus tôt cette semaine, Sundar Pichai a envoyé une note interne expliquant comment Google a réussi à se tromper avec les réponses Gemini et la génération d’images. Dans l’e-mail, le PDG a déclaré à tout le monde qu’ils allaient devoir « se concentrer sur ce qui compte le plus : créer des produits utiles qui méritent la confiance de nos utilisateurs ».

Les Gémeaux pourraient mettre un certain temps à retrouver leur gloire d’antan, mais Sundar Pichai promet une solution

Je souhaite résoudre les problèmes récents liés aux réponses problématiques de texte et d’image dans l’application Gemini (anciennement Bard). Je sais que certaines de ses réponses ont offensé nos utilisateurs et fait preuve de partialité – pour être clair, c’est complètement inacceptable et nous nous sommes trompés.

Pichai a ensuite parlé de la mission principale de l’entreprise et a déclaré ce qui suit :

Notre mission d’organiser l’information mondiale et de la rendre universellement accessible et utile est sacro-sainte. Nous avons toujours cherché à fournir aux utilisateurs des informations utiles, précises et impartiales sur nos produits. C’est pourquoi les gens leur font confiance. Cela doit être notre approche pour tous nos produits, y compris nos produits Al émergents.

Nous mènerons un ensemble d’actions claires, notamment des changements structurels, des directives produit mises à jour, des processus de lancement améliorés, des évaluations et une équipe rouge robustes, ainsi que des recommandations techniques. Nous examinons tout cela et apporterons les changements nécessaires.

Pour ceux qui ne le savent pas, Gemini s’est retrouvé dans une situation délicate après avoir fini par générer des images inappropriées. Suite à cela, Google a affirmé qu’il arrêtait la génération d’images tant que les invites contenaient des personnes. Le but de cette fermeture était simple : Google souhaitait proposer un correctif approprié afin que le modèle puisse fonctionner à 100 % sans aucun problème. Pichai a même expliqué comment l’entreprise travaillait sans relâche pour résoudre ces problèmes.

Nous constatons déjà une amélioration substantielle sur un large éventail d’invites. Aucun Al n’est parfait, surtout à ce stade émergent du développement de l’industrie, mais nous savons que la barre est haute pour nous et nous la maintiendrons aussi longtemps qu’il le faudra. Et nous examinerons ce qui s’est passé et veillerons à le corriger à grande échelle.

Quant aux progrès dont parle Pichai, nous devrons attendre et voir comment cela progresse réellement. Au moment de la rédaction de cet article, il est plus que prudent de supposer que Google assume la responsabilité de tout ce qui n’a pas fonctionné avec Gemini. Cependant, en même temps, il est important de noter que le suivre et l’éviter n’aurait pas été une chose facile puisque l’IA apprend constamment et a tendance à avoir des hallucinations ou à se retrouver en difficulté de temps en temps.

Pourtant, il vaut mieux espérer qu’une fois que les Gémeaux auront retrouvé leur gloire d’antan, de telles erreurs ne seront plus si courantes, mais là encore, étant donné qu’il s’agit d’IA, en fin de compte, nous devons lui donner un peu de souffle. chambre.

Source d’information : Semafor