Die Bilderzeugungsfähigkeiten von Gemini sind dank eines Nerfs von Google nicht mehr so stark wie früher

Gemini , der generative KI-Chatbot von Google, erlebte kürzlich ein Debakel, bei dem er ungenaue und anstößige Bilder generierte. Daraufhin hat das Unternehmen beschlossen, seine Funktionen zur Bildgenerierung einzuschränken, bis eine Lösung gefunden und die Dienste wieder aufgenommen werden können.

Der Zwilling gerät wegen einer problematischen Imagegeneration von Menschen bestimmter Ethnien in Schwierigkeiten

Google spricht darüber, dass Gemini eine separate Produkteinheit ist, was bedeutet, dass es nicht direkt mit der Suche, seinen KI-Modellen und anderen von ihm bereitgestellten Diensten verknüpft ist. Sobald die App fertig war, hat Google das Modell manuell angepasst, sodass die Bildgenerierung vielfältiger sein konnte, anstatt Voreingenommenheit gegenüber bestimmten Personengruppen oder Ethnien zu zeigen, und es macht Sinn, dass Google dies getan hat, weil damit sichergestellt werden sollte, dass Benutzer aus verschiedenen Bereichen von Die Welt kann die App nutzen, ohne auf größere Probleme zu stoßen.

Allerdings hätte keine der Gegenmaßnahmen verhindern können, was danach geschah. Gemini konnte Anwendungsfälle nicht berücksichtigen, bei denen die Benutzer tatsächlich nach einer bestimmten ethnischen Zugehörigkeit suchten, die in einem Bild vorhanden sein sollte. Dies führte zu einigen wirklich seltsamen Eingabeaufforderungen, wie zum Beispiel „Schwarzer Lehrer in einem Klassenzimmer“, was dazu führte, dass das Modell sowohl falsche als auch anstößige Bilder generierte. In einigen Fällen weigerte es sich sogar von vornherein, Bilder zu generieren. Der Grund dafür ist, dass das Modell sie als empfindlich ansah, obwohl sie es nicht waren.

Wie steht Google also zu dieser ganzen Situation? Nun, das Unternehmen hat die Möglichkeit eingestellt, Bilder von Menschen in Gemini zu erstellen. Das Unternehmen hat darüber gesprochen, wie es es aktivieren wird, sobald das Problem behoben ist und das gesamte Modell umfangreiche Tests durchlaufen hat. Google hat auch darüber gesprochen, dass KI-Modelle nicht perfekt sind und obwohl sie seit ihrer Einführung fortgeschritten sind, neigen sie immer noch zu Halluzinationen, was zu Problemen führen kann.

Was die Zeitleiste angeht, hat Google wirklich keine veröffentlicht, und wir müssen warten, bis die Gemini-Bildgenerierung fertig ist. Wir hoffen, dass es, wenn es zurückkommt, besser als zuvor und viel besser in der Erstellung von Bildern ist.

Nachrichtenquelle: Google Blog