Las capacidades de generación de imágenes de Gemini no son tan sólidas como solían ser gracias a un Nerf de Google

Gemini , el chatbot generativo de IA de Google, recientemente pasó por una debacle en la que terminó generando imágenes inexactas y ofensivas y, siguiendo el ejemplo, la compañía decidió debilitar sus capacidades de generación de imágenes hasta que se pueda encontrar una solución y se puedan reanudar los servicios.

Géminis se mete en problemas por una generación de imagen problemática de personas de ciertas etnias

Google habla de cómo Gemini es una entidad de producto separada, lo que hace que no esté directamente vinculado a la Búsqueda, sus modelos de inteligencia artificial y otros servicios que brinda. Una vez que la aplicación estuvo lista, Google ajustó manualmente el modelo para que la generación de imágenes pudiera ser diversa en lugar de mostrar un sesgo hacia ciertos grupos de personas o etnias, y tiene sentido que Google hiciera esto porque se hizo para garantizar que los usuarios de diferentes áreas de el mundo puede usar la aplicación sin tener problemas importantes.

Sin embargo, ninguna de las contramedidas habría podido evitar lo que sucedió después. Gemini no pudo dar cuenta de los casos de uso en los que los usuarios en realidad buscaban que un determinado origen étnico estuviera presente en una imagen. Esto llevó a algunas indicaciones realmente extrañas, como “un maestro negro en un salón de clases”, lo que provocó que el modelo generara imágenes incorrectas y ofensivas. En algunos casos, incluso se negó a generar imágenes en primer lugar. El motivo es que la modelo los consideraba sensibles aunque no lo eran.

Entonces, ¿cuál es la postura de Google ante toda esta situación? Bueno, la compañía siguió adelante y eliminó la capacidad de generar imágenes de personas en Géminis. La compañía ha hablado sobre cómo lo habilitará una vez que se solucione el problema después de que todo el modelo pase por pruebas exhaustivas. Google también ha hablado de que los modelos de IA no son perfectos y, a pesar de ser avanzados desde que se introdujeron, todavía tienen tendencia a alucinar, lo que puede causar problemas.

En cuanto a la línea de tiempo, Google realmente no ha compartido ninguna, y tendremos que esperar a que la generación de imágenes Gemini esté lista y lista. Esperamos que cuando regrese, sea mejor que antes y mucho mejor en la creación de imágenes.

Fuente de noticias: Blog de Google