Google Fotos presenta la función «¿Cómo se hizo esto?» para identificar deepfakes e imágenes editadas con IA, mejorando la transparencia y ayudando a los usuarios a reconocer contenido visual alterado.

A medida que la inteligencia artificial continúa evolucionando, su integración en nuestra vida diaria se vuelve cada vez más frecuente. Las personas recurren a las herramientas de IA para simplificar tareas y mejorar la organización. Sin embargo, a medida que estas tecnologías avanzan, distinguir entre contenido genuino y sintético se ha vuelto más difícil. Esta dificultad ha dado lugar a un aumento de los medios deepfake, a menudo utilizados indebidamente para manipulaciones, estafas y contenido inapropiado. En una entrevista reciente con la CBS, el pionero tecnológico Steve Wozniak instó a una mayor vigilancia contra estas estafas en línea, destacando la necesidad de concienciar a la población. En respuesta a estas preocupaciones, Google está desarrollando herramientas que ayudarán a los usuarios a identificar imágenes manipuladas mediante IA.

Presentamos la función «Cómo se hizo esto» de Google: un paso hacia la autenticidad de las imágenes

Google Fotos está a punto de lanzar una función revolucionaria llamada «Cómo se hizo esto».Esta innovadora herramienta busca ayudar a los usuarios a determinar rápidamente si una foto o un video es una captura natural, una pieza editada con herramientas convencionales o generada íntegramente por IA. La revelación surgió durante un análisis del APK de Google Fotos 7.41 realizado por Android Authority. La función ofrecerá una sección dedicada a imágenes y videos, indicando claramente el origen del contenido.

Esta nueva funcionalidad utilizará Credenciales de Contenido, un estándar emergente de la industria diseñado para integrar el historial de edición de elementos digitales en sus metadatos. En caso de que falten metadatos o se indiquen modificaciones, Google Fotos detectará estas discrepancias de forma proactiva, garantizando que los usuarios estén informados de cualquier duda sobre el contenido. Esta actualización es especialmente importante dada la creciente prevalencia de herramientas de edición basadas en IA, como Magic Eraser y Reimagine, que pueden modificar drásticamente las imágenes.

Si bien los avances en la edición con IA facilitan la expresión creativa, al mismo tiempo difuminan la diferencia entre el contenido auténtico y el alterado. Con esta función, Google busca superar la falta de confianza asociada a los medios digitales, estableciendo salvaguardas cruciales en nuestro panorama en rápida evolución, influenciado por la IA. Esta iniciativa se alinea con la creciente tendencia del sector hacia una mayor autenticidad, ya que otras empresas importantes como Adobe, Nikon y Leica también están explorando soluciones similares.

Si bien «How Was This Made» podría mejorar significativamente los estándares de transparencia digital, su verdadero impacto dependerá, en última instancia, de si genera conciencia y fomenta una adopción más amplia en todas las plataformas. El éxito de esta función dependerá del compromiso de otras empresas para mantener los estándares de autenticidad en el ámbito digital.

Fuente e imágenes