La revelación de Microsoft: Qué mal detectamos las imágenes generadas por IA en comparación con el azar

Un estudio revela una capacidad humana limitada para distinguir imágenes generadas por IA

Un estudio reciente realizado por Microsoft AI for Good contó con la participación de más de 12 500 personas en todo el mundo, quienes evaluaron aproximadamente 287 000 imágenes. Los resultados revelaron una preocupante tasa de éxito de tan solo el 62 % al distinguir entre imágenes generadas por IA y reales. Esta estadística subraya los desafíos que enfrentan los humanos para identificar con precisión el contenido artificial, especialmente a medida que el nivel de sofisticación tecnológica continúa aumentando.

Perspectivas sobre el reconocimiento de tipos de imágenes

Los participantes demostraron la mayor competencia para identificar retratos humanos generados por IA. Sin embargo, su desempeño disminuyó significativamente al distinguir entre paisajes artificiales y paisajes naturales o urbanos reales, donde las tasas de éxito se desplomaron a entre el 59 % y el 61 %.Estos resultados ponen de relieve los obstáculos que deben superar las personas para reconocer imágenes generadas por IA sin artefactos evidentes ni inconsistencias estilísticas.

Diseño y metodología de experimentos

En esta extensa investigación, el equipo de investigación diseñó un cuestionario titulado «Real or Not Quiz», en el que se presentaban a los participantes imágenes creadas por IA que representaban las que probablemente encontrarían en línea. Cabe destacar que los investigadores se esforzaron deliberadamente por evitar seleccionar imágenes demasiado engañosas.

Pide medidas de transparencia mejoradas

Ante los hallazgos, Microsoft aboga por la implementación de medidas de transparencia como marcas de agua y herramientas avanzadas de detección de IA. Estas iniciativas buscan mitigar los riesgos de desinformación derivados de las imágenes generadas por IA. Además, el gigante tecnológico ha lanzado iniciativas para concienciar sobre la desinformación relacionada con la IA.

Las herramientas de detección de IA superan el juicio humano

Curiosamente, los investigadores utilizaron su propia herramienta de detección de IA, que logró una impresionante precisión superior al 95 % en diversas categorías de imágenes. Este hallazgo indica que, si bien la IA puede mejorar significativamente las capacidades de detección de imágenes, no es infalible.

La vulnerabilidad de las marcas de agua

Es fundamental reconocer que incluso con marcas de agua visibles, individuos malintencionados pueden manipular o recortar fácilmente estos identificadores, facilitando así la difusión de contenido engañoso.

Comprender los desafíos de la detección

Los investigadores suponen que los humanos destacamos en la detección de rostros generados por IA debido a nuestra afinidad natural con el reconocimiento facial y a nuestra capacidad para discernir anomalías. Curiosamente, las antiguas redes generativas antagónicas (GAN) y las técnicas de repintado solían producir imágenes que imitaban la fotografía amateur, lo que puede resultar más difícil de identificar como sintéticas en comparación con las generadas por modelos avanzados como Midjourney y DALL-E 3.

Los riesgos de las técnicas de repintado

El repintado, un método que sustituye elementos de fotografías reales con contenido generado por IA, plantea desafíos considerables en términos de detección de falsificaciones y aumenta el riesgo de campañas de desinformación, como indicó Microsoft.

Conclusión: Un llamado a la vigilancia tecnológica

Este estudio ilustra claramente la susceptibilidad de los humanos al engaño por parte de la inteligencia artificial. Sirve como un recordatorio crucial de la urgente necesidad de que las empresas tecnológicas mejoren sus herramientas y metodologías para contrarrestar la propagación maliciosa de imágenes engañosas.

Fuente: ArXiv | Imagen vía Depositphotos.com

Fuente e imágenes