Próximas marcas de agua invisibles para imágenes generadas por DALL-E en el servicio Azure OpenAI

Los modelos DALL-E de OpenAI son capaces de generar imágenes a partir de indicaciones de texto. El servicio Azure OpenAI proporciona acceso a la API REST a los modelos DALL-E de OpenAI, lo que permite a los desarrolladores crear imágenes de forma programática dentro de sus aplicaciones. Hoy, Microsoft anunció una característica innovadora integrada en el servicio Azure OpenAI conocida como «Marcas de agua». Esta nueva característica de Marcas de agua agregará marcas de agua invisibles a todas las imágenes producidas con DALL·E, lo que mejorará la transparencia y protegerá las imágenes generadas por IA.

El reciente auge de los modelos de generación de imágenes ha provocado un notable aumento de la desinformación y la proliferación de deepfakes generados por IA. Por ello, la capacidad de reconocer el contenido generado por IA se ha vuelto crucial. La nueva marca de agua invisible, incrustada en las imágenes generadas por IA, se puede detectar mediante herramientas especializadas, pero sigue siendo indetectable a simple vista, lo que preserva la integridad de la imagen. Además, la integridad de la marca de agua se mantiene incluso si se cambia el tamaño de la imagen generada por IA o se recorta.

Las marcas de agua invisibles contendrán metadatos sobre el origen de la imagen, representados a través de un manifiesto vinculado a la imagen. Este manifiesto está firmado criptográficamente por un certificado que hace referencia a Azure OpenAI Service e incluirá los siguientes detalles:

“descripción” : este campo indica “Imagen generada por IA” para todas las imágenes producidas por modelos DALL-E, lo que confirma la naturaleza generada por IA de la imagen.
“softwareAgent” : este campo denota “Azure OpenAI DALL-E” para todas las imágenes creadas por modelos de la serie DALL-E integrados dentro del servicio Azure OpenAI.
“cuándo” : esta marca de tiempo marca cuándo se establecieron las credenciales de contenido y resalta las similitudes con otros servicios de IA de Azure.

Esta no es la primera vez que Microsoft implementa marcas de agua. El año pasado, Microsoft implementó marcas de agua para las salidas de voz generadas con la función de voz personal de Azure AI Speech, lo que permite a los usuarios discernir si el habla se sintetizó a través de Azure AI Speech.

Además, Microsoft está colaborando con otros actores destacados de la industria de la IA, incluidos Adobe, Truepic y la BBC, para garantizar la coherencia en las marcas de agua, los metadatos criptográficos y las técnicas de detección en varias plataformas.

Esta iniciativa de Microsoft representa un paso fundamental hacia la implementación responsable de la tecnología de IA y el abordaje del uso indebido del contenido generado por IA.

Fuente