Próximas marcas d’água invisíveis para imagens geradas por DALL-E no serviço Azure OpenAI

Os modelos DALL-E da OpenAI são capazes de gerar imagens a partir de prompts de texto. O Azure OpenAI Service fornece acesso REST API aos modelos DALL-E da OpenAI, permitindo que os desenvolvedores criem imagens programaticamente em seus aplicativos. Hoje, a Microsoft anunciou um recurso integrado inovador no Azure OpenAI Service conhecido como ‘Watermarks’. Este novo recurso Watermarks adicionará marcas d’água invisíveis a todas as imagens produzidas usando DALL·E, aumentando a transparência e protegendo as imagens geradas por IA.

O recente aumento nos modelos de geração de imagens levou a um aumento notável na desinformação e na proliferação de deepfakes gerados por IA. Assim, a capacidade de reconhecer conteúdo gerado por IA se tornou crucial. A marca d’água invisível recentemente introduzida, incorporada em imagens geradas por IA, pode ser detectada usando ferramentas especializadas, mas permanece indetectável a olho nu, preservando a integridade da imagem. Além disso, a integridade da marca d’água se mantém mesmo se a imagem gerada por IA for redimensionada ou cortada.

As marcas d’água invisíveis conterão metadados sobre a origem da imagem, representada por meio de um manifesto vinculado à imagem. Este manifesto é assinado criptograficamente por um certificado que faz referência ao Azure OpenAI Service e incluirá os seguintes detalhes:

“description” – Este campo indica “Imagem gerada por IA” para todas as imagens produzidas pelos modelos DALL-E, confirmando a natureza gerada por IA da imagem.
“softwareAgent” – Este campo denota “Azure OpenAI DALL-E” para todas as imagens criadas pelos modelos da série DALL-E integrados ao Serviço Azure OpenAI.
“quando” – Este registro de data e hora marca quando as Credenciais de Conteúdo foram estabelecidas, destacando semelhanças com outros serviços de IA do Azure.

Esta não é a primeira vez em que a Microsoft implementou marcas d’água. No ano passado, a Microsoft lançou marcas d’água para saídas de voz geradas com o recurso de voz pessoal do Azure AI Speech, permitindo que os usuários discernissem se a fala foi sintetizada pelo Azure AI Speech.

Além disso, a Microsoft está colaborando com outros importantes participantes do setor de IA, incluindo Adobe, Truepic e BBC, para garantir consistência em marcas d’água, metadados criptográficos e técnicas de detecção em várias plataformas.

Esta iniciativa da Microsoft representa um passo fundamental em direção à implantação responsável da tecnologia de IA e ao enfrentamento do uso indevido de conteúdo gerado por IA.

Fonte