Google Fotos apresenta o recurso “Como isso foi feito” para identificar deepfakes e imagens editadas por IA, melhorando a transparência e auxiliando os usuários a reconhecer conteúdo visual alterado

À medida que a inteligência artificial continua a evoluir, sua integração em nossas vidas diárias está se tornando cada vez mais prevalente. As pessoas estão confiando em ferramentas de IA para simplificar tarefas e melhorar a organização. No entanto, à medida que essas tecnologias avançam, distinguir entre conteúdo genuíno e sintético tornou-se mais desafiador. Essa dificuldade deu origem a um aumento na mídia deepfake, frequentemente utilizada indevidamente para manipulação, golpes e conteúdo impróprio. Em uma entrevista recente à CBS, o pioneiro da tecnologia Steve Wozniak pediu maior vigilância contra esses golpes online, destacando a necessidade de conscientização pública. Em resposta a essas preocupações, o Google está desenvolvendo ferramentas que ajudarão os usuários a identificar imagens manipuladas por meio de IA.

Apresentando o recurso “Como isso foi feito” do Google: um passo em direção à autenticidade da imagem

O Google Fotos está prestes a lançar um recurso inovador chamado “Como Isto Foi Feito”.Essa ferramenta inovadora visa ajudar os usuários a determinar rapidamente se uma foto ou vídeo é uma captura natural, uma imagem editada com ferramentas convencionais ou totalmente gerada por IA. A revelação veio à tona durante uma análise do APK do Google Fotos versão 7.41, realizada pelo Android Authority. O recurso oferecerá uma seção dedicada a imagens e vídeos, indicando claramente a origem do conteúdo.

Esta nova funcionalidade utilizará as Credenciais de Conteúdo, um padrão emergente da indústria projetado para incorporar o histórico de edição de itens digitais em seus metadados. Nos casos em que os metadados estiverem ausentes ou indicarem modificações, o Google Fotos sinalizará proativamente essas discrepâncias, garantindo que os usuários sejam informados sobre quaisquer incertezas em relação ao conteúdo. Essa atualização é particularmente importante devido à crescente prevalência de ferramentas de edição baseadas em IA, como Magic Eraser e Reimagine, que podem alterar imagens drasticamente.

Embora os avanços na edição com IA facilitem a expressão criativa, eles simultaneamente confundem os limites entre conteúdo autêntico e conteúdo alterado. Ao introduzir esse recurso, o Google busca reduzir o déficit de confiança associado à mídia digital, estabelecendo salvaguardas cruciais em nosso cenário em rápida evolução, influenciado pela IA. Essa iniciativa se alinha a uma tendência crescente do setor em direção a uma maior autenticidade, já que outros grandes players, como Adobe, Nikon e Leica, também estão explorando soluções semelhantes.

Embora “Como Isso Foi Feito” possa aprimorar significativamente os padrões de transparência digital, seu verdadeiro impacto dependerá, em última análise, da conscientização e do incentivo à adoção mais ampla em todas as plataformas. O sucesso desse recurso dependerá do comprometimento de outras empresas em manter os padrões de autenticidade no mundo digital.

Fonte e Imagens