O presidente da Microsoft, Brad Smith, descreve como combaterá “conteúdo abusivo gerado por IA”

Recentemente, imagens deepfake da estrela pop Taylor Swift que continham conteúdo explícito inundaram a internet . Alguns relatórios afirmaram que as imagens foram criadas por alguém que usou o Microsoft Designer. A Microsoft declarou oficialmente que não viu nenhuma evidência disso, mas acrescentou que fez alterações no design “para fortalecer nossos prompts de filtragem de texto e resolver o uso indevido de nossos serviços”.

Hoje, o presidente da Microsoft, Brad Smith, escreveu uma postagem no blog oficial da empresa . Embora ele não tenha feito referência às imagens profundamente falsas de Taylor Swift ou ao suposto uso do Microsoft Designer na criação dessas imagens, Smith afirmou que a empresa vê “uma rápida expansão no abuso dessas novas ferramentas de IA por parte de malfeitores”.

Smith descreveu seis áreas específicas nas quais a Microsoft se concentrará para combater esses tipos de “conteúdo abusivo gerado por IA”. A primeira é ajudar a aumentar o uso seguro dessas ferramentas por meio de atividades como bloqueio de prompts de texto específicos, testes e banimento rápido de usuários. que abusam dessas ferramentas.

Outra área em que Smith disse que a Microsoft estava trabalhando era ajudar a identificar conteúdo gerado por IA. Ele afirmou:

Já estamos usando tecnologia de proveniência nas ferramentas de criação de imagens do Microsoft Designer no Bing e no Copilot, e estamos no processo de estender a proveniência de mídia a todas as nossas ferramentas que criam ou manipulam imagens.

Ele acrescentou que a empresa está estudando “técnicas de marca d’água e impressão digital” para o futuro. Smith também disse que está trabalhando para remover conteúdo abusivo baseado em IA de seus serviços, como o LinkedIn, e de jogos, como o Xbox.

Smith disse que também deseja colaborar com outras pessoas na indústria de tecnologia, juntamente com as autoridades policiais, para combater deepfakes baseados em IA. Além disso, ele disse que a Microsoft quer trabalhar com os governos mundiais para estabelecer novas leis que proíbam esse tipo de conteúdo.

Por fim, Smith disse que a Microsoft quer ajudar a educar o público para identificar conteúdo deepfake feito para enganar as pessoas. Ele sente que isto “exigirá novas ferramentas e programas de educação pública” para lhes mostrar qual conteúdo é real e qual é falso.