El presidente de Microsoft, Brad Smith, describe cómo luchará contra el «contenido abusivo generado por IA»

Recientemente, imágenes deepfake de la estrella del pop Taylor Swift que contenían contenido explícito inundaron Internet . Algunos informes afirmaron que las imágenes fueron creadas por alguien que utilizó Microsoft Designer. Microsoft declaró oficialmente que no había visto evidencia de esto, pero agregó que había realizado cambios en el diseño «para fortalecer nuestras indicaciones de filtrado de texto y abordar el mal uso de nuestros servicios».

Hoy, el presidente de Microsoft, Brad Smith, escribió una publicación en el blog oficial de la compañía . Si bien no hizo referencia a las imágenes falsas de Taylor Swift ni al supuesto uso de Microsoft Designer en la creación de esas imágenes, Smith afirmó que la compañía ve «una rápida expansión en el abuso de estas nuevas herramientas de inteligencia artificial por parte de malos actores».

Smith describió seis áreas específicas en las que Microsoft se centrará para combatir este tipo de «contenido abusivo generado por IA». La primera es ayudar a impulsar el uso seguro de estas herramientas a través de actividades como bloquear mensajes de texto específicos, realizar pruebas y prohibir rápidamente a los usuarios. que abusan de estas herramientas.

Otra área en la que Smith dijo que Microsoft estaba trabajando era en ayudar a identificar contenido generado por IA. Él afirmó:

Ya estamos utilizando tecnología de procedencia en las herramientas de creación de imágenes de Microsoft Designer en Bing y Copilot, y estamos en el proceso de extender la procedencia de medios a todas nuestras herramientas que crean o manipulan imágenes.

Añadió que la empresa está estudiando “técnicas de marcas de agua y huellas dactilares” para el futuro. Smith también dijo que está trabajando para eliminar el contenido abusivo basado en inteligencia artificial de sus servicios como LinkedIn y sus servicios de juegos como Xbox.

Smith dijo que también quiere colaborar con otros en la industria tecnológica, junto con las fuerzas del orden, para combatir los deepfakes basados en IA. Además, dijo que Microsoft quiere trabajar con los gobiernos del mundo para establecer nuevas leyes que prohíban este tipo de contenido.

Finalmente, Smith dijo que Microsoft quiere ayudar a educar al público para identificar contenido deepfake creado para engañar a la gente. Considera que esto “requerirá nuevas herramientas y programas de educación pública” para mostrarles qué contenido es real y cuál es falso.