Microsoft-Präsident Brad Smith erläutert, wie man „missbräuchliche KI-generierte Inhalte“ bekämpfen wird

Kürzlich überschwemmten gefälschte Bilder des Popstars Taylor Swift, die explizite Inhalte enthielten, das Internet . In einigen Berichten wurde behauptet, die Bilder seien von jemandem erstellt worden, der Microsoft Designer verwendet habe. Microsoft erklärte offiziell, es habe keine Beweise dafür gesehen, fügte jedoch hinzu, dass es Änderungen am Design vorgenommen habe, „um unsere Eingabeaufforderungen zur Textfilterung zu verstärken und dem Missbrauch unserer Dienste entgegenzuwirken“.

Heute hat Microsoft-Präsident Brad Smith einen Beitrag im offiziellen Blog des Unternehmens geschrieben . Obwohl er sich nicht auf die Deep-Fake-Bilder von Taylor Swift oder den angeblichen Einsatz von Microsoft Designer bei der Erstellung dieser Bilder bezog, gab Smith an, dass das Unternehmen „eine rasche Zunahme des Missbrauchs dieser neuen KI-Tools durch schlechte Akteure“ sieht.

Smith skizzierte sechs spezifische Bereiche, auf die sich Microsoft konzentrieren wird, um diese Art von „missbräuchlichen KI-generierten Inhalten“ zu bekämpfen. Der erste besteht darin, die sichere Nutzung dieser Tools durch Aktivitäten wie das Blockieren bestimmter Textaufforderungen, Tests und das schnelle Sperren von Benutzern zu verbessern die diese Tools missbrauchen.

Ein weiterer Bereich, an dem Microsoft laut Smith arbeitet, sei die Unterstützung bei der Identifizierung von KI-generierten Inhalten. Er erklärte:

Wir verwenden die Provenienztechnologie bereits in den Microsoft Designer-Bilderstellungstools in Bing und Copilot und sind dabei, die Medienprovenienz auf alle unsere Tools auszudehnen, die Bilder erstellen oder bearbeiten.

Er fügte hinzu, dass das Unternehmen für die Zukunft nach „Wasserzeichen- und Fingerabdrucktechniken“ sucht. Smith sagte auch, dass es daran arbeite, missbräuchliche KI-basierte Inhalte aus seinen Diensten wie LinkedIn und seinen Gaming-Diensten wie Xbox zu entfernen.

Smith sagte, dass es neben der Strafverfolgung auch mit anderen in der Technologiebranche zusammenarbeiten möchte, um KI-basierte Deepfakes zu bekämpfen. Darüber hinaus sagte er, Microsoft wolle mit den Regierungen der Welt zusammenarbeiten, um neue Gesetze zum Verbot dieser Art von Inhalten zu erlassen.

Schließlich sagte Smith, Microsoft wolle dazu beitragen, die Öffentlichkeit darüber aufzuklären, Deepfake-Inhalte zu erkennen, die zur Täuschung von Menschen erstellt wurden. Er glaubt, dass dies „neue öffentliche Bildungsinstrumente und -programme“ erfordert, um ihnen zu zeigen, welche Inhalte echt und welche gefälscht sind.