OpenAI deckt Chinas verdeckten Einsatz von ChatGPT für Propaganda, Social-Media-Manipulation und die gezielte Ansprache von Journalisten und Politikern in einer KI-gesteuerten Einflusskampagne auf

OpenAI hat die Landschaft der künstlichen Intelligenz mit der Einführung von ChatGPT revolutioniert. ChatGPT wird in verschiedenen Bereichen wie dem Gesundheitswesen, dem Bildungswesen und darüber hinaus eingesetzt. Dennoch äußerte das Unternehmen Bedenken hinsichtlich des Missbrauchs seiner KI-Technologie. Jüngsten Berichten zufolge hat OpenAI mehrere verdeckte Operationen mit schädlichen Absichten aufgedeckt und zerschlagen, insbesondere solche aus China, die auf die Manipulation der öffentlichen Meinung abzielten.

Untersuchungen decken unberechtigte Nutzung von ChatGPT für Propaganda auf

Der rasante Ausbau von KI-Funktionen und ihre Integration in verschiedene Technologien haben in der Tech-Community erhebliche ethische Fragen aufgeworfen. Da die Verantwortung für den ethischen Einsatz von KI zunehmend bei den Anbietern liegt, stehen Unternehmen wie OpenAI vor der Aufgabe, verantwortungsvolle Entwicklungspraktiken zu fördern. Trotz sorgfältiger Bemühungen um die Förderung ethischer Standards kommt es immer wieder zu Missbrauchsfällen. OpenAI hat insbesondere mehrere Social-Media-Kampagnen identifiziert und beendet, die ChatGPT für mutmaßlich aus China stammende Propagandazwecke nutzten.

Insgesamt hat OpenAI Berichten zufolge zehn verschiedene Aktivitäten gestoppt, von denen vier speziell mit chinesischen Interessen in Verbindung standen. Diese Aktivitäten nutzten ChatGPT, um politisch brisante Inhalte zu generieren und sich auf verschiedenen Plattformen als Einzelpersonen auszugeben, um die öffentliche Meinung zu beeinflussen. Eine bemerkenswerte Initiative namens „Uncle Spam“ beschäftigte sich mit der Entwicklung provokanter Narrative zu sensiblen Themen in den USA. OpenAI weist darauf hin, dass solche Missbräuche nicht auf ein Land beschränkt sind; auch andere Länder, darunter Russland, der Iran und Nordkorea, haben die Technologie für manipulative Zwecke missbraucht.

Laut einem NPR-Bericht geht die Ausnutzung von ChatGPT über die reine Propaganda hinaus. Berichten zufolge wurden diese Beiträge gezielt verstärkt, um glaubwürdiger und zugänglicher zu wirken, was Bedenken hinsichtlich ihrer potenziellen Auswirkungen auf die öffentliche Meinung aufkommen lässt. Darüber hinaus wurde der Missbrauch auch auf die Erstellung von Leistungsbeurteilungen ausgedehnt, die die Unterstützung dieser Initiativen durch den Chatbot widerspiegeln. Der Bericht hebt Folgendes hervor:

Chinesische Propagandisten verwenden ChatGPT, um Beiträge und Kommentare auf Social-Media-Sites zu schreiben – und auch, um Leistungsbeurteilungen mit detaillierten Angaben zu ihrer Arbeit für ihre Chefs zu erstellen.

Ben Nimmo, ein prominenter Ermittler des Geheimdienst- und Ermittlungsteams von OpenAI, ging auf die zunehmende Bedrohung ein, die von diesen Operationen ausgeht.

Was wir in China beobachten, ist eine wachsende Zahl verdeckter Operationen, bei denen immer mehr Taktiken zum Einsatz kommen.

Zu diesen Operationen gehörten auch das Verfassen von E-Mails an Analysten, Journalisten und Politiker, um unter Vorspiegelung falscher Tatsachen Beziehungen aufzubauen und an vertrauliche Informationen zu gelangen. Der Einsatz von KI-Tools zur strategischen Manipulation wirft erhebliche ethische Bedenken auf und erfordert Wachsamkeit und proaktive Maßnahmen von Unternehmen, um solche Praktiken einzudämmen.

Quelle & Bilder