OpenAI ujawnia tajne wykorzystanie ChatGPT przez Chiny do propagandy, manipulacji w mediach społecznościowych i atakowania dziennikarzy i polityków w ramach kampanii wpływu opartej na sztucznej inteligencji

OpenAI przekształciło krajobraz sztucznej inteligencji wraz z pojawieniem się ChatGPT, który został przyjęty w różnych sektorach, takich jak opieka zdrowotna, edukacja i nie tylko. Niemniej jednak firma wyraziła obawy dotyczące niewłaściwego wykorzystania swojej technologii AI. Ostatnie raporty wskazują, że OpenAI odkryło i rozbiło kilka tajnych operacji związanych ze szkodliwymi planami, w szczególności tymi pochodzącymi z Chin, mającymi na celu manipulowanie nastrojami społecznymi.

Śledztwa ujawniają nieautoryzowane użycie ChatGPT do celów propagandowych

Gwałtowny rozwój możliwości AI i ich integracja z różnymi technologiami wywołały poważne pytania etyczne w społeczności technologicznej. Ponieważ odpowiedzialność za etyczne wykorzystanie AI spada coraz bardziej na dostawców, firmy takie jak OpenAI mają za zadanie promowanie odpowiedzialnych praktyk rozwojowych. Pomimo pilnych wysiłków na rzecz promowania standardów etycznych, przypadki nadużyć nadal się pojawiają. OpenAI w szczególności zidentyfikowało i zakończyło wiele kampanii w mediach społecznościowych wykorzystujących ChatGPT do celów propagandowych, które prawdopodobnie pochodzą z Chin.

W sumie OpenAI podobno zamknęło dziesięć różnych operacji, z których cztery były konkretnie powiązane z chińskimi interesami. Operacje te wykorzystywały ChatGPT do generowania treści o charakterze politycznym i podszywania się pod osoby na kilku platformach w celu kształtowania opinii publicznej. Jedna z godnych uwagi inicjatyw, nazwana „Uncle Spam”, była zaangażowana w tworzenie prowokacyjnych narracji wokół wrażliwych kwestii w Stanach Zjednoczonych. OpenAI zauważyło, że dokonywanie takich nadużyć nie ogranicza się do jednego kraju; inne kraje, w tym Rosja, Iran i Korea Północna, podobnie wykorzystywały tę technologię do celów manipulacyjnych.

Według raportu NPR, wykorzystanie ChatGPT wykracza poza samo produkowanie propagandy. Raporty wskazują, że posty te były strategicznie wzmacniane, aby wydawały się bardziej wiarygodne i dostępne, co budzi obawy o ich potencjalny wpływ na opinię publiczną. Ponadto niewłaściwe wykorzystanie rozszerzyło się na tworzenie ocen wydajności odzwierciedlających sposób, w jaki chatbot wspierał te inicjatywy. Raport podkreśla następujące kwestie:

Chińscy propagandziści wykorzystują ChatGPT do pisania postów i komentarzy w serwisach społecznościowych, a także do tworzenia ocen okresowych swoich przełożonych.

Ben Nimmo, wybitny śledczy z zespołu ds.wywiadu i dochodzeń OpenAI, odniósł się do rosnącego zagrożenia, jakie stwarzają te operacje.

W Chinach obserwujemy coraz większą liczbę tajnych operacji, w których stosuje się coraz więcej różnorodnych taktyk.

Operacje te obejmowały również tworzenie wiadomości e-mail skierowanych do analityków, dziennikarzy i polityków, mających na celu budowanie relacji pod fałszywymi pretekstami i wydobywanie poufnych informacji. Wykorzystanie narzędzi AI do strategicznej manipulacji budzi poważne obawy etyczne, wymagając czujności i proaktywnych działań ze strony firm w celu ograniczenia takich praktyk.

Źródło i obrazy