Nieautoryzowany eksperyment AI manipuluje milionami użytkowników Reddita, wywołując oburzenie z powodu etyki i zgody

W miarę jak rośnie entuzjazm wokół sztucznej inteligencji, firmy coraz częściej przyjmują technologie AI. Jednak ten wzrost zastosowań AI budzi poważne obawy dotyczące jego etycznych implikacji. Niedawny incydent z udziałem badaczy z wybitnego uniwersytetu wywołał intensywną debatę, biorąc pod uwagę nieautoryzowany i potencjalnie nieetyczny sposób, w jaki przeprowadzili eksperyment AI na Reddicie. Takie zdarzenia podkreślają pilną potrzebę surowszych środków w celu zapewnienia przejrzystości i ochrony prywatności użytkowników w zastosowaniach AI.

Nieetyczny eksperyment ze sztuczną inteligencją na Reddicie budzi obawy etyczne

Wprowadzenie AI w różnych sektorach wywołało rosnące obawy dotyczące kwestii etycznych. Niedawny tajny eksperyment przeprowadzony przez zespół badawczy z Uniwersytetu w Zurychu wywołał kontrowersje, głównie z powodu braku zgody użytkownika i integralności etycznej. Ta inicjatywa obejmowała wdrożenie botów AI na subreddicie Change My View, mając na celu ocenę, w jaki sposób AI może wpływać na opinie użytkowników.

W swoim eksperymencie badacze opracowali zaawansowane modele językowe, które maskowały się jako różne persony, w tym doradcy ds.traumy i ofiary nadużyć. Ich celem było zbadanie, w jaki sposób te napędzane przez sztuczną inteligencję interakcje mogą wpływać na ludzkie perspektywy. Boty analizowały poprzednie odpowiedzi użytkowników, aby generować spersonalizowane odpowiedzi, podczas gdy uczestnicy nie byli świadomi prawdziwej natury tych interakcji, co podnosiło istotne pytania etyczne dotyczące manipulacji psychologicznej.

Dopiero po zakończeniu eksperymentu Uniwersytet w Zurychu poinformował moderatorów subreddita o naruszeniu wytycznych społeczności, przyznając się do korzystania z botów AI bez konieczności ujawniania informacji. To przyznanie spotkało się ze znaczną reakcją, ponieważ wielu uznało całe badanie za zasadniczo nieetyczne. Oto fragment ich oficjalnego potwierdzenia:

Przez ostatnie kilka miesięcy korzystaliśmy z wielu kont, aby publikować na CMV. Nasz eksperyment oceniał siłę perswazji LLM w scenariuszu etycznym, w którym ludzie proszą o argumenty przeciwko poglądom, które wyznają. Komentując, nie ujawniliśmy, że do pisania komentarzy użyto sztucznej inteligencji, ponieważ uczyniłoby to badanie niewykonalnym. Chociaż sami nie pisaliśmy żadnych komentarzy, ręcznie sprawdzaliśmy każdy zamieszczony komentarz, aby upewnić się, że nie był szkodliwy. Zdajemy sobie sprawę, że nasz eksperyment złamał zasady społeczności dotyczące komentarzy generowanych przez sztuczną inteligencję i przepraszamy. Uważamy jednak, że biorąc pod uwagę duże znaczenie społeczne tego tematu, przeprowadzenie badania tego rodzaju było kluczowe, nawet jeśli oznaczało to nieprzestrzeganie zasad.

Mimo że badacze przyznali się do naruszenia zasad etycznych, bronili swoich działań, argumentując, że eksperyment miał istotne znaczenie społeczne. Wykorzystanie nacechowanych emocjonalnie i potencjalnie szkodliwych person budzi poważne obawy — nie tylko co do natury interakcji, ale także co do wpływu psychologicznego na osoby, które uważały, że prowadzą autentyczne rozmowy.

Moderatorzy platformy szybko potępili działania badaczy, uznając eksperyment za poważne naruszenie etyki. Porównali to naruszenie z badaniami prowadzonymi etycznie, takimi jak te przeprowadzone przez OpenAI, którym udało się zbadać podobną dynamikę wpływu bez uciekania się do oszustwa. Metody badaczy przekroczyły ważne granice etyczne, poddając jednostki eksperymentowi, na udział w którym nie wyraziły zgody, co jeszcze bardziej pogorszyło sytuację.

W obliczu wciąż rozwijającej się dyskusji na temat etycznych praktyk w dziedzinie sztucznej inteligencji, incydent ten stanowi kluczowe przypomnienie o tym, jak ważne jest zachowanie przejrzystości i poszanowania autonomii użytkowników w badaniach nad sztuczną inteligencją.

Źródło i obrazy