Google tymczasowo zawiesza generowanie zdjęć w Gemini ze względu na obawy związane z uprzedzeniami

Google tymczasowo zawiesza generowanie zdjęć w Gemini ze względu na obawy związane z uprzedzeniami

W zeszłym tygodniu konwersacyjna sztuczna inteligencja Google, Gemini, została poddana analizie pod kątem stronniczości w jej zdolności do generowania obrazów ludzi. Użytkownicy zgłosili , że gdy prosili Gemini o zilustrowanie ludzi w kontekstach historycznych lub fikcyjnych scenariuszach, sztuczna inteligencja częściej przedstawiała postacie o ciemniejszej karnacji. Wzbudziło to uzasadnione obawy dotyczące potencjalnej stronniczości w systemie.

W oświadczeniu Google przyznał , że Gemini nie radziło sobie dobrze, jeśli chodzi o reprezentowanie osób o różnym pochodzeniu etnicznym i pochodzeniu w zrównoważony i włączający sposób. Firma zdecydowała się tymczasowo wyłączyć zdolność swojego chatbota AI do generowania obrazów dla ludzi.

Google stwierdził, że włączenie i różnorodność to dla niego niezwykle ważne zasady. Firma nie chciała, aby jej technologie rozprzestrzeniały się lub były w jakikolwiek sposób podatne na stronniczość w świecie rzeczywistym.

Kiedy użytkownicy proszą teraz Gemini o utworzenie obrazu, otrzymują wiadomość wyjaśniającą, że ta funkcja jest obecnie niedostępna, ale powróci po odpowiednim rozwiązaniu problemów z uprzedzeniami.

Eksperci stwierdzili (za pośrednictwem AP News ), że generatory obrazów AI borykają się z różnorodnością ze względu na błędy w danych szkoleniowych, w których często brakuje reprezentacji osób ze wszystkich środowisk. Wydaje się, że Google jest zdeterminowany usunąć te ograniczenia w Gemini przed ponownym włączeniem tej funkcji. Chce mieć pewność, że system będzie w stanie reprezentować wszystkie typy ludzi w sposób obiektywny i zrównoważony.

Posunięcie to jest postrzegane jako proaktywny krok w kierunku uczynienia technologii sztucznej inteligencji sprawiedliwymi i włączającymi . W ramach tego ruchu rząd USA podjął w lutym kroki mające na celu promowanie bezpiecznego rozwoju generatywnej sztucznej inteligencji. Apple, OpenAI i Microsoft dołączyły do ​​pierwszego w historii konsorcjum, którego zadaniem jest opracowanie protokołów związanych ze sztuczną inteligencją.

Powiązane artykuły:

Nieskończone rzemiosło: jak zrobić iPhone'a
„Założę się o wszystko, co posiadam, że postać powie „tenis jest jak seks”” – nowy zwiastun filmu „Challengers” z Zendayą w roli głównej bawi fanów

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *