Google Photos wprowadza funkcję „Jak to powstało”, która identyfikuje deepfake’i i obrazy edytowane przez sztuczną inteligencję, zwiększając przejrzystość i pomagając użytkownikom w rozpoznawaniu zmienionych treści wizualnych

Wraz z rozwojem sztucznej inteligencji, jej integracja z naszym codziennym życiem staje się coraz bardziej powszechna. Ludzie polegają na narzędziach AI, aby uprościć zadania i usprawnić organizację. Jednak wraz z postępem tych technologii, odróżnianie treści autentycznych od syntetycznych staje się coraz trudniejsze. Ta trudność doprowadziła do wzrostu liczby mediów deepfake, często wykorzystywanych do manipulacji, oszustw i rozpowszechniania nieodpowiednich treści. W niedawnym wywiadzie dla CBS, pionier technologii Steve Wozniak zaapelował o wzmożoną czujność w obliczu tych oszustw internetowych, podkreślając potrzebę zwiększenia świadomości społecznej. W odpowiedzi na te obawy Google opracowuje narzędzia, które pomogą użytkownikom identyfikować zmanipulowane obrazy za pomocą sztucznej inteligencji.

Przedstawiamy funkcję Google „Jak to powstało”: krok w stronę autentyczności obrazu

Google Photos jest o krok od wprowadzenia przełomowej funkcji o nazwie „How Was This Made”.To innowacyjne narzędzie ma pomóc użytkownikom w szybkim określeniu, czy zdjęcie lub film jest naturalnym ujęciem, materiałem edytowanym za pomocą konwencjonalnych narzędzi, czy też w całości wygenerowanym przez sztuczną inteligencję. Informacja ta ujrzała światło dzienne podczas analizy pakietu APK przez Android Authority w aplikacji Google Photos w wersji 7.41. Funkcja ta zapewni dedykowaną sekcję dla zdjęć i filmów, jasno wskazującą pochodzenie treści.

Ta nowa funkcjonalność będzie wykorzystywać Content Credentials, nowy standard branżowy, który ma na celu osadzanie historii edycji elementów cyfrowych w ich metadanych. W przypadku braku metadanych lub wskazujących na modyfikacje, Google Photos będzie proaktywnie sygnalizować te rozbieżności, informując użytkowników o wszelkich wątpliwościach dotyczących treści. Taka aktualizacja jest szczególnie ważna w obliczu rosnącej popularności narzędzi do edycji opartych na sztucznej inteligencji, takich jak Magic Eraser i Reimagine, które pozwalają radykalnie modyfikować obrazy.

Choć postęp w edycji z wykorzystaniem sztucznej inteligencji (AI) ułatwia ekspresję twórczą, jednocześnie zaciera granice między treściami autentycznymi a zmodyfikowanymi. Wprowadzając tę funkcję, Google dąży do zniwelowania deficytu zaufania związanego z mediami cyfrowymi, ustanawiając kluczowe zabezpieczenia w naszym dynamicznie zmieniającym się, zdominowanym przez sztuczną inteligencję środowisku. Inicjatywa ta wpisuje się w rosnący trend branżowy zmierzający do większej autentyczności, ponieważ inni czołowi gracze, tacy jak Adobe, Nikon i Leica, również poszukują podobnych rozwiązań.

Chociaż „How Was This Made” może znacząco podnieść standardy przejrzystości cyfrowej, jego prawdziwy wpływ ostatecznie zależeć będzie od tego, czy podniesie świadomość i zachęci do szerszego wdrożenia na różnych platformach. Sukces tej funkcji będzie zależał od zaangażowania innych firm w utrzymanie standardów autentyczności w sferze cyfrowej.

Źródło i obrazy