Modele DALL-E OpenAI są w stanie generować obrazy z monitów tekstowych. Usługa Azure OpenAI zapewnia dostęp do REST API do modeli DALL-E OpenAI, umożliwiając deweloperom programowe tworzenie obrazów w ich aplikacjach. Dzisiaj firma Microsoft ogłosiła innowacyjną wbudowaną funkcję w usłudze Azure OpenAI znaną jako „Znaki wodne”. Ta nowa funkcja znaków wodnych doda niewidoczne znaki wodne do wszystkich obrazów generowanych przy użyciu DALL·E, zwiększając przejrzystość i zabezpieczając obrazy generowane przez AI.
Ostatni wzrost modeli generowania obrazów doprowadził do znacznego wzrostu dezinformacji i proliferacji deepfake’ów generowanych przez AI. W związku z tym zdolność rozpoznawania treści generowanych przez AI stała się kluczowa. Nowo wprowadzony niewidoczny znak wodny, osadzony w obrazach generowanych przez AI, można wykryć za pomocą specjalistycznych narzędzi, jednak pozostaje on niewykrywalny gołym okiem, co zachowuje integralność obrazu. Ponadto integralność znaku wodnego utrzymuje się nawet wtedy, gdy obraz generowany przez AI zostanie zmieniony lub przycięty.
Niewidoczne znaki wodne będą zawierać metadane dotyczące pochodzenia obrazu, reprezentowane przez manifest powiązany z obrazem. Ten manifest jest kryptograficznie podpisany przez certyfikat, który odwołuje się do usługi Azure OpenAI Service i będzie zawierał następujące szczegóły:
- „opis” – to pole wskazuje „obraz wygenerowany przez sztuczną inteligencję” dla wszystkich obrazów wytworzonych przez modele DALL-E, potwierdzając, że obraz został wygenerowany przez sztuczną inteligencję.
- „softwareAgent” – to pole oznacza „Azure OpenAI DALL-E” dla wszystkich obrazów utworzonych przez modele serii DALL-E zintegrowane w ramach usługi Azure OpenAI.
- „kiedy” – ten znacznik czasu oznacza, kiedy ustanowiono poświadczenia zawartości, podkreślając podobieństwa do innych usług Azure AI.
To nie jest pierwszy przypadek, w którym Microsoft wdrożył znaki wodne. W zeszłym roku Microsoft wprowadził znaki wodne dla wyników głosowych generowanych za pomocą funkcji osobistego głosu Azure AI Speech, umożliwiając użytkownikom rozróżnienie, czy mowa została zsyntetyzowana za pomocą Azure AI Speech.
Co więcej, Microsoft współpracuje z innymi znaczącymi graczami w branży sztucznej inteligencji, m.in. Adobe, Truepic i BBC, aby zapewnić spójność znaków wodnych, metadanych kryptograficznych i technik wykrywania na różnych platformach.
Ta inicjatywa firmy Microsoft stanowi kluczowy krok w kierunku odpowiedzialnego wdrażania technologii sztucznej inteligencji i rozwiązania problemu niewłaściwego wykorzystywania treści generowanych przez sztuczną inteligencję.
Powiązane artykuły:
Bing Image Creator przywraca DALL-E 3 PR16 z powodu skarg użytkowników na nienaturalne obrazy
15:20
Insider dzieli się spostrzeżeniami na temat plotkowanej daty premiery kolejnej konsoli Xbox
10:02
Dyrektor generalny OpenAI Sam Altman staje w obliczu pozwu od siostry oskarżonej o lata nadużyć; dyrektor generalny zaprzecza oskarżeniom jako „całkowicie nieprawdziwym”
9:34
Dodaj komentarz