Google otworzył wykrywacz AI. Brak znaku niczego nie dowodzi

Od 7 października każdy może sprawdzić, czy zdjęcie, film albo nagranie jest z AI Google albo jego partnerów. Google otworzył dla wszystkich stronę synthid.com, do tej pory dostępną tylko dla dziennikarzy i badaczy. Strona szuka jednego śladu: znaku wodnego SynthID, czyli niewidocznego sygnału wplecionego w obraz albo dźwięk przez narzędzia Google i jego partnerów. Brak takiego znaku niczego nie dowodzi.

Pushmeet Kohli, wiceprezes laboratorium Google DeepMind, napisał 7 października na blogu firmy, że strona rozpoznaje materiały z AI Google oraz z narzędzi partnerów, wśród nich OpenAI, producenta procesorów graficznych Nvidia i koreańskiej firmy Kakao. Apple ma dołączyć „wkrótce”. Strona działa po angielsku. Według amerykańskiego serwisu technologicznego Engadget jest bezpłatna, ale wymaga logowania kontem Google, OpenAI albo Apple.

W maju Google podawał ponad 100 miliardów obrazów i filmów ze znakiem SynthID. We wpisie z 7 października jest ich ponad 180 miliardów.

Strona widzi wyłącznie SynthID. Meta i Microsoft mają własne systemy znakowania, podaje serwis technologiczny TechCrunch, a materiały z generatorów spoza listy partnerów przejdą przez sprawdzenie bez śladu. Google pisze to sam w pomocy do aplikacji Gemini: brak znaku oznacza, że pliku nie zrobiło AI Google, ale mógł go zrobić inny system.

Znak ma przetrwać zmianę rozmiaru, kompresję i zmianę kolorów. Według tej samej pomocy po wielu przeróbkach może jednak nie zostać wykryty. Skutek zwykłej przeróbki pokazał lipcowy test agencji Reuters na narzędziu konkurencji: po przycięciu 40 obrazów z generatora Mety jej własny detektor przeoczył 55 procent.

Druga granica dotyczy treści wyniku. Strona nie odróżnia pliku wygenerowanego od zera od zdjęcia tylko poprawionego narzędziem AI Google, zauważa Engadget. Prawdziwe zdjęcie z telefonu po takiej poprawce może dostać ten sam komunikat co obraz zmyślony w całości.

Dwa narzędzia Google widzą przy tym różny zakres. Sprawdzanie wbudowane w aplikację Gemini rozpoznaje według strony pomocy tylko materiały z narzędzi Google, z limitem około dziesięciu obrazów na dobę. Partnerów obsługuje synthid.com. OpenAI prowadzi osobną stronę do sprawdzania obrazów i nagrań.

Od 2 sierpnia 2026 roku w całej Unii obowiązuje przepis AI Act (unijnego rozporządzenia o sztucznej inteligencji) o oznaczaniu deepfake’ów, czyli realistycznych obrazów, nagrań i filmów udających prawdziwe osoby, miejsca albo zdarzenia. Firma publikująca taki materiał musi oznaczyć go w sposób widoczny albo słyszalny. Znak SynthID widać dopiero w wykrywaczu. Tego obowiązku nie spełnia. Pasuje do innego przepisu: dostawcy generatorów mają oznaczać treści w formacie do odczytu maszynowego, na przykład znakiem wodnym.

Obowiązek co do zasady dotyczy przedsiębiorców i instytucji publicznych, tłumaczyła w rozmowie z Polską Agencją Prasową (PAP) dr Maria Dymitruk, radczyni prawna z kancelarii Lubasz i Wspólnicy. Osób prywatnych nie obejmuje. Według dr. Michała Nowakowskiego, eksperta od wdrażania AI, za złamanie przepisów o przejrzystości grozi kara do 15 mln euro albo 3 procent światowego obrotu.

Google we wpisie z 19 maja stawia sprawę od drugiej strony. Telefon Google Pixel 10 dopisuje do zdjęć podpis pochodzenia C2PA (cyfrowy opis tego, czym i kiedy plik powstał) już w aplikacji aparatu, a firma pisze, że rozpoznanie autentycznego, nieedytowanego materiału bywa równie ważne jak wykrycie AI. O tym, czy zdjęcie jest prawdziwe, więcej powie podpis z aparatu, o ile nikt go po drodze nie usunął.