ChatGPT dostanie w Unii znak wodny. Nauczyciel go nie odczyta

Tekst z ChatGPT da się wykryć znakiem wodnym tylko z kluczem w rękach OpenAI. 5 października firma ogłosiła, że w ciągu kilku tygodni zacznie ukrywać taki znak w tekstach z ChatGPT i z Codex, swojego narzędzia do programowania, na wszystkich planach w Unii Europejskiej, także darmowym. Wykrywacz dostaną na razie tylko zatwierdzeni badacze i organizacje eksperckie. Szkoła ani pracodawca go nie mają.

Tak wynika z komunikatu OpenAI i dołączonego do niego raportu technicznego. Powodem jest artykuł 50 unijnego prawa o sztucznej inteligencji (AI Act). Nakazuje on dostawcom oznaczać wygenerowane treści w formacie czytelnym dla maszyn. Poza Unią OpenAI na start znakowania czatu nie włącza. Firmy podłączające modele OpenAI do własnych programów przez API (łącze, przez które cudza aplikacja zamawia odpowiedź modelu) mogą znak włączyć na całym świecie, w wybranych modelach. Domyślnie jest wyłączony.

Model pisze słowo po słowie i przy każdym kroku ma kilku podobnie dobrych kandydatów. System OpenAI nazwany textGrain lekko przesuwa ten wybór według tajnego klucza. Czytelnik tego nie zauważy. Wykrywacz sprawdza, czy słowa układają się zgodnie z kluczem częściej, niż dałby przypadek. Raport techniczny podaje, że detektor potrzebuje tylko tekstu i tajnego klucza. Bez klucza program z zewnątrz nie ma czego szukać.

Z tej budowy wynikają słabości. Znak zaciera każde podmienione słowo.

OpenAI podaje wyniki przy progu jednego procenta fałszywych alarmów, czyli tekstu człowieka uznanego za znakowany. Fragmenty o psychologii długości 400 tokenów (token to kawałek słowa, 400 tokenów to około 300 słów) wykrywacz rozpoznał w około 95 procentach. Przy 200 tokenach wynik spadł do około 80 procent. W matematyce był według firmy „znacznie niższy”. Niemiecki serwis The Decoder odczytał z wykresu OpenAI około 60 procent.

Przy 17 procentach znakowany tekst przechodzi niezauważony w ponad czterech przypadkach na pięć. Wyniki z zamianą słów OpenAI podaje dla angielskich odpowiedzi ze zbioru pytań ELI5. Wyników dla polszczyzny producent nie podaje. Firma przyznaje też, że po tłumaczeniu wykrycie może zawieść, i dopiero bada, ile znaku przetrwa przekład.

Pismo dla programistów InfoQ opisało 18 sierpnia program watermarks-remover do zdejmowania znaków wodnych. W serwisie z kodem GitHub zebrał tysiące gwiazdek (polubień programistów) w niecałą dobę. Przepisuje fragmenty tekstu tak, żeby rozbić statystyczny ślad.

Dostęp do wykrywacza OpenAI przyznaje na wniosek, indywidualnie, zatwierdzonym badaczom i organizacjom eksperckim. Uzasadnia to ryzykiem przeoczeń i fałszywych alarmów. Daty szerszego udostępnienia nie podaje. Narzędzie odpowie tylko, czy w tekście jest znak OpenAI. Konta, autora ani treści rozmowy nie wskaże.

Na pytanie, czy nauczyciel wykryje ChatGPT, odpowiedź na dziś brzmi: znakiem wodnym nie. Brak znaku też nic nie dowodzi. OpenAI samo wylicza powody: tekst mógł być za krótki, poprawiony, przetłumaczony, starszy od znakowania albo napisany narzędziem innej firmy.

Anthropic, twórca czatu Claude, poszedł dalej. Znakuje tekst modeli wydanych po 2 sierpnia na całym świecie, bez względu na to, jak klient korzysta z modelu. Swój wykrywacz też daje tylko wybranym.

Obowiązek z artykułu 50 ust. 2 obowiązuje od 2 sierpnia 2026. Unijny pakiet uproszczeń Digital Omnibus dał systemom obecnym na rynku przed tą datą cztery miesiące zwłoki, do 2 grudnia 2026, jak opisała amerykańska kancelaria Gibson Dunn. Zapowiedź OpenAI wypada przed tym terminem.

Odroczenie nie objęło firm używających AI. Adwokat Marta Adranowska powiedziała portalowi Prawo.pl, że ich obowiązek ujawnienia wszedł 2 sierpnia bez zmian. Teksty informacyjne zwalnia z niego weryfikacja przez człowieka, gdy osoba albo firma bierze za publikację odpowiedzialność redakcyjną. Kary sięgają 3 procent światowego obrotu firmy. W Polsce ma je nakładać Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), nowy urząd nadzoru nad AI. Ustawę o nim prezydent podpisał 24 lipca. Według części prawników cytowanych przez serwis iMagazine urząd ruszy najwcześniej wiosną 2027.

Znak wodny złapie więc głównie długi tekst wklejony bez większych poprawek. Odczyta go tylko badacz z przepustką OpenAI.