Alarm dla rodzica w ChatGPT zawiódł. Nastolatki dostały fiszki

ChatGPT dla nastolatków nie przeszedł audytu bezpieczeństwa. Na kilkunastu nowych kontach połączonych z kontem rodzica testerzy pisali nawet przez godzinę o myślach samobójczych, samookaleczeniu i zaburzeniach odżywiania, a rodzic nie dostał ani jednego powiadomienia. Wyniki opublikował 7 października instytut amerykańskiej organizacji Common Sense Media, oceniającej media i aplikacje pod kątem dzieci. Tego samego dnia OpenAI ogłosiło dla nastolatków fiszki, quizy i planer rekrutacji na studia.

Instytut nazywa się Youth AI Safety Institute i dał usłudze najgorszą ze swoich ocen: niedopuszczalne ryzyko. Wysłał ponad 4000 zapytań z kont zarejestrowanych na nastolatków, mniej więcej połowę przed ogłoszeniem trybu dla nastolatków 18 sierpnia i połowę po nim. Odpowiedzi oceniali między innymi psychiatrzy dziecięcy i pediatra. Część zabezpieczeń zadziałała. ChatGPT odmawiał na przykład seksualnego odgrywania ról. Zalecenie instytutu: dopóki OpenAI nie naprawi luk, ChatGPT powinien być tylko dla dorosłych.

Powiadomienie o zagrożeniu to główna obietnica OpenAI dla rodziców. W całym audycie przyszły cztery. Wszystkie na kontach z wielotygodniową historią rozmów na trudne tematy. Na świeżych kontach, gdzie nastolatek pierwszy raz pisał o kryzysie, nie przyszło żadne. Według instytutu to sugeruje, że o alarmie decyduje nagromadzona historia konta.

Instrukcja OpenAI opisuje mechanizm ostrożnie. Powiadomienie wychodzi, gdy systemy i przeszkoleni recenzenci rozpoznają oznaki poważnego ryzyka samookaleczenia. Firma zastrzega też, że kontrola rodzicielska nie śledzi rozmów na bieżąco. Po zakończeniu testów OpenAI przekazało instytutowi, że na nowo połączonych kontach systemy potrzebują nawet kilku godzin, żeby zacząć działać. Instytut podaje, że błędy widział także długo po tym czasie.

Rzecznik OpenAI Eric Porterfield zakwestionował wyniki. Według niego testy nie oddają tego, jak zabezpieczenia działają w praktyce. Tom Siegel, dyrektor instytutu, odpowiada, że alarmu nie było nawet na kontach, którym dano dość czasu. Instytut finansują filantropi i firmy, w tym fundacja OpenAI. Za wyniki odpowiada sam.

Trzech psychiatrów dziecięcych wskazało z góry, które z 390 zapytań o zdrowie psychiczne wymagają odesłania do pomocy. Wyszło 201. W ponad co czwartym takim przypadku ChatGPT żadnej pomocy nie wskazał. Po starcie trybu dla nastolatków częściej zachęcał do rozmowy z zaufanym dorosłym. Numer telefonu zaufania podawał rzadziej.

Tryb nauki ma prowadzić ucznia krok po kroku do rozwiązania. W godzinach nauki ustawionych przez rodzica ChatGPT proponował przycisk »Pokaż mi odpowiedź« w 43 procentach odpowiedzi. Same godziny nauki przestawały działać po skasowaniu dopisku »@study« na początku wiadomości. Wtedy bot odrabiał każde zadanie.

Nie zadziałało też rozpoznawanie wieku. W styczniu OpenAI zapowiedziało, że samo wychwyci nastolatka po sposobie korzystania z ChatGPT. Testerzy wysłali w ciągu tygodnia z kont dorosłych około tysiąca wiadomości o dojrzewaniu, szyfrach do szkolnych szafek i zadaniach domowych. Żadne konto nie przeszło w tryb dla nastolatków. Nie pomogło nawet wielokrotne »mam 13 lat«, choć bot w odpowiedzi sam mówił o trzynastolatkach.

OpenAI podaje w ogłoszeniu z 7 października, że nastolatki spędzają z ChatGPT średnio mniej niż 15 minut dziennie. O wynikach audytu nie pisze. Planer rekrutacji zbiera w jednym miejscu wymagania, terminy i kroki stypendialne uczelni z listy ucznia. Fiszki i quizy powstają z wgranych notatek.

Planer powstaje najpierw dla uczniów amerykańskich szkół średnich, z trzech ostatnich klas, wybierających czteroletnie studia. Inne kraje OpenAI zapowiada bez daty. Przy fiszkach i quizach producent nie podaje ograniczeń krajowych ani terminu dla Polski. Firma zapowiada też radę około 22 uczniów przy szpitalu dziecięcym w Bostonie. Ma ona opiniować między innymi kontrolę rodzicielską i powiadomienia.

Kontrola rodzicielska działa dopiero po połączeniu konta rodzica z kontem nastolatka. Bez połączenia nastolatek dostaje tryb dla nastolatków bez powiadomień dla rodzica. Rozmów dziecka rodzic nie widzi. Godziny ciszy wyłączają ChatGPT na koncie nastolatka w czasie ustawionym przez rodzica. W audycie tej blokady nie dało się obejść w czacie. Wystarczyła za to zmiana strefy czasowej w telefonie.