W Waszyngtonie spierają się o obowiązkowy audyt modeli AI. W unijnym rozporządzeniu taki audyt jest dobrowolny

Bernie Sanders i Steve Bannon dzielą niewiele poglądów. Piętnastego września stanęli na jednej scenie w Waszyngtonie, żeby powiedzieć to samo o sztucznej inteligencji. Rzecz, o którą realnie idzie spór, leży jednak nie w tej sali, tylko w projekcie ustawy złożonym dwa miesiące wcześniej.

Zgromadzenie zorganizował Future of Life Institute, organizacja zajmująca się ryzykiem technologii. Na liście mówców obok Sandersa i Bannona byli senator Richard Blumenthal, kongresmeni Greg Casar i Chip Roy, szefowa centrali związkowej AFL-CIO Liz Shuler, przewodnicząca związku nauczycielskiego Randi Weingarten, arcybiskup San Francisco Salvatore Cordileone oraz aktorzy Ashley Judd i Joseph Gordon-Levitt. Według relacji The Decoder na sali było kilkaset osób. Obecna była też Lori Trahan, współautorka ustawy opisanej niżej.

Zgoda kończyła się na diagnozie. Sanders zapowiedział ustawę zakazującą rozwijania nadinteligentnej AI. Bannon odrzucił drogę ustawową i opowiedział się za rozporządzeniami prezydenta. Strona rządowa nie brała w tym udziału.

Projekt nosi numer H.R. 9925 i pełną nazwę Frontier Risk Oversight, National Transparency, Independent Evaluation, and Reporting Act. Złożyło go 23 lipca sześcioro posłów obu partii, z Jayem Obernolte i Lori Trahan jako głównymi autorami. Trahan wystąpiła na zgromadzeniu 15 września.

Ustawa dzieli firmy według wielkości i nakłada na każdy szczebel inne obowiązki. Model graniczny definiuje przez moc obliczeniową użytą do jego wytrenowania: powyżej 10 do potęgi 26 operacji. Sam obowiązek niezależnego audytu jest w niej jeden i wąski.

Niżej stoi kategoria dużego dostawcy: ponad 50 milionów dolarów przychodu i co najmniej miliard wydatków na rozwój AI. Na tym szczeblu obowiązki dotyczą jawności i zgłaszania zdarzeń, a nie audytu. Sekcja 5 projektu każe firmie z górnego progu zatrudnić licencjonowaną organizację weryfikującą, która ocenia, czy jej własne ramy bezpieczeństwa wystarczają do ograniczenia ryzyka katastrofalnego. Kara za naruszenie sięga miliona dolarów, przy czym każdy dzień liczy się jako osobne naruszenie.

OpenAI poparło ten przepis publicznie. Szef działu spraw globalnych Chris Lehane powiedział o tym podczas spotkania z ustawodawcami w Waszyngtonie 15 września. Jak podała CBS News, firma poparła część przepisów, a nie całą ustawę.

Komunikat prasowy biura Lori Trahan opisuje ustawę jako jednolity standard krajowy dla jawności, audytu i zgłaszania ryzyka katastrofalnego, tworzony po to, żeby uniknąć łatanki pięćdziesięciu stanów. Słowo wyłączenie w nim nie pada.

W tekście ustawy odpowiada temu sekcja 9. Żaden stan ani jednostka samorządu stanowego nie może przyjąć ani egzekwować przepisu nakładającego nowe obowiązki materialne na twórców sztucznej inteligencji w objętych ustawą obszarach, a pierwszym z nich jest właśnie ujawnianie sposobu, w jaki firma ocenia i ogranicza ryzyko katastrofalne.

• Stanom zostaje prawo ogólne, niewymierzone w twórców AI.
• Zostaje regulowanie użycia i wdrażania systemów przez tych, którzy je stosują, w tym prawo konsumenckie, ochrona danych i prawo karne.
• Zostaje ochrona nieletnich, łącznie z weryfikacją wieku i kontrolą rodzicielską.
• Zostają zasady kupowania i używania AI przez same urzędy stanowe.

W sekcji 9 projektu w wersji złożonej nie ma terminu, po którym to wyłączenie przestaje działać. Doniesienia o trzyletnim okresie dotyczą innego projektu tych samych posłów, złożonego 5 czerwca pod nazwą Great American Artificial Intelligence Act. Dwie różne ustawy tej samej pary autorów łatwo pomylić i w relacjach bywają mylone.

Rozporządzenie Parlamentu Europejskiego i Rady 2024/1689, nazywane aktem o sztucznej inteligencji, obowiązuje bezpośrednio także w Polsce. Artykuł 55 ustęp 1 litera a nakłada na dostawcę modelu ogólnego przeznaczenia o ryzyku systemowym obowiązek przeprowadzenia oceny modelu według aktualnego stanu wiedzy, w tym przeprowadzenia i udokumentowania testów kontradyktoryjnych, czyli prób celowego wyprowadzenia modelu z równowagi.

Przepis nie wymaga, żeby robił to ktokolwiek niezależny od dostawcy. Motyw rozporządzenia mówi o testach prowadzonych „w stosownych przypadkach, w drodze testów wewnętrznych lub niezależnych testów zewnętrznych”, czyli zostawia wybór firmie. Załącznik XI pyta o opis testów wewnętrznych albo zewnętrznych również słowami „w stosownych przypadkach”.

Kontrola zewnętrzna w rozporządzeniu jednak istnieje, tylko działa inaczej. Artykuł 92 pozwala Urzędowi do spraw AI przeprowadzić własną ocenę modelu, gdy informacje od dostawcy są niewystarczające albo gdy trzeba zbadać ryzyko systemowe. Komisja może do tego powołać niezależnych ekspertów i zażądać dostępu do modelu, łącznie z kodem źródłowym. Jest to uprawnienie uznaniowe urzędu, uruchamiane w konkretnej sprawie.

FRONTIER Act został skierowany do prac w komisjach i nie przeszedł żadnego głosowania. Sojusz polityczny pokazany na zgromadzeniu nie przekłada się na jedną propozycję, bo jego uczestnicy różnią się co do drogi: jedni chcą ustawy, inni decyzji prezydenta, jeszcze inni zakazu rozwijania najsilniejszych modeli.

Dla firmy w Polsce bezpośrednie znaczenie ma na razie tylko jedna z tych dwóch spraw. Obowiązki z aktu o sztucznej inteligencji dotyczą dostawców modeli, a nie tych, którzy ich używają w swojej pracy. Wynik amerykańskiego sporu wpłynie natomiast na to, jak wyglądają modele, z których korzystają wszyscy, bo ich twórcy siedzą po tamtej stronie.