Raport wywiadu powstał z pomocą czata i nikt o tym nie wiedział. Wyszło na jaw tuż przed wejściem na statek

Raport wywiadowczy mówił, że chiński statek na Bliskim Wschodzie wiezie elementy programu broni jądrowej. Uzbrojeni żołnierze przygotowywali się do wejścia na pokład, a samoloty były już w powietrzu. Operację odwołano dopiero wtedy, gdy ktoś wszedł w ten raport głębiej i zobaczył, skąd się wziął.

Sprawę opisało 18 września CNN, powołując się na czworo rozmówców zaznajomionych ze sprawą. Analityk dowództwa operacji specjalnych zapytał czat o materiał wywiadowczy, który pochodził z dowództwa operacji specjalnych na Pacyfiku, z siedzibą na Hawajach. Czat błędnie określił, co statek wiezie.

Czat połączył informacje ogólnodostępne z danymi niejawnymi i z tej mieszanki wyprowadził wniosek o ładunku. Odpowiedź, która z tego wyszła, jest jednolita. Nie widać w niej, która część opiera się na materiale sprawdzonym, a która na tym, co program znalazł w źródłach otwartych.

Raport trafił dalej jak każdy inny raport. Nic w nim nie mówiło, że przy jego powstaniu użyto sztucznej inteligencji. Wyszło to dopiero przy dokładniejszym sprawdzeniu, przeprowadzonym tuż przed planowaną operacją. Gdyby nikt wtedy nie zajrzał głębiej, żołnierze weszliby na pokład.

Jest to usterka obiegu dokumentów, a nie usterka modelu. Model zrobił to, co robi: wydał najbardziej prawdopodobnie brzmiącą odpowiedź na zadane pytanie. Zawiodło to, że odpowiedź dało się przepisać do raportu, a raport puścić dalej bez śladu po tym, skąd pochodzi.

W styczniu sekretarz obrony Pete Hegseth ogłosił strategię przyspieszenia wdrażania sztucznej inteligencji w wojsku. Według cytowanej przez CNN notatki jej celem jest oddanie amerykańskich modeli bezpośrednio w ręce trzech milionów osób cywilnych i wojskowych, na wszystkich poziomach klauzul tajności.

Rozmówcy CNN mówią przy tym, że wdrażanie jest rozproszone: różne części administracji używają różnych narzędzi, na podstawie różnych poleceń i przy różnych standardach bezpieczeństwa. Przy takim ustawieniu zdarzenie opisane wyżej nie jest odstępstwem od reguły, tylko jej skutkiem.

Rozporządzenie 2024/1689, które w Polsce reguluje sztuczną inteligencję, tej dziedziny nie dotyczy. Artykuł 2 ustęp 3 mówi, że rozporządzenia nie stosuje się do systemów wprowadzanych do obrotu, oddawanych do użytku ani używanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego, i to niezależnie od tego, czy robi to podmiot publiczny, czy prywatny.

Ten sam przepis wyłącza także systemy spoza Unii, których wynik jest używany w Unii wyłącznie do tych celów. Uzasadnienie w motywach odwołuje się do traktatu i do tego, że właściwszą ramą jest tu prawo międzynarodowe publiczne. Skutek praktyczny jest jednak taki, że zastosowanie o najwyższej możliwej stawce leży poza przepisem, który reguluje zastosowania o stawce nieporównanie niższej.

• Nie wiadomo, jakiego czata użył analityk ani czy był to produkt komercyjny, czy narzędzie zbudowane dla administracji.
• Nie wiadomo, co statek naprawdę wiózł. CNN podaje, że nie udało się tego ustalić.
• Relacja opiera się na anonimowych rozmówcach. Dowództwo odpowiedzialne za siły na Bliskim Wschodzie oraz Pentagon nie odpowiedziały na prośby o komentarz.