Raport wywiadu powstał z pomocą czata i nikt o tym nie wiedział. Wyszło na jaw tuż przed wejściem na statek
Amerykańscy żołnierze szykowali się do wejścia na chiński statek, a samoloty były w powietrzu. Operację odwołano, bo ktoś zajrzał głębiej w raport, na którym się opierała.

Na skróty
- CNN opisało 18 września, powołując się na czworo rozmówców, jak fałszywy raport wywiadowczy o chińskim statku niemal doprowadził do starcia.
- Raport mówił, że statek wiezie elementy programu broni jądrowej. Uzbrojeni żołnierze szykowali się do wejścia na pokład, samoloty były w powietrzu.
- Analityk użył czata do przejrzenia materiału. Program połączył informacje jawne z danymi niejawnymi i błędnie określił ładunek.
- Nic w raporcie nie mówiło, że powstał z pomocą sztucznej inteligencji. Wyszło to dopiero przy dokładniejszym sprawdzeniu tuż przed akcją.
- Styczniowa strategia sekretarza obrony zakłada oddanie modeli w ręce trzech milionów osób na wszystkich poziomach klauzul.
- Unijne rozporządzenie o AI nie obejmuje zastosowań wojskowych i tych związanych z bezpieczeństwem narodowym.
- W dniu publikacji CNN gubernator Kalifornii zlecił ocenę „wyłącznika awaryjnego” dla najmocniejszych modeli, a 23 września senator Bernie Sanders i kongresman Greg Casar przedstawili projekt ustawowego zakazu superinteligencji.
- Badaczki AI Timnit Gebru i Emily M. Bender piszą w brytyjskim dzienniku „The Guardian”, że sprawa statku pokazuje ryzyko poważniejsze od wizji superinteligencji, a australijski ekonomista John Quiggin dodaje, że za szkody z AI odpowiadają ludzie i firmy.
Raport wywiadowczy mówił, że chiński statek na Bliskim Wschodzie wiezie elementy programu broni jądrowej. Uzbrojeni żołnierze przygotowywali się do wejścia na pokład, a samoloty były już w powietrzu. Operację odwołano dopiero wtedy, gdy ktoś wszedł w ten raport głębiej i zobaczył, skąd się wziął.
Sprawę opisało 18 września CNN, powołując się na czworo rozmówców zaznajomionych ze sprawą. Analityk dowództwa operacji specjalnych zapytał czat o materiał wywiadowczy, który pochodził z dowództwa operacji specjalnych na Pacyfiku, z siedzibą na Hawajach. Czat błędnie określił, co statek wiezie.
„Raport był całkowicie fałszywy, ale omal nie zaczął wojny”
Program zmieszał dwa rodzaje informacji i wydał jedną odpowiedź
Czat połączył informacje ogólnodostępne z danymi niejawnymi i z tej mieszanki wyprowadził wniosek o ładunku. Odpowiedź, która z tego wyszła, jest jednolita. Nie widać w niej, która część opiera się na materiale sprawdzonym, a która na tym, co program znalazł w źródłach otwartych.
Dokument nie niósł informacji o tym, jak powstał
Raport trafił dalej jak każdy inny raport. Nic w nim nie mówiło, że przy jego powstaniu użyto sztucznej inteligencji. Wyszło to dopiero przy dokładniejszym sprawdzeniu, przeprowadzonym tuż przed planowaną operacją. Gdyby nikt wtedy nie zajrzał głębiej, żołnierze weszliby na pokład.
Jest to usterka obiegu dokumentów, a nie usterka modelu. Model zrobił to, co robi: wydał najbardziej prawdopodobnie brzmiącą odpowiedź na zadane pytanie. Zawiodło to, że odpowiedź dało się przepisać do raportu, a raport puścić dalej bez śladu po tym, skąd pochodzi.
Trzy miliony osób i różne narzędzia w różnych miejscach
W styczniu sekretarz obrony Pete Hegseth ogłosił strategię przyspieszenia wdrażania sztucznej inteligencji w wojsku. Według cytowanej przez CNN notatki jej celem jest oddanie amerykańskich modeli bezpośrednio w ręce trzech milionów osób cywilnych i wojskowych, na wszystkich poziomach klauzul tajności.
Rozmówcy CNN mówią przy tym, że wdrażanie jest rozproszone: różne części administracji używają różnych narzędzi, na podstawie różnych poleceń i przy różnych standardach bezpieczeństwa. Przy takim ustawieniu zdarzenie opisane wyżej nie jest odstępstwem od reguły, tylko jej skutkiem.
Zastosowania wojskowe są poza rozporządzeniem o AI
Rozporządzenie 2024/1689, które w Polsce reguluje sztuczną inteligencję, tej dziedziny nie dotyczy. Artykuł 2 ustęp 3 mówi, że rozporządzenia nie stosuje się do systemów wprowadzanych do obrotu, oddawanych do użytku ani używanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego, i to niezależnie od tego, czy robi to podmiot publiczny, czy prywatny.
Ten sam przepis wyłącza także systemy spoza Unii, których wynik jest używany w Unii wyłącznie do tych celów. Uzasadnienie w motywach odwołuje się do traktatu i do tego, że właściwszą ramą jest tu prawo międzynarodowe publiczne. Skutek praktyczny jest jednak taki, że zastosowanie o najwyższej możliwej stawce leży poza przepisem, który reguluje zastosowania o stawce nieporównanie niższej.
Trzy rzeczy, których nie da się dziś ustalić
- Nie wiadomo, jakiego czata użył analityk ani czy był to produkt komercyjny, czy narzędzie zbudowane dla administracji.
- Nie wiadomo, co statek naprawdę wiózł. CNN podaje, że nie udało się tego ustalić.
- Relacja opiera się na anonimowych rozmówcach. Dowództwo odpowiedzialne za siły na Bliskim Wschodzie oraz Pentagon nie odpowiedziały na prośby o komentarz.
Czat ułożył też raport w formacie, na którym wojsko polega
Pełna relacja CNN z 18 września, autorstwa Katie Bo Lillis i Zachary'ego Cohena, zawiera jeszcze jeden szczegół. Analityk sięgnął po AI dwa razy. Najpierw program wskazał, co jest na statku. Potem ułożył te ustalenia w standardowy raport wywiadowczy, czyli w format, któremu wojskowi zwykle ufają. W tej postaci dokument trafił do obiegu.
Według rozmówców CNN w administracji USA nie ma też wspólnego zestawu zasad, jak sprawdzać informacje z takich narzędzi. Jeden z nich mówi, że podobne zmyślenia (halucynacje, czyli nieprawdziwe informacje podane przez model tonem pewności) nie są w wywiadzie odosobnione, odkąd te narzędzia rozeszły się po urzędach. Część starszych oficerów wywiadu mówi, że AI zwiększyła presję na szybkie pisanie i rozsyłanie raportów. Młodzi analitycy chętniej ufają narzędziom bezkrytycznie.
„AI pozwala szybciej dojść do złego pomysłu”
Przy statku ludzie uwierzyli maszynie. Przy szkole w Iranie pominęli jej ostrzeżenie
19 września trzech senatorów demokratów, Mark Warner, Jack Reed i Chris Coons, wysłało list do sekretarza obrony Pete'a Hegsetha i dyrektora wywiadu narodowego Jaya Claytona. Zasiadają w senackich komisjach od wywiadu, sił zbrojnych i wydatków na obronę. Żądają natychmiastowego śledztwa inspektorów generalnych, czyli wewnętrznych kontrolerów resortów, z jawnymi wnioskami. Kontrolerzy mają dostać nieograniczony dostęp do dwóch tegorocznych przypadków błędów AI przy wyznaczaniu celów oraz do tych, o których media jeszcze nie pisały.
Drugi przypadek to atak z 28 lutego na szkołę w Minab w Iranie. Senatorowie powołują się na doniesienia, że przy tym uderzeniu platforma AI do wyznaczania celów opierała się na nieaktualnych danych geograficznych. Lipcowa relacja CNN rozkłada akcenty inaczej. Według jej rozmówców obie bazy celów, starsza MIDB zasilana ręcznie przez analityków i nowsza MARS oparta na AI, wyraźnie pokazywały, że dane o celach w Iranie trzeba przed użyciem odświeżyć. Wyżsi dowódcy pominęli te ostrzeżenia, bo na początku wojny liczyło się tempo dostarczania celów. Według CNN zginęło blisko 200 dzieci i dorosłych.
W obu sprawach ostatnie słowo należało do ludzi. Przy statku błędny wynik maszyny dotarł do planistów w standardowym formacie raportu. Przy szkole systemy ostrzegały trafnie, a ostrzeżenie odrzucili dowódcy. W obu relacjach CNN wraca też presja czasu: rozmówca z lipca mówi, że Pentagon naciska na wszystkich, żeby działali szybciej. Inny rozmówca, z września, twierdzi, że nie ma realnych wytycznych, jak obecność człowieka w pętli decyzji ma zapobiegać ofiarom cywilnym i ostrzałowi własnych żołnierzy przy celach wskazywanych z pomocą AI.
Senatorowie wskazują też na decyzje administracji. Według listu uchyliła ona memorandum bezpieczeństwa narodowego nr 25 z zasadami nadzoru nad AI w sprawach bezpieczeństwa państwa, a styczniowa strategia Pentagonu traktuje takie zasady jako „przeszkody”. Postulat z listu jest prosty. Standardy pracy analitycznej mają wykluczać rozesłanie jakiegokolwiek produktu wywiadu z błędami wygenerowanymi przez AI, zwłaszcza gdy może on uzasadnić użycie siły wobec państwa z bronią jądrową.
Politycy zajęli się superinteligencją. Na sprawę statku przyszedł list
18 września, w dniu publikacji CNN, gubernator Kalifornii Gavin Newsom podpisał rozporządzenie wykonawcze o nadzorze nad AI. Urzędnicy stanowi mają do 16 listopada ocenić, czy da się nakazać producentom najmocniejszych modeli „wyłącznik awaryjny”, czyli możliwość zatrzymania systemu, gdy zacznie działać wadliwie albo wymknie się spod kontroli. Rozporządzenie samo takiego wyłącznika nie wprowadza. Według agencji AFP decyzja zapadła kilka dni po głośnym odejściu Jacoba Coxona. Przedstawia się on jako były badacz Anthropic i twierdzi, że twórcy tej technologii naprawdę wierzą, że może ona zabić wszystkich ludzi do końca dekady.
23 września senator Bernie Sanders i kongresman Greg Casar przedstawili projekt ustawy o trwałym zakazie „sztucznej superinteligencji”. Projekt definiuje ją jako system przewyższający ludzkie zdolności poznawcze albo zdolny zaplanować i przeprowadzić zniszczenie lub ubezwłasnowolnienie ludzkości. Do czasu nowych przepisów federalnych prace nad najbardziej zaawansowanymi modelami miałyby stanąć, a za złamanie przepisów w niektórych przypadkach groziłoby do 20 lat więzienia. Agencja AP ocenia jego szanse w Kongresie z republikańską większością jako małe. Poparcie przyszło także z wnętrza branży.
„Przy obecnym kierunku rozwoju najbardziej prawdopodobnym wynikiem jest egzystencjalna katastrofa dla ludzkości”
Timnit Gebru, dyrektorka niezależnego instytutu badawczego DAIR, i Emily M. Bender, profesor językoznawstwa na University of Washington, zestawiły te reakcje 1 października w felietonie dla brytyjskiego dziennika „The Guardian”. Ich zdaniem do progu wojny doprowadziła wiara rządu w zawodne programy, reklamowane przez producentów jako bliskie superinteligencji. Szkody biorą się według nich z wiary ludzi w superinteligencję tych produktów. Postulat jest konkretny. Każda automatyzacja w wojsku, medycynie i innych sprawach życia i śmierci ma przejść ocenę w tym jednym zastosowaniu, a odpowiedzialność ma zostać przy ludziach z realną władzą decyzyjną. Autorki zaznaczają też, że relacji CNN nie potwierdziły inne duże redakcje.
Autorki piszą, że sprawa statku nie skłoniła ustawodawców do wezwań o regulację chroniącą ludzkość przed wyginięciem. Reakcja Kongresu była mniejsza i dotyczyła samych błędów. W komunikacie z 21 września trzech senatorów, Mark Warner, Jack Reed i Chris Coons, wezwało szefa Pentagonu i dyrektora wywiadu narodowego do szybkiego zbadania zgłoszonych błędów AI w pracy wojska i wywiadu. Dodali, że rygorystyczne standardy pracy analityków powinny wykluczać rozsyłanie raportów wywiadu z błędami wygenerowanymi przez AI. Na sprawę statku przyszedł więc list z żądaniem wyjaśnień. Rozporządzenie z Kalifornii i projekt Sandersa dotyczą najmocniejszych modeli i ryzyka utraty nad nimi kontroli.
Dzień później w tym samym dzienniku John Quiggin, ekonomista z University of Queensland w Australii, przeniósł spór o panikę wokół AI na włamanie agenta AI do portalu Medicare, australijskiego państwowego systemu ubezpieczeń zdrowotnych. Jeśli polecenie w rodzaju „znajdź australijskie statystyki o lekach” kończy się włamaniem, odpowiada według niego osoba wpisująca polecenie albo firma, autorka programu. Gdy winnego nie da się ustalić, obie strony mają odpowiadać solidarnie, każda za całą szkodę. Quiggin przypomina awarie sieci australijskich operatorów Telstra i Optus. Nikt wtedy nie winił komputerów. Winę przypisano firmom.
Źródła
- AFP za CNN, „Faulty intel almost started a war after AI misread Chinese vessel cargo”, Taipei Times, 20 września 2026
- Ariella Roitman, relacja z ustaleń CNN, The Jerusalem Post, 19 września 2026 (szczegóły o strategii sekretarza obrony i o rozproszeniu narzędzi)
- Paweł Czajkowski, „Algorytm się pomylił. Amerykanie byli gotowi do wojny”, ITHardware, 20 września 2026
- Rozporządzenie (UE) 2024/1689, art. 2 ust. 3 oraz motyw 24 — wyłączenie celów wojskowych, obronnych i bezpieczeństwa narodowego
- CNN, „Exclusive: US military had close call after using AI for false intelligence report, sources say”, 18.09.2026 (źródło pierwotne)
- Senatorowie Mark R. Warner, Jack Reed, Christopher A. Coons, list do sekretarza obrony i dyrektora wywiadu narodowego, 19.09.2026, kopia w GlobalSecurity.org (źródło pierwotne)
- Biuro senatora Marka R. Warnera, „Warner, Reed, Coons Press Pentagon, DNI for Answers on Reported AI Failures in Military Operations”, 21.09.2026, przedruk GlobalSecurity.org (źródło pierwotne)
- CNN, „Democrats call for investigation into faulty AI-assisted intel report”, 19.09.2026
- CNN, „Exclusive: US commanders bypassed warnings about outdated intelligence ahead of strike that hit school in Iran, sources say”, 07.07.2026
- Military.com, „Lawmakers Demand DOD Investigation After Military AI Intelligence Report Almost Sparked Conflict with China”, 21.09.2026
- AFP, „California governor signs order to explore AI »kill switch«”, przedruk CP24, 18.09.2026
- ABC News za agencją AP, „Sen. Sanders unveils bill to ban artificial superintelligence, create Dept. of AI”, 23.09.2026
- Biuro senatora Marka Warnera, „Warner, Reed, Coons Press Pentagon, DNI for Answers on Reported AI Failures in Military Operations”, przedruk GlobalSecurity.org, 21.09.2026 (źródło pierwotne)
- Timnit Gebru, Emily M. Bender, „Forget »superintelligence«: error-prone AI nearly sparked world war three this month”, The Guardian, 01.10.2026
- John Quiggin, „We don’t need to panic about AI. We need to hold its creators accountable when things go wrong”, The Guardian, 02.10.2026
Historia zmian
24 września 2026
Dopisane dwie sekcje: drugie użycie AI przy tworzeniu raportu (pełna relacja CNN z 18.09) oraz list senatorów Warnera, Reeda i Coonsa z 19.09 z żądaniem śledztwa, zestawiony z lipcową relacją CNN o ataku na szkołę w Minab.
2 października 2026
Dopisane: reakcje polityków USA skierowane w superinteligencję (rozporządzenie gubernatora Kalifornii z 18.09, projekt Sandersa i Casara z 23.09) oraz felietony Gebru i Bender (01.10) i Quiggina (02.10) w „The Guardian” o odpowiedzialności za błędy AI.
Czy ten tekst Ci pomógł?
Jedno kliknięcie. Bez podawania adresu e-mail. Dzięki temu wiem, które teksty wymagają poprawy.