Anthropic miał prawo odmówić wojsku. Wojsko miało prawo wpisać go za to na czarną listę

W lutym Pentagon postawił Anthropic warunek: do 27 lutego zgoda na użycie Claude do „wszystkich zgodnych z prawem zastosowań” albo koniec współpracy. Firma odmówiła w dwóch punktach: w pełni autonomicznej broni i masowej inwigilacji Amerykanów. 25 września sąd apelacyjny w Waszyngtonie uznał, że za tę odmowę wojsko mogło wykluczyć Claude ze swojego łańcucha dostaw jako zagrożenie dla bezpieczeństwa narodowego.

Sąd nie twierdzi, że Anthropic chciał zaszkodzić. Twierdzi coś innego: model, który z woli producenta może odmówić wykonania zadania, jest ryzykiem dla każdego odbiorcy. To zdanie dotyczy wojska, ale opisuje położenie każdej firmy pracującej na Claude.

Sprawa ma sygnaturę 26-1049. Orzekało troje sędziów Sądu Apelacyjnego dla Okręgu Dystryktu Kolumbii. Uzasadnienie większości napisał Gregory Katsas, dołączyła do niego Neomi Rao. Oboje zostali mianowani przez Donalda Trumpa i oboje pracowali w jego pierwszej administracji. Zdanie odrębne złożyła Karen Henderson, mianowana przez George’a H.W. Busha.

Utrzymane przez sąd wykluczenie nie oznacza zakazu sprzedaży Claude. Dotyczy zamówień Departamentu Obrony, dziś nazywanego przez administrację Departamentem Wojny. Memorandum z 6 marca nakazało usunąć produkty Anthropic z systemów departamentu najpóźniej w 180 dni i zabroniło wykonawcom używania ich w pracy dla wojska.

27 sierpnia sędzia Rita Lin z sądu federalnego w San Francisco orzekła odwrotnie. Rząd oparł wykluczenie na dwóch przepisach naraz. Pierwszy mówi o ryzyku ze strony „przeciwnika” i wymaga złych zamiarów, a sąd w San Francisco uznał, że Anthropic tej definicji nie spełnia. Drugi, z ustawy o bezpieczeństwie łańcucha dostaw w zamówieniach federalnych z 2018 roku, mówi o „dowolnej osobie”. Ten drugi przepis Kongres oddał do oceny wyłącznie sądowi w Waszyngtonie i właśnie ten przepis sąd utrzymał.

Definicja ryzyka w ustawie zawiera słowo „deny”, czyli odmówić albo uniemożliwić działanie. Anthropic wpisuje swoje ograniczenia w sam model podczas trenowania, więc Claude odmawia zadań zakazanych przez producenta niezależnie od treści umowy. Dla większości sędziów to wystarczy. Sąd pisze wprost, że nie ma powodu wątpić w szlachetne intencje firmy.

Na poparcie sąd przytacza zdarzenia z akt. W 2024 roku zwykła wersja Claude odmawiała w tajnych systemach streszczania ocen zagrożeń i tłumaczenia przechwyconych materiałów o przemocy. Anthropic odpowiedział na to w marcu 2025 roku osobnym modelem Claude Gov. W 2025 roku departament dowiedział się też, że Claude odmówił obsługi zapytań amerykańskiej agencji zdrowia publicznego CDC o badania nad powstrzymywaniem chorób zakaźnych. Na początku 2026 roku jeden z menedżerów Anthropic zakwestionował użycie Claude przez wykonawcę w tajnej operacji wojskowej za granicą. Według doniesień prasowych, dołączonych do akt przez samą firmę, chodziło o schwytanie prezydenta Wenezueli Nicolása Maduro 3 stycznia.

Anthropic proponował, żeby wojsko testowało każdą nową wersję modelu przed wdrożeniem, a przy złym wyniku zostało przy starej. Sąd uznał to za niewystarczające. Model jest dla użytkownika nieprzejrzysty, a podobne polecenie w innym brzmieniu może spotkać się z odmową. Przyznał to sam Anthropic. Pozostanie przy starej wersji sąd odrzucił jednym zdaniem: wojsko nie może używać systemów „uwięzionych w bursztynie”.

Henderson w zdaniu odrębnym przypomina, że Kongres pisał tę ustawę przeciw wrogim państwom i włamaniom do rządowych systemów. Jej zdaniem wyrok podciąga teraz pod ten sam przepis „uczciwe i jawne egzekwowanie przez wykonawcę ograniczeń”, jeśli te ograniczenia nie podobają się rządowi.

Na pytanie, czy firma może odmówić rządowi, wyrok odpowiada twierdząco. Wyrok nie zmusza Anthropic do zdjęcia ograniczeń, a sam Dario Amodei, szef firmy, napisał 26 lutego, że wybór wykonawcy należy do departamentu. Zarzut odwetu za poglądy sąd odrzucił: według większości wojsko wykluczyło firmę za odmowę warunku umowy, a nie za publiczne wypowiedzi o regulacji AI. Ceną odmowy jest więc utrata klienta i etykieta zagrożenia dla bezpieczeństwa, nadana na podstawie ustawy pisanej przeciw wrogim państwom.

Wyrok nie działa od razu. Sąd wstrzymał jego skutki, żeby Anthropic mógł poprosić o ponowne rozpatrzenie sprawy przez ten sam skład albo przez wszystkich sędziów sądu. Firma może też zwrócić się do Sądu Najwyższego. Firma przekazała CNBC, że nie zgadza się z rozstrzygnięciem i rozważa wszystkie możliwości.

Klientów w Polsce wyrok nie obejmuje. Wykluczenie dotyczy systemów amerykańskiego departamentu i pracy jego wykonawców. Unijne rozporządzenie o sztucznej inteligencji (AI Act) w art. 2 ust. 3 wyłącza z kolei systemy używane wyłącznie do celów wojskowych, obronnych i bezpieczeństwa narodowego, więc podobny spór w Europie toczyłby się poza tym aktem.

Mechanizm opisany przez sąd działa jednak u każdego klienta Claude. Polityka użytkowania Anthropic obowiązuje każdego, kto wpisuje polecenia do jego produktów, także przez pośredników. Producent zapowiada w niej zmiany wraz z rozwojem technologii i zastrzega sobie prawo do blokowania lub zmieniania odpowiedzi modelu. Dla wybranych klientów rządowych polityka przewiduje osobne ograniczenia, dopasowane do ich zadań.

Argument o bursztynie w zwykłej firmie działa jeszcze mocniej. Anthropic regularnie wycofuje starsze modele i uprzedza o tym co najmniej 60 dni wcześniej. Po tym terminie zapytania do starego modelu kończą się błędem. Gdy nowa wersja zachowuje się inaczej, firma nie ma nawet możliwości uznanej przez sąd za niewystarczającą dla wojska: pozostania przy sprawdzonym modelu na stałe.