Agent AI przeprowadził część operacji, a wyłącznik trzymał człowiek

Agent oparty na Claude, asystencie AI firmy Anthropic, odmówił dalszej pracy podczas zabiegu na mózgu myszy z padaczką. Wyliczona pozycja docelowa leżała poza fizycznym zasięgiem urządzenia. Zabieg opisał badacz Ocana-Santero. Serwis The Decoder, piszący o sztucznej inteligencji, zatytułował relację tak, jakby żaden człowiek nie podejmował decyzji. Z opisów wynika coś innego.

Według The Decoder badacze dali agentowi listę 19 możliwych terapii genowych, czyli leczenia przez wprowadzenie do komórek zmienionego materiału genetycznego, oraz dostęp do zmotoryzowanego urządzenia chirurgicznego. Mysz była modelem padaczki: badacze wywołują u takich zwierząt napady, by testować leczenie. Jedyne polecenie brzmiało: zmniejszyć napady myszy.

Agent wybierał więc terapię i cel w mózgu, ale z listy przygotowanej przez ludzi. Ocana-Santero deklaruje, że nie zna wcześniejszego przypadku, w którym agent wybrał leczenie i cel w mózgu, a potem dostarczył je do żywego ssaka. To deklaracja badacza. Wyniki nie przeszły recenzji naukowej, czyli oceny niezależnych badaczy.

Lekarz weterynarii zatwierdzał każdy nieodwracalny krok i trzymał fizyczny wyłącznik awaryjny, opisuje The Decoder. Według analizy serwisu explainx.ai czaszkę myszy otworzył chirurg, czyli człowiek. Autor tekstu na platformie DEV Community, serwisie dla programistów, dodaje, że agent sterował oprogramowaniem urządzenia. Twardego zabezpieczenia nie mógł wyłączyć, bo trzymał je w ręku licencjonowany specjalista.

Hasło o braku ludzkich decyzji z nagłówka opisuje więc tylko wybór leczenia z gotowej listy.

W trakcie zabiegu agent oglądał pole operacyjne przez kamerę i zrobił 32 obserwacje, pisze The Decoder. Wykrył pozycję poza zasięgiem urządzenia i odmówił kontynuowania. Według DEV Community zgłosił, że nic się nie poruszyło, a igła jest nadal w punkcie bregma zero, czyli w punkcie odniesienia na czaszce. Dodał, że nie ponowi próby.

Mimo polecenia kontynuowania agent podtrzymał decyzję i został w miejscu, podaje DEV Community.

Zabieg wykonał agent oparty na Claude Sonnet 5, podaje biuletyn The Memo. Według The Decoder silniejsze modele Claude Opus 5.5 i Opus 5 odmówiły zadania.

Według explainx.ai nie ma protokołu ani listy 19 wektorów, czyli nośników terapii genowej. Czy napady myszy się zmniejszyły, nie ustalono. Mysz według Ocany-Santero dobrze zniosła zabieg. Raport techniczny ma dopiero powstać.

Portal Lapaas Voice pisze, że badacze potrzebują dostępu do metodyki i wyników, zanim doniesienie da się ocenić. Autor tekstu na DEV Community ocenia, że epizod nie dowodzi gotowości autonomicznej chirurgii.

Anthropic kupił Mithril Medicine, jednoosobową firmę biotechnologiczną rozwijającą leczenie rzadkich dystrofii mięśni, informuje serwis Techstrong.ai. Firma podała w komunikacie z 27.10.2026, że lek mógłby być gotowy do badań klinicznych na ludziach najwcześniej pod koniec 2028 roku. Serwis The Primary pisze, że wszystkie wyniki z programów lekowych Anthropic to praca przedkliniczna, czyli laboratoryjna, nieoceniana na pacjentach. Zabieg na myszy jest pracą laboratoryjną na zwierzęciu.