Odszedł z Anthropic, zanim dostał udziały. Wpis, który napisał, obejrzano 171 milionów razy

Człowiek, który przez pięć lat pracował w OpenAI i Anthropic, odszedł z pracy tuż przed terminem, w którym nabyłby prawa do udziałów. Zrezygnował z pieniędzy, żeby móc napisać jedno zdanie. Zdanie brzmiało: ludzie budujący sztuczną inteligencję szczerze wierzą, że może ona zabić nas wszystkich do końca dekady.

Jacob Coxon ogłosił odejście z Anthropic na platformie X we wrześniu 2026 roku. Serwis podaje, że wpis obejrzano 171 milionów razy. Blake Montgomery, redaktor technologiczny „The Guardiana", opisał 15 września, dlaczego akurat ten głos przebił się do opinii publicznej, skoro podobne ostrzeżenia padają co kilka miesięcy od lat.

Odpowiedź ma trzy części i żadna z nich nie dotyczy treści samego ostrzeżenia. Liczy się to, kto mówi, ile go to kosztowało i co się wydarzyło tuż wcześniej.

Coxon miał dostęp od środka do dwóch firm naraz. Odszedł przed nabyciem praw do udziałów, więc jego wypowiedź kosztowała go realne pieniądze. Koledzy, którzy nadal są na liście płac Anthropic, potwierdzili jego słowa. Jeden z nich ocenił ryzyko wyginięcia ludzkości na ponad dziesięć procent.

Kilka dni później zrobił to samo Bilal Chughtai, który w Google DeepMind zajmował się bezpieczeństwem systemów ogólnych. Na LinkedIn napisał, że szczerze wierzy, iż sztuczna inteligencja ma potencjał, żeby zabić wszystkich, i że może brakować czasu na uniknięcie tego. Dodał punkt odniesienia: kiedy zaczynał w tej dziedzinie na początku 2022 roku, systemy były, jak to ujął, zabawnie bezużyteczne.

Wcześniej podobną drogę przeszedł Alex Turner. Odszedł z Google DeepMind przy znacznej stracie finansowej, gdy firma złamała własne zobowiązanie o niedostarczaniu sztucznej inteligencji do zastosowań wojskowych. Ryzyko przejęcia kontroli przez AI szacuje na jeden do trzech.

Najdłużej prowadzone badanie wśród czołowych naukowców zajmujących się sztuczną inteligencją obejmuje ponad 1500 osób. Wyniki publikuje organizacja AI Impacts. W edycji z 2024 roku średnia ocena prawdopodobieństwa, że AI doprowadzi do wyginięcia ludzi albo trwałego odebrania im sprawczości, wyniosła około 18 procent.

Osiemnaście procent to nie jest liczba, którą łatwo poczuć. Prościej tak: gdyby samolot miał osiemnastoprocentową szansę na katastrofę, nie wystartowałby ani jeden.

Z tego samego badania wynika jeszcze jedno. Pięćdziesiąt siedem procent pytanych uważa za mało prawdopodobne, żeby w 2029 roku użytkownicy nadal rozumieli, dlaczego system podjął taką, a nie inną decyzję.

Serwis The Decoder postawił 16 września pytanie, którego nie zadał „Guardian": czy to szczery odruch, czy zagranie biznesowe obliczone na spowolnienie konkurencji. Rozstrzygnięcia nie ma.

Amba Kak, wcześniej doradczyni amerykańskiego urzędu antymonopolowego do spraw sztucznej inteligencji, zwraca uwagę na mechanizm: firmy ustawiły się jako główni eksperci od rozwiązania problemu, który same stworzyły albo który same są w stanie powstrzymać.