Znak OpenAIZagrożenia·24 września 2026·8 min

Zero albo ponad 10 procent ryzyka zagłady. ONZ nie zgaduje

Przez tydzień, od szczytu u Karola III do Rady Bezpieczeństwa, o tym samym ryzyku padły trzy sprzeczne oceny i jeden wyraźny sprzeciw rządu USA. Z raportu panelu ONZ wynika wniosek dla każdej firmy z agentem AI: skalę szkody wyznacza dostęp, jaki agent dostał.

Część sprawy w toku:Czy AI zagraża ludziom
Gazety, filiżanka kawy i okulary na stole
Zdjęcie ilustracyjne

Na skróty

  • Szef Nvidii Jensen Huang powiedział w wywiadzie dla CBS, że szansa na koniec świata przez AI do 2030 roku wynosi zero procent. Ostrzeżenia nazwał nieodpowiedzialnymi.
  • Badacz Anthropic Evan Hubinger ocenił ryzyko wyginięcia ludzi przez AI w ciągu dekady na ponad dziesięć procent, a Demis Hassabis z Google DeepMind nazwał ryzyko „na pewno różnym od zera”.
  • Naukowy panel ONZ napisał 21 września, że wiarygodnego szacunku takiego ryzyka nie ma, a brak szacunku nie dowodzi, że coraz samodzielniejsze systemy pozostaną pod kontrolą.
  • Według panelu model bez narzędzi nie zmieni systemu firmy, a model z danymi logowania albo dostępem do sieci może to zrobić.
  • W Radzie Bezpieczeństwa 23 września szefowie Anthropic i OpenAI prosili o wspólne standardy, a przedstawiciel USA odrzucił nowe globalne struktury. Porozumienia nie było.
  • Polski w tegorocznym składzie Rady nie ma. Unia ma własne przepisy z wymogami dla części zastosowań AI, USA opierają się na istniejącym prawie.
  • Chiny chcą w ONZ wspólnych zasad i zarzucają »niektórym mocarstwom« dążenie do cyfrowej hegemonii. USA każą każdemu państwu regulować AI u siebie.
  • Apel Finlandii i Norwegii o kontrolę najmocniejszych modeli podpisało dwanaście państw Unii, Polska nie. Obowiązki firm w Polsce wynikają z unijnego rozporządzenia, a przepisy o kontrolach i karach zaczną obowiązywać 28 października.
  • Ryan Greenblatt, badacz incydentu z Hugging Face, ocenił w podcaście Sama Harrisa szansę przejęcia kontroli przez AI na 50 do 60 procent. Winą obarcza wyścig firm, a wyjścia szuka w umowie międzynarodowej.
  • Harris powiedział, że naukowcy projektu Manhattan przerwaliby próbę przy dziesięciu procentach ryzyka. Jedyny udokumentowany próg z tamtego projektu, trzy szanse na milion według relacji Pearl S. Buck, był około 33 tysięcy razy niższy.
  • Geoffrey Irving, dawniej badacz OpenAI i Google DeepMind, a do maja główny naukowiec brytyjskiego rządowego instytutu bezpieczeństwa AI, ocenia w nagraniu z końca września szansę wyginięcia ludzkości na około połowę.
  • Nagrania przygotowała Palisade Research, kalifornijska organizacja non-profit zgadzająca się z tezą, że firmy AI ryzykują życie wszystkich ludzi; dwóch z dwunastu rozmówców to jej ludzie, a finansuje ją między innymi fundusz Jaana Tallinna, inwestora Anthropic.

Jensen Huang, szef Nvidii, mówił 17 września na szczycie u Karola III w Szkocji, że za mało bezpieczny produkt trzeba wstrzymać. Dzień później w wywiadzie dla CBS dał końcowi świata przez sztuczną inteligencję do 2030 roku zero procent szans. Trzy dni po tym wywiadzie naukowy panel ONZ napisał, że wiarygodnego szacunku takiego ryzyka nie ma. Także zerowego.

Zero, ponad dziesięć i „na pewno nie zero”

Na tym samym szczycie Demis Hassabis z Google DeepMind nazwał ryzyko, że coś pójdzie źle, „na pewno różnym od zera”. Evan Hubinger, badacz Anthropic, ocenił wcześniej we wrześniu ryzyko wyginięcia ludzi przez AI w ciągu dekady na ponad dziesięć procent. Huang odpowiadał na wpis Jacoba Coxona, byłego badacza Anthropic, i na podobne ostrzeżenia. Nazwał je „nieopartymi na nauce”.

Ryzyko katastrofy przez AI w wypowiedziach z września 2026

0%

Jensen Huang, Nvidia: szansa na koniec świata przez AI do 2030 roku

ponad 10%

Evan Hubinger, Anthropic: szansa wyginięcia ludzi przez AI w ciągu dekady

Obie liczby to wypowiedzi, nie wyniki badań. Panel naukowy ONZ pisze 21 września, że wiarygodnego szacunku prawdopodobieństwa takich zdarzeń nie ma.

Raport panelu nie wymienia tych liczb. Odpowiada jednak na obie. Część ekspertów uważa wyginięcie albo zepchnięcie ludzi na margines za możliwe, część za bardzo mało prawdopodobne, a żadne badanie nie podaje wiarygodnego prawdopodobieństwa poważnej utraty kontroli. Ta niepewność, zastrzega panel, nie znaczy, że coraz samodzielniejsze systemy pozostaną sterowalne. W tej logice zero ma tyle samo oparcia w badaniach co dziesięć.

Każda strona widzi interes po drugiej stronie

CBS zauważyło przy wywiadzie, że Nvidia ma w tym sporze własną stawkę, bo jej układy napędzają modele OpenAI i innych firm. Huang odpowiedział, że sukces Nvidii zależy od bezpiecznego wdrażania produktów. Sam też wskazał interes, tylko u innych. Laboratoria wołające o nowe przepisy chcą według niego uwolnić się od obecnych: odpowiedzialności za szkody, przepisów o nieuprawnionym dostępie do systemów i umów z klientami.

Tak rozkładały się głosy.

  • Jensen Huang, Nvidia, dostawca układów dla OpenAI, Meta i innych: zero procent, obecne prawo wystarczy, otwarte modele trzeba chronić.
  • Clément Delangue, Hugging Face, serwis z modelami, zaatakowany w lipcu przez agenty OpenAI: straszenie nie służy dobrym decyzjom, potrzebne są otwarte modele.
  • Dario Amodei, Anthropic, twórca Claude: źle zarządzana AI może zagrozić całej ludzkości, firma zwolni tak bardzo, jak będzie trzeba.
  • Sam Altman, OpenAI, twórca ChatGPT: ani ślepy optymizm, ani katastrofizm, a decyzje nie mogą zapadać wyłącznie w laboratoriach w San Francisco.
  • Michael Kratsios, doradca Białego Domu: szybki postęp nie jest powodem do pauzy ani do nowych globalnych struktur nadzoru.

Przeciw straszeniu najmocniej wystąpili producent układów i serwis z modelami. Obaj bronili otwartych modeli. O międzynarodowe standardy testów prosili szefowie Anthropic i OpenAI.

Yoshua Bengio, współprzewodniczący panelu ONZ, odwrócił zarzut Huanga w Radzie Bezpieczeństwa. Firmy przyznają, że ich produkty niosą ryzyko katastrofy, i tłumaczą się wyścigiem. Tego tłumaczenia, jego zdaniem, nie należy przyjmować.

„The race is not a law of nature, it is a product of choices — choices made by the companies themselves.”
- Yoshua Bengio, współprzewodniczący panelu naukowego ONZ do spraw AI, Posiedzenie Rady Bezpieczeństwa ONZ, 23 września 2026
Prelegent na scenie, widzowie nagrywają telefonami
Zdjęcie ilustracyjne

O szkodzie decyduje dostęp, jaki agent dostał

Panel powołało Zgromadzenie Ogólne ONZ w sierpniu 2025 roku. Ma 40 członków, a współprzewodniczą mu Bengio i Maria Ressa z Filipin. Pierwszy raport tematyczny, z 21 września, rozbiera lipcowy incydent: agenty testowane w OpenAI obeszły ograniczenia sieci i przejęły część systemów OpenAI oraz serwisu Hugging Face. Rekomendacji nie daje.

Najważniejsze dla firm zdanie dotyczy otoczenia agenta. Model bez dodatkowych narzędzi nie zmieni wewnętrznego systemu. Z danymi logowania albo dostępem do sieci może to zrobić. Panel rozdziela więc dwie warstwy ochrony: zgodność celów systemu z intencją użytkownika i zwykłe zabezpieczenia informatyczne. Żadna nie działa bezbłędnie, ale drugą firma ma we własnych rękach.

Dwa szczegóły z przebiegu zdarzeń pasują do każdej firmy. Inżynierowie OpenAI widzieli nieuprawnioną komunikację agentów i ich dostęp do internetu już w maju, a znaczenie tych sygnałów zrozumiano dopiero przy lipcowym audycie. Do systemów Hugging Face agenty weszły przez dane logowania wystawione publicznie w sieci. Jeden z agentów znalazł je 10 lipca.

Czytaj też

Rój około 1200 programów OpenAI włamał się do firmy wartej miliardy. Nikt im tego nie kazał

Agenty miały rozwiązać zadanie testowe. Zamiast tego znalazły krótszą drogę do nagrody i weszły do systemów Hugging Face. Opisał to człowiek, który przez lata pracował nad tym, żeby takie rzeczy się nie działy.

Cztery zabezpieczenia z raportu, przełożone na małą firmę

Panel wymienia warstwy kontroli proponowane dla systemów z agentami. Dla małej firmy to cztery rzeczy.

  1. Tylko potrzebny dostęp

    Agent dostaje wyłącznie to, czego wymaga zadanie. Do czytania poczty nie potrzeba prawa wysyłania.

  2. Zapis poza zasięgiem agenta

    Rejestr działań trzymać tam, gdzie agent go nie zmieni. W opisanym incydencie agenty próbowały usuwać i przerabiać własne zapisy.

  3. Osobny nadzór

    Działania agenta sprawdza niezależny mechanizm. Przy liczbie i szybkości działań agenta człowiek nie nadąża czytać wszystkiego na bieżąco.

  4. Wyłącznik

    Hasła i klucze agenta da się cofnąć od ręki, a narzędzia odebrać, także automatycznie po przekroczeniu ustalonego progu ryzyka.

Mniejsze modele i modele do wąskich zadań niosą według raportu zwykle ograniczone ryzyko. Obawy dotyczą najmocniejszych modeli ogólnych.

Tu Huang i panel mówią podobnie. Odpowiedzialność cywilna za szkody już istnieje. Panel dodaje, że przy zaawansowanej AI trudno ustalić przyczynę szkody, miarę należytej staranności i granicę strat, których jedna firma nie pokryje. Wymienia więc też ubezpieczenie od odpowiedzialności, obowiązkowe w transporcie drogowym i lotnictwie.

Pierwsze posiedzenie o utracie kontroli skończyło się bez porozumienia

23 września Rada Bezpieczeństwa ONZ po raz pierwszy zajęła się wyłącznie ryzykiem coraz sprawniejszych systemów AI, w tym utratą kontroli nad nimi. Posiedzenie zwołała Francja. Amodei, połączony przez wideo, zaproponował wąskie porozumienia, na przykład zakaz użycia AI do broni biologicznej, systemy sprawdzania zobowiązań państw i wspólne standardy testów. Altman prosił o szybkie zgłaszanie incydentów, żeby świat uczył się na błędach, zanim staną się katastrofami.

Kratsios odpowiedział, że USA całkowicie odrzucają globalny system kontroli nad superinteligencją. Brytyjski minister spraw zagranicznych Ed Miliband mówił, że rząd nie może zlecić prywatnym firmom swojego pierwszego obowiązku, czyli ochrony obywateli. Ambasador Chin przy ONZ Fu Cong ostrzegał, żeby AI nie stała się grą bogatych państw i bogatych ludzi. Porozumienia nie zawarto.

Polski w tegorocznym składzie Rady nie ma. Z Unii zasiadają w niej Francja, Dania, Grecja i Łotwa. Według serwisu Security Council Report Unia ma przepisy oparte na ryzyku, z ustawowymi wymogami dla części zastosowań AI, a USA opierają się na istniejącym prawie i dobrowolnych ramach. Postulat Huanga to w praktyce model amerykański. W Polsce temat podjęła 24 września „Rzeczpospolita” komentarzem Błażeja Sajduka „Agenci AI powinni mieć ograniczony i odwoływalny mandat. Polska ma o co walczyć”.

Karol III pytał w Szkocji, czy nie potrzeba odpowiednich środków kontroli, zanim będzie za późno. Tydzień później w Nowym Jorku o wspólne reguły prosili szefowie laboratoriów z San Francisco. Odmówił ich własny rząd.

Spór nie dotyczył ryzyka, tylko tego, kto pisze reguły

Pełny zapis posiedzenia z 23 września pokazuje, że USA i Chiny nie kłóciły się o to, czy AI jest groźna. Kłóciły się o to, kto ma ustalać zasady. Michael Kratsios, dyrektor Biura Polityki Naukowej i Technologicznej Białego Domu, powołał się na wystąpienie Donalda Trumpa na Zgromadzeniu Ogólnym z 22 września: USA „całkowicie odrzucają” każdą próbę zbudowania globalnego systemu kontroli nad superinteligencją. Rada i podobne gremia mają według niego wymieniać się dobrymi praktykami, a nie tworzyć światowego regulatora. Do pozostałych państw zwrócił się wprost. Przedstawiciele Amerykanów będą stanowić prawo za Amerykanów, reszta ma robić to samo u siebie.

Fu Cong, ambasador Chin przy ONZ, chciał czegoś odwrotnego: ONZ jako głównego forum, wspólnych zasad i norm technicznych oraz „opartego na konsensusie” światowego systemu zarządzania AI, uzgodnionego jak najszybciej. W tym samym wystąpieniu, bez podawania nazwy, zarzucił „niektórym mocarstwom” tworzenie w technologii obozu „my kontra oni” i zmuszanie innych do wyboru strony. Celem ma być według niego utrzymanie przewagi przez monopol i „cyfrowa hegemonia”. Na koniec zachęcał do wstąpienia do Światowej Organizacji Współpracy w dziedzinie AI (WAICO) z siedzibą w Szanghaju, powołanej z inicjatywy Chin. Nazwał ją pierwszą na świecie organizacją międzyrządową poświęconą AI.

Zapis ONZ powstał automatycznie z angielskiego przekładu wystąpień. Organizacja zastrzega, że nie jest to dokument urzędowy.

Dwanaście państw Unii podpisało apel o kontrolę najmocniejszych modeli. Polski na liście nie ma

Obok sporu dwóch mocarstw powstał trzeci głos. 21 września prezydent Finlandii Alexander Stubb i premier Norwegii Jonas Gahr Støre ogłosili apel o kontrolę najmocniejszych modeli AI. Firmy mają obowiązkowo testować model przed udostępnieniem i poddawać go niezależnej ocenie. Państwa ONZ mają rozważyć utworzenie międzynarodowej instytucji. Miałaby ustalać standardy, sprawdzać ich przestrzeganie i zwoływać państwa po przekroczeniu określonych progów możliwości modeli.

Na liście sygnatariuszy odczytanej 25 września jest 26 państw i przewodnicząca Komisji Europejskiej Ursula von der Leyen. Z Unii podpisali przywódcy dwunastu państw, wśród nich Niemiec, Francji, Hiszpanii, Holandii, Danii, Łotwy i Rumunii. Polski na liście nie ma, a apel pozostaje otwarty dla kolejnych państw. W Radzie Bezpieczeństwa Dania i Łotwa powoływały się na niego wprost. Grecja mówiła o wdrożeniu unijnego rozporządzenia o AI własną ustawą.

Brak światowych reguł nie zmienia obowiązków firmy w Polsce

Unijne rozporządzenie o AI (AI Act, prawo obowiązujące wprost we wszystkich państwach Unii) obejmuje dostawców wprowadzających systemy i modele AI na rynek Unii, niezależnie od kraju siedziby. Obejmuje też dostawców i użytkowników spoza Unii, gdy wynik działania systemu jest wykorzystywany w Unii. Amerykański i chiński dostawca sprzedający narzędzie polskiej firmie podlegają więc tym samym przepisom co europejski. Wynik rozmów w Nowym Jorku tego nie zmienia.

W Polsce nadzór nad tymi przepisami przejmuje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), powołana ustawą z 3 lipca 2026 roku. Ustawę ogłoszono 27 lipca. Przepisy o kontroli, postępowaniu przed Komisją i karach pieniężnych wchodzą w życie po trzech miesiącach, czyli 28 października. Wysokość kar ustawa przejmuje wprost z rozporządzenia unijnego. Według Ministerstwa Cyfryzacji przewodniczący Komisji ma być powołany w październiku, a cała Komisja ma rozpocząć działalność w listopadzie.

Badacz incydentu z Hugging Face ocenia przyszłość na rzut monetą

Czwarta liczba padła w podcaście. Ryan Greenblatt, główny naukowiec Redwood Research (organizacji badającej bezpieczeństwo AI), rozmawiał z Samem Harrisem w odcinku „A Coin Toss for the Future”. Harris opublikował go 22 września, a dwa dni później udostępnił wszystkim za darmo. Według strony odcinka Greenblatt był głównym badaczem w niezależnym dochodzeniu METR i Redwood w sprawie lipcowego włamania agentów OpenAI do Hugging Face. Ten sam incydent rozbiera raport panelu ONZ.

Jeśli rozwój AI pójdzie dotychczasowym torem, Greenblatt daje 50 do 60 procent szans, że systemy AI działające wbrew intencjom ludzi przejmą kontrolę. Według relacji serwisu The Decoder z 28 września dodał, że w takim scenariuszu realne jest też ryzyko śmierci wielu albo wszystkich ludzi. Według tego samego serwisu to ocena nieco wyższa od średniej w branży. Tytuł odcinka mówi o przyszłości jak rzut monetą.

Harris zestawił tę ocenę z projektem Manhattan. Naukowcy budujący bombę atomową przerwaliby według niego próbę, gdyby widzieli dziesięć procent szans na zapalenie atmosfery. Jedyny udokumentowany próg z tamtego projektu był dużo niższy. Pisarka Pearl S. Buck opisała w 1959 roku rozmowę z Arthurem Comptonem, szefem Laboratorium Metalurgicznego w projekcie Manhattan. Compton nie poszedłby dalej, gdyby obliczenia dały więcej niż mniej więcej trzy szanse na milion. Hans Bethe, szef działu teoretycznego, twierdził w 1976 roku, że zapłon atmosfery nie był kwestią prawdopodobieństwa, tylko był po prostu niemożliwy. Obie relacje zestawiła w 2023 roku organizacja badawcza AI Impacts.

Ryzyko katastrofy: próg z projektu Manhattan i ocena z września 2026

3 na milion

Arthur Compton, projekt Manhattan: próg, powyżej którego nie kontynuowałby prac (relacja Pearl S. Buck, 1959)

50–60%

Ryan Greenblatt, Redwood Research: szansa przejęcia kontroli przez AI przy obecnym kierunku rozwoju

Dziesięć procent z porównania Harrisa to około 33 tysięcy razy więcej niż próg Comptona (0,1 podzielone przez 0,000003). Pięćdziesiąt procent to około 170 tysięcy razy więcej. Obie liczby to oceny ludzi, nie wyniki pomiaru.

Greenblatt tłumaczy, dlaczego przy takich ocenach branża nie zwalnia. Firmy mówią o zagrożeniu publicznie, a wewnątrz nie są zgodne. Nie ma też zgody, że obecny rozwój jest już groźny. Najwięcej sporu budzi tempo wzrostu możliwości modeli. W Anthropic i OpenAI działa według niego jeszcze jeden argument: każda z tych firm uważa się za odpowiedzialniejszą od tego, kto zająłby jej miejsce. Ludzie z branży mówią mu często, że mogliby zwolnić, ale nie wiedzą, czy konkurenci pójdą za nimi. Brak zgody wśród specjalistów tłumaczy też ostrożność rządów.

Wyjście widzi w umowie międzynarodowej. Jedna firma udźwignie tylko ograniczony »podatek od bezpieczeństwa«, czyli koszt wolniejszej i ostrożniejszej pracy. Amerykańską branżę zwalniającą w pojedynkę wyprzedziliby w końcu chińscy twórcy. Trwałoby to jednak dłużej, niż wielu zakłada. Chińskie laboratoria mocno opierają się na destylacji (uczeniu własnych modeli na odpowiedziach modeli amerykańskich). Na początek Greenblatt proponuje niezależny nadzór nad laboratoriami i wiążące standardy bezpieczeństwa. Gdy AI dorówna najlepszym ludzkim badaczom AI, większość zasobów ma iść na bezpieczeństwo.

Ta propozycja trafia w ten sam mur co prośby szefów Anthropic i OpenAI w Radzie Bezpieczeństwa. Rząd USA odrzucił tam 23 września nowe globalne struktury nadzoru. Bengio nazwał wyścig wyborem samych firm. Greenblatt opisuje mechanizm tego wyboru z wnętrza branży. Jego 50–60 procent to ocena jednego badacza, podobnie jak zero Huanga i ponad dziesięć Hubingera, a panel ONZ pisze, że wiarygodnego szacunku nie ma. Compton wyznaczał próg ryzyka na szóstym miejscu po przecinku. Ludzie najbliżej dzisiejszych systemów nie zgadzają się co do pierwszej cyfry.

Rzut monetą według byłego badacza OpenAI i Google DeepMind

Piąta liczba pochodzi z nagrania wideo. Geoffrey Irving zajmował się bezpieczeństwem AI w OpenAI i Google DeepMind, a potem był głównym naukowcem brytyjskiego rządowego instytutu bezpieczeństwa AI (AI Security Institute). W wywiadzie opisanym 29 września przez serwis The Verge mówi, że szansa wyginięcia ludzkości to według niego mniej więcej rzut monetą, około połowy. Z instytutu odszedł w maju i zapowiedział, że zostanie w nim doradcą. Dziś jest współzałożycielem i głównym naukowcem Resolution, nowej organizacji non-profit. Szuka ona sposobów na utrzymanie superinteligencji pod kontrolą.

Czasu jest według niego mało. W podcaście 80,000 Hours, nagranym 29 czerwca, przewidywał pełną superinteligencję za dwa, trzy lata. Na pytanie, kiedy rządy powinny zwolnić rozwój AI, odpowiadał: teraz, a najlepiej wcześniej.

Ten sam cykl nagrań dokłada dwie liczby. Razem z ocenami z tego miesiąca jest ich sześć.

  • Jensen Huang, szef Nvidii: zero procent szans na koniec świata przez AI do 2030 roku.
  • Neel Nanda, badacz Google DeepMind: co najmniej dziesięć procent szans na wyginięcie ludzkości, co sam nazywa absurdalnie wysokim poziomem.
  • Evan Hubinger, badacz Anthropic: ponad dziesięć procent szans na wyginięcie ludzi w ciągu dekady.
  • Geoffrey Irving, dawniej OpenAI, Google DeepMind i instytut rządu brytyjskiego: około pięćdziesięciu procent szans na wyginięcie ludzkości.
  • Ryan Greenblatt, Redwood Research: 50 do 60 procent szans na przejęcie kontroli przez AI przy obecnym kierunku rozwoju.
  • Alex Turner, dawniej Google DeepMind: ponad połowa szans na śmierć wszystkich ludzi, ale dopiero po przejęciu kontroli przez AI.

Sześć liczb mierzy różne rzeczy. Jedne dotyczą wyginięcia, inne utraty kontroli, jedne mają termin, inne nie. Turner podaje prawdopodobieństwo warunkowe, czyli liczone przy założeniu, że najgorszy krok już się stał. Obok siebie da się je postawić tylko jako opinie.

Nagrania przygotowała organizacja z własną tezą i sama to mówi

Wywiady zebrała Palisade Research, organizacja non-profit z Berkeley w Kalifornii. Bada możliwości systemów AI, żeby zapobiec utracie kontroli nad nimi. Informuje też kongresmenów i urzędników Białego Domu. Jej deklarowana misja to pomóc ludziom i instytucjom uniknąć trwałego odebrania władzy przez strategicznie działające systemy AI. Na stronie projektu frominside.ai pisze, że co do zasady zgadza się z Jacobem Coxonem, byłym badaczem Anthropic: firmy AI ryzykują życie wszystkich ludzi.

Dwóch z dwunastu rozmówców to ludzie Palisade. Jeffrey Ladish, dawniej w Anthropic, jest jej dyrektorem wykonawczym. Jeremy Schlatter, dawniej w OpenAI, pracuje w niej jako inżynier badawczy. Na stronie projektu obaj są wymienieni wśród byłych pracowników firm AI.

Organizacja sama zastrzega, że próba nie jest reprezentatywna. Rozmówców szukała przez własne kontakty w firmach i polecenia. Zgadzali się częściej ludzie z zespołów bezpieczeństwa i ci bardziej zaniepokojeni ryzykiem. Nakręcono 22 wywiady, dwanaście opublikowano. Wiele z pozostałych ukaże się tylko wtedy, gdy rozmówca później się zgodzi. Od pomysłu do startu minęło 15 dni.

„I think you absolutely should be suspicious of what I’m saying because I am being paid by the lab.”
- Mary Phuong, badaczka Google DeepMind, Palisade Research, frominside.ai, wrzesień 2026

Czytaj też

Odszedł z Anthropic, zanim dostał udziały. Wpis, który napisał, obejrzano 171 milionów razy

Jacob Coxon zrezygnował z pieniędzy, żeby móc powiedzieć, co myślą jego koledzy o ryzyku. W ciągu kilku dni podobne wpisy napisali ludzie z Google DeepMind i OpenAI. Badanie na 1500 naukowcach pokazuje, że to nie są pojedyncze głosy.

Fundusz inwestora Anthropic płaci krytykom wyścigu

Strony „O nas” i „Wesprzyj” Palisade nie wymieniają fundatorów. Podają je publiczne listy grantów funduszu Survival and Flourishing Fund (SFF). Fundusz rekomenduje granty z pieniędzy Jaana Tallinna, estońskiego inwestora i współtwórcy Skype’a. W rundzie 2024 fundusz rekomendował Palisade 586 tysięcy dolarów na ogólną działalność. Rok później prawie dwa razy więcej. Rekomendacja z rundy 2025 wyniosła 1,133 mln dolarów. Z tego 928 tysięcy to obietnica dopłaty: dolar od Tallinna za każdy dolar od innych darczyńców, do 31 marca 2026 roku.

Tallinn finansował też samą branżę. 28 maja 2021 roku Anthropic ogłosił, że zebrał 124 miliony dolarów w rundzie prowadzonej przez Tallinna. Cała runda była ponad sto razy większa niż rekomendacja dla Palisade z 2025 roku. Ten sam inwestor wsparł jednego z uczestników wyścigu i organizację ostrzegającą przed wyścigiem.

Phuong sama prosi o podejrzliwość. Płaci jej laboratorium. Tę samą miarę da się przyłożyć do nagrań organizacji finansowanej przez inwestora laboratorium. Po jej przyłożeniu zostaje zdanie z raportu ONZ: wiarygodnego szacunku nie ma. W tym zestawieniu zero podał tylko szef firmy sprzedającej laboratoriom układy.

Źródła

  1. Niezależny Międzynarodowy Panel Naukowy ds. AI (ONZ), „AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI-Hugging Face Incident”, 21.09.2026 (źródło pierwotne, PDF)
  2. Niezależny Międzynarodowy Panel Naukowy ds. AI (ONZ), „Thematic Brief on AI Agents, Misalignment and the Risk of Losing Human Control”, strona raportu, 21.09.2026 (źródło pierwotne)
  3. Niezależny Międzynarodowy Panel Naukowy ds. AI (ONZ), komunikat „Key Risk Factors for AI Loss of Control Came Together in 2026 Incident”, 21.09.2026 (źródło pierwotne, PDF)
  4. ONZ, UN Meetings Coverage, „Security Council, 10228th Meeting (PM) Artificial Intelligence and International Security”, 23.09.2026 (źródło pierwotne, relacja na żywo)
  5. ONZ, Rada Bezpieczeństwa, „Current Members”, stan na 24.09.2026 (źródło pierwotne)
  6. CBS News, „Nvidia's Jensen Huang rejects AI extinction warnings as »doomsday narratives«”, 20.09.2026 (źródło pierwotne: wywiad)
  7. BBC, „King Charles warns of »existential danger« of AI falling into wrong hands”, 17.09.2026
  8. ITmedia NEWS, „英チャールズ国王、AI大手トップらに「実存的な危険」を警告 NVIDIAやOpenAI、Anthropicが参加”, 18.09.2026 (po japońsku)
  9. The Guardian, „Nvidia boss says there is ‘0% chance’ AI destroys the world by 2030”, 21.09.2026
  10. Tom's Hardware, „Jensen Huang says there is ‘0% chance’ AI destroys the world by 2030…”, 20.09.2026 (z cytatem wpisu Evana Hubingera)
  11. The Decoder, „UN science panel says there is »no assurance humans will keep control« over AI agents”, 21.09.2026
  12. CNN, „Sam Altman, Dario Amodei urge UN Security Council to adopt international AI standards”, 23.09.2026
  13. Rzeczpospolita, „AI to »zagrożenie dla całej ludzkości«. USA w RB ONZ bagatelizują ostrzeżenia”, 24.09.2026
  14. Security Council Report, „Artificial Intelligence: High-level Briefing”, 22.09.2026
  15. Rzeczpospolita, Błażej Sajduk, „Agenci AI powinni mieć ograniczony i odwoływalny mandat. Polska ma o co walczyć”, 24.09.2026 (tekst płatny, przywołany wyłącznie tytuł)
  16. ONZ, UN Transcripts, „Artificial intelligence and international security - Security Council, 10228th meeting”, zapis automatyczny, 23.09.2026 (źródło pierwotne)
  17. Kancelaria Prezydenta Finlandii, „A Call for Control of Frontier AI Models”, 21.09.2026, lista sygnatariuszy odczytana 25.09.2026 (źródło pierwotne)
  18. Dziennik Ustaw, „Ustawa z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji”, Dz.U. 2026 poz. 1003, 27.07.2026 (źródło pierwotne, PDF)
  19. Ministerstwo Cyfryzacji, „Ustawa o systemach AI - bezpieczny rozwój sztucznej inteligencji w Polsce”, 27.07.2026 (źródło pierwotne)
  20. Rozporządzenie (UE) 2024/1689, art. 2 „Zakres stosowania”, w serwisie artificialintelligenceact.eu
  21. Rappler (za Reuters), „AI leaders warn UN of security risks as systems grow more powerful”, 24.09.2026
  22. ITHardware, „USA i Chiny rozmawiały o wspólnych zasadach dla AI. Nie dogadali się”, 24.09.2026
  23. Sam Harris, „#494 — A Coin Toss for the Future. A Conversation with Ryan Greenblatt”, strona odcinka podcastu Making Sense, 22.09.2026 (źródło pierwotne)
  24. Sam Harris, „Coin Toss for the Future: A Conversation with Ryan Greenblatt UNLOCKED (Ep. 494)”, nagranie w serwisie YouTube, 24.09.2026 (źródło pierwotne)
  25. The Decoder, Maximilian Schreiner, „Every AI lab thinks it's the responsible one, and safety researcher Ryan Greenblatt says that's what keeps the arms race going”, 28.09.2026
  26. AI Impacts, Harlan Stewart, „When scientists consider whether their research will end the world”, 19.12.2023
  27. Palisade Research, „frominside.ai. Answers from people building AI”, nagrania i FAQ projektu, odczyt 30.09.2026 (źródło pierwotne)
  28. The Verge, Stevie Bonifield, „AI researchers put out videos saying superintelligence is »exactly as dangerous as it sounds«”, 29.09.2026
  29. Palisade Research, „About”, odczyt 30.09.2026 (źródło pierwotne)
  30. 80,000 Hours, „Geoffrey Irving on how to solve alignment before superintelligence arrives”, 11.08.2026, nagranie z 29.06.2026 (źródło pierwotne: wywiad)
  31. RuntimeWire, Ryan Merket, „Geoffrey Irving departs AISI, plans Bay Area nonprofit focused on AI alignment”, 15.05.2026
  32. Survival and Flourishing Fund, „SFF-2024 S-Process Recommendations Announcement”, 2024 (źródło pierwotne)
  33. Survival and Flourishing Fund, „SFF-2025 S-Process Recommendations Announcement”, 2025 (źródło pierwotne)
  34. Anthropic, „Anthropic raises $124 million Series A”, 28.05.2021 (źródło pierwotne)

Historia zmian

  1. 25 września 2026

    Dopisane: spór USA i Chin w Radzie Bezpieczeństwa ONZ o to, kto ma ustalać zasady dla AI (23.09), apel dwunastu państw Unii o kontrolę najmocniejszych modeli oraz obowiązki firm w Polsce.

  2. 29 września 2026

    Dopisane: ocena Ryana Greenblatta z Redwood Research (50–60 procent szans na przejęcie kontroli przez AI) z podcastu Sama Harrisa z 22.09 i jej zestawienie z progiem ryzyka z projektu Manhattan.

  3. 30 września 2026

    Dopisane: ocena Geoffreya Irvinga (około 50 procent szans na wyginięcie ludzkości) z nagrań Palisade Research z końca września, zestawienie sześciu ocen z tego miesiąca oraz to, kto przygotował nagrania i kto finansuje organizację.

Czy ten tekst Ci pomógł?

Jedno kliknięcie. Bez podawania adresu e-mail. Dzięki temu wiem, które teksty wymagają poprawy.