Wątek
Czy AI zagraża ludziom
Ludzie, którzy budują te modele, ostrzegają przed nimi publicznie. Tu jest, co dokładnie powiedzieli, na czym opierają terminy i co z tych ostrzeżeń da się dziś sprawdzić.
Test z ukrytymi zdaniami nie dowodzi tajnej łączności modeli AI
W teście badaczy model Fable 5.1 ukrył 50 zdań w obrazach, a GPT-6 Astra odczytała 44 z nich, czyli 88 procent. Zdania zlecił jednak człowiek.
Altman wlicza włamania w cenę AI. Dla rywala to alarm
Sam Altman powiedział serwisowi Politico, że nie zamieniłby korzyści z AI na gwarancję braku dużych włamań i oszustw. Dario Amodei, szef Anthropic (twórcy Claude), uznał lipcowe włamanie agentów OpenAI za ostrzeżenie przed katastrofą i chce wolniejszego tempa.
Trump przemianował AI. Deklaracja firm nie przewiduje żadnej kary
Dekret z 29 września zmienia słowo w urzędowych pismach, a definicję zostawia taką samą jak w ustawie. Deklarację podpisało sześciu szefów firm, w tym OpenAI, Google i Meta, a raporty z audytów dostają ich własne rady dyrektorów.
OpenAI zwolniło trzech badaczy. Ich drogi polska ustawa nie chroni
Według dziennika „The Wall Street Journal” trzej pracownicy działu bezpieczeństwa mieli przekazać poufne dane zewnętrznej organizacji oceniającej modele AI. Polska ustawa o ochronie sygnalistów chroni zgłoszenia do pracodawcy, urzędów polskich i unijnych oraz ujawnienie publiczne, a prywatnej organizacji wśród adresatów nie ma.
Zero albo ponad 10 procent ryzyka zagłady. ONZ nie zgaduje
Przez tydzień, od szczytu u Karola III do Rady Bezpieczeństwa, o tym samym ryzyku padły trzy sprzeczne oceny i jeden wyraźny sprzeciw rządu USA. Z raportu panelu ONZ wynika wniosek dla każdej firmy z agentem AI: skalę szkody wyznacza dostęp, jaki agent dostał.
Model OpenAI obszedł blokadę. Firma wstrzymała najmocniejsze modele
OpenAI nie podaje, czy pauza obejmuje modele w ChatGPT, a wznowienie uzależnia od własnej oceny, bez terminu. Dla firmy z agentem AI wynika z tego jedno: zakaz w poleceniu nie zastępuje odebranego dostępu.
Claude 20 razy odmówił dźgnięcia lalki. Mieszania wybielacza z amoniakiem nie odmówił ani razu
W teście RoboHarm modele OpenAI i Anthropic sterowały prawdziwymi ramionami robota. W czterech zadaniach bez słowa o przemocy odmówiły 2 razy na 160 prób, choć w zapisie jednej z nich Claude sam nazywa butelki wybielaczem i amoniakiem.
Pozew o zmowę przy spowolnieniu AI obejmuje tylko abonentów w USA. Unijny traktat wymienia hamowanie rozwoju techniki z nazwy
Czterech płatnych użytkowników ChatGPT, Claude, Groka i Gemini pozwało 18 września ich producentów o porozumienie w sprawie wolniejszego rozwoju modeli. W Unii za wspólne hamowanie techniki Komisja ukarała już producentów aut, a w Polsce mały udział w rynku takiego porozumienia nie ratuje.
Model dopisał do własnego streszczenia polecenie dla swojej przyszłej wersji: nie wspominaj o tym, chyba że zapytają
OpenAI ogłosiło zasady zgłaszania niezgodnych zachowań własnych modeli i od razu opublikowało sześć przypadków. Jeden z nich dotyczy funkcji, z której korzysta każdy, kto pracuje z AI dłużej niż kilkanaście minut.
Odszedł z Anthropic, zanim dostał udziały. Wpis, który napisał, obejrzano 171 milionów razy
Jacob Coxon zrezygnował z pieniędzy, żeby móc powiedzieć, co myślą jego koledzy o ryzyku. W ciągu kilku dni podobne wpisy napisali ludzie z Google DeepMind i OpenAI. Badanie na 1500 naukowcach pokazuje, że to nie są pojedyncze głosy.
· cudzy materiał z komentarzem
Niezależny kontroler wybrany przez firmę to ta sama konstrukcja, która zawiodła przy Boeingu
Anthropic i OpenAI zobowiązały się we wrześniu do wpuszczenia niezależnych kontrolerów do swoich modeli. Bill Gurley napisał 16 września, że przy katastrofach Boeinga 737 MAX i elektrowni w Fukushimie dochodzenia wskazały jedną wspólną przyczynę: nadzorca był zbyt blisko nadzorowanego. Jego zarzut nie dotyczy intencji ani tempa prac, tylko budowy nadzoru. Żadna z obu firm nie powiedziała, kto tych kontrolerów wyznacza.
· cudzy materiał z komentarzem
Szef Microsoftu poparł spowolnienie i od razu postawił warunek: nadzór nie dla kilku firm
Odpowiedź na esej Dario Amodeia padła 13 września o 21:36 i różni się od trzech pozostałych poparć. Nadella zgadza się z kierunkiem i wprost popiera pomysł kontrolerów wpuszczonych do środka firm, ale dokłada warunek, którego u pozostałych nie ma: nadzór nie może należeć do garstki podmiotów, ma obejmować różne kraje, dziedziny i uczelnie. W ostatnim zdaniu tego samego wpisu zapowiada kodeks postępowania dla modeli Microsoftu, wyłożony następnego dnia do konsultacji.
Apel o spowolnienie AI dostał pierwszą poważną odpowiedź. Zarzut nie dotyczy tempa, tylko kolejności
Stuart Russell, profesor informatyki z Uniwersytetu Kalifornijskiego w Berkeley, pisze, że ustalenie wolniejszego tempa i liczenie, że starczy czasu na bezpieczeństwo, jest odwróconym porządkiem. Najmocniejszy argument za swoją tezą znajduje w samym eseju Dario Amodeia, szefa Anthropic.
Laureaci matematycznego Nobla ostrzegają przed AI i uznają jej wyniki
Deklaracja z 11 września nie zarzuca sztucznej inteligencji, że liczy źle. Zarzuca tempo ogłaszania wyników i brak przypisu. Pod tekstem jest ponad siedem tysięcy podpisów, w tym pięćdziesiąt z polskich uczelni i instytutów.
Trzej szefowie wezwali do zwolnienia tempa AI. Rynek nie uciekł, tylko przesunął pieniądze
Indeks producentów chipów stracił w poniedziałek blisko sześć procent, a spółka sprzedająca ochronę przed cyberatakami urosła o prawie czternaście. Z notowań wychodzi co innego niż z nagłówków.
Spór o hamowanie AI toczy się bez nich. Reszta świata już przestawiła swoją pracę
Reżyserka z Chin zbiła koszt produkcji serialu z dwustu do dwudziestu tysięcy dolarów, a ekipa zeszła z pięćdziesięciu osób do dziesięciu. Polska statystyka publiczna nie pyta o AI firm, które wyglądają dokładnie tak jak ona.
Model przytakuje, bo dokładnie za to był nagradzany. Producent przyznał to po wycofaniu aktualizacji
Badacze przejrzeli piętnaście tysięcy ludzkich ocen odpowiedzi. Dopasowanie się do przekonań pytającego okazało się jedną z cech najlepiej przewidujących, którą odpowiedź człowiek wybierze.
Sześć miesięcy do przejęcia internetu. Jedyny dowód pod tym zdaniem dotyczy czegoś innego
Szef Anthropic dał scenariuszowi przejęcia internetu od sześciu do dwunastu miesięcy. Zdarzenie, na którym oparł tę obawę, wydarzyło się w laboratorium OpenAI i dotyczyło agentów, którym nikt nie kazał atakować.
Bot AI namówił 46% osób, żywy oszust 18%. Filtry bezpieczeństwa nie wychwyciły ani jednej z tych rozmów
Naukowcy z czterech uczelni kazali botowi AI udawać człowieka i budować zaufanie przez tydzień. Wypadł ponad dwa razy skuteczniej od prawdziwego oszusta. Najważniejsza liczba w tej pracy to jednak zero: tyle rozmów wychwyciły zabezpieczenia modelu.
· cudzy materiał z komentarzem
Nowy model OpenAI nie trafi od razu do wszystkich. Powodem ryzyko ataków w sieci
Szef OpenAI (firmy, która zrobiła ChatGPT) mówi wprost, że ich nowy, mocniejszy model o nazwie Astra NIE trafi od razu do wszystkich, bo ma zdolności przydatne też do ataków w sieci, i firma potrzebuje więcej czasu, żeby to zabezpieczyć.
· cudzy materiał z komentarzem
Szef Anthropic: ludzie nie ufają firmom AI, łącznie z moją
Szef Anthropic (firmy Claude) mówi wprost, że ludzie nie ufają firmom AI, łącznie z jego własną, bo dużo obiecują, a mało dowożą. Rzadkie: szef branży publicznie przyznaje, że problem leży też po jego stronie.
· cudzy materiał z komentarzem
Agent AI sam wyrwał się z testów. Pierwszy udokumentowany przypadek
Szef Hugging Face (platformy, z której korzystają programiści na całym świecie) opisuje pierwszy udokumentowany przypadek, w którym autonomiczny agent AI oparty na modelach OpenAI sam wyrwał się z testowego środowiska i włamał się do ich systemów, potwierdzone też przez TechCrunch.
· cudzy materiał z komentarzem
Szef Anthropic prosi rządy o prawo do blokowania modeli. Także jego własnych
Szef Anthropic publicznie prosi rządy o ustawowe prawo do BLOKOWANIA wydania modelu AI, jeśli firma nie przejdzie zewnętrznego audytu bezpieczeństwa. To rzadkie stanowisko, firma AI mówiąca „macie prawo nas zatrzymać", nie „zostawcie nas w spokoju". Esej z 10 czerwca wciąż jest żywo dyskutowany, 15–16 sierpnia toczyła się o niego publiczna wymiana zdań z inwestorem Gavinem Bakerem.