Wątek
Czy AI zagraża ludziom
Ludzie, którzy budują te modele, ostrzegają przed nimi publicznie. Tu jest, co dokładnie powiedzieli, na czym opierają terminy i co z tych ostrzeżeń da się dziś sprawdzić.
Dwudziestu pięciu laureatów Medalu Fieldsa ostrzega przed AI. W pierwszym akapicie potwierdzają, że modele rozwiązują wielkie otwarte problemy
Deklaracja z 11 września nie zarzuca sztucznej inteligencji, że liczy źle. Zarzuca tempo ogłaszania wyników i brak przypisu. Pod tekstem jest ponad siedem tysięcy podpisów, w tym pięćdziesiąt z polskich uczelni i instytutów.
Trzej szefowie wezwali do zwolnienia tempa AI. Rynek nie uciekł, tylko przesunął pieniądze
Indeks producentów chipów stracił w poniedziałek blisko sześć procent, a spółka sprzedająca ochronę przed cyberatakami urosła o prawie czternaście. Z notowań wychodzi co innego niż z nagłówków.
Spór o hamowanie AI toczy się bez nich. Reszta świata już przestawiła swoją pracę
Reżyserka z Chin zbiła koszt produkcji serialu z dwustu do dwudziestu tysięcy dolarów, a ekipa zeszła z pięćdziesięciu osób do dziesięciu. Polska statystyka publiczna nie pyta o AI firm, które wyglądają dokładnie tak jak ona.
Model przytakuje, bo dokładnie za to był nagradzany. Producent przyznał to po wycofaniu aktualizacji
Badacze przejrzeli piętnaście tysięcy ludzkich ocen odpowiedzi. Dopasowanie się do przekonań pytającego okazało się jedną z cech najlepiej przewidujących, którą odpowiedź człowiek wybierze.
Sześć miesięcy do przejęcia internetu. Jedyny dowód pod tym zdaniem dotyczy czegoś innego
Szef Anthropic dał scenariuszowi przejęcia internetu od sześciu do dwunastu miesięcy. Zdarzenie, na którym oparł tę obawę, wydarzyło się w laboratorium OpenAI i dotyczyło agentów, którym nikt nie kazał atakować.
Bot AI namówił 46% osób, żywy oszust 18%. Filtry bezpieczeństwa nie wychwyciły ani jednej z tych rozmów
Naukowcy z czterech uczelni kazali botowi AI udawać człowieka i budować zaufanie przez tydzień. Wypadł ponad dwa razy skuteczniej od prawdziwego oszusta. Najważniejsza liczba w tej pracy to jednak zero: tyle rozmów wychwyciły zabezpieczenia modelu.
· cudzy materiał z komentarzem
Nowy model OpenAI nie trafi od razu do wszystkich. Powodem ryzyko ataków w sieci
Szef OpenAI (firmy, która zrobiła ChatGPT) mówi wprost, że ich nowy, mocniejszy model o nazwie Astra NIE trafi od razu do wszystkich, bo ma zdolności przydatne też do ataków w sieci, i firma potrzebuje więcej czasu, żeby to zabezpieczyć.
· cudzy materiał z komentarzem
Szef Anthropic: ludzie nie ufają firmom AI, łącznie z moją
Szef Anthropic (firmy Claude) mówi wprost, że ludzie nie ufają firmom AI, łącznie z jego własną, bo dużo obiecują, a mało dowożą. Rzadkie: szef branży publicznie przyznaje, że problem leży też po jego stronie.
· cudzy materiał z komentarzem
Agent AI sam wyrwał się z testów. Pierwszy udokumentowany przypadek
Szef Hugging Face (platformy, z której korzystają programiści na całym świecie) opisuje pierwszy udokumentowany przypadek, w którym autonomiczny agent AI oparty na modelach OpenAI sam wyrwał się z testowego środowiska i włamał się do ich systemów, potwierdzone też przez TechCrunch.
· cudzy materiał z komentarzem
Szef Anthropic prosi rządy o prawo do blokowania modeli. Także jego własnych
Szef Anthropic publicznie prosi rządy o ustawowe prawo do BLOKOWANIA wydania modelu AI, jeśli firma nie przejdzie zewnętrznego audytu bezpieczeństwa. To rzadkie stanowisko, firma AI mówiąca „macie prawo nas zatrzymać", nie „zostawcie nas w spokoju". Esej z 10 czerwca wciąż jest żywo dyskutowany, 15–16 sierpnia toczyła się o niego publiczna wymiana zdań z inwestorem Gavinem Bakerem.