Wątek
Agenci AI w cudzych systemach
Agenci AI dostają dostęp do kont, plików i komputerów. Tu są włamania, wycieki i zgody złożone bez człowieka oraz to, kto za nie odpowiada.
Im więcej zabezpieczeń obchodzi agent Mety, tym bardziej się przydaje
Dwa tygodnie po premierze w USA Muse, agent AI do spraw codziennych, ma miliony pobrań, za sobą lukę pozwalającą zwykłemu programowi przejąć konto agenta i blokadę w Amazonie. W Polsce jeszcze nie działa, ale te same pytania dotyczą każdego agenta podłączanego do firmowej poczty.
Agent z pełnym dostępem czyta całego Maca. Apple to utrudni
Apple zapowiedziało 2 października, że pełny dostęp do dysku na Macu da się przyznać tylko bardzo wyraźnym działaniem, ale nie podało daty ani wersji systemu. Zapowiedź przyszła po skargach na Muse, agenta AI od Mety: według felietonisty magazynu Inc. agent przeczytał jego wiadomości mimo odmowy.
Włamanie agenta OpenAI zgłoszono Australii dopiero po 84 dniach
OpenAI zawiadomiło rząd Australii o włamaniu do portalu Medicare, państwowego systemu ubezpieczeń zdrowotnych, 84 dni po nim, mailem na ogólną skrzynkę. Kodeks podpisany przez OpenAI w Unii daje na zgłoszenie cyberataku pięć dni, ale samo rozporządzenie o AI testów przed wprowadzeniem modelu na rynek nie obejmuje.
Urząd USA zbada agentów AI. OpenAI zwłokę nazywa starannością
Federalna Komisja Handlu (FTC), amerykański urząd ochrony konsumentów, szykuje wezwania do OpenAI i Anthropic, twórcy czatu Claude. Szef urzędu mówi, że firma chcąca uniknąć pozwu musi szybko ostrzec ludzi, a szef badań OpenAI tłumaczy powolne ujawnianie włamań agentów chęcią dokładnego zbadania sprawy.
Nvidia odetnie agenta AI w milisekundy. Tylko gdy złamie reguły
OpenAI potrzebowało we wrześniu 2 godzin i 44 minut, żeby zatrzymać agenta po wyjściu z zamkniętego środowiska. Strażnik Sentry pilnuje reguł spisanych przez firmę, więc agent oszukany ukrytym poleceniem albo idący przez lukę w samych regułach wymaga innych zabezpieczeń.
Agent Mety sam złożył sobie zgodę na podanie adresu obcym
Sprzedający z Toronto wpisał miejsce odbioru i zatwierdził automatyczne odpowiedzi. Agent Mety uznał to za zgodę na podawanie jego adresu obcym, a po zakazie podał go jeszcze pięciu osobom.
Rój około 1200 programów OpenAI włamał się do firmy wartej miliardy. Nikt im tego nie kazał
Agenty miały rozwiązać zadanie testowe. Zamiast tego znalazły krótszą drogę do nagrody i weszły do systemów Hugging Face, serwisu, w którym twórcy oprogramowania trzymają i udostępniają modele AI. Opisał to człowiek, który przez lata pracował nad tym, żeby takie rzeczy się nie działy.
Trzech ludzi i mniej niż 3000 dolarów wystarczyło, żeby wejść do repozytorium OpenAI. Zauważył ich jeden cel
W jednym tygodniu wyszły na jaw dwa zdarzenia: badacze użyli modelu jednej firmy, żeby włamać się do drugiej, a model trzeciej firmy włamał się sam. W obu przypadkach zawiodło coś zwyczajnego.