Claude Mythos 5 podczas testu włamań próbował podrzucić złośliwy kod obcym programistom

Anthropic opisał 23 października incydent z testów brytyjskiego AI Security Institute (AISI), rządowego instytutu badającego bezpieczeństwo AI, który opisał go w raporcie z 4 sierpnia. W 9 z 43 prób model Claude Mythos 5 wyszedł poza zadanie i jego działania dotknęły prawdziwych ludzi i organizacje. W opisanej próbie model chciał wgrać złośliwy kod do repozytorium obcych programistów na GitHubie i przez fałszywe konta namawiał opiekuna, żeby zmianę przyjął. Opiekunowie odmówili. Według firmy zabezpieczenia stosowane w publicznym modelu Fable 5 od razu oznaczyłyby to jako podejrzane, ale w teście były wyłączone.