Technologia·5 listopada 2026·4 min

AI naprawiła w innej AI jedną usterkę. Wynik wzrósł sześciokrotnie

Autorzy z MIT CSAIL, laboratorium informatyki i sztucznej inteligencji amerykańskiej uczelni technicznej, pozwolili GPT-6 Astra zmienić niewielki ułamek wag modelu Qwen3.5-0.8B. Jego wynik w teście MATH-500 wzrósł z 7,9 do 48,1 procent, a autorzy przypisują to usunięciu zapętleń.

Centrum danych z lotu ptaka
Zdjęcie ilustracyjne

Na skróty

  • Autorzy z MIT CSAIL opisali 2 listopada na blogu zmianę 131 072 z 0,8 miliarda wag modelu Qwen3.5-0.8B, czyli 0,016 procent.
  • Zmiany dokonał model GPT-6 Astra firmy OpenAI, bez treningu i bez informacji o gradientach.
  • Wynik modelu w teście matematycznym MATH-500 wzrósł z 7,9 do 48,1 procent, a odsetek odpowiedzi w tym teście dobijających do limitu długości spadł z 93 do 33 procent.
  • Autorzy zaznaczają, że edycja wag nie mogła dodać umiejętności, jakiej modelowi brakowało.
  • W modelu Gemma 3 270M metoda nie dała poprawy: według serwisu ai-tldr wynik wzrósł z 6,8 do najwyżej 7,7.
  • Krytycy cytowani przez R&D World widzą w metodzie standardową inżynierię uczenia maszynowego.

Według wpisu na blogu czterech autorów z MIT CSAIL (laboratorium informatyki i sztucznej inteligencji amerykańskiej uczelni technicznej) model GPT-6 Astra firmy OpenAI zmienił część wag, czyli liczb tworzących mały model Qwen3.5-0.8B, bez treningu. Wynik tego modelu w teście matematycznym MATH-500 wzrósł z 7,9 do 48,1 procent. Według autorów poprawiono jedną usterkę: zapętlenia.

Astra dostała środowisko języka programowania Python z dostępem do wag oraz zadania do ćwiczeń. Podany wynik dotyczy wariantu z budżetem 50 przebiegów, czyli uruchomień modelu. Nie wolno jej było trenować modelu ani korzystać z gradientów, czyli wskazówek, jak zmienić każdą wagę. Zadań testowych nie widziała.

Wagi można porównać do pokręteł w ogromnym mikserze dźwięku, ustawionych tak, by całość brzmiała sensownie. Zwykle ustawia je trening: komputer wielokrotnie przekręca pokrętła i sprawdza, czy brzmi lepiej. Tu go pominięto. Według wpisu Astra odczytała wagi i zmieniła 131 072 z 0,8 miliarda, czyli 0,016 procent.

Wzrost wziął się z usunięcia zapętleń

Według autorów Astra wskazała źródło zapętleń: jeden wzorzec zapisywany przez dwie warstwy modelu. Zapętlanie oznacza, że model powtarza tekst, aż wyczerpie dozwoloną długość odpowiedzi. Według serwisu R&D World w pierwszych 96 odpowiedziach do ćwiczeń 85 dobiło do limitu. Model rzadko dochodził do odpowiedzi.

Qwen3.5-0.8B przed edycją i po niej, 50 przebiegów, dane autorów

7,9% → 48,1%

wynik w teście MATH-500

93% → 33%

odpowiedzi w MATH-500 dobijające do limitu 32 768 tokenów (token to kawałek słowa)

Przy 10 i 25 przebiegach pętle prawie nie zniknęły. Przy 50 co trzecia odpowiedź nadal dobija do limitu, więc zapętlenia usunięto tylko częściowo (autorzy, The Decoder).

„Edycja wag mogła usunąć przeszkodę zasłaniającą umiejętność, ale nie mogła dodać umiejętności, jakiej modelowi brakowało.”
- autorzy wpisu z MIT CSAIL, blog autorów, 2.11.2026 (tłumaczenie redakcji)

Według VentureBeat to forma naprawy modelu.

W innych zadaniach wyniki są mieszane

Według wpisu autorów w eksperymencie z grą sieć neuronowa, czyli model AI do gry, wygenerowana przez Astrę po 50 przebiegach wypadła lepiej niż sieć tej samej wielkości, wytrenowana na 20 milionach gier. Tu metoda zadziałała.

Drugi eksperyment poszedł gorzej. Astra miała poprawić model Gemma 3 270M. Według autorów znalazła w nim zwykłe błędy rozumowania, a żadna zmiana nie podniosła wyniku w MATH-500 o więcej niż około punkt. Serwis ai-tldr podaje wzrost z 6,8 do najwyżej 7,7. Według ai-tldr Astra nie rozpoznała też po samych wagach przytakującego użytkownikowi wariantu Gemmy wśród kilku dostrojonych wersji.

Krytycy widzą w tym zwykłą inżynierię

Wpis krytykują dwaj programiści, cytowani przez serwis R&D World. Matthew Honnibal zarzuca, że pod jednym hasłem zestawiono eksperymenty z różnym dostępem do narzędzi. Sean Goedecke ocenia, że to zastosowanie steeringu, czyli istniejącej techniki zmiany zachowania modelu.

Autorzy sami zaznaczają, że możliwości są nadal ograniczone przez nieefektywność w zakresie długości kontekstu (ilość tekstu, jaką model obejmuje naraz) i narzędzi pomocniczych.

Czytaj też

Test z ukrytymi zdaniami nie dowodzi tajnej łączności modeli AI

W teście badaczy model Fable 5.1 ukrył 50 zdań w obrazach, a GPT-6 Astra odczytała 44 z nich, czyli 88 procent. Zdania zlecił jednak człowiek.

Źródła

  1. Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab (MIT CSAIL), „Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights”, 02.11.2026 (źródło pierwotne, wpis na blogu)
  2. VentureBeat, „Like gene editing for neural networks: MIT researchers used GPT-6 Astra to edit Qwen's open weights directly”, 02.11.2026
  3. R&D World, „MIT team says GPT-6 Astra can fix an AI model by editing its weights; critics say the method was standard ML engineering”, 03.11.2026
  4. The Decoder, „GPT-6 Astra sees the matrix and reprograms other AI models directly through their weights”, 04.11.2026
  5. ai-tldr.dev, o wpisie MIT CSAIL o programowaniu w przestrzeni wag, 02.11.2026

Czy ten tekst Ci pomógł?

Jedno kliknięcie. Bez podawania adresu e-mail. Dzięki temu wiem, które teksty wymagają poprawy.