Model Mety wymaga 700 GB pamięci, jego rywal 48 GB

Karta modelu Muse Spark Open firmy Meta z 15 października, czyli jego opis techniczny, podaje, że potrzebuje on co najmniej 700 GB pamięci karty graficznej. Model ma otwarte wagi, czyli pliki do pobrania i uruchomienia u siebie. Meta pokazuje go na dwóch komputerach Apple Mac Studio z łączną pamięcią terabajta (1000 GB). Sześć dni później firma Recursive wypuściła Flinta, darmowy model AI do programowania. Według serwisu i-SCOOP działa on offline na laptopie z 48 GB. Różnica jest ponad czternastokrotna.

Muse Spark Open ma 816 miliardów parametrów, czyli liczb ustalonych podczas uczenia modelu. Wymóg 700 GB dotyczy całego modelu, a nie tylko 42 miliardów parametrów aktywnych naraz.

Wymóg dotyczy wersji NVFP4, zapisanej z mniejszą dokładnością liczb. Pełna wersja potrzebuje 2 TB. Dlatego Meta wskazuje dwa komputery Mac Studio z układem M5 Ultra. Mają one pamięć wspólną dla procesora i karty graficznej, więc według serwisu o Apple 9to5Mac z 15 października każdy może oddać karcie graficznej do 512 GB. Jeden nie wystarczy.

Według polskiego serwisu iMagazine z 26 sierpnia Mac Studio z układem M5 Ultra kosztuje w Polsce od 27 999 zł i ma w tej cenie 96 GB pamięci. Dwie takie sztuki to 55 998 zł i 192 GB, mniej niż jedna trzecia potrzebnej ilości. Za mało.

Wersja z 512 GB pojawi się według polskiego serwisu AIPORT dopiero pod koniec października. AIPORT nie podaje jej ceny. Według iMagazine maksymalnie doposażony Mac Studio przekroczy 100 000 zł, więc dwie sztuki kosztowałyby ponad 200 000 zł.

Alternatywą jest wynajem. Według polskiego serwisu ITwiz z 19 października Meta udostępnia Muse Spark Open przez platformy API, czyli usługi dostępne przez internet, w tym Groq, OpenRouter i Together AI. Blog MindStudio podaje u wielu dostawców jedną stawkę: 1,25 USD za milion tokenów wejściowych (tekstu wysyłanego do modelu) i 4,25 USD za milion wyjściowych (odpowiedzi). Token to fragment tekstu. Kod i dokumenty trafiają wtedy na cudzy serwer.

Flint, model firmy Recursive z 21 października, działa na komputerze użytkownika, więc nie potrzebuje internetu (portal TechCrunch).

Wymóg 48 GB podaje serwis i-SCOOP z 22 października. Według TechCrunch Will Knight z magazynu Wired uruchomił Flinta na Macu z 48 GB pamięci i zbudował kilka małych programów. Karta modelu Flinta liczby 48 GB nie wymienia, a instrukcja pobrania mówi o około 80 GB plików. Przed zakupem sprzętu trzeba to sprawdzić.

Według TechCrunch Flint generuje około 131 tokenów na sekundę na MacBooku Pro z układem M4 Pro. Według MindStudio Apple miał zmierzyć dla Muse Spark Open na dwóch Mac Studio około 25. Pomiary pochodzą z różnych źródeł i dotyczą różnego sprzętu.

Według karty modelu Muse Spark Open ma wykonywać zadania agentowe od początku do końca, czyli planować wiele kroków, wywoływać narzędzia i naprawiać własne błędy. Flint jest węższy. Jego karta wymienia przeglądanie kodu, naprawianie błędów, dopisywanie funkcji i pisanie testów. Według i-SCOOP Flint czyta tylko tekst, a jego wiedza kończy się w czerwcu 2026.

Karta Flinta zaznacza krzyżykiem wyniki zmierzone przez Recursive. Pozostałe wyniki porównawcze podali twórcy tamtych modeli. Serwis o AI The Decoder zaznacza, że wyniki Flinta nie zostały jeszcze niezależnie potwierdzone.

Relację z użycia przytacza TechCrunch. Według Willa Knighta mniejsze modele do kodu często się myliły albo działały wolno w porównaniu z Claude od Anthropic i Codex od OpenAI, a Flint spełnił jego prośby za każdym razem. To jedna relacja. Recursive przyznaje, że Flint może wymagać więcej wskazówek niż większe modele zamknięte.

Karta Muse Spark Open podaje, że model uczono na danych z ponad 100 języków, ale zastrzega, że nie był oceniany we wszystkich. Polski nie pada w niej z nazwy. Karta Flinta w ogóle nie wymienia języków. Polski serwis Techflux radzi w poradniku o uruchamianiu modeli lokalnie, by sprawdzić model po polsku na własnych pytaniach, bo jakość w tym języku bywa różna.

• Muse Spark Open, napis: licencja Meta wymaga widocznego napisu „Built with Muse Spark Open” w interfejsie każdego produktu lub usługi korzystającej z modelu albo jego pochodnych, albo w dokumentacji, na stronie lub w menu ustawień.
• Muse Spark Open, usługi API: kto udostępnia modele AI osobom trzecim jako usługę przez API (Model as a Service) i ma przychód powyżej 20 milionów dolarów w dowolnych dwunastu miesiącach, musi powiadomić Meta i zawrzeć z nią osobną umowę pisemną. Zapis nie dotyczy użytku wewnętrznego ani badań.
• Flint: licencja Apache 2.0 zezwala na darmowe użycie i modyfikację (TechCrunch).
• Unijne rozporządzenie o AI (AI Act): Komisja Europejska podaje, że weszło w życie 1 sierpnia 2024, a stosuje się od 2 sierpnia 2026, z wyjątkami. Zakazane praktyki i obowiązki dotyczące AI literacy, czyli umiejętności obsługi AI, obowiązują od 2 lutego 2025.
• AI Act, opinia: serwis ŁowcyAI uważa (to jego opinia, nie stanowisko urzędu), że firma uruchamiająca lokalny model staje się operatorem. Musi zapewnić pracownikom szkolenie z obsługi AI (art. 4), monitorować działanie systemu, nie stosować go do celów zakazanych i prowadzić dokumentację użycia.