Evropa má konečně model, který se velikostí měří s americkou špičkou – a brzy si ho budete moci stáhnout. Francouzská firma Mistral AI 6. října oznámila model Mistral Large 4. Podle firmy jde o její dosud největší a nejschopnější model. Mistral mu s nadsázkou „zcela oficiálně“ říká „le Chonk“ (zhruba „cvalík“), o čemž psala i CNBC.
Co je Mistral Large 4
- Velikost: zhruba 1 bilion parametrů, z nichž při každém kroku pracuje jen 52 miliard. Jde o architekturu „mixture of experts“: model má mnoho specializovaných částí a pro každý token zapojí jen některé. Díky tomu je jeho provoz výrazně levnější, než by odpovídalo velikosti.
- Text i obrázky: model od základu pracuje s textem i obrázky.
- Jazyky: trénovací data podle Mistralu pokrývají přes 160 jazyků, včetně všech úředních jazyků EU. Mezi nimi je tedy i čeština.
- Trénink v Evropě: model vznikl na 3 800 grafických čipech NVIDIA Grace Blackwell ve vlastních evropských datacentrech Mistralu.
Co jsou parametry a tokeny, vysvětlujeme v článku Token, model, kontextové okno.
Jak si vede
Mistral zveřejnil výsledky několika testů. V agentním programování uvádí 61,7 % v DeepSWE v1.1 a 28,3 % v Terminal-Bench 4, v automatizaci úloh (AutomationBench) 59,9 % a v bezpečnostních testech 93 % v Cybench a 93,3 % v Lakera B3. Všechna čísla jsou tvrzení výrobce, nezávislé srovnání zatím chybí. Podle Reuters firma tvrdí, že v některých testech překonává čínské konkurenty. Než Mistral váhy zveřejní, model podle něj testují firmy z oblasti kybernetické bezpečnosti, prověření partneři a státní úřady (takzvaný red-teaming). Mistral model výslovně nabízí i pro bezpečnostní práci, například analýzu malwaru, a vyčítá uzavřeným modelům, že takové úlohy často odmítají.
Kdy a kde ho vyzkoušet
- Hned: jako veřejnou testovací verzi (preview) v API přes Mistral Studio (vývojářské rozhraní Mistralu).
- Koncem října: Mistral slíbil zveřejnit váhy modelu. Reuters uvádí datum 27. října. Firmy si pak model budou moci stáhnout a provozovat na vlastním hardwaru. Co přesně znamenají „otevřené váhy“, vysvětlujeme v článku Otevřené AI modely.
- Pro běžné uživatele: cenu API a licenční podmínky si ověřte na stránkách Mistralu, protože u testovací verze se mohou změnit.
Co to znamená pro české firmy
- Data pod evropským právem. Mistral zdůrazňuje, že evropská verze modelu od začátku do konce běží podle práva EU. Pro firmy, které řeší GDPR nebo nové povinnosti z AI Actu, je to silný argument.
- Čeština v trénovacích datech. Že model pokrývá všechny jazyky EU, je dobrá zpráva, ale jak zvládá češtinu, si otestujte na vlastních úlohách. Zveřejněné benchmarky jsou v angličtině.
- Vlastní provoz. Model s bilionem parametrů si doma na notebooku nespustíte. Pro firmy s vlastní infrastrukturou nebo evropským cloudem ale půjde o skutečnou alternativu k americkým službám.
Náš pohled
Mistral Large 4 je zatím nejvážnější pokus Evropy udržet krok se špičkou. Hlavní výhodou pro nás není ani tak výkon, jako spíš možnost mít silný model pod evropskou jurisdikcí a s otevřenými vahami. Jestli Mistral termín pro váhy dodrží a jak model zvládá češtinu, budeme sledovat.
Článek vznikl s pomocí AI a před publikací ho zkontrolovala redakce Promptovna.cz.
Načítám počet…
