--- title: "Mistral Large 4 lokálně na Mac Studiu" description: "Mistral Large 4 (Le Chonk) má otevřené váhy a 1bitové GGUF od Unslothu. Zjistěte, co z lokálního spuštění na Mac Studiu je ověřené a co ne." author: "Michal Černý" author_role: "Spoluzakladatel · Technology & Product" author_url: https://nobig.deals/cs/blog/autor/michal-cerny url: https://nobig.deals/cs/blog/mistral-large-4-lokalne-mac-studio content_type: text/markdown --- Autor: Michal Černý (Spoluzakladatel · Technology & Product) [Blog](https://nobig.deals/cs/blog)/[AI a vývoj](https://nobig.deals/cs/blog/kategorie/ai-a-vyvoj)/Mistral Large 4 lokálně: jde Le Chonk sp… # Mistral Large 4 lokálně: jde Le Chonk spustit na Mac Studiu? Technicky ano: Unsloth připravil 1bitové GGUF kvantizace modelu Mistral Large 4 o velikosti kolem 223 GB. Rychlost na Mac Studiu a pokles přesnosti ale zatím nikdo nezávisle neověřil, takže je to spíš pomocník pro první průchod než náhrada API. [Michal Černý](https://nobig.deals/cs/blog/autor/michal-cerny)·Publikováno 30\. října 2026·9 min čtení ![Drobná postava zezadu s krabičkou pod paží před obří věží archivních krabic s oranžovým víkem.](https://nobig.deals/_next/image?url=https%3A%2F%2Fassets.nobig.deals%2Fblog%2Fcmvtqdskn00010xphed81nup7%2Fmistral-large-4-lokalne-mac-studio-hero-b69b9599fb.webp&w=3840&q=75) Model o velikosti kolem 223 GB je proti Mac Studiu obrovský. Obsah článku · 7 1. [Co Mistral vydal a co znamená bilion parametrů](#co-mistral-vydal-a-co-znamena-bilion-parametru) 2. [Celkové a aktivní parametry](#celkove-a-aktivni-parametry) 3. [Co deklaruje Mistral](#co-deklaruje-mistral) 4. [Co je 1bitová GGUF kvantizace od Unslothu](#co-je-1bitova-gguf-kvantizace-od-unslothu) 5. [Jde Mistral Large 4 spustit na Mac Studiu?](#jde-mistral-large-4-spustit-na-mac-studiu) 6. [Co je ověřené a co ne](#co-je-overene-a-co-ne) 7. [Jak dobře drží 1bitová verze přesnost](#jak-dobre-drzi-1bitova-verze-presnost) 8. [Jak nastavit model, aby 1M kontext nevyčerpal paměť](#jak-nastavit-model-aby-1m-kontext-nevycerpal-pamet) 9. [Kontrolní seznam](#kontrolni-seznam) 10. [Časté chyby](#caste-chyby) 11. [Kdy se vyplatí self-hosting a kdy je lepší API](#kdy-se-vyplati-self-hosting-a-kdy-je-lepsi-api) 12. [Časté otázky](#caste-otazky) Mistral Large 4 lze na Mac Studiu technicky spustit v 1bitové GGUF kvantizaci od Unslothu. Podle Unslothu se tato verze do Mac Studia vejde. Načíst model ale neznamená provozovat agenta s dlouhým kontextem, protože k vahám se přičítá KV cache a rychlost zatím nikdo nezávisle nezměřil. Ve zkratce * Mistral AI zveřejnil 29\. října 2026 otevřené váhy modelu Mistral Large 4 s přezdívkou Le Chonk, zaměřeného na agentní programování a kyberbezpečnost. * Jde o Mixture-of-Experts model s přibližně 1,05 bilionu celkových parametrů, ale jen asi 49–52 miliardami aktivních na token. * Unsloth podle vlastních údajů nabízí 1bitovou GGUF verzi o velikosti kolem 223 GB, která drží 91 % top-1 přesnosti. * Rychlost na Mac Studiu ani pokles přesnosti u hledání zranitelností zatím není nezávisle změřen. * Licence je Mistral Ecosystem Open Weight License, nikoli MIT, takže před komerčním nasazením je nutné ji přečíst. ## Co Mistral vydal a co znamená bilion parametrů Mistral AI vydal multimodální jazykový model zaměřený na agentní programování, reasoning a kyberbezpečnost. Model nejprve uvedl 6\. října 2026 jako veřejné preview v Mistral Studiu a přes API. Otevřené váhy pak [Mistral zveřejnil](https://mistral.ai/news/mistral-large-4/) 29\. října 2026\. Při uvedení preview nabízel podle [changelogu](https://docs.mistral.ai/resources/changelogs) na dva týdny 50 % slevu na API. Model přijímá text i obrázky. [Oficiální dokumentace](https://docs.mistral.ai/models/mistral-large-4) uvádí kontext až 1 milion tokenů a vizuální enkodér s 1,6 miliardy parametrů. Podle [blogu Hugging Face](https://huggingface.co/blog/mistral-large4) model zvládá více než 160 jazyků. ### Celkové a aktivní parametry Definice Mixture-of-Experts (MoE) je architektura, ve které router pro každý token vybere jen několik „expertů“ z velké sady podsítí. Model tak má obrovskou celkovou kapacitu, ale při výpočtu jednoho tokenu používá jen její zlomek. Mistral Large 4 má přibližně **1,05 bilionu celkových parametrů**. Na jeden token jich je aktivních asi 49 miliard, respektive 52 miliard, pokud se započítají embeddingy a výstupní vrstvy. Tato čísla potvrzuje [dokumentace Mistralu](https://docs.mistral.ai/models/mistral-large-4). Rozdíl má praktický dopad. **Výpočetní náročnost** na token odpovídá zhruba 50miliardovému modelu podle [údajů o aktivních parametrech](https://docs.mistral.ai/models/mistral-large-4). **Paměť pro váhy** se ale odvíjí od celého bilionu, protože všichni experti musí ležet v paměti, i když se právě nepoužívají. Tvrzení „bilionový model běží jako 52B model“ proto platí pro výpočet, ne pro RAM. ### Co deklaruje Mistral Klíčová čísla * **1,05 bilionu** celkových parametrů modelu ([dokumentace Mistralu](https://docs.mistral.ai/models/mistral-large-4)) * **52 mld.** aktivních parametrů na token včetně embeddingů ([Mistral](https://docs.mistral.ai/models/mistral-large-4)) * **1M tokenů** deklarované maximální kontextové okno ([Hugging Face](https://huggingface.co/blog/mistral-large4)) * **160+** podporovaných jazyků ([Hugging Face](https://huggingface.co/blog/mistral-large4)) Ve [svém oznámení](https://mistral.ai/news/mistral-large-4/) Mistral uvádí, že Le Chonk je první mezi otevřenými modely v benchmarku Cognition FrontierCode. Skóre 19,7 % na FrontierCode 2.0 se objevuje v [souhrnech oznámení](https://mistral.ai/news/mistral-large-4/). Obojí jsou údaje výrobce, ne nezávislé měření. ## Co je 1bitová GGUF kvantizace od Unslothu 1bitová kvantizace ukládá většinu vah s extrémně nízkou bitovou šířkou, takže se bilionový model zmenší na velikost, kterou udrží i jeden pracovní stroj. [Unsloth distribuuje](https://unsloth.ai/docs/models/mistral-large-4) takzvané Dynamic GGUF varianty. Nejmenší z nich má podle něj kolem 223 GB. Soubory jsou na Hugging Face a model podle [blogu Hugging Face](https://huggingface.co/blog/mistral-large4) podporují llama.cpp, vLLM i Transformers od prvního dne. Označení „1 bit“ ale neznamená přesně jeden bit na parametr. GGUF model obsahuje blokové škály, metadata a zarovnání. Některé vrstvy, typicky embeddingy, normalizace a citlivé části sítě, zůstávají v kvantizaci s vyšší přesností. Proto je skutečný soubor výrazně větší než teoretické minimum. Příklad Naivní výpočet: 1,05 × 10¹² parametrů × 1 bit ÷ 8 = přibližně 131,25 GB. Unsloth uvádí pro nejmenší variantu kolem 223 GB ([Unsloth](https://unsloth.ai/docs/models/mistral-large-4)). Rozdíl tvoří režie formátu a vrstvy, které nejsou kvantizované na jeden bit. Ani těch 223 GB podle [Unslothu](https://unsloth.ai/docs/models/mistral-large-4) není konečný požadavek na paměť. Přičíst je potřeba KV cache, pracovní buffery runtime a vizuální enkodér, pokud posíláte obrázky. Nejspolehlivější údaj je velikost konkrétního souboru a hodnota, kterou po načtení vypíše llama.cpp. Pozor Velikost GGUF souboru neodpovídá paměti potřebné k provozu. S dlouhým kontextem může KV cache zabrat velkou část paměti navíc a stroj, který model načte, pak při delším promptu začne swapovat nebo proces spadne. ## Jde Mistral Large 4 spustit na Mac Studiu? Ano, technicky jde. Unsloth uvádí, že se 1bitová verze na Mac Studio vejde. Rychlost a použitelnost pro práci s dlouhým kontextem ale nikdo veřejně a reprodukovatelně nezměřil. ![Půdorys vývojářského studia s dílnou a serverovou skříní, v několika místnostech se opakuje oranžová krabice počítače.](https://assets.nobig.deals/blog/cmvtqdskn00010xphed81nup7/mistral-large-4-lokalne-mac-studio-img-1-038e1a5da0.webp) Těžký model se v provozu rychle rozlézá do více místností. Jako Mac Studio LLM záleží výkon na několika proměnných: velikosti unified memory, backendu Metal, délce promptu, nastavení KV cache a verzi llama.cpp či Ollamy. Unified memory sdílí CPU i GPU. Model se tedy musí vejít celý i s cache a zbytkem systému. Pokud se vejde jen těsně, každý delší prompt vede ke swapování. Rozhodující je, co znamená „spustit“. Načíst váhy a vygenerovat pár tokenů je jedna úloha. Interaktivní agent, který čte celý repozitář a pracuje s desítkami tisíc tokenů kontextu, je úplně jiná zátěž. Lokální spuštění AI v tomto měřítku je proto zatím spíš experiment než produkční nástroj. ### Co je ověřené a co ne | Tvrzení | Kdo ho uvádí | Stav | | ------------------------------------------------------ | --------------------- | ---------------------------------------- | | Otevřené váhy od 29\. října 2026 | Mistral AI | oficiální oznámení | | MoE, 1,05 bil. celkových a 52 mld. aktivních parametrů | Mistral, Hugging Face | oficiální dokumentace | | 1bitová GGUF kolem 223 GB | Unsloth | údaj distributora | | 91 % top-1 přesnosti 1bitové verze | Unsloth | údaj distributora, bez nezávislého testu | | Rychlost (tokens/s) na Mac Studiu | nikdo | bez reprodukovatelného benchmarku | Údaje o modelu vycházejí z [oznámení Mistralu](https://mistral.ai/news/mistral-large-4/) a [dokumentace Unslothu](https://unsloth.ai/docs/models/mistral-large-4). Náš vlastní stack v nobig.deals je cloudový. Modely voláme přes OpenRouter a aplikace provozujeme na Railway. Lokální provoz Le Chonk proto popisujeme jako cizí technologii, ne jako vlastní zkušenost. Kdo nemá stroj s takovou pamětí, najde praktičtější cestu v článku o tom, jak fungují [menší lokální AI modely](https://nobig.deals/cs/blog/lokalni-ai-modely-lfm3-liquid-ai). ## Jak dobře drží 1bitová verze přesnost Podle [Unslothu](https://unsloth.ai/docs/models/mistral-large-4) drží 1bitová verze 91 % top-1 přesnosti. Jde o údaj distributora, ne o nezávislé měření. Top-1 přesnost říká, jak často kvantizovaný model zvolí stejný nejpravděpodobnější token jako původní. Neříká, jak dobře model najde zranitelnost nebo provede refaktoring. Rozumné technické očekávání je, že se nízká bitová šířka projeví hlavně tam, kde záleží na detailech. Patří sem sledování toku dat přes více funkcí, rozlišení podobných zranitelností, konzistentní změny napříč mnoha soubory a dlouhé agentní trajektorie, kde se drobné chyby sčítají. Jde o úsudek, ne o výsledek benchmarku. U bezpečnosti je potřeba oddělit tři úlohy. **Detekce kandidáta** znamená, že model upozorní na podezřelé místo. **Potvrzení** vyžaduje reprodukci, testy nebo sandbox. **Oprava** musí projít testy, lintem a statickou analýzou. Kvantizovaný model se hodí na první úlohu, na zbylé dvě nestačí. Výhody a nevýhody Kde 1bitová verze dává smysl * třídění kódu a první průchod hledáním podezřelých míst * vysvětlení cizího kódu bez odeslání dat mimo firmu * návrhy změn, které následně ověří testy Kde na ni nespoléhat * finální verdikt bezpečnostního auditu * velké refaktoringy napříč repozitářem bez testů * dlouhé autonomní běhy agenta bez lidské kontroly Tip U důležitých nálezů porovnejte výstup 1bitové verze s vyšší kvantizací nebo s API stejného modelu. Shodný výsledek posílí důvěru, rozdíl ukáže místa, kde kvantizace ztrácí přesnost. Doporučujeme stavět model do pipeline jako jeden z kroků, ne jako arbitra. Testovací sada, statická analýza a kontrola diffu zůstávají povinné. Jak zavést [AI ve vývojovém procesu](https://nobig.deals/cs/sluzby/ai-transformace) systematicky, řešíme zvlášť. ## Jak nastavit model, aby 1M kontext nevyčerpal paměť Deklarovaný milion tokenů je strop modelu, ne výchozí nastavení pro lokální stroj. Začněte s kontextem 32k nebo 64k a zvyšujte ho až po změření paměti. ### Kontrolní seznam Než začnete * zjistit přesnou velikost staženého GGUF souboru * nastavit kontext na 32k nebo 64k, ne na maximum * po načtení zapsat spotřebu paměti hlášenou runtime * spočítat KV cache zvlášť od vah * změřit zvlášť zpracování promptu a generování * měnit vždy jen jeden parametr naráz Pro měření se hodí nástroj `llama-bench` z llama.cpp, který rychlost zpracování promptu (_prompt processing_) a generování (_text generation_) vypisuje odděleně. Cestu k souboru nahraďte skutečnou variantou od Unslothu. ```bash # Oddělené měření: -p = délka promptu, -n = počet generovaných tokenů # Krátký i dlouhý prompt, aby se ukázal rozdíl s rostoucím kontextem llama-bench -m ./modely/.gguf -p 512,8192 -n 128 # Server s konzervativním kontextem a jedním souběžným požadavkem # -c = velikost kontextu, -np = počet paralelních slotů llama-server -m ./modely/.gguf -c 32768 -np 1 ``` Postup ladění: 1. Spusťte server s kontextem 32k a jedním slotem. 2. Změřte spotřebu paměti při prázdném a při plném kontextu. 3. Zvyšte kontext na 64k a měření zopakujte. 4. Teprve potom přidávejte paralelní požadavky nebo větší batch. 5. Kontext dál zvyšujte jen tehdy, když zbývá rezerva i pro systém. ### Časté chyby * **Záměna celkových a aktivních parametrů.** Podle [dokumentace Mistralu](https://docs.mistral.ai/models/mistral-large-4) se 52 miliard týká výpočtu na token, ne velikosti uložených vah. * **Ignorování vision komponenty.** Obrazový vstup přidává enkodér a vlastní nároky na paměť. * **Měření jen na krátkém promptu.** Rychlost u krátkého promptu neříká nic o chování při velmi dlouhém kontextu. * **Předpoklad shodného výkonu Ollamy a llama.cpp.** Liší se verzí runtime, výchozím nastavením i prací s backendem Metal. * **Současné zvýšení kontextu, batche, paralelních požadavků a GPU offloadu.** Taková změna typicky končí swapováním a nedá se z ní vyčíst, co problém způsobilo. ## Kdy se vyplatí self-hosting a kdy je lepší API Self-hosting se vyplatí u citlivých dat, která nesmí opustit firmu, a tam, kde potřebujete plnou auditní kontrolu nad modelem. Ve většině ostatních případů bývá jednodušší API. Mistral nabízí model souběžně přes API i jako stažitelné váhy. Pro tým, který nepracuje s regulovanými daty, je API přímá cesta k plné přesnosti bez kvantizace a bez starostí o hardware. Lokální provoz má smysl tam, kde zdrojový kód nebo bezpečnostní nálezy nesmí odejít k třetí straně. Výhody a nevýhody Kdy se vyplatí self-hosting * zpracování citlivého kódu nebo dat, která nesmí mimo firmu * požadavek na audit, verzování modelu a kontrolu nad logy * tým, který zvládne provoz, aktualizace a zabezpečení Kdy je lepší API * nepotřebujete plnou datovou izolaci * chcete nekvantizovanou přesnost bez investice do hardwaru * nemáte kapacitu na údržbu infrastruktury Open-weight model není totéž co open-source. Mistral zveřejnil váhy, ne tréninková data ani celý trénovací proces, a pravidla používání určuje vlastní licence. Pozor Mistral Large 4 vychází pod [licencí Mistral Ecosystem Open Weight License](https://mistral.ai/news/mistral-large-4/), ne pod MIT. Před komerčním nasazením si podmínky přečtěte a ověřte, zda pokrývají váš způsob použití. On-premise provoz neznamená jen stáhnout soubor. Počítejte s monitoringem, aktualizacemi runtime, řízením přístupů a zabezpečením serveru, na kterém model běží. Pokud model na vlastní infrastruktuře opravdu potřebujete, ukazujeme, jak vypadá [AI On-Premise řešení](https://nobig.deals/cs/sluzby/ai-on-premise) včetně provozu. Pro slabší hardware doporučujeme menší modely, které dávají lepší poměr rychlosti a nároků. ## Časté otázky ### Kolik paměti potřebuje 1bitová verze Mistral Large 4? Samotný soubor nejmenší 1bitové varianty má podle [Unslothu](https://unsloth.ai/docs/models/mistral-large-4) kolem 223 GB. K tomu je potřeba připočítat KV cache, která roste s délkou kontextu, pracovní buffery runtime a případně vizuální enkodér. Skutečnou spotřebu zjistíte až po načtení modelu z výpisu llama.cpp. Rezervu nechte i pro operační systém, jinak stroj při delším promptu začne swapovat. ### Je Mistral Large 4 open-source? Ne, jde o open-weight model. Mistral zveřejnil váhy, ale ne tréninková data ani kompletní trénovací proces. Model vychází pod licencí Mistral Ecosystem Open Weight License, ne pod MIT ani jinou běžnou open-source licencí. Váhy si můžete stáhnout a spustit, ale podmínky komerčního využití určuje text licence. Ten je potřeba přečíst před nasazením. ### Lze Le Chonk provozovat přes Ollamu nebo llama.cpp? Llama.cpp model podporuje od prvního dne a GGUF soubory od Unslothu jsou určené právě pro něj. Ollama na llama.cpp staví, ale může mít jinou verzi runtime a jiné výchozí nastavení. Nepředpokládejte proto stejný výkon v obou nástrojích. Pro serverový provoz se nabízí také vLLM, pro práci v Pythonu knihovna Transformers. ### Je lokální provoz modelu bezpečnější než API? Z hlediska úniku dat ano, protože kód ani prompty neopustí vaši infrastrukturu. Bezpečnost ale přesouvá na vás. Musíte řídit přístupy k serveru, aktualizovat runtime, hlídat logy a chránit samotný stroj. Lokální model navíc může navrhnout chybný bezpečnostní patch stejně jako cloudový, takže ověřování testy a statickou analýzou zůstává nutné. ### Čím se Mistral Large 4 liší od menších kódovacích modelů? Hlavně měřítkem, kontextem a multimodalitou. Model má přibližně 1,05 bilionu celkových parametrů, kontext až 1M tokenů a přijímá i obrázky. Menší kódovací modely mají řádově nižší nároky na hardware a lokálně bývají rychlejší i praktičtější. Pro běžné doplňování a vysvětlování kódu často stačí. Velký model má smysl hlavně u složitých agentních úloh. Zdroje a odkazy (5) Externí stránky, na které článek odkazuje. 1. [mistral.ai](https://mistral.ai/news/mistral-large-4/) /news/mistral-large-4 2. [docs.mistral.ai](https://docs.mistral.ai/resources/changelogs) /resources/changelogs 3. [docs.mistral.ai](https://docs.mistral.ai/models/mistral-large-4) /models/mistral-large-4 4. [huggingface.co](https://huggingface.co/blog/mistral-large4) /blog/mistral-large4 5. [unsloth.ai](https://unsloth.ai/docs/models/mistral-large-4) /docs/models/mistral-large-4 ## Číst více [![API kredity ChatGPT: až 500 USD měsíčně pro Pro a Business](https://nobig.deals/_next/image?url=https%3A%2F%2Fassets.nobig.deals%2Fblog%2Fcmvt9h3o0000s0xpexja886st%2Fapi-kredity-chatgpt-pro-business-hero-1b9b8cacd2.webp&w=3840&q=75)AI a vývojAPI kredity ChatGPT: až 500 USD měsíčně pro Pro a BusinessOpenAI od 28\. října 2026 dává předplatitelům ChatGPT Pro a Business měsíční API kredit až 500 USD. Stačí splnit podmínky nároku a aktivovat ho v nastavení fakturace. Nevyužitý kredit ale na konci období propadá.](https://nobig.deals/cs/blog/api-kredity-chatgpt-pro-business)[![Nemotron 3.5 Transcribe: co umí nový open-weight model NVIDIA](https://nobig.deals/_next/image?url=https%3A%2F%2Fassets.nobig.deals%2Fblog%2Fcmvsbcos5004u0xla53mjqqnc%2Fnemotron-3-5-transcribe-prepis-reci-hero-6126a238d9.webp&w=3840&q=75)AI a vývojNemotron 3.5 Transcribe: co umí nový open-weight model NVIDIANemotron 3.5 Transcribe je open-weight model od NVIDIA z 28\. října 2026, který v jednom checkpointu spojuje přepis, překlad a rozlišení mluvčích. Čeština je podle modelové karty podporována jen pro přepis a oficiální WER chybí.](https://nobig.deals/cs/blog/nemotron-3-5-transcribe-prepis-reci)[![Forward Deployed Engineer: kdo to je a co dělá u zákazníka](https://nobig.deals/_next/image?url=https%3A%2F%2Fassets.nobig.deals%2Fblog%2Fcmvrzh3ld00460xlapmad7vyb%2Fforward-deployed-engineer-role-fde-hero-f47b15e37e.webp&w=3840&q=75)AI a vývojForward Deployed Engineer: kdo to je a co dělá u zákazníkaForward Deployed Engineer je inženýr, který pracuje přímo u zákazníka, rozumí jeho byznysu a sám navrhne i nasadí funkční řešení. Pojem zavedl Palantir, dnes roli nabírají i OpenAI a Anthropic. Je to vývojář, architekt, konzultant a kus produkťáka v jedné osobě.](https://nobig.deals/cs/blog/forward-deployed-engineer-role-fde)