Lokální jazykové modely zaznamenaly v roce 2026 zlom. Ollama hlásí 52 milionů stažení měsíčně, MLX backend zdvojnásobil výkon na Apple Silicon, a Qwen 3.5 9B dosahuje na běžném Macu kvality, kterou ještě před rokem zvládal jen GPT-4. Zbývá zjistit, jestli to dává ekonomický smysl.
V říjnu 2025 jsem si pořídil Mac Mini M4 s 32 GB unified memory s tím, že na něm budu provozovat lokální asistenty. Investice 38 tisíc korun. Měsíc poté jsem většinu pracovních dotazů přesměroval na DeepSeek API. Cena? Asi tři dolary měsíčně.
Tohle není historka o špatné koupi, je to historka o tom, jak se za posledních dvanáct měsíců výrazně posunula odpověď na jednu konkrétní otázku: kdy má smysl provozovat jazykové modely lokálně a kdy je rozumnější platit za API.
Ollama je pro tu odpověď klíčová. Spuštění modelu vypadá takhle:
curl -fsSL https://ollama.com/install.sh | sh
ollama run qwen3.5:9bPo těchto dvou příkazech vám na localhost:11434 běží OpenAI-kompatibilní HTTP server, takže existující kód, který volá api.openai.com, stačí přesměrovat na lokální endpoint a funguje bez další úpravy. To je první důvod, proč Ollama vyrostla ze 100 tisíc měsíčních stažení v Q1 2023 na 52 milionů ve stejném kvartálu 2026 — staví se za ní celá komunita lokální AI.
Březnový skok výkonu
Druhý důvod přišel 31. března 2026. Verze 0.19 přinesla MLX backend ve stádiu preview a výkonnostně to byl největší jednorázový skok od podpory Metalu.
Historicky Ollama na Macích používala llama.cpp s Metal backendem. Funguje to, ale má to koncepční vadu: Metal pracuje s GPU jako s diskrétním akcelerátorem. Data se kopírují mezi CPU pamětí a GPU pamětí, přestože jde fyzicky o stejnou paměť. Apple Silicon má unified memory architekturu, takže to kopírování je zbytečný overhead.
Apple to vyřešil vlastní knihovnou MLX, která sjednocenou paměť chápe nativně, a Ollama 0.19 na ni přepnula s tím, že komunitní benchmarky na M4 Maxu hlásí skok dekódování Qwen3.5 z 58 na 112 tokenů za sekundu. 93 procent navíc bez výměny hardwaru, jen jiná proměnná prostředí.
Háček je v tom, že MLX backend potřebuje minimálně 32 GB unified memory. Pod touhle hranicí Ollama automaticky přepíná zpátky na llama.cpp s Metalem. Apple tu nezavedl umělé omezení, jen alokační strategie MLX potřebuje rezervu, jinak by stroj swapoval.
Zachycuje to jeden důležitý trend. Pro lokální AI v roce 2026 přestává být nejzajímavější otázkou, jaký model si pustit. Stává se jí, jak efektivně dokáže software využít paměťovou propustnost vašeho křemíku.
Hardwarová realita
Apple Silicon dnes definuje tři rozumné konfigurace.
| Konfigurace | Unified RAM | Vhodné modely | Reálná rychlost |
|---|---|---|---|
| M1 / M4 base | 16 GB | 3–7B parametrů | 40–80 tok/s |
| M4 Pro | 24 GB | 8–14B parametrů | 60–80 tok/s (7B), 35–50 tok/s (13B) |
| M4 Max | 36–128 GB | 14–70B parametrů | 40–55 tok/s (35B MoE), 12 tok/s (70B) |
Zlatý střed je M4 Pro s 24 GB, na kterém spustíte modely pokrývající drtivou většinu reálných úloh, a stroj přitom zůstane provozovatelný jako běžný počítač pro běžnou kancelářskou práci. Dvanáct tokenů za sekundu na DeepSeek-R1 70B je už spíš doménou specializovaných nasazení.
NVIDIA cesta funguje jinak. RTX 4090 s 24 GB VRAM dosahuje na 8B modelech zhruba 145 tokenů za sekundu, výrazně rychleji než Apple Silicon, ale limit je tvrdý: nic přes 32 miliard parametrů se vám do paměti nevejde, ať máte zbytek systému jakkoliv vybavený. Sjednocená paměť na Mac Studiu vám pustí 70B modely v plné velikosti, byť pomaleji.
Zajímavější je provozní spotřeba. Mac Mini M4 pod plnou inferencí žere 30–40 wattů, zatímco RTX 4090 build se pohybuje mezi 300 a 450 watty, což při českých cenách proudu (zhruba 6 Kč za kWh) a 24/7 provozu dělá rozdíl dvou až tří tisíc korun ročně, plus rozdíl v hluku, teple a životnosti komponent.
Modely, které dnes mají smysl
Ekosystém otevřených modelů se za rok pořádně pročistil. V polovině roku 2026 vypadá rozumný výběr takhle:
Qwen 3.5 9B je nejlepší kompromis kvality a výkonu — na MMLU dosahuje 76,8 procenta při čtvrtinovém počtu parametrů oproti 32B variantě, běží trojnásobnou rychlostí, a obstojně zvládá i češtinu, takže pro většinu úloh stačí.
Qwen 3.5 35B-A3B je MoE varianta, má sice 35 miliard parametrů, ale aktivuje jen tři miliardy na inferenci. Tím spadne do paměťových limitů M4 Pro a výkonem se blíží GPT-4. Aktuálně nejzajímavější produkční volba pro lokální nasazení.
Llama 4 Scout dává smysl tam, kde potřebujete dlouhý kontext.
Gemma 4 je rychlá a lehká pro klasifikaci, jednoduché extrakce a rutinní generování.
Z toho výčtu je vidět jedna věc napřímo: lokální 9B model dnes není tím samým 9B modelem z roku 2024, mezery proti uzavřeným modelům se sice neuzavřely, ale výrazně zúžily natolik, že pro velkou část každodenní práce je rozdíl prakticky nepostřehnutelný.
Cena: kde je skutečný předěl
Tady je nutné zachovat chladnou hlavu. Argument “lokál je zadarmo, cloud stojí peníze” v roce 2026 už neplatí jednoznačně. Ceny API se zhroutily.
| Model | Vstup ($/M tokenů) | Výstup ($/M tokenů) |
|---|---|---|
| DeepSeek V3.2 | 0,14 | 0,28 |
| DeepSeek V4 Flash | 0,30 | 0,50 |
| Gemini 2.5 Flash-Lite | 0,10 | 0,40 |
| Claude Haiku 4.5 | 1,00 | 5,00 |
| Claude Sonnet 4.6 | 3,00 | 15,00 |
| Claude Opus 4.7 | 5,00 | 25,00 |
Ceny k dubnu 2026. Před nasazením ověřte aktuální tarify u poskytovatelů.
Modelové scénáře dělají v rozhodování pořádek.
Osobní asistent, ~100 tisíc tokenů denně. Claude Sonnet vás vyjde kolem 9 dolarů měsíčně, DeepSeek V3.2 méně než dolar, a lokální provoz tokeny nestojí, ale spotřeba elektřiny u 24/7 serveru činí asi 2,50 dolaru měsíčně. Pokud nepotřebujete nejvyšší kvalitu, DeepSeek vyhrává na celé čáře, i proti vlastnímu hardwaru.
Generování obsahu, 10 milionů tokenů denně. Claude Sonnet: 5 400 dolarů měsíčně. DeepSeek V3.2: 125 dolarů. Mac Studio M4 Max 128 GB amortizovaný na 36 měsíců: zhruba 140 dolarů, plus 15 za elektřinu. Tady už lokální nasazení začíná konkurovat a předbíhá Sonnet o dva řády.
Citlivá firemní data. Cena se stává druhotnou. Pokud data nesmí ven z infrastruktury (GDPR, NDA, interní procesy), lokální provoz není volba mezi alternativami. Je to jediná cesta.
Z toho plyne pragmatický závěr: pro běžnou denní práci je dnes ekonomicky nejvýhodnější DeepSeek API, cena je tak nízká, že nestojí za to ladit vlastní infrastrukturu. Lokální provoz začíná dávat smysl teprve při vysokém objemu, citlivých datech, nebo kombinaci obojího. Sám provozuju hybridní řešení. Yukiko (můj hlavní agent) sahá na DeepSeek pro většinu úloh. Lokální Ollama drží jako záložní vrstva a pro data, která nesmí na cizí servery. Funguje to dobře přes půl roku. Není to elegantní řešení, ale ekonomicky to sedí.
Kde lokální nasazení narazí
Marketingové články o “AI svobodě” zamlčují pár věcí, které stojí za zmínku.
Zpracování dotazu je pomalejší než cloud. Apple Silicon má sice úžasnou propustnost paměti, ale úvodní prefill fáze je proti H100 pomalá. U krátkých dotazů to nepoznáte, u 50 tisíc tokenů kontextu už jo.
Kvalita 9B/14B modelů ≠ Claude Opus nebo GPT-5. Qwen 3.5 9B je úžasný na ten objem, ale nečekejte, že napíše stejnou esej, a u složitých vícekrokových úloh, právních textů nebo nuancované analýzy je rozdíl proti uzavřeným modelům pořád velký a v některých případech zásadní.
Vyžaduje údržbu. Aktualizace, kvantizace, řešení chyb s nedostatkem paměti, monitoring — není to nasaď a zapomeň, takže si připočtěte k pořizovací ceně několik hodin práce měsíčně, ideálně někoho, kdo už nějakou Linux infrastrukturu provozoval.
Souběžné požadavky jsou limit. Ollama není vLLM, takže pro produkční zátěž s desítkami paralelních požadavků potřebujete jiný stack, ideálně něco s PagedAttention nebo dynamickým batchingem, pro jednoho uživatele nebo malý tým funguje bez problému.
Výdrž baterie u notebooků je past. Lokální inference vyždímá baterku během chvíle. Pokud si pořizujete MacBook s plánem pracovat s AI na cestách, počítejte s tím, že vám vydrží zlomek toho, co bez modelu.
Tři praktické trasy
Pokud z toho všeho chcete jednoduché doporučení:
Začínáte? Ollama plus Qwen 3.5 9B na čemkoliv s 16 GB RAM. Zadarmo, funkční, naučíte se základy. Když to nesedne, jdete na cloud.
Chcete to provozovat vážně? Mac Mini M4 Pro 24 GB nebo Mac Studio M4 Max, ideální volba pro jednoho uživatele až malý tým. Mám dva stroje s tímhle nastavením v provozu od podzimu a fungují bez větších problémů.
Máte produkční objem? Hybridní nasazení. DeepSeek API na rutinu (chat, sumarizace, klasifikace), lokální provoz na citlivá data a vysoký objem. Sami si to vyhodnotíte podle TCO a compliance.
V říjnu 2025 jsem věřil, že lokální AI je jediná správná cesta, dneska v tom vidím nuancovanější obraz: Ollama je výborný nástroj, ale ne vždy je to ten správný nástroj, a otázka už nezní, jestli lokální AI funguje. Funguje, a v 2026 funguje slušně. Otázka stojí jinak: jestli mi to v mém konkrétním případě dává ekonomický a provozní smysl.
To je dobrá zpráva. Před třemi lety jsme tuhle volbu neměli.
Benchmark čísla pocházejí z komunitních měření na llmcheck.net a oficiálních release notes Ollamy. Aktuální ceny API ověřujte u poskytovatelů.
