Může lokální model nahradit Claude Code?
Benchmark 8 lokálních modelů na vlastním Macu proti Opus 4.8.
Skoro každý den vídám videa typu: „Tenhle nový lokální model absolutně drtí Opus 4.8.“ nebo „Proč platit 200 USD za Claude Code, když můžete vyvíjet lokálně?“ Zajímalo mě, kolik z toho je tvorba obsahu a kolik realita.
Rozhodl jsem se to pořádně otestovat: dal jsem osmi open-source modelům tři reálné úlohy – postavit web, zvizualizovat data pro SEO a naanimovat 3D scénu. Použil jsem své Mac Studio, které daleko přesahuje typické konfigurace tvůrců na YouTube. A přesto výsledky nejsou úplně růžové.
Lokální modely aktivně používám už víc než rok – na obrázky, přepisy, analýzy dlouhých textů i citlivá data. Ale do reálného vývoje jsem se pustil až teď. Tak trochu jsem čekal, že reálné využití bude dost limitované.
Co jsem zkusil a na čem
Tady je moje konfigurace a prostředí pro tento test. Všechny modely dostaly identický prompt a měly jen jeden pokus, bez dalších iterací a oprav chyb.
Sdílená paměť. Řádově víc než „domácí“ Mac Mini z těch videí (16–24 GB). Když nestačí tohle, na Mac Mini teprv ne.
Malé modely přes Ollamu, GLM přes LM Studio, DeepSeek přes antirezův engine DS4. Kódovací harness OpenCode.
Konverzní landing page, interaktivní SEO vizualizace interního prolinkování a animovaná 3D scéna v three.js. Plus Opus 4.8 jako strop.
Identické zadání všem, jeden pokus, žádné doťukávání. Jednotné kontextové okno 32k (fér). Teplota 0,7.
Osm modelů na Macu (+ Opus 4.8 jako cloud strop)
Vzal jsem průřez: od cloudového Opusu jako laťky přes největší lokály, o kterých se teď nejvíc mluví, až po modely, co se vejdou na běžný Mac.
Mimochodem, hned první poznatek: OpenCode v agentním režimu byl na tohle nespolehlivý – místo aby zapsal soubor, často jen vypsal plán v markdownu. Takže srovnávací běhy jsem hnal přímou generací přes API (Ollama / LM Studio). Je to i blíž tomu, co reálně dělá marketér. Opus 4.8 běžel v cloudu, taky jedním průchodem bez nástrojů – kvůli paritě.
Postav landing page ke kurzu
Každý model dostal stejný brand kit – logo, fotku lektora, video, reference i loga firem – a měl z toho postavit konverzní stránku. Rozdíl není v tom, jestli to „umí“, ale jestli z materiálu poskládá marketingově funkční stránku, nebo generickou šablonu. Tady jsou tři nejlepší; zbytek si otevřete odkazem.
Rovnou ale řeknu: hotový web na publikaci není ani jeden – je to jeden pokus (one-shot) a i ten nejlepší by chtěl pár kol ladění. Rozdíl je v tom, jak daleko se model dostal za jediný prompt.
Náhled ukazuje horní část stránky. Některé weby odkrývají obsah až při scrollu – pro plný dojem klikněte na „otevřít celé ↗“.
Nejbohatší z testu – logo, foto lektora, video, sticky menu, všechny reference. Ale i tak jen jeden pokus: hero se odkrývá až při scrollu a chtělo by to pár kol ladění, než by šel web publikovat.
Za mě nejhezčí z lokálů – načte se hned bez blikání, logo, hero s fotkou a videem, správná cena, výzva k akci. O chlup před DeepSeekem.
Taky silná – reálné video i loga firem, hero se vykreslí okamžitě. V téhle jediné disciplíně ho GLM o chlup přeskočil.
Ostatní modely (bez náhledu):
Marketérská úloha: mapa interního prolinkování
Dal jsem každému modelu data o interním prolinkování webu a nechal ho postavit interaktivní vizualizaci, která má marketérovi pomoci situaci vizualizovat a dát mu podklad pro lepší optimalizaci. Formu jsem nechal otevřenou, prostě ať je to co nejužitečnější.
Nejostřejší kontrast celého testu: všech 9 výstupů projde grepem jako „validní HTML“ – jenže tři jsou v prohlížeči prázdné (kód spadl). Užitečný výstup dodal dle očekávání Opus 4.8, ale také Gemma 4 31B i DeepSeek V4 Flash.
Funkční vizualizace se rozjedou přímo tady. Křížek = grep hlásil validní HTML, ale v prohlížeči je prázdno – proč, je vysvětlené u každého.
Nejbohatší – KPI dlaždice, interaktivní graf, detail panel s doporučením „kam přidat odkaz“ a tabulky kandidátů i autorit. Rozhodovací nástroj.
Překvapení testu. General model: graf + 3 KPI + akční seznamy „priority k posílení“ a „autority“. Nejlepší lokál, obstojí vedle Opuse.
Silný – tmavý graf + panel „Příležitosti“ + zvýrazněné slabě prolinkované stránky. Funkční SEO nástroj.
480 miliard parametrů – a slabší než 31B. Graf se vykreslí, ale uzly zůstaly černé (barvy se neaplikovaly), tuhá mřížka, popisky přes sebe.
Nevykreslilo se. Validní HTML, ale prázdná stránka – JS spadl na vlastní nekonzistenci (jinak pojmenovaná ID v kódu a v HTML). Stejná váha jako DeepSeek, a dodal prázdno.
Nevykreslilo se. Dutá skořápka – napsal celou mašinérii, ale pole s daty nechal prázdné (const data = []).
Nevykreslilo se. Bílá stránka – zvolila ambiciózní stack (Vue) a shodila se na chybě hned při startu.
Červená tramvaj při západu slunce
Zadání: ve three.js udělej scénu s krajinou při západu slunce, kterou zleva doprava projede červená tramvaj – a ať se to samo rozjede. Vypadá to jako hračka. Přesto tři modely scénu vůbec nevykreslily – kód, který na první pohled vypadá správně, ale v prohlížeči je černo.
Funkční scény se rozjedou přímo tady; klikněte na „otevřít celé“ pro celou obrazovku. Černé okno není chyba načítání – u tří modelů je vysvětlené, proč se kód nespustil.
Nejhezčí scéna – kopce, stromy, koleje s pražci, tramvaj s pantografem a rozsvícenými světly.
Bohatá scéna: hory v dáli, koleje, pouliční lampy, detailní vůz s okny. Jediná plně publikovatelná z lokálů.
Pěkná scéna – keře podél trati, koleje, tramvaj se žlutými světly a okny.
Jednoduchá, ale funkční a kompletní – vagon s okny, obloha, zelený kopec, slunce.
Obří 480B, a přesto hůř než 30miliardový Qwen – scéna je hrubá (vypadá, že vypadla zelená barva louky). Velikost tady nepomohla.
Jen červený vagon v černé prázdnotě – krajinu ani západ slunce vůbec neudělal.
Nevykreslilo se. Načetl three.js špatně – UMD build importoval jako ES modul, takže knihovna zůstala nedefinovaná a plátno nikdy nevzniklo.
Nevykreslilo se. Sáhla po zdroji three@0.160 (skypack), který tu verzi nedodá – import selhal a scéna se nespustila.
Nevykreslilo se. Překlep v kódu: napsala „win“ místo „window“ – inicializace spadla hned na startu.
Rychlost, paměť a kontext
Kvalita výstupů je jen půlka příběhu. Druhá část skládačky je rychlost a nároky modelu na hardware. A tady to začíná být zajímavé.
Rychlost generování (tokenů/s)
Rychlost na úloze web (tokenů za vteřinu). Malé modely jsou nejrychlejší; near-frontier DeepSeek a GLM platí za kvalitu rychlostí. Opus běžel v cloudu, lokální timing nemá.
Paměť za běhu (RAM)
Kolik RAM model zabere při 32k kontextu. GLM (355 mld. parametrů) potřebuje ~199 GB a na 256GB Macu už odkládá na disk. DeepSeek (284 mld.) ze stejné ligy kvality se vejde do ~83 GB.
Reálné kontextové okno na 256 GB
Kolik kontextu z modelu na 256 GB reálně vytáhnete (nativní strop minus váhy). Největší model (GLM) skončí na nejmenším použitelném okně, protože váhy sežerou paměť. DeepSeek díky diskové KV cache drží až ~1M. Samotný test běžel jednotně na 32k, aby bylo srovnání fér. (Qwen480 tu vynecháváme – reálný strop okna jsme neměřili.)
DeepSeek V4 Flash: vyhrál engine, ne model
Můj vítěz pro lokální nasazení je DeepSeek V4 Flash. Ale ať je jasno: nevyhrál proto, že by to byl chytřejší model – vyhrál proto, že má nejlepší zabalení.
A to „zabalení“ má jméno: DS4. Je to specializovaný open-source engine, který napsal Salvatore Sanfilippo – v komunitě známý jako antirez, autor databáze Redis – v čistém jazyce C a pod licencí MIT. DS4 umí agresivní, ale chytrou 2-bit kvantizaci: 284miliardový model spadne z ~568 GB na ~80 GB a přesto drží kvalitu, protože stlačí jen to, na čem nezáleží (jak přesně, rozeberu hned za tímhle). K tomu má diskovou KV cache (udrží kontext skoro k 1M, aniž by žral RAM) a server, co mluví OpenAI i Anthropic API – takže se napojí na Claude Code i OpenCode.
Výsledek u mě: DeepSeek držel krok s Opusem napříč úlohami (web, prolinkování i 3D) – za ~83 GB, ~25 tokenů/s a až ~1M kontextu. Kvalitou je zhruba remíza s GLM – na webu ho GLM o chlup přeskočil, u prolinkování i 3D byl zas vepředu DeepSeek. Rozdíl je hlavně v ekonomii – vejde se do menšího a levnějšího Macu, jede rychleji, drží delší kontext.
Proč se DeepSeek vejde tam, kde GLM ne? Kvantizace.
Aby se velký model vešel do paměti, musí se zmenšit – sníží se přesnost jeho čísel. Tomu se říká kvantizace. Běžná komprese ubere přesnost všem číslům stejně, jako když stáhnete fotku na nízké rozlišení: rozmaže se i obličej. Engine DS4 od antireze je chytřejší – rozmaže jen pozadí a obličej, tedy to, na čem stojí kvalita, nechá ostrý. Tomu se říká asymetrická kvantizace.
Konkrétně: experty, kde je většina z 284 miliard parametrů (ale na každé slovo se použije jen zlomek), stlačí skoro na 2 bity – zatímco attention, routing a výstupní vrstvu nechá v plné přesnosti. Průměr vyjde ~2,3 bitu na parametr.
| Model | Kvantizace | bitů/param |
|---|---|---|
| DeepSeek V4 Flash | IQ2_XXS asymetrický · engine DS4 | ~2,3 bitu |
| Qwen3-Coder 480B | UD-Q2_K_XL – hrubý „crush“ · LM Studio | ~3,0 bitu |
| GLM-4.6 | ~4-bit (unsloth) · LM Studio | ~4,5 bitu |
| gpt-oss 120B | MXFP4 nativní · Ollama | ~4,5 bitu |
| Qwen3-Coder 30B | Q4_K_M · Ollama | ~4–5 bitů |
| Gemma 4 31B | QAT Q4_0 · Ollama | ~4–5 bitů |
| Gemma 4 26B | Q4 · Ollama | ~5 bitů |
| Devstral 24B | Q4_K_M · Ollama | ~4–5 bitů |
A tady je ta past: skoro všechny modely v testu, GLM včetně, běžely na běžných ~4 bitech. Jen DeepSeek na ~2 – a přes speciální engine. Takže když čtete „DeepSeek se vejde do 83 GB, GLM potřebuje 199“, neporovnáváte dva modely. Porovnáváte 2-bit přes chytrý engine vs 4-bit přes běžný runtime. Bez toho rozměru ten souboj nedává smysl.
A že to není o těch dvou bitech samotných? Přidal jsem Qwen3-Coder 480B – obří 480miliardový model, taky stlačený skoro na 2 bity, ale běžným způsobem (~180 GB), bez chytré asymetrie. A dopadl slabě: v datové vizualizaci podlezl i 31miliardový model a na webu si vymyslel čísla. Velký model + hrubá 2-bit komprese = přesně ten „rozdrcený model“.
Chytrý asymetrický 2-bit (DS4) a hrubé stlačení všeho na 2 bity (Qwen480) jsou stejné „2-bit“ – a přitom úplně jiný svět.
A co GLM, o kterém se mluví nejvíc?
GLM-4.6 je asi nejvíc hypovaný open model, co teď ve scéně slyším – „dohání Claude“. A nechci mu křivdit: na webu byl za mě dokonce nejhezčí z lokálů a 3D scénu zvládl taky. Kvalitou je s DeepSeekem zhruba remíza. Ale spolehlivý napříč úlohami není – u vizualizace prolinkování dodal kód, co se v prohlížeči vůbec nespustil (prázdná stránka).
Jenže běžel na běžném runtime (LM Studio) a standardní ~4-bit kvantizaci – žádný DS4 trik. A to se podepíše: 355 miliard parametrů si vzalo ~199 GB RAM plus swap, takže potřebuje 256GB Mac a i tak mírně odkládá na disk. Kontextové okno se scvrklo na ~40–80K. A byl nejpomalejší (17 tokenů/s).
Takže rovnou a férově: GLM není slabší model. Jen nemůže těžit z optimalizovaného enginu, jako měl v testu DeepSeek. A vzhledem k velikosti modelu v testu obecně neexceloval.
Přehled na jeden pohled
| Model | Paměť | Kontext @256 GB | Web | Prolinkování | 3D animace |
|---|---|---|---|---|---|
| Opus 4.8 Claude · strop | cloud | ~200K | nejlepší | nejbohatší | nejhezčí |
| DeepSeek V4 Flash vítěz | ~83 GB | ~1M | silná | silná | bohatá |
| GLM-4.6 | ~199 GB | ~40–80K | silná | ✕ prázdná | pěkná |
| Qwen3-Coder 480B (Alibaba) | ~180 GB | škrcený | vymyšlená fakta | slabá | funguje |
| gpt-oss 120B (OpenAI) | ~64 GB | ~128K | solidní | funkční | ✕ nevykreslí |
| Gemma 4 31B (Google) | ~20 GB | ~128K | bohatá | výborná | ✕ nevykreslí |
| Gemma 4 26B (Google) | ~19 GB | ~128K | solidní | ✕ bílá | ✕ nevykreslí |
| Qwen3-Coder 30B | ~21 GB | ~256K | základní | výpis | funguje |
| Devstral 24B | ~19 GB | ~128K | základní | ✕ prázdná | jen vagon |
Stroj: Mac Studio M3 Ultra, 256 GB. „Paměť“ = kolik RAM model zabere za běhu. „Kontext @256 GB“ = kolik kontextového okna z něj na tomhle stroji reálně vytáhnete. Jeden pokus na model, identické zadání, žádné doťukávání.
Můžu s tím reálně nahradit Claude Code?
Tenhle výsledek mě navedl na otázku: dal by se DeepSeek V4 přes DS4 reálně používat místo Claude Code? Udělal jsem si variantu Claude Code, claude-ds4 s tímto modelem a kontextem 200K tokenů, a v příštích dnech budu zkoušet stejné úlohy vytvářet paralelně v Claude Code + Opus 4.8 vs. lokální variantě s DeepSeekem.
Ale myslím, že ta mezera bude v realitě ještě mnohem větší (ve prospěch Opusu), než je to v testech. O výsledcích toho experimentu určitě napíšu na webu nebo natočím epizodu dalšího podcastu.
Pět věcí, které z toho plynou
1 · Z velké části je to umělý hype. Hodně z toho je jen téma na obsah a výroba FOMO. I na extrémně výkonném stroji je vidět, že jsme pořád daleko za tím, co zvládne Opus 4.8, natož Fable. A to ještě nepočítám rychlost výroby.
2 · „Postav to na Mac Mini“? Zapomeň. Moje výsledky jsou na 256 GB sdílené paměti. Na běžných konfiguracích 16/32/64 GB budou výsledky mnohem horší a poběží to ještě mnohem pomaleji. Malé modely jsou na reálnou tvorbu věcí zatím velmi málo účinné.
3 · Lokál dává smysl, jen zatím ne na vývoj. Nechci to shodit: lokální modely používám každý den na práci. Na text, obrázky, přepisy nebo analýzy velkých dat stačí i ty menší (ukážu v další studii) a hlavně kvůli privacy je to pro spoustu firem reálná cesta. Jen u vývoje na vlastním hardwaru je to zatím hodně kompromisní.
4 · Rozhodlo zabalení, ne velikost modelu. DeepSeek a GLM jsou kvalitou zhruba remíza, ale DeepSeek přes chytrý engine (asymetrický 2-bit) běží za zlomek paměti a rychleji. Nejde o „lepší model“, jde o lepší způsob spuštění. Tuhle cestu jdu vyzkoušet naostro na reálné práci, kde čekám ještě větší gap než u těchhle ukázek.
5 · Pozor na kontextové okno. Běžně se uvádí, že stačí 16–32 GB RAM. Jenže tam se dostanete jen na hodně osekaný kontext. A spousta modelů má i tak strop 131 tisíc tokenů, přitom u frontier modelů jsme si zvykli být úplně jinde.
Krátká odpověď: na reálném vývoji lokál Claude Code (natož Fable) zatím nenahradí; na vlastním Macu je to z velké části marketingová pohádka. Na práci s textem, obrázky nebo kvůli privacy ale dává smysl už dnes. A jednu cestu (DeepSeek přes chytrý engine) jdu vyzkoušet naostro.
Jedna výjimka nakonec: firmy, co potřebují stoprocentní soukromí a zvládnou drahý hardware, si můžou pronajmout server a rozjet ty úplně největší modely bez kvantizace. To je ale jiná liga než osobní Mac a jde mimo tenhle test.
Výstupy jsou syrové, jeden pokus na model, nic dodatečně neupravováno. Studie vznikla v červenci 2026.
Newsletter AI First — zdarma
Každou neděli to podstatné z AI a vibe codingu
Osobní výběr novinek, které sám používám a považuji za hodnotné.
Přihlášením souhlasíte se zpracováním osobních údajů podle našich zásad. Odhlásíte se kdykoli jedním klikem.
Nástroje se mění. Mindset zůstává.
Jedna věc jsou nástroje, modely, frameworky. Mnohem důležitější je ale mít chuť s nimi tvořit. Realizovat svoje nápady. Přinášet hodnotu zákazníkům. Posouvat customer experience. A přesně to se snažím učit ve svém kurzu.
Od základů AI a prvních krůčků v Claude Code až po vytváření reálné hodnoty díky vibe codingu. To přesně učím 1 800+ absolventů v kurzu s 21 hodinami praktického know-how.