AI First Studie · lokální AI vs Claude Code

Může lokální model nahradit Claude Code?

Benchmark 8 lokálních modelů na vlastním Macu proti Opus 4.8.

Jindřich FáborskýJindřich Fáborský

Skoro každý den vídám videa typu: „Tenhle nový lokální model absolutně drtí Opus 4.8.“ nebo „Proč platit 200 USD za Claude Code, když můžete vyvíjet lokálně?“ Zajímalo mě, kolik z toho je tvorba obsahu a kolik realita.

Rozhodl jsem se to pořádně otestovat: dal jsem osmi open-source modelům tři reálné úlohy – postavit web, zvizualizovat data pro SEO a naanimovat 3D scénu. Použil jsem své Mac Studio, které daleko přesahuje typické konfigurace tvůrců na YouTube. A přesto výsledky nejsou úplně růžové.

Lokální modely aktivně používám už víc než rok – na obrázky, přepisy, analýzy dlouhých textů i citlivá data. Ale do reálného vývoje jsem se pustil až teď. Tak trochu jsem čekal, že reálné využití bude dost limitované.

Metodika

Co jsem zkusil a na čem

Tady je moje konfigurace a prostředí pro tento test. Všechny modely dostaly identický prompt a měly jen jeden pokus, bez dalších iterací a oprav chyb.

Stroj
Mac Studio M3 Ultra · 256 GB

Sdílená paměť. Řádově víc než „domácí“ Mac Mini z těch videí (16–24 GB). Když nestačí tohle, na Mac Mini teprv ne.

Software
Ollama · LM Studio · DS4

Malé modely přes Ollamu, GLM přes LM Studio, DeepSeek přes antirezův engine DS4. Kódovací harness OpenCode.

Úlohy
3 – web · prolinkování · 3D

Konverzní landing page, interaktivní SEO vizualizace interního prolinkování a animovaná 3D scéna v three.js. Plus Opus 4.8 jako strop.

Pravidla
1 prompt, 0 rerunů

Identické zadání všem, jeden pokus, žádné doťukávání. Jednotné kontextové okno 32k (fér). Teplota 0,7.

Osm modelů na Macu (+ Opus 4.8 jako cloud strop)

Vzal jsem průřez: od cloudového Opusu jako laťky přes největší lokály, o kterých se teď nejvíc mluví, až po modely, co se vejdou na běžný Mac.

Opus 4.8cloud · strop
Claude · běží v cloudu
Cloudový strop – laťka, kterou má lokál dohnat.
DeepSeek V4 Flashvelký lokál
284B · ~83 GB · engine DS4
Near-frontier model, který jde rozjet přes chytrý engine. Headline testu.
GLM-4.6velký lokál
355B · ~199 GB · LM Studio
Největší a nejvíc hypovaný open model.
Qwen3-Coder 480Bvelký lokál
480B (35B akt.) · ~180 GB · LM Studio
Obří MoE – přidaný jako protiváha: stačí velikost s běžnou 2-bit kvantizací?
gpt-oss 120Bběžný Mac
117B (~5B akt.) · ~64 GB · OpenAI
První open model přímo od OpenAI. Rychlý, malý footprint.
Gemma 4 31Bběžný Mac
~31B · ~20 GB · Google
General model od Googlu (oficiální QAT kvantizace).
Gemma 4 26Bběžný Mac
~26B · ~19 GB · Google
Menší, MoE varianta Gemmy.
Qwen3-Coder 30Bběžný Mac
30B · ~21 GB · Alibaba
Coding specialista. Baseline lokálů.
Devstral 24Bběžný Mac
24B · ~19 GB · Mistral
Malý coder s nejmenšími nároky na paměť.

Mimochodem, hned první poznatek: OpenCode v agentním režimu byl na tohle nespolehlivý – místo aby zapsal soubor, často jen vypsal plán v markdownu. Takže srovnávací běhy jsem hnal přímou generací přes API (Ollama / LM Studio). Je to i blíž tomu, co reálně dělá marketér. Opus 4.8 běžel v cloudu, taky jedním průchodem bez nástrojů – kvůli paritě.

Výsledek 1 · Weby

Postav landing page ke kurzu

Každý model dostal stejný brand kit – logo, fotku lektora, video, reference i loga firem – a měl z toho postavit konverzní stránku. Rozdíl není v tom, jestli to „umí“, ale jestli z materiálu poskládá marketingově funkční stránku, nebo generickou šablonu. Tady jsou tři nejlepší; zbytek si otevřete odkazem.

Rovnou ale řeknu: hotový web na publikaci není ani jeden – je to jeden pokus (one-shot) a i ten nejlepší by chtěl pár kol ladění. Rozdíl je v tom, jak daleko se model dostal za jediný prompt.

Náhled ukazuje horní část stránky. Některé weby odkrývají obsah až při scrollu – pro plný dojem klikněte na „otevřít celé ↗“.

Opus 4.8stropstrop · Claude

Nejbohatší z testu – logo, foto lektora, video, sticky menu, všechny reference. Ale i tak jen jeden pokus: hero se odkrývá až při scrollu a chtělo by to pár kol ladění, než by šel web publikovat.

GLM-4.6funguje~199 GB

Za mě nejhezčí z lokálů – načte se hned bez blikání, logo, hero s fotkou a videem, správná cena, výzva k akci. O chlup před DeepSeekem.

DeepSeek V4 Flashfunguje~83 GB · vítěz lokálů

Taky silná – reálné video i loga firem, hero se vykreslí okamžitě. V téhle jediné disciplíně ho GLM o chlup přeskočil.

Výsledek 2 · Interní prolinkování

Marketérská úloha: mapa interního prolinkování

Dal jsem každému modelu data o interním prolinkování webu a nechal ho postavit interaktivní vizualizaci, která má marketérovi pomoci situaci vizualizovat a dát mu podklad pro lepší optimalizaci. Formu jsem nechal otevřenou, prostě ať je to co nejužitečnější.

Nejostřejší kontrast celého testu: všech 9 výstupů projde grepem jako „validní HTML“ – jenže tři jsou v prohlížeči prázdné (kód spadl). Užitečný výstup dodal dle očekávání Opus 4.8, ale také Gemma 4 31B i DeepSeek V4 Flash.

Funkční vizualizace se rozjedou přímo tady. Křížek = grep hlásil validní HTML, ale v prohlížeči je prázdno – proč, je vysvětlené u každého.

Opus 4.8stropstrop · Claude

Nejbohatší – KPI dlaždice, interaktivní graf, detail panel s doporučením „kam přidat odkaz“ a tabulky kandidátů i autorit. Rozhodovací nástroj.

Gemma 4 31Bfunguje~20 GB · Google

Překvapení testu. General model: graf + 3 KPI + akční seznamy „priority k posílení“ a „autority“. Nejlepší lokál, obstojí vedle Opuse.

DeepSeek V4 Flashfunguje~83 GB · vítěz lokálů

Silný – tmavý graf + panel „Příležitosti“ + zvýrazněné slabě prolinkované stránky. Funkční SEO nástroj.

Qwen3-Coder 480Bčástečně480B · ~180 GB

480 miliard parametrů – a slabší než 31B. Graf se vykreslí, ale uzly zůstaly černé (barvy se neaplikovaly), tuhá mřížka, popisky přes sebe.

GLM-4.6
~199 GB

Nevykreslilo se. Validní HTML, ale prázdná stránka – JS spadl na vlastní nekonzistenci (jinak pojmenovaná ID v kódu a v HTML). Stejná váha jako DeepSeek, a dodal prázdno.

Devstral 24B
~19 GB · Mistral

Nevykreslilo se. Dutá skořápka – napsal celou mašinérii, ale pole s daty nechal prázdné (const data = []).

Gemma 4 26B
~19 GB · Google

Nevykreslilo se. Bílá stránka – zvolila ambiciózní stack (Vue) a shodila se na chybě hned při startu.

Výsledek 3 · 3D grafika

Červená tramvaj při západu slunce

Zadání: ve three.js udělej scénu s krajinou při západu slunce, kterou zleva doprava projede červená tramvaj – a ať se to samo rozjede. Vypadá to jako hračka. Přesto tři modely scénu vůbec nevykreslily – kód, který na první pohled vypadá správně, ale v prohlížeči je černo.

Funkční scény se rozjedou přímo tady; klikněte na „otevřít celé“ pro celou obrazovku. Černé okno není chyba načítání – u tří modelů je vysvětlené, proč se kód nespustil.

Opus 4.8strop
strop · Claude

Nejhezčí scéna – kopce, stromy, koleje s pražci, tramvaj s pantografem a rozsvícenými světly.

DeepSeek V4 Flashfunguje
~83 GB · vítěz lokálů

Bohatá scéna: hory v dáli, koleje, pouliční lampy, detailní vůz s okny. Jediná plně publikovatelná z lokálů.

GLM-4.6funguje
~199 GB

Pěkná scéna – keře podél trati, koleje, tramvaj se žlutými světly a okny.

Qwen3-Coder 30Bfunguje
~21 GB

Jednoduchá, ale funkční a kompletní – vagon s okny, obloha, zelený kopec, slunce.

Qwen3-Coder 480Bčástečně
480B · ~180 GB

Obří 480B, a přesto hůř než 30miliardový Qwen – scéna je hrubá (vypadá, že vypadla zelená barva louky). Velikost tady nepomohla.

Devstral 24Bčástečně
~19 GB

Jen červený vagon v černé prázdnotě – krajinu ani západ slunce vůbec neudělal.

gpt-oss 120B
~64 GB · OpenAI

Nevykreslilo se. Načetl three.js špatně – UMD build importoval jako ES modul, takže knihovna zůstala nedefinovaná a plátno nikdy nevzniklo.

Gemma 4 31B
~20 GB · Google

Nevykreslilo se. Sáhla po zdroji three@0.160 (skypack), který tu verzi nedodá – import selhal a scéna se nespustila.

Gemma 4 26B
~19 GB · Google

Nevykreslilo se. Překlep v kódu: napsala „win“ místo „window“ – inicializace spadla hned na startu.

Co jsem u toho změřil

Rychlost, paměť a kontext

Kvalita výstupů je jen půlka příběhu. Druhá část skládačky je rychlost a nároky modelu na hardware. A tady to začíná být zajímavé.

Rychlost generování (tokenů/s)

Qwen3-Coder 30B
89 t/s
Gemma 4 26B
87 t/s
gpt-oss 120B
66 t/s
Devstral 24B
38 t/s
Gemma 4 31B
28 t/s
DeepSeek V4 Flash
25 t/s
Qwen3-Coder 480B
19 t/s
GLM-4.6
17 t/s

Rychlost na úloze web (tokenů za vteřinu). Malé modely jsou nejrychlejší; near-frontier DeepSeek a GLM platí za kvalitu rychlostí. Opus běžel v cloudu, lokální timing nemá.

Paměť za běhu (RAM)

GLM-4.6
~199 GB
Qwen3-Coder 480B
~180 GB
DeepSeek V4 Flash
~83 GB
gpt-oss 120B
~64 GB
Qwen3-Coder 30B
~21 GB
Gemma 4 31B
~20 GB
Devstral 24B
~19 GB
Gemma 4 26B
~19 GB

Kolik RAM model zabere při 32k kontextu. GLM (355 mld. parametrů) potřebuje ~199 GB a na 256GB Macu už odkládá na disk. DeepSeek (284 mld.) ze stejné ligy kvality se vejde do ~83 GB.

Reálné kontextové okno na 256 GB

DeepSeek V4 Flash
~1M
Qwen3-Coder 30B
~256K
gpt-oss 120B
~128K
Gemma 4 31B
~128K
Gemma 4 26B
~128K
Devstral 24B
~128K
GLM-4.6
~40–80K

Kolik kontextu z modelu na 256 GB reálně vytáhnete (nativní strop minus váhy). Největší model (GLM) skončí na nejmenším použitelném okně, protože váhy sežerou paměť. DeepSeek díky diskové KV cache drží až ~1M. Samotný test běžel jednotně na 32k, aby bylo srovnání fér. (Qwen480 tu vynecháváme – reálný strop okna jsme neměřili.)

Vítěz pro lokál – ale čtěte pozorně

DeepSeek V4 Flash: vyhrál engine, ne model

Můj vítěz pro lokální nasazení je DeepSeek V4 Flash. Ale ať je jasno: nevyhrál proto, že by to byl chytřejší model – vyhrál proto, že má nejlepší zabalení.

A to „zabalení“ má jméno: DS4. Je to specializovaný open-source engine, který napsal Salvatore Sanfilippo – v komunitě známý jako antirez, autor databáze Redis – v čistém jazyce C a pod licencí MIT. DS4 umí agresivní, ale chytrou 2-bit kvantizaci: 284miliardový model spadne z ~568 GB na ~80 GB a přesto drží kvalitu, protože stlačí jen to, na čem nezáleží (jak přesně, rozeberu hned za tímhle). K tomu má diskovou KV cache (udrží kontext skoro k 1M, aniž by žral RAM) a server, co mluví OpenAI i Anthropic API – takže se napojí na Claude Code i OpenCode.

Výsledek u mě: DeepSeek držel krok s Opusem napříč úlohami (web, prolinkování i 3D) – za ~83 GB, ~25 tokenů/s a až ~1M kontextu. Kvalitou je zhruba remíza s GLM – na webu ho GLM o chlup přeskočil, u prolinkování i 3D byl zas vepředu DeepSeek. Rozdíl je hlavně v ekonomii – vejde se do menšího a levnějšího Macu, jede rychleji, drží delší kontext.

Engine je open-source: github.com/antirez/ds4 ↗
Rozměr, který v žebříčcích chybí

Proč se DeepSeek vejde tam, kde GLM ne? Kvantizace.

Aby se velký model vešel do paměti, musí se zmenšit – sníží se přesnost jeho čísel. Tomu se říká kvantizace. Běžná komprese ubere přesnost všem číslům stejně, jako když stáhnete fotku na nízké rozlišení: rozmaže se i obličej. Engine DS4 od antireze je chytřejší – rozmaže jen pozadí a obličej, tedy to, na čem stojí kvalita, nechá ostrý. Tomu se říká asymetrická kvantizace.

Konkrétně: experty, kde je většina z 284 miliard parametrů (ale na každé slovo se použije jen zlomek), stlačí skoro na 2 bity – zatímco attention, routing a výstupní vrstvu nechá v plné přesnosti. Průměr vyjde ~2,3 bitu na parametr.

ModelKvantizacebitů/param
DeepSeek V4 FlashIQ2_XXS asymetrický · engine DS4~2,3 bitu
Qwen3-Coder 480BUD-Q2_K_XL – hrubý „crush“ · LM Studio~3,0 bitu
GLM-4.6~4-bit (unsloth) · LM Studio~4,5 bitu
gpt-oss 120BMXFP4 nativní · Ollama~4,5 bitu
Qwen3-Coder 30BQ4_K_M · Ollama~4–5 bitů
Gemma 4 31BQAT Q4_0 · Ollama~4–5 bitů
Gemma 4 26BQ4 · Ollama~5 bitů
Devstral 24BQ4_K_M · Ollama~4–5 bitů

A tady je ta past: skoro všechny modely v testu, GLM včetně, běžely na běžných ~4 bitech. Jen DeepSeek na ~2 – a přes speciální engine. Takže když čtete „DeepSeek se vejde do 83 GB, GLM potřebuje 199“, neporovnáváte dva modely. Porovnáváte 2-bit přes chytrý engine vs 4-bit přes běžný runtime. Bez toho rozměru ten souboj nedává smysl.

A že to není o těch dvou bitech samotných? Přidal jsem Qwen3-Coder 480B – obří 480miliardový model, taky stlačený skoro na 2 bity, ale běžným způsobem (~180 GB), bez chytré asymetrie. A dopadl slabě: v datové vizualizaci podlezl i 31miliardový model a na webu si vymyslel čísla. Velký model + hrubá 2-bit komprese = přesně ten „rozdrcený model“.

Chytrý asymetrický 2-bit (DS4) a hrubé stlačení všeho na 2 bity (Qwen480) jsou stejné „2-bit“ – a přitom úplně jiný svět.

Hype vs. realita – poctivě

A co GLM, o kterém se mluví nejvíc?

GLM-4.6 je asi nejvíc hypovaný open model, co teď ve scéně slyším – „dohání Claude“. A nechci mu křivdit: na webu byl za mě dokonce nejhezčí z lokálů a 3D scénu zvládl taky. Kvalitou je s DeepSeekem zhruba remíza. Ale spolehlivý napříč úlohami není – u vizualizace prolinkování dodal kód, co se v prohlížeči vůbec nespustil (prázdná stránka).

Jenže běžel na běžném runtime (LM Studio) a standardní ~4-bit kvantizaci – žádný DS4 trik. A to se podepíše: 355 miliard parametrů si vzalo ~199 GB RAM plus swap, takže potřebuje 256GB Mac a i tak mírně odkládá na disk. Kontextové okno se scvrklo na ~40–80K. A byl nejpomalejší (17 tokenů/s).

Takže rovnou a férově: GLM není slabší model. Jen nemůže těžit z optimalizovaného enginu, jako měl v testu DeepSeek. A vzhledem k velikosti modelu v testu obecně neexceloval.

Přehled na jeden pohled

ModelPaměťKontext @256 GBWebProlinkování3D animace
Opus 4.8 Claude · stropcloud~200Knejlepšínejbohatšínejhezčí
DeepSeek V4 Flash vítěz~83 GB~1Msilnásilnábohatá
GLM-4.6 ~199 GB~40–80Ksilná✕ prázdnápěkná
Qwen3-Coder 480B (Alibaba)~180 GBškrcenývymyšlená faktaslabáfunguje
gpt-oss 120B (OpenAI)~64 GB~128Ksolidnífunkční✕ nevykreslí
Gemma 4 31B (Google)~20 GB~128Kbohatávýborná✕ nevykreslí
Gemma 4 26B (Google)~19 GB~128Ksolidní✕ bílá✕ nevykreslí
Qwen3-Coder 30B ~21 GB~256Kzákladnívýpisfunguje
Devstral 24B ~19 GB~128Kzákladní✕ prázdnájen vagon

Stroj: Mac Studio M3 Ultra, 256 GB. „Paměť“ = kolik RAM model zabere za běhu. „Kontext @256 GB“ = kolik kontextového okna z něj na tomhle stroji reálně vytáhnete. Jeden pokus na model, identické zadání, žádné doťukávání.

Co dál

Můžu s tím reálně nahradit Claude Code?

Tenhle výsledek mě navedl na otázku: dal by se DeepSeek V4 přes DS4 reálně používat místo Claude Code? Udělal jsem si variantu Claude Code, claude-ds4 s tímto modelem a kontextem 200K tokenů, a v příštích dnech budu zkoušet stejné úlohy vytvářet paralelně v Claude Code + Opus 4.8 vs. lokální variantě s DeepSeekem.

Ale myslím, že ta mezera bude v realitě ještě mnohem větší (ve prospěch Opusu), než je to v testech. O výsledcích toho experimentu určitě napíšu na webu nebo natočím epizodu dalšího podcastu.

Pět věcí, které z toho plynou

  1. 1 · Z velké části je to umělý hype. Hodně z toho je jen téma na obsah a výroba FOMO. I na extrémně výkonném stroji je vidět, že jsme pořád daleko za tím, co zvládne Opus 4.8, natož Fable. A to ještě nepočítám rychlost výroby.

  2. 2 · „Postav to na Mac Mini“? Zapomeň. Moje výsledky jsou na 256 GB sdílené paměti. Na běžných konfiguracích 16/32/64 GB budou výsledky mnohem horší a poběží to ještě mnohem pomaleji. Malé modely jsou na reálnou tvorbu věcí zatím velmi málo účinné.

  3. 3 · Lokál dává smysl, jen zatím ne na vývoj. Nechci to shodit: lokální modely používám každý den na práci. Na text, obrázky, přepisy nebo analýzy velkých dat stačí i ty menší (ukážu v další studii) a hlavně kvůli privacy je to pro spoustu firem reálná cesta. Jen u vývoje na vlastním hardwaru je to zatím hodně kompromisní.

  4. 4 · Rozhodlo zabalení, ne velikost modelu. DeepSeek a GLM jsou kvalitou zhruba remíza, ale DeepSeek přes chytrý engine (asymetrický 2-bit) běží za zlomek paměti a rychleji. Nejde o „lepší model“, jde o lepší způsob spuštění. Tuhle cestu jdu vyzkoušet naostro na reálné práci, kde čekám ještě větší gap než u těchhle ukázek.

  5. 5 · Pozor na kontextové okno. Běžně se uvádí, že stačí 16–32 GB RAM. Jenže tam se dostanete jen na hodně osekaný kontext. A spousta modelů má i tak strop 131 tisíc tokenů, přitom u frontier modelů jsme si zvykli být úplně jinde.

Krátká odpověď: na reálném vývoji lokál Claude Code (natož Fable) zatím nenahradí; na vlastním Macu je to z velké části marketingová pohádka. Na práci s textem, obrázky nebo kvůli privacy ale dává smysl už dnes. A jednu cestu (DeepSeek přes chytrý engine) jdu vyzkoušet naostro.

Jedna výjimka nakonec: firmy, co potřebují stoprocentní soukromí a zvládnou drahý hardware, si můžou pronajmout server a rozjet ty úplně největší modely bez kvantizace. To je ale jiná liga než osobní Mac a jde mimo tenhle test.

Výstupy jsou syrové, jeden pokus na model, nic dodatečně neupravováno. Studie vznikla v červenci 2026.

Nástroje se mění. Mindset zůstává.

Jedna věc jsou nástroje, modely, frameworky. Mnohem důležitější je ale mít chuť s nimi tvořit. Realizovat svoje nápady. Přinášet hodnotu zákazníkům. Posouvat customer experience. A přesně to se snažím učit ve svém kurzu.

Od základů AI a prvních krůčků v Claude Code až po vytváření reálné hodnoty díky vibe codingu. To přesně učím 1 800+ absolventů v kurzu s 21 hodinami praktického know-how.