Práce s AI agenty
Co je man-in-the-loop?
Princip, kdy člověk zůstává v řídící smyčce AI. Agent připravuje, ale směr určujete a spoušť mačkáte vy.
Autor: Jindřich Fáborský · 17 let v marketingu · 2 000+ hodin vibe codingu · 180+ projektů
Man in the loop
Agent připravuje, rozhoduju pořád já.
Rychlá odpověď
Co je tedy man-in-the-loop?
Man-in-the-loop je princip, kdy v rozhodovací smyčce AI agenta zůstává člověk. Agent připraví návrh nebo udělá rutinní krok, ale to rozhodující, hlavně rizikové a nevratné akce, spouští nebo schvaluje člověk.
Říká se tomu i human-in-the-loop, dnešní standardní pojem. „Man“ je starší, z řízení letadel a raket. Znamená to totéž: vy určujete směr, agent maká, spoušť mačkáte vy.
Opak je plně autonomní agent, co si smyčku zavře sám a běží bez dozoru. To je ten sen, který na sítích slibuje skoro každý. U vibe codingu i automatizací je ale rozdíl mezi tím, co se slibuje, a co reálně unese praxe.
Jak to funguje
Co je vlastně ta smyčka
Agent není kouzlo. Je to jazykový model puštěný v kolečku: rozmysli, udělej, koukni na výsledek, a znovu, dokud není hotovo. Man-in-the-loop znamená, že vy sedíte u brány před krokem, který něco mění.
Rozmysli
Model se podívá na zadání a rozhodne, co udělá dál.
Udělej
Provede krok: napíše, zavolá nástroj, sáhne na data.
Zkontroluj
Podívá se na výsledek a rozmyslí další krok. A dokola.
Tady jste vy: brána před akcí
Klíč je krok „Udělej“. Když je neškodný a vratný, ať ho agent provede sám. Když jde o peníze, mazání nebo něco ven vaším jménem, zastaví se a čeká na váš klik. To je celý man-in-the-loop. U autonomního agenta tahle brána chybí a smyčka běží pořád dál sama.
Škála zapojení
Od plné kontroly po plnou autonomii
Není to jen zapnuto/vypnuto. Míra, do jaké člověka pouštíte ze hry, má tři standardní stupně. Nejsnáz si je zapamatujete na řízení auta.
Human-in-the-loop
člověk ve smyčce
Auto s ruční převodovkou
Bez vás se nikam nepohne. Agent akci připraví, ale spustit ji musíte vy. Nejbezpečnější, na oplátku nejvíc práce.
Human-on-the-loop
člověk nad smyčkou
Auto s tempomatem
Agent jede sám, vy u toho dohlížíte a můžete kdykoli šlápnout na brzdu. Rozumný kompromis u věcí, které jde snadno zastavit.
Human-out-of-the-loop
člověk mimo smyčku
Autopilot bez řidiče
Nikdo u toho není, agent si smyčku zavře sám. Sní o tom skoro každý, kdo slibuje armádu agentů. U čehokoli s pákou je to zatím past.
Tuhle tříúrovňovou škálu (in / on / out of the loop) dnes používá i AI governance a evropská legislativa. V praxi si mezi nimi vybíráte podle jediné věci: jak velká škoda hrozí, když to agent zvorá.
Rozhodovačka
Co agentovi pustit a co ne
Používám na to jednoduchý semafor. U každého úkolu si řeknu, do jaké zóny patří. Zkuste si to: klikněte na úkol a semafor ukáže, kolik autonomie mu dát.
Co chcete agentovi zadat?
Zelená zóna
Agent to udělá sám
Nízké riziko, nic nevratného. Text si potom v klidu přečtete a případnou chybu opravíte. Přesně sem autonomní agent patří.
Pravidlo zóny: Nízké riziko, vratné, snadno zkontrolujete zpětně.
Není to univerzální pravda, je to můj semafor po 180+ projektech. Čím větší páka a čím míň vratná akce, tím výš na semaforu se posouvá.
Na co si dát pozor
Být ve smyčce nestačí, když jen razítkujete
Nejčastější omyl: „vždyť to člověk odklikne“. Když ale odklikáváte úplně všechno, mozek si zvykne a začne razítkovat naslepo. Odborně automation bias, lidově schvalovací únava.
Číslo, které to ukazuje
Anthropic naměřil, že uživatelé Claude Code schválí zhruba 93 % dotazů na povolení akce. Formálně jste ve smyčce, reálně už jen klikáte „ano“.
Zdroj: Anthropic →Není to jen názor
Lidský dohled u rizikové AI vyžaduje i evropský AI Act (článek 14). Jmenuje přímo automation bias a chce, aby člověk uměl systém pochopit, přehlasovat a bezpečně zastavit. Legislativa, ne dojem.
Řešení není odklikávat víc, ale míň a smysluplně. Ať se člověk zastaví jen u toho, na čem záleží. Pak to reálně přečte, místo aby to odmáčkl.
Proč to řešit
Co se stane, když volant pustíte
Tohle nejsou strašáky ze zprávy o umělé inteligenci. Jsou to doložené případy z posledního roku, u firem, které samy AI staví.
Když Claude sám řídil obchod
Anthropic nechal Claude samostatně provozovat malý obchod. Agent si vymyslel neexistující kolegyni, tvrdil o sobě, že je člověk, a firmu dovedl do ztráty. A to od firmy, která ten model staví.
Výzkum Anthropicu →Jeden šikovný e-mail a je zle
Agentovi bez brány stačí přečíst cizí e-mail se skrytou instrukcí a poslechne ji, jako byste ji zadali vy. U agenta nad vaší schránkou bez dozoru je to reálná cesta, jak z něj někdo vytáhne data.
Co je prompt injection →Tři schopnosti, které se nesmí sejít
Meta to shrnula do pravidla: když má agent naráz přístup k soukromým datům, čte cizí obsah a umí něco poslat ven, nesmí běžet autonomně. Buď mu jednu schopnost vezmete, nebo do smyčky patří člověk.
Pravidlo od Mety →Kalibrace, ne strašení
Není to důvod nedělat s AI agenty vůbec nic. Je to důvod vědět, kde jste v riziku. Přepis porady nebo rešeršní agent na pozadí? Klid, nechte běžet. Agent, co sám platí, maže data nebo píše lidem vaším jménem? Tam patří člověk k volantu. Kde jsou vůbec hranice bezpečného vibe codingu, rozebírá průvodce Kdy se vibe coding nehodí.
Poslechněte si
O autonomii agentů mluvím i v podcastu
Kde má lidský dohled smysl, kde se přehání a proč nemá cenu z každé „armády agentů“ na sítích panikařit.
Chcete s AI pracovat s rozumem?
V kurzu AI First vás vibe coding a práci s agenty učím poctivě: kde je autonomie výhra a kde patří ruce od klávesnice na volant.
21 hodin videí, 1 800+ absolventů, roční licence s aktualizacemi zdarma.
FAQ
Časté otázky
Co je man-in-the-loop jednoduše?+
Je to princip, kdy do rozhodovací smyčky AI agenta zůstává zapojený člověk. Agent může připravit návrh nebo udělat rutinní krok, ale to podstatné, hlavně akce, co něco mění nebo se nedá vzít zpět, spouští nebo schvaluje člověk. Rozhodující slovo u všeho podstatného má člověk.
Je rozdíl mezi man-in-the-loop a human-in-the-loop?+
Není v tom rozdíl, jsou to synonyma. „Man-in-the-loop“ je starší pojem z řízení letadel a raket. „Human-in-the-loop“ je dnešní standard, který používá i evropská legislativa a výrobci AI. Já sám říkám man-in-the-loop, ale znamená to totéž.
Musím pak u agenta sedět a odklikávat každý krok?+
Ne. To by celou úsporu času sežralo. Trik je nechat člověka rozhodovat jen tam, kde na tom záleží: u peněz, nevratného mazání a všeho, co jde ven vaším jménem. Rutinní a snadno vratné věci agent zvládne sám. Míň bran, ale takových, u kterých se fakt zastavíte a přečtete si je.
Kdy můžu nechat agenta běžet úplně samotného?+
Když je úkol nízkorizikový, snadno vratný a výsledek si umíte zpětně ověřit. Přepis nahrávky, rešerše, roztřídění pošty na neosobní adrese. To je zelená zóna. Čím větší páka a čím míň se akce dá vzít zpět, tím spíš u ní má sedět člověk.
Znamená to, že autonomní agenti jsou k ničemu?+
Ne, jde o kalibraci, ne o strašení. V nízkorizikových úlohách jsou autonomní agenti skvělí a šetří spoustu času. Problém je, když se stejný přístup nasadí na věci s velkou pákou, kde plná autonomie zatím spolehlivě padá. Sliby na sítích jsou o autonomii, realita je o jejím zúžení.
Nestačí, že to člověk odklikne?+
Jen na papíře. Když člověk odklikává všechno, brzo přestane číst a razítkuje. Tomu se říká automation bias. Anthropic naměřil, že uživatelé Claude Code schválí zhruba 93 % dotazů na povolení. Být ve smyčce se počítá jen tehdy, když reálně kontrolujete.
Jak si man-in-the-loop nastavím v praxi?+
Tři věci. Rizikové akce (odeslání, platba, mazání) nechte schvalovat sebou. Dejte agentovi jen ta práva, která na úkol fakt potřebuje. A s každým cizím vstupem, který přečte (e-mail, web, PDF), počítejte jako s možnou nástrahou, protože přes něj jde agenta obelstít. Detail rozebírá průvodce o prompt injection.