- AI se plete sebevědomě. Nejčastěji jde o vymyšlené zdroje a čísla, zastaralé informace, chybná právní tvrzení a neexistující funkce v kódu.
- Doporučuji tři stupně kontroly podle toho, kam výstup míří: interní poznámka, text zákazníkovi, rozhodnutí o lidech nebo veřejný obsah.
- Za výstup odpovídá ten, kdo ho použije. U vyšších stupňů kontroluje druhý člověk a zapíše kdo, kdy a co ověřil.
- Checklist v 10 bodech pro zaměstnance je ke stažení jako A4 PDF.
Proč kontrolu výstupů řešit zvlášť
Většina firem už řeší, co se do AI smí vkládat. Druhá strana, tedy co z AI vychází a kam to jde, bývá bez pravidel. Přitom právě tam vznikají chyby, které zákazník vidí (v přehledu 7 rizik AI ve firmě riziko číslo šest).
Zákon k tomu říká málo. AI Act v čl. 4 ukládá firmám přijímat opatření k AI gramotnosti lidí, kteří s AI pracují, a ověřování výstupů k ní patří. U vysoce rizikových systémů (nábor, hodnocení lidí, úvěry, vzdělávání) bude od 2. 12. 2027 povinný lidský dohled podle čl. 26. A podle čl. 50 se AI text zveřejněný k informování veřejnosti o věcech veřejného zájmu označuje, pokud neprošel redakční kontrolou člověka. Všechno ostatní na této stránce je moje doporučení z praxe, ne požadavek zákona.
Co se u AI výstupů nejčastěji kazí
AI odpovídá stejně jistě, když má pravdu, i když ne. Nejčastěji se opakuje šest věcí:
Tři stupně kontroly podle toho, kam výstup míří
Kontrolovat všechno stejně přísně nejde. Osvědčilo se mi rozdělit výstupy podle toho, co se stane, když v nich bude chyba:
Z toho plyne pravidlo, které doporučuji napsat do směrnice jednou větou: za výstup odpovídá ten, kdo ho použije, stejně jako za vlastní práci. Ne AI, ne dodavatel nástroje.
Kdo má kontrolovat
- Vždy autor. Čte celý výstup a ověřuje fakta. Jinak by druhý člověk opravoval i překlepy.
- Druhý člověk podle tématu, ne podle funkce. Právní větu potvrdí ten, kdo smlouvám rozumí, ne automaticky nadřízený. Kód kontroluje vývojář, text pro veřejnost ten, kdo za komunikaci odpovídá.
- U rozhodnutí o lidech člověk s pravomocí výsledek AI přezkoumat a přebít. Odkliknutí není dohled.
- V malé firmě to bývá jednatel pro stupeň 3 a kolega z týmu pro stupeň 2. Hlavně ať je to napsané a lidé vědí, za kým jít.
Checklist pro zaměstnance: 10 bodů před odesláním
Body 1 až 3 platí pro každý výstup, 4 až 7 pro všechno, co jde ven z firmy, 8 až 10 pro rozhodnutí o lidech a veřejný obsah.
Stupeň 1: každý výstup
- Přečetl jsem celý výstup, ne jen začátek, a rozumím každé větě.
- Čísla, jména, data a názvy, na kterých budu stavět, jsem ověřil ve zdroji.
- Nic vymyšleného nejde dál: citace a odkazy existují, funkce v kódu existují a dělají, co mají.
Stupeň 2: navíc u všeho, co jde ven z firmy
- Informace jsou aktuální: ceny, lhůty, verze, kontakty, znění podmínek.
- Právní, daňová nebo odborná tvrzení potvrdil člověk, který tématu rozumí, nebo jsem je vyškrtl.
- Výstup neobsahuje nic interního: jména jiných klientů, ceny pro jiné zákazníky, poznámky z porady, přístupové údaje.
- Tón odpovídá adresátovi a výstup posílám pod svým jménem, odpovídám za něj já.
Stupeň 3: navíc u rozhodnutí o lidech a veřejného obsahu
- Druhý člověk, který tématu rozumí a má pravomoc výstup změnit nebo zamítnout, ho zkontroloval.
- Po schválení už do textu AI nezasahovala; poslední úprava byla lidská.
- Je zapsáno, kdo, kdy a co ověřil, a u textu o věcech veřejného zájmu je rozhodnuto o označení.
Jak kontrolu zapsat do směrnice
Ve vzoru směrnice pro používání AI má ověřování výstupů vlastní oddíl 4. Jsou v něm tři věty: za výstup odpovídá ten, kdo ho použije; fakta, čísla, citace a právní tvrzení se před použitím ověřují z důvěryhodného zdroje; výstupy pro zákazníky, úřady a veřejnost kontroluje před odesláním člověk a kód prochází stejnou kontrolou jako jiný kód.
Doporučuji doplnit dvě věci: tři stupně kontroly s příklady z vaší firmy (co je u vás „stupeň 3“) a roli, která u stupně 3 kontroluje. Checklist přiložte jako přílohu; deset bodů na jedné stránce si lidé pamatují lépe než oddíl v dokumentu.
Směrnice zároveň dokládá opatření k AI gramotnosti podle čl. 4; víc v průvodci AI gramotností.
Jak kontrolu zaznamenat: kdo, kdy, co ověřil
U stupně 1 se nic nezapisuje. U stupně 2 stačí historie dokumentu, komentář v ticketu nebo popis změny u kódu. U stupně 3 doporučuji jednu řádku, která přežije i odchod autora:
Kam to psát: tam, kde výstup žije (náborový systém, redakční systém, popis změny kódu). U textů o věcech veřejného zájmu je to zároveň doklad redakční kontroly, na které stojí výjimka z označování podle čl. 50; podrobnosti v průvodci označováním AI obsahu.
Tři situace, které se v běžné firmě opakují
Bez jmen, protože na jménech nezáleží. Takhle to obvykle vypadá:
- Nabídka s referencí, která neexistuje. Obchodník nechá AI přepsat starší nabídku. AI do ní „doplní“ referenci na projekt, který firma nikdy nedělala, a úsporu v procentech. Zákazník se na projekt zeptá. Pravidlo z toho: každá reference a každé číslo má odkaz na interní zdroj, jinak se vyškrtne.
- Odpověď zákazníkovi se špatnou lhůtou. Pracovnice podpory nechá AI napsat odpověď na reklamaci. Text je zdvořilý, ale uvádí lhůtu, která neodpovídá reklamačnímu řádu. Oprava stojí víc času než úspora. Řešení: odpovědi s lhůtami, cenami nebo právními tvrzeními se kontrolují proti interním dokumentům, ne proti paměti.
- Kód, který volá neexistující funkci. Vývojář převezme z AI kód, který vypadá správně a lokálně projde, protože se ta část nespouští. V produkci spadne. Od té doby jde kód od AI stejnou cestou jako kód od kolegy: čtení druhým vývojářem a testy.
Společný jmenovatel: chyba se objeví až u příjemce. Co do AI vkládat a co ne, popisuji v článku ChatGPT ve firmě a GDPR.
Zdroje
- Nařízení (EU) 2024/1689 (AI Act), čl. 4, 26 a 50 (EUR-Lex, česky)
- Evropská komise: regulační rámec pro AI
Stav k 22. 10. 2026. Stránka je informativní, nejde o právní poradenství.
Časté otázky
Co je revize AI výstupu?
Kontrola toho, co AI vygenerovala, člověkem dřív, než se výstup použije nebo odešle: přečtení celého textu, ověření faktů, čísel a citací ve zdroji, kontrola aktuálnosti a tónu a u důležitých výstupů kontrola druhým člověkem se zápisem, kdo, kdy a co ověřil.
Musí každý AI výstup kontrolovat druhý člověk?
Ne. Doporučuji tři stupně podle toho, kam výstup míří: interní podklad kontroluje autor sám; text pro zákazníka, partnera nebo úřad autor s ověřením faktů ve zdroji a s druhým člověkem u smluv, cen a právních tvrzení; rozhodnutí o lidech a veřejný obsah vždy druhý člověk, který tématu rozumí, se zápisem kontroly. Tři stupně výše.
Vyžaduje AI Act kontrolu výstupů z AI?
Tři pravidla AI Actu se jí dotýkají. Čl. 4 ukládá firmám přijímat opatření k AI gramotnosti, kam ověřování výstupů patří. Čl. 26 vyžaduje u vysoce rizikových systémů (nábor, hodnocení lidí, úvěry, vzdělávání) lidský dohled, po novele Digital Omnibus od 2. 12. 2027. Čl. 50 vyžaduje od 2. 8. 2026 označit AI text zveřejněný k informování veřejnosti o věcech veřejného zájmu, pokud neprošel redakční kontrolou člověka. Jak kontrolu nastavit u běžných e-mailů nebo nabídek, je na firmě.
Jak zaznamenat, že výstup prošel kontrolou?
Jednou řádkou u výstupu: co to je, zda vzniklo s AI, kdo ověřil, kdy, co ověřil a co se po kontrole změnilo. U interních podkladů nic, u textů pro zákazníky stačí historie dokumentu nebo ticketu, u rozhodnutí o lidech a veřejného obsahu záznam uchovat tam, kde výstup žije. Vzor záznamu výše.
Mají vaši lidé pravidlo, co dělat s výstupem z AI?
Checklist si vytiskněte a přiložte ke směrnici. Pokud ji ještě nemáte, vzor je ke stažení.
Stáhnout checklist (PDF) Vzor AI směrnice