AIscale › Bezpečnost AI › Revize AI výstupů

Revize AI výstupů: jak zkontrolovat, co AI napsala, než to jde ven

AI napíše nabídku, odpověď zákazníkovi nebo kus kódu za minutu. Odpovědnost za to, co odejde z firmy, ale zůstává na člověku. Tady je postup, jak kontrolu výstupů nastavit tak, aby nebrzdila práci a přitom zachytila to, co se kazí nejčastěji. Včetně checklistu pro zaměstnance k vytištění.

Publikováno 22. 10. 2026 · Jiří Staněk · 8 min čtení

Stručně
  • AI se plete sebevědomě. Nejčastěji jde o vymyšlené zdroje a čísla, zastaralé informace, chybná právní tvrzení a neexistující funkce v kódu.
  • Doporučuji tři stupně kontroly podle toho, kam výstup míří: interní poznámka, text zákazníkovi, rozhodnutí o lidech nebo veřejný obsah.
  • Za výstup odpovídá ten, kdo ho použije. U vyšších stupňů kontroluje druhý člověk a zapíše kdo, kdy a co ověřil.
  • Checklist v 10 bodech pro zaměstnance je ke stažení jako A4 PDF.

Stáhnout checklist (PDF)

Proč kontrolu výstupů řešit zvlášť

Většina firem už řeší, co se do AI smí vkládat. Druhá strana, tedy co z AI vychází a kam to jde, bývá bez pravidel. Přitom právě tam vznikají chyby, které zákazník vidí (v přehledu 7 rizik AI ve firmě riziko číslo šest).

Zákon k tomu říká málo. AI Act v čl. 4 ukládá firmám přijímat opatření k AI gramotnosti lidí, kteří s AI pracují, a ověřování výstupů k ní patří. U vysoce rizikových systémů (nábor, hodnocení lidí, úvěry, vzdělávání) bude od 2. 12. 2027 povinný lidský dohled podle čl. 26. A podle čl. 50 se AI text zveřejněný k informování veřejnosti o věcech veřejného zájmu označuje, pokud neprošel redakční kontrolou člověka. Všechno ostatní na této stránce je moje doporučení z praxe, ne požadavek zákona.

Co se u AI výstupů nejčastěji kazí

AI odpovídá stejně jistě, když má pravdu, i když ne. Nejčastěji se opakuje šest věcí:

Vymyšlené zdroje a číslaCitace, které neexistují, studie bez autora, procenta z průzkumu, který nikdo nenajde. Nejsnáz se odhalí: chtějte odkaz a otevřete ho.
Zastaralé informaceCeny, lhůty, verze produktů, kontakty, znění podmínek. Model o změnách od určitého data neví, pokud mu je nedáte.
Špatná právní tvrzeníSebejistá věta o tom, co „zákon vyžaduje“, s chybným paragrafem nebo lhůtou. V odpovědi zákazníkovi nebo úřadu nejdražší typ chyby.
Neexistující funkce v kóduVolání funkce, kterou knihovna nemá, neexistující parametr, dotaz, který vypadá správně a vrací něco jiného. Kód od AI potřebuje stejnou kontrolu jako kód od kolegy.
Tón a formaPříliš formální, příliš nadšené, fráze, které u vás nikdo nepoužívá. Zákazník pozná, že text nepsal člověk, kterého zná.
Interní informace ve výstupuDo zadání šla celá porada nebo ceník a AI část použila v textu pro zákazníka: jméno jiného klienta, interní marže, poznámka „nedávat ven“.

Tři stupně kontroly podle toho, kam výstup míří

Kontrolovat všechno stejně přísně nejde. Osvědčilo se mi rozdělit výstupy podle toho, co se stane, když v nich bude chyba:

Stupeň 1: interní poznámka, podklad pro sebeShrnutí porady, první návrh, rešerše pro sebe. Kontroluje autor sám: přečte celý výstup a ověří čísla a jména, na kterých bude stavět. Čas: minuty.
Stupeň 2: text zákazníkovi, partnerovi, úřaduNabídka, odpověď na reklamaci, smlouva, kód do sdíleného repozitáře. Autor ověří fakta ve zdroji, zkontroluje aktuálnost, vyškrtne, co nedoloží, a projde tón. U smluv, cen a právních tvrzení přidá druhého člověka. Čas: často déle než samotné generování.
Stupeň 3: rozhodnutí o lidech nebo veřejný obsahHodnocení uchazeče nebo zaměstnance, odpověď na stížnost, článek na web, tisková zpráva, příspěvek na sociální sítě, kód do produkce. Vždy druhý člověk, který tématu rozumí, může výstup změnit nebo zamítnout a nese za něj odpovědnost. Kontrola se zapíše. Tady se potkáte i s AI Actem: lidský dohled u vysoce rizikových systémů (čl. 26, od 2. 12. 2027) a označování AI textů o věcech veřejného zájmu bez lidské redakce (čl. 50).

Z toho plyne pravidlo, které doporučuji napsat do směrnice jednou větou: za výstup odpovídá ten, kdo ho použije, stejně jako za vlastní práci. Ne AI, ne dodavatel nástroje.

Kdo má kontrolovat

  • Vždy autor. Čte celý výstup a ověřuje fakta. Jinak by druhý člověk opravoval i překlepy.
  • Druhý člověk podle tématu, ne podle funkce. Právní větu potvrdí ten, kdo smlouvám rozumí, ne automaticky nadřízený. Kód kontroluje vývojář, text pro veřejnost ten, kdo za komunikaci odpovídá.
  • U rozhodnutí o lidech člověk s pravomocí výsledek AI přezkoumat a přebít. Odkliknutí není dohled.
  • V malé firmě to bývá jednatel pro stupeň 3 a kolega z týmu pro stupeň 2. Hlavně ať je to napsané a lidé vědí, za kým jít.

Checklist pro zaměstnance: 10 bodů před odesláním

Body 1 až 3 platí pro každý výstup, 4 až 7 pro všechno, co jde ven z firmy, 8 až 10 pro rozhodnutí o lidech a veřejný obsah.

Stáhnout checklist (PDF)

Stupeň 1: každý výstup

  1. Přečetl jsem celý výstup, ne jen začátek, a rozumím každé větě.
  2. Čísla, jména, data a názvy, na kterých budu stavět, jsem ověřil ve zdroji.
  3. Nic vymyšleného nejde dál: citace a odkazy existují, funkce v kódu existují a dělají, co mají.

Stupeň 2: navíc u všeho, co jde ven z firmy

  1. Informace jsou aktuální: ceny, lhůty, verze, kontakty, znění podmínek.
  2. Právní, daňová nebo odborná tvrzení potvrdil člověk, který tématu rozumí, nebo jsem je vyškrtl.
  3. Výstup neobsahuje nic interního: jména jiných klientů, ceny pro jiné zákazníky, poznámky z porady, přístupové údaje.
  4. Tón odpovídá adresátovi a výstup posílám pod svým jménem, odpovídám za něj já.

Stupeň 3: navíc u rozhodnutí o lidech a veřejného obsahu

  1. Druhý člověk, který tématu rozumí a má pravomoc výstup změnit nebo zamítnout, ho zkontroloval.
  2. Po schválení už do textu AI nezasahovala; poslední úprava byla lidská.
  3. Je zapsáno, kdo, kdy a co ověřil, a u textu o věcech veřejného zájmu je rozhodnuto o označení.

Jak kontrolu zapsat do směrnice

Ve vzoru směrnice pro používání AI má ověřování výstupů vlastní oddíl 4. Jsou v něm tři věty: za výstup odpovídá ten, kdo ho použije; fakta, čísla, citace a právní tvrzení se před použitím ověřují z důvěryhodného zdroje; výstupy pro zákazníky, úřady a veřejnost kontroluje před odesláním člověk a kód prochází stejnou kontrolou jako jiný kód.

Doporučuji doplnit dvě věci: tři stupně kontroly s příklady z vaší firmy (co je u vás „stupeň 3“) a roli, která u stupně 3 kontroluje. Checklist přiložte jako přílohu; deset bodů na jedné stránce si lidé pamatují lépe než oddíl v dokumentu.

Směrnice zároveň dokládá opatření k AI gramotnosti podle čl. 4; víc v průvodci AI gramotností.

Jak kontrolu zaznamenat: kdo, kdy, co ověřil

U stupně 1 se nic nezapisuje. U stupně 2 stačí historie dokumentu, komentář v ticketu nebo popis změny u kódu. U stupně 3 doporučuji jednu řádku, která přežije i odchod autora:

Vzor záznamu: Výstup: odpověď na stížnost č. 2026-118 · S AI: ano, první návrh · Ověřil: J. N., vedoucí reklamací · Datum: 22. 10. 2026 · Co ověřeno: lhůty podle reklamačního řádu, údaje o objednávce, tón · Změny: dvě věty přepsány, odstraněn odkaz na neexistující bod podmínek.

Kam to psát: tam, kde výstup žije (náborový systém, redakční systém, popis změny kódu). U textů o věcech veřejného zájmu je to zároveň doklad redakční kontroly, na které stojí výjimka z označování podle čl. 50; podrobnosti v průvodci označováním AI obsahu.

Tři situace, které se v běžné firmě opakují

Bez jmen, protože na jménech nezáleží. Takhle to obvykle vypadá:

  • Nabídka s referencí, která neexistuje. Obchodník nechá AI přepsat starší nabídku. AI do ní „doplní“ referenci na projekt, který firma nikdy nedělala, a úsporu v procentech. Zákazník se na projekt zeptá. Pravidlo z toho: každá reference a každé číslo má odkaz na interní zdroj, jinak se vyškrtne.
  • Odpověď zákazníkovi se špatnou lhůtou. Pracovnice podpory nechá AI napsat odpověď na reklamaci. Text je zdvořilý, ale uvádí lhůtu, která neodpovídá reklamačnímu řádu. Oprava stojí víc času než úspora. Řešení: odpovědi s lhůtami, cenami nebo právními tvrzeními se kontrolují proti interním dokumentům, ne proti paměti.
  • Kód, který volá neexistující funkci. Vývojář převezme z AI kód, který vypadá správně a lokálně projde, protože se ta část nespouští. V produkci spadne. Od té doby jde kód od AI stejnou cestou jako kód od kolegy: čtení druhým vývojářem a testy.

Společný jmenovatel: chyba se objeví až u příjemce. Co do AI vkládat a co ne, popisuji v článku ChatGPT ve firmě a GDPR.

Zdroje

Stav k 22. 10. 2026. Stránka je informativní, nejde o právní poradenství.

Časté otázky

Co je revize AI výstupu?

Kontrola toho, co AI vygenerovala, člověkem dřív, než se výstup použije nebo odešle: přečtení celého textu, ověření faktů, čísel a citací ve zdroji, kontrola aktuálnosti a tónu a u důležitých výstupů kontrola druhým člověkem se zápisem, kdo, kdy a co ověřil.

Musí každý AI výstup kontrolovat druhý člověk?

Ne. Doporučuji tři stupně podle toho, kam výstup míří: interní podklad kontroluje autor sám; text pro zákazníka, partnera nebo úřad autor s ověřením faktů ve zdroji a s druhým člověkem u smluv, cen a právních tvrzení; rozhodnutí o lidech a veřejný obsah vždy druhý člověk, který tématu rozumí, se zápisem kontroly. Tři stupně výše.

Vyžaduje AI Act kontrolu výstupů z AI?

Tři pravidla AI Actu se jí dotýkají. Čl. 4 ukládá firmám přijímat opatření k AI gramotnosti, kam ověřování výstupů patří. Čl. 26 vyžaduje u vysoce rizikových systémů (nábor, hodnocení lidí, úvěry, vzdělávání) lidský dohled, po novele Digital Omnibus od 2. 12. 2027. Čl. 50 vyžaduje od 2. 8. 2026 označit AI text zveřejněný k informování veřejnosti o věcech veřejného zájmu, pokud neprošel redakční kontrolou člověka. Jak kontrolu nastavit u běžných e-mailů nebo nabídek, je na firmě.

Jak zaznamenat, že výstup prošel kontrolou?

Jednou řádkou u výstupu: co to je, zda vzniklo s AI, kdo ověřil, kdy, co ověřil a co se po kontrole změnilo. U interních podkladů nic, u textů pro zákazníky stačí historie dokumentu nebo ticketu, u rozhodnutí o lidech a veřejného obsahu záznam uchovat tam, kde výstup žije. Vzor záznamu výše.

Mají vaši lidé pravidlo, co dělat s výstupem z AI?

Checklist si vytiskněte a přiložte ke směrnici. Pokud ji ještě nemáte, vzor je ke stažení.

Stáhnout checklist (PDF) Vzor AI směrnice