AIscale › Bezpečnost AI › Postup při AI incidentu

Co dělat, když se s AI něco pokazí: postup při incidentu a vzor záznamu

Zaměstnanec vložil tabulku zákazníků do bezplatného chatbota. AI asistent zobrazil mzdy celé firmě. Agent odeslal e-mail, který nikdo neschválil. V tu chvíli nepotřebujete výklad předpisů, ale postup, který někdo napsal předem. Tady je, pro firmu, která AI používá a nemá bezpečnostní oddělení. Včetně vzoru záznamu ke stažení.

Aktualizováno 6. 11. 2026 · Jiří Staněk · 10 min čtení

Stručně
  • AI incident je únik dat, nechtěný přístup, nechtěná akce nebo chybný výstup s dopadem. Rozhoduje dopad, ne to, že u toho byla AI.
  • Postup má šest kroků: zastavit, zjistit rozsah, zapsat, posoudit, ohlásit, napravit. Prvních pět stihnete v den, kdy se to stalo.
  • Dvě lhůty, které mohou běžet: 72 hodin na ohlášení ÚOOÚ, pokud jde o osobní údaje (čl. 33 GDPR), a 24 hodin na prvotní hlášení NÚKIB, pokud jste regulovaným subjektem podle zákona č. 264/2025 Sb.
  • Záznam o incidentu vedete vždy, i když nakonec nic nehlásíte. Vzor postupu a záznamu je ke stažení jako Word.

Stáhnout postup a vzor záznamu (Word)

Co je AI incident: šest situací, které se opakují

Nepotřebujete definici z normy. Potřebujete, aby lidé poznali, že se něco stalo, a věděli, komu to říct. Tohle jsou situace, které se v běžné firmě opakují:

1. Data v nástroji bez smlouvyNěkdo vložil osobní údaje, smlouvu nebo interní dokument do AI nástroje, se kterým firma nemá zpracovatelskou smlouvu, typicky do bezplatného osobního účtu. Nejčastější incident vůbec.
2. AI asistent ukázal, co nemělAsistent napojený na firemní dokumenty odpověděl z tabulky mezd nebo ze smlouvy, která byla omylem nasdílená všem. Technicky nic neuniklo ven, ale uvnitř viděl něco někdo, kdo neměl.
3. Agent provedl nechtěnou akciAI agent odeslal e-mail, změnil záznam, sdílel soubor nebo zadal objednávku, kterou nikdo neschválil. Příčinou bývá prompt injection nebo příliš široká oprávnění.
4. Chybný výstup odešel venNabídka s neexistující referencí, odpověď zákazníkovi se špatnou lhůtou, rozhodnutí o uchazeči na základě vymyšleného údaje. Incident to je ve chvíli, kdy má dopad na zákazníka, úřad nebo člověka.
5. Podvod s AIPlatba nebo přístup vydaný na základě klonovaného hlasu nebo videa, phishing napsaný AI, podvodná faktura, která prošla přes AI asistenta účtárny.
6. Kompromitovaný účet nebo doplněkUkradené přihlášení k firemnímu AI nástroji s historií konverzací, rozšíření prohlížeče „s AI“, které četlo interní systémy, aplikace, které někdo povolil přístup k poště.

Pravidlo pro zaměstnance zní: když si nejste jistí, jestli to je incident, nahlaste to. Posoudit to je úkol toho, kdo incidenty řeší, ne toho, kdo si všiml.

Postup v šesti krocích

Kroky 1 až 5 patří do prvního dne. Krok 6 je na týdny. Postup je stejný pro všech šest situací, liší se jen v tom, co konkrétně zastavujete.

1. Zastavit

Zabránit tomu, aby se škoda zvětšovala. Podle situace: smazat konverzaci a vypnout trénování na účtu, zrušit sdílení dokumentu, vypnout agenta nebo mu odebrat oprávnění, změnit heslo a odhlásit zařízení, zavolat bance kvůli zastavení platby. Nic nemažte z logů a historie, budete to potřebovat v kroku 2.

2. Zjistit rozsah

Co přesně se stalo, přes jaký nástroj, od kdy do kdy, jaká data (osobní údaje? smlouvy? přístupy?), kolika lidí se to týká a kdo k tomu měl přístup. U agentů čtěte log akcí, u asistentů historii dotazů, u účtů historii přihlášení. Pokud nevíte, kdo má k logům přístup, je to první věc, kterou po incidentu napravíte.

3. Zapsat

Hned, i neúplně. GDPR v čl. 33 odst. 5 ukládá dokumentovat každé porušení zabezpečení osobních údajů včetně skutečností, účinků a přijatých opatření, bez ohledu na to, jestli se nakonec hlásí. Já doporučuji zapisovat každý AI incident, i ten bez osobních údajů, protože záznam je jediný způsob, jak za půl roku zjistit, co se opakuje. Vzor záznamu je ke stažení a má stejné položky jako formulář ÚOOÚ, takže ho v případě hlášení jen přepíšete.

4. Posoudit

Tři otázky, které rozhodnou o dalším kroku:

  • Jsou v tom osobní údaje? Jména a e-maily, nebo rodná čísla, zdravotní údaje, mzdy? Kolika lidí? Dá se vyloučit riziko pro ně? Pokud ne, běží 72 hodin podle čl. 33 GDPR. Pokud je riziko vysoké, přidává se informování dotčených osob podle čl. 34.
  • Jsme regulovaný subjekt podle zákona o kybernetické bezpečnosti? Pokud ano a jde o kybernetický bezpečnostní incident, běží 24 hodin na prvotní hlášení NÚKIB. Jestli pod zákon spadáte, stanoví § 4 zákona a vyhláška č. 408/2025 Sb. (podrobně v článku AI a NIS2); většina běžných firem nespadá.
  • Jde o peníze nebo trestný čin? Podvodná platba, ukradený přístup, vydírání: banka a Policie ČR, a to hned, ne po poradě.

5. Ohlásit

ÚOOÚ: osobní údaje, nelze vyloučit rizikoBez zbytečného odkladu a pokud možno do 72 hodin od okamžiku, kdy jste se o porušení dozvěděli (čl. 33 odst. 1 GDPR). Formulář Ohlášení porušení zabezpečení osobních údajů dle GDPR umožňuje prvotní ohlášení a pozdější doplnění; pokud hlásíte po 72 hodinách, uvádíte důvody zpoždění. Při vysokém riziku informujte i dotčené osoby (čl. 34).
NÚKIB: jen regulované subjektyPrvotní hlášení nejpozději do 24 hodin po zjištění incidentu přes Portál NÚKIB (§ 16 zákona č. 264/2025 Sb.); e-mail nebo datová schránka jen jako náhradní cesta, když portál nefunguje. U incidentu s významným dopadem následuje oznámení do 72 hodin a závěrečná zpráva do 30 dnů od oznámení. NÚKIB uvádí, že hlášení přijímá i od subjektů, které povinnost nemají.
Uvnitř firmy a smluvním partnerůmVedení vždy. Zákazníka nebo partnera tehdy, když incident zasáhl jeho data a smlouva (typicky NDA nebo zpracovatelská smlouva, kde jste zpracovatelem) to vyžaduje. Dodavatele AI nástroje, pokud potřebujete výmaz dat nebo logy.

6. Napravit příčinu

Úřad, zákazník i vedení se zeptají na totéž: proč se to mohlo stát a co jste změnili. Typické odpovědi podle situace: pořídit firemní verzi nástroje se zpracovatelskou smlouvou, zavést pravidlo pro data, projít sdílení dokumentů, omezit oprávnění agenta a přidat lidské schválení, doplnit směrnici a proškolit lidi, zavést ověřování plateb. Nápravu zapište do záznamu; je to doklad, který při kontrole ukážete.

Kdo co dělá v malé firmě

Bez bezpečnostního oddělení to funguje, když jsou tři role obsazené jmény, ne funkcemi:

  • Každý zaměstnanec hlásí, hned a bez obav z postihu. Pokud se lidé bojí, dozvíte se o incidentu od zákazníka nebo od úřadu.
  • Řešitel incidentu (v malé firmě typicky jednatel nebo člověk, který má na starosti IT) zastavuje, zjišťuje rozsah, zapisuje a posuzuje. Má přístup k administraci nástrojů a k logům.
  • Ten, kdo rozhoduje o hlášení (jednatel, případně pověřenec pro ochranu osobních údajů, pokud ho máte) rozhodne o ÚOOÚ, NÚKIB, bance a policii a podepíše se pod to v záznamu.

Do směrnice pro používání AI patří jedna věta s konkrétním jménem a kontaktem: „Podezření na únik dat nebo nesprávné chování AI nástroje hlásí zaměstnanec neprodleně [jméno, telefon, e-mail].“ Vzor směrnice má pro incidenty vlastní oddíl 8; stačí doplnit jméno a přiložit tento postup.

Vzor záznamu o incidentu

Soubor Word obsahuje postup na jednu stranu (k vytištění nebo jako příloha směrnice) a formulář záznamu s těmito položkami. Záměrně kopírují strukturu formuláře ÚOOÚ, aby se v případě hlášení nic nepsalo dvakrát:

Stáhnout postup a vzor záznamu (Word)

  1. Identifikace: číslo záznamu, kdo zapsal, datum zápisu.
  2. Průběh: datum a čas vzniku, ukončení a zjištění incidentu; kdo ho zjistil a jak.
  3. Co se stalo: typ incidentu (šest situací výše), AI nástroj a typ účtu, popis.
  4. Příčina: externí útok, interní jednání, selhání systému, nedbalost, jiná; podrobnosti.
  5. Dotčená data a osoby: kategorie údajů, odhadovaný počet osob, zda jde o zvláštní kategorie (zdraví, biometrie apod.), zda jde o data zákazníků či partnerů pod smlouvou.
  6. Účinky: porušení důvěrnosti, integrity nebo dostupnosti; co nejhoršího z toho může pro dotčené osoby plynout.
  7. Okamžitá opatření: co a kdy bylo zastaveno, smazáno, odpojeno.
  8. Posouzení a rozhodnutí o hlášení: ÚOOÚ ano/ne a proč, dotčené osoby ano/ne, NÚKIB ano/ne, banka/policie ano/ne; kdo rozhodl, kdy; kdy a jak bylo hlášeno, případně důvod zpoždění.
  9. Náprava: opatření, odpovědná osoba, termín, stav.
  10. Uzavření: datum, podpis toho, kdo rozhoduje o hlášení.

Záznamy uchovávejte na jednom místě s omezeným přístupem a jednou za čtvrt roku je projděte. Opakující se typ incidentu je nejlepší argument pro změnu nástroje nebo pravidel.

Jak to vypadá na příkladu

Pondělí 9:40. Obchodnice si všimne, že kolega vložil do bezplatného chatbota tabulku se 180 kontakty na zákazníky, aby si ji nechal roztřídit. Napíše jednateli.

  • 10:00, zastavit: kolega konverzaci smaže, v nastavení účtu vypne použití dat k trénování, jednatel pošle dodavateli nástroje žádost o výmaz.
  • 10:30, rozsah: jména, firmy, e-maily a telefony, žádné zvláštní kategorie, 180 osob, bezplatný osobní účet bez smlouvy.
  • 11:00, zapsat: jednatel vyplní záznam. Čas zjištění 9:40, lhůta 72 hodin tedy končí ve čtvrtek 9:40.
  • Odpoledne, posoudit: firma není regulovaným subjektem, NÚKIB se netýká. Osobní údaje ano. Riziko pro dotčené osoby: nelze vyloučit (kontakty v nástroji třetí strany bez smlouvy), ale není vysoké (běžné kontaktní údaje).
  • Úterý, ohlásit: prvotní ohlášení ÚOOÚ formulářem, s tím, co je známo; dotčené osoby se neinformují, protože riziko není vysoké. Rozhodnutí a zdůvodnění je v záznamu.
  • Do měsíce, napravit: firemní účet se zpracovatelskou smlouvou, semafor dat na nástěnku, doplnění směrnice, krátké školení. Vše zapsáno v záznamu.

Všimněte si, že nejdéle trvá krok 6. A že jediný důvod, proč to šlo takhle hladce, je obchodnice, která se nebála napsat.

Jak to souvisí s předpisy

  • GDPR upravuje ohlášení porušení zabezpečení osobních údajů dozorovému úřadu (čl. 33) a oznámení dotčeným osobám (čl. 34). Lhůta 72 hodin běží od okamžiku, kdy jste se o porušení dozvěděli; k tomu, co to znamená, vydala evropská pracovní skupina WP29 pokyny WP250rev.01, které ÚOOÚ zveřejňuje v češtině.
  • Zákon č. 264/2025 Sb. o kybernetické bezpečnosti (účinný od 1. 11. 2025) ukládá poskytovatelům regulovaných služeb hlásit kybernetické bezpečnostní incidenty NÚKIB ve lhůtách podle § 16. Ostatních firem se netýká.
  • AI Act firmě, která AI používá, samostatnou povinnost hlásit incidenty neukládá. Postup při incidentu je ale součástí opatření k AI gramotnosti podle čl. 4 a chybějící pravidla jsou při jakémkoli jiném problému přitěžující okolnost.

Zdroje

Stav k 28. 10. 2026. Postup v šesti krocích a vzor záznamu jsou doporučení autora; lhůty a povinnosti jsou převzaty z uvedených předpisů. Stránka je informativní, nejde o právní poradenství.

Časté otázky

Co je bezpečnostní incident spojený s AI?

Událost, při které kvůli AI nástroji nebo přes něj unikla data, někdo získal přístup, který mít neměl, AI provedla akci, kterou nikdo neschválil, nebo z firmy odešel chybný výstup s dopadem na zákazníka či rozhodnutí o člověku. Patří sem i podvod s deepfake hlasem a kompromitovaný účet AI nástroje. Rozhoduje dopad, ne to, že u toho byla AI. Šest situací výše.

Kdy musím incident hlásit ÚOOÚ?

Když jde o porušení zabezpečení osobních údajů a nelze vyloučit riziko pro dotčené osoby. Podle čl. 33 GDPR se ohlašuje bez zbytečného odkladu a pokud možno do 72 hodin od okamžiku, kdy jste se o porušení dozvěděli. Při vysokém riziku informujete podle čl. 34 i dotčené osoby. Záznam o incidentu vedete vždy, i když nakonec nehlásíte (čl. 33 odst. 5). Formulář je na webu ÚOOÚ.

Týká se hlášení NÚKIB i naší firmy?

Jen pokud jste poskytovatelem regulované služby podle zákona č. 264/2025 Sb. o kybernetické bezpečnosti, účinného od 1. 11. 2025. Pak podáváte prvotní hlášení nejpozději do 24 hodin po zjištění kybernetického bezpečnostního incidentu přes Portál NÚKIB; u incidentu s významným dopadem následuje oznámení do 72 hodin a závěrečná zpráva do 30 dnů. Ostatní firmy tuto povinnost nemají, NÚKIB ale hlášení přijímá i od nich.

Co má obsahovat záznam o incidentu?

Kdy incident vznikl, kdy skončil a kdy jste ho zjistili; co se stalo a přes jaký nástroj; příčinu (externí útok, interní, selhání, nedbalost); jaká data a kolika osob se týkal; účinky (důvěrnost, integrita, dostupnost); co jste udělali; kdo a kdy rozhodl o hlášení a komu bylo hlášeno; nápravná opatření. Stejné položky má formulář ÚOOÚ, takže záznam pak stačí přepsat. Vzor výše.

Napište postup dřív, než ho budete potřebovat

Jedna strana s postupem, jedno jméno ve směrnici a formulář, který v den incidentu nemusíte vymýšlet.

Stáhnout postup a vzor záznamu (Word) Vzor AI směrnice