- Podle mé zkušenosti největší riziko běžné firmy není hacker s AI, ale data, která lidé sami vloží do nástrojů bez smlouvy a bez pravidel.
- Druhé největší jsou přístupová práva: AI asistent napojený na firemní dokumenty najde všechno, k čemu má uživatel přístup, i to, o čem neví.
- Čím víc AI sama jedná (posílá e-maily, mění data, volá další systémy), tím víc záleží na omezení oprávnění a lidském schválení.
- Bezpečnost AI se potkává s GDPR, s AI Actem a u regulovaných organizací se zákonem o kybernetické bezpečnosti (č. 264/2025 Sb.).
Průvodci
Microsoft Copilot ve firmě: co uvidí a co zkontrolovat před zapnutím
Copilot nevidí víc než uživatel, ale uživatel má často přístup k víc, než tuší. Co Microsoft doporučuje proti nadměrnému sdílení a 12 bodů před zapnutím (PDF).
AI a zákon o kybernetické bezpečnosti: co řešit, pokud spadáte pod NIS2
Zákon č. 264/2025 Sb. AI nezmiňuje, ale AI nástroje pod něj spadají. Evidence, rizika, přístupy, smlouvy s dodavateli, varování NÚKIB. 12 bodů s paragrafy (PDF).
Prompt injection a AI agenti: jak se útočí přes e-mail, web nebo dokument
Proč AI nerozliší váš pokyn od pokynu schovaného v e-mailu, čím se liší asistent od agenta a co nastavit, než agentovi dáte přístup k datům. Checklist 12 otázek (PDF).
Deepfake hlas a video: jak ověřit, že opravdu volá ředitel
Hlas už není důkaz. Tři pravidla, která podvod „volá ředitel“ zastaví, čtyři kroky pro účtárnu a IT a text do směrnice. Karta A4 k telefonu (PDF).
Co dělat, když se s AI něco pokazí: postup při incidentu
Šest typů AI incidentů, šest kroků, lhůty 72 h (ÚOOÚ) a 24 h (NÚKIB), kdo co dělá v malé firmě. Postup na jednu stranu a vzor záznamu o incidentu (Word).
Bezpečnost AI ve firmě: 7 rizik a co s nimi dělat
Únik dat, osobní účty, přístupová práva, prompt injection, AI agenti, chybné výstupy a dodavatelé. U každého rizika, jak vypadá v praxi a jaké minimum zavést. Bezpečnostní minimum v 8 bodech jako checklist.
Shadow AI: když zaměstnanci používají AI bez vědomí firmy
Proč zákaz nefunguje, jak zjistit, co lidé reálně používají, a jak shadow AI během pár týdnů dostat pod kontrolu, aniž byste lidem AI vzali. S anonymním dotazníkem pro zaměstnance.
Revize AI výstupů: co zkontrolovat, než to jde ven
Co se u AI výstupů nejčastěji kazí, tři stupně kontroly podle rizika, kdo ověřuje a jak to zapsat. Checklist v 10 bodech pro zaměstnance (PDF).
Semafor dat: co se do AI vkládat smí a co ne
Jedno pravidlo pro zaměstnance místo výkladu GDPR. Zelená, oranžová, červená. Plakát A4 na nástěnku v PDF a článek, který ho vysvětluje.
Čtyři vrstvy bezpečnosti AI ve firmě
Rizika spojená s AI třídím do čtyř vrstev. Pomáhá to rozhodnout, kdo má ve firmě co na starosti:
Jak bezpečnost AI souvisí s předpisy
- GDPR. Jakmile se do AI dostanou osobní údaje, jste správce a odpovídáte za ně. Únik přes AI nástroj může být porušením zabezpečení, které je nutné do 72 hodin ohlásit ÚOOÚ. Podrobně v článku ChatGPT ve firmě a GDPR.
- AI Act. Firma, která AI jen používá, nemá v nařízení samostatnou „bezpečnostní“ povinnost. Pravidla pro práci s daty a ověřování výstupů jsou ale jádrem opatření k AI gramotnosti podle čl. 4. Poskytovatelé vysoce rizikových systémů musí podle čl. 15 zajistit odolnost proti útokům, které se snaží změnit použití, vstupy nebo výkonnost systému.
- Zákon o kybernetické bezpečnosti. Nový zákon č. 264/2025 Sb. (česká transpozice směrnice NIS2) je účinný od 1. 11. 2025 a týká se organizací, které poskytují regulovanou službu. Kdo mezi ně patří, stanoví § 4 zákona a vyhláška č. 408/2025 Sb., podrobně v článku AI a NIS2. Pokud ano, doporučuji AI nástroje zahrnout do stejného řízení rizik jako ostatní IT služby a dodavatele.
Připravuji
Sekci budu rozšiřovat o další průvodce, nástroje a zkušenosti z praxe. Jako další plánuji:
- Test: jak bezpečně vaše firma používá AI (obdoba prověrky souladu)
Chybí vám tu téma, nebo řešíte konkrétní situaci? Napište mi na info@aiscale.cz.
Zdroje
- NÚKIB: Varování před některými produkty společnosti DeepSeek (10. 7. 2025)
- Portál NÚKIB: Nový zákon o kybernetické bezpečnosti byl vyhlášen ve Sbírce zákonů (zákon č. 264/2025 Sb.)
- Nařízení (EU) 2024/1689 (AI Act), čl. 4 a čl. 15 (EUR-Lex, česky)
- OWASP Top 10 for LLM Applications 2025
Stav k 28. 10. 2026. Stránka je informativní, nejde o právní poradenství.
Časté otázky
Jaký je rozdíl mezi bezpečností AI a souladem s AI Actem?
AI Act určuje, co firma při používání AI smí a musí (AI gramotnost, zakázané praktiky, označování obsahu, pravidla pro vysoce rizikové systémy). Bezpečnost AI řeší, co se může pokazit: únik dat, zneužití přístupů, manipulace AI asistenta nebo chybné výstupy. Firma může být formálně v souladu s AI Actem a přesto mít bezpečnostní díru, například když AI asistent vidí dokumenty, které vidět nemá.
Týká se zákon o kybernetické bezpečnosti (NIS2) i AI nástrojů?
Zákon č. 264/2025 Sb., účinný od 1. 11. 2025, se týká organizací, které poskytují regulovanou službu. Kdo mezi ně patří, stanoví § 4 zákona a vyhláška č. 408/2025 Sb. o regulovaných službách. Pokud ano, doporučuji AI nástroje zahrnout do stejného řízení rizik jako ostatní IT služby. NÚKIB už vydal varování před produkty společnosti DeepSeek, které je pro vymezené povinné osoby závazné.
Čím má malá firma začít?
Zjistit, jaké AI nástroje lidé reálně používají, pořídit firemní verzi tam, kde se pracuje s daty zákazníků, a sepsat jednoduché pravidlo, co se do AI vkládat nesmí. Tyto tři kroky odstraní většinu rizika a zároveň pokrývají opatření k AI gramotnosti podle čl. 4 AI Actu. Postup najdete v článku Shadow AI (dotazník).
Bezpečnost a soulad jdou ruku v ruce
Pravidla, která chrání data, zároveň dokládají opatření k AI gramotnosti podle AI Actu. Prověrka souladu vám za dvě minuty ukáže, co z toho máte.
Ověřit soulad za 2 minuty Vzor AI směrnice