Čl. 5 AI Actu zakazuje osm praktik od 2. 2. 2025: manipulaci, zneužívání zranitelnosti, sociální hodnocení, předvídání trestné činnosti jen z profilu, necílené stahování tváří, rozpoznávání emocí na pracovišti a ve škole, biometrickou kategorizaci podle citlivých znaků a biometrickou identifikaci v reálném čase pro policii. Novela Digital Omnibus přidala od 2. 12. 2026 zákaz AI vytvářející nekonsensuální intimní obsah a materiál zobrazující zneužívání dětí.
Zákaz platí i pro firmu, která nástroj jen používá. Pokuta až 35 mil. EUR nebo 7 % obratu, u malých a středních firem nižší z obou částek. Pro běžnou firmu je nejdůležitější zákaz rozpoznávání emocí zaměstnanců.
Zakázané praktiky jsou nejpřísnější ze čtyř úrovní rizika AI Actu. Jak vypadají ostatní tři a kam spadají nástroje, které už máte, ukazuje kategorizace rizik AI s tabulkou ke stažení.
Přehled: deset zákazů na jedné stránce
| Zákaz (čl. 5 odst. 1) | Od kdy | Týká se běžné firmy? |
|---|---|---|
| a) Podprahová a manipulativní technika | 2. 2. 2025 | Výjimečně: agresivní marketing, „dark patterns“ řízené AI. |
| b) Zneužití zranitelnosti (věk, postižení, tíživá situace) | 2. 2. 2025 | Výjimečně: cílení na seniory, děti, zadlužené. |
| c) Sociální hodnocení (social scoring) | 2. 2. 2025 | Občas: hodnocení lidí z nesouvisejících dat. |
| d) Předvídání trestné činnosti jen z profilu | 2. 2. 2025 | Zřídka: „detekce rizikových“ zákazníků či zaměstnanců. |
| e) Necílené stahování tváří z internetu a kamer | 2. 2. 2025 | Zřídka: nákup služeb s takovou databází. |
| f) Rozpoznávání emocí na pracovišti a ve škole | 2. 2. 2025 | Ano, nejčastěji: HR, call centra, kamery, online výuka. |
| g) Biometrická kategorizace podle citlivých znaků | 2. 2. 2025 | Zřídka: kamerová analytika zákazníků. |
| h) Biometrická identifikace v reálném čase pro policii | 2. 2. 2025 | Ne (týká se orgánů činných v trestním řízení). |
| Nekonsensuální intimní obsah skutečných osob | 2. 12. 2026 | Ne u běžného provozu; pozor na nástroje bez pojistek. |
| Materiál zobrazující sexuální zneužívání dětí | 2. 12. 2026 | Ne. |
Zákaz se vztahuje na uvádění na trh, do provozu i na používání. Nerozhoduje tedy, jestli nástroj vyvíjíte, nebo jste si ho jen předplatili. Pokud zakázanou funkci zapnete, porušujete čl. 5 vy.
Osm původních zákazů (platí od 2. 2. 2025)
a) Podprahové, manipulativní a klamavé techniky
Zakázaná je AI, která působí na lidi mimo jejich vědomí nebo je záměrně manipuluje či klame tak, že podstatně naruší jejich schopnost se rozhodnout, a způsobí nebo pravděpodobně způsobí významnou újmu. Běžná reklama, personalizace nebo přesvědčivý text zakázané nejsou. Hranice leží u technik, které člověka dostanou k rozhodnutí, které by jinak neudělal, a které mu škodí.
Příklad: e-shop nasadí AI, která podle chování návštěvníka v reálném čase generuje falešný odpočet „poslední kus, zbývá 2 minuty“ a vymyšlené recenze, aby tlačila k nákupu na splátky.
Jak ověřit: u marketingových a konverzních nástrojů se zeptejte, co přesně AI mění a podle čeho. Falešná naléhavost a smyšlené údaje jsou navíc nekalá obchodní praktika podle zákona o ochraně spotřebitele.
b) Zneužívání zranitelnosti
Zakázaná je AI, která využívá zranitelnost člověka kvůli věku, zdravotnímu postižení nebo tíživé sociální či ekonomické situaci a tím podstatně naruší jeho chování se závažnou újmou.
Příklad: poskytovatel půjček cílí AI kampaně na lidi, které model vyhodnotil jako finančně zoufalé, a nabízí jim nevýhodné úvěry v momentě, kdy jsou nejvíc pod tlakem.
Jak ověřit: podívejte se, podle jakých segmentů cílíte. Segment „v dluzích“, „osamělý senior“ nebo „dítě“ v kombinaci s automatickou optimalizací prodeje je varovný signál.
c) Sociální hodnocení (social scoring)
Zakázané je hodnotit nebo klasifikovat lidi podle jejich sociálního chování nebo osobních vlastností, pokud to vede k nepříznivému zacházení v nesouvisejícím kontextu nebo k zacházení, které je nepřiměřené. Neplatí to jen pro stát, ale i pro firmy.
Příklad: pronajímatel nebo zaměstnavatel si nechá od AI „ohodnotit“ uchazeče podle jejich soukromých sociálních sítí a podle skóre je odmítá. Běžný kreditní scoring z finančních dat zakázaný není (je ale vysoce rizikový, viz vysoce rizikové systémy).
Jak ověřit: u každého skóre, které o lidech počítáte, si položte dvě otázky: pochází data ze stejné oblasti, ve které rozhodujete? A je dopad přiměřený tomu, co data říkají?
d) Předvídání trestné činnosti jen z profilu
Zakázané je posuzovat riziko, že konkrétní člověk spáchá trestný čin, pouze na základě profilování nebo jeho osobnostních rysů. Povolené zůstává, když AI podporuje lidské posouzení založené na objektivních a ověřitelných faktech přímo spojených s trestnou činností.
Příklad: řetězec prodejen by nasadil systém, který podle věku, oblečení a „typu“ zákazníka předpovídá, kdo pravděpodobně ukradne zboží. Detekce podvodných transakcí podle konkrétních podezřelých operací zakázaná není.
Jak ověřit: u bezpečnostních a antifraudových nástrojů zjistěte, jestli hodnotí chování a transakce, nebo osobu a její vlastnosti.
e) Necílené stahování podob obličejů
Zakázané je vytvářet nebo rozšiřovat databáze pro rozpoznávání obličejů necíleným stahováním fotek z internetu nebo záznamů z kamer.
Příklad: bezpečnostní agentura si předplatí službu, která umí k fotce najít člověka podle miliard obličejů posbíraných ze sociálních sítí. Používat takovou službu je problém, nejen ji provozovat.
Jak ověřit: u každého nástroje, který pracuje s tvářemi, se zeptejte dodavatele, odkud má referenční databázi.
f) Rozpoznávání emocí na pracovišti a ve škole
Tohle je zákaz, na který běžná firma narazí nejspíš. Zakázané je používat AI, která z biometrických údajů (obličej, hlas, gesta, držení těla) odvozuje emoce nebo záměry zaměstnanců na pracovišti nebo studentů ve vzdělávacích institucích. Výjimka platí jen ze zdravotních a bezpečnostních důvodů.
Příklady, které pod zákaz spadají:
- call-centrový nástroj, který z hlasu operátora vyhodnocuje stres, frustraci nebo „nadšení“ a promítá to do jeho hodnocení,
- kamera v kanceláři nebo prodejně, která měří „spokojenost“ či „angažovanost“ zaměstnanců z výrazu tváře,
- video pohovor s AI, která z mimiky uchazeče hodnotí nadšení nebo upřímnost (uchazeč o práci se podle pokynů Komise počítá do pracovního kontextu),
- online výuka, která kamerou sleduje, jestli se studenti nudí.
Rozhoduje, čí emoce se vyhodnocují (zaměstnanec, student) a z čeho (biometrie, ne text).
Emoce zákazníků pod zákaz nespadají, ale volné pole to není: lidé o rozpoznávání emocí musí vědět (čl. 50 odst. 3), jde o biometrické údaje podle GDPR a systémy rozpoznávání emocí jsou vysoce rizikové podle přílohy III.
Jak ověřit: v nastavení HR, call-centrových, kamerových a e-learningových nástrojů hledejte funkce typu sentiment, emotion, mood, engagement, stress, voice analytics. Zjistěte, jestli pracují s hlasem nebo obrazem a jestli se týkají zaměstnanců. Pokud ano, vypněte je a vypnutí si zapište.
g) Biometrická kategorizace podle citlivých znaků
Zakázané je z biometrických údajů odvozovat rasu, politické názory, členství v odborech, náboženské nebo filozofické přesvědčení, sexuální život nebo orientaci.
Příklad: kamerová analytika v obchodním centru, která návštěvníky třídí podle odhadovaného etnika nebo náboženství pro cílení reklamy. Odhad věkové skupiny z kamery pod tento zákaz nespadá (ale řeší ho GDPR).
Jak ověřit: u kamerové a retailové analytiky si nechte od dodavatele písemně potvrdit, jaké kategorie systém odvozuje.
h) Biometrická identifikace na dálku v reálném čase pro vymáhání práva
Zakázané je používat rozpoznávání obličejů v reálném čase na veřejně přístupných místech pro účely vymáhání práva, s úzkými výjimkami (hledání pohřešovaných, bezprostřední teroristická hrozba, pachatelé závažných trestných činů). Týká se policie a dalších orgánů, ne běžné firmy.
Pozor: to, že se zákaz na firmu nevztahuje, neznamená, že firma smí na prodejně rozpoznávat obličeje. Biometrická identifikace je vysoce riziková podle přílohy III a GDPR zpracování biometrických údajů k identifikaci v běžném provozu téměř vždy zakazuje.
Dva nové zákazy z novely Digital Omnibus (od 2. 12. 2026)
Novela AI Actu (nařízení (EU) 2026/1744, účinné od 27. 7. 2026) vložila do čl. 5 odst. 1 nová písmena ba) a bb). Podle čl. 113 ve znění novely se použijí od 2. 12. 2026:
- Písm. ba): intimní materiály bez souhlasu. Zakázané je uvádět na trh, do provozu nebo používat AI systémy, které vytvářejí realistický obrazový, filmový, zvukový či podobný materiál zobrazující intimní partie identifikovatelné osoby nebo ji zobrazující při explicitní sexuální aktivitě, nebo s takovým materiálem manipulují, bez jejího svobodného, konkrétního, informovaného, jednoznačného a výslovného souhlasu. Novela je v odůvodnění označuje jako „svlékací“ aplikace.
- Písm. bb): materiály pohlavního zneužívání dětí. Zakázané jsou AI systémy, které takový materiál ve smyslu směrnice 2011/93/EU vytvářejí nebo s ním manipulují.
Pro běžnou firmu je podstatné, na koho zákaz míří. U poskytovatelů platí podle nového odst. 1a pro systémy, jejichž účelem je takový obsah vytvářet, nebo které ho vytvářejí předvídatelně a nemají přiměřené bezpečnostní pojistky. U zavádějících subjektů, tedy firem, které AI jen používají, je podle odůvodnění novely zakázané použití systému právě k vytváření takového obsahu. Nevztahuje se na použití k jiným, zákonným účelům ani na náhodné vytvoření. Prakticky: do AI směrnice patří výslovný zákaz tvořit s AI intimní nebo sexuální obsah skutečných osob.
Co zakázané není (časté omyly)
- ChatGPT, Copilot, DeepL a podobné nástroje samy o sobě zakázané nejsou. Řeší se u nich AI gramotnost, ochrana dat a případně označování, ne čl. 5.
- Personalizovaná reklama a doporučování nejsou manipulace ve smyslu čl. 5, dokud nepoužívají klamavé techniky se závažnou újmou.
- Chatbot na webu není zakázaný. Musí ale od 2. 8. 2026 říkat, že je AI. Průvodce označováním →
- AI při náboru (třídění životopisů, hodnocení testů) zakázaná není. Je vysoce riziková a povinnosti pro ni platí od 2. 12. 2027. Zakázané je až rozpoznávání emocí uchazeče. Vysoce rizikové systémy →
- Docházkový systém s otiskem prstu nebo obličejem pod čl. 5 nespadá (ověřuje totožnost, neodvozuje emoce ani citlivé znaky). Posuzuje se podle GDPR.
- Analýza sentimentu z textu (recenze, e-maily, dotazníky spokojenosti zaměstnanců) není rozpoznávání emocí podle AI Actu, protože nepracuje s biometrickými údaji.
Jak prověřit nástroje ve firmě: kontrolní postup
Na tohle stačí odpoledne. Výsledek si zapište s datem; při kontrole je to nejrychlejší důkaz, že jste zákazy řešili.
- Sepište AI nástroje, včetně AI funkcí uvnitř běžného softwaru (HR systém, CRM, telefonie, kamery, e-learning). Jak na registr AI nástrojů →
- Označte rizikové oblasti: vše, co pracuje s hlasem, obrazem nebo obličeji, a vše, co hodnotí lidi (zaměstnance, uchazeče, zákazníky).
- Projděte nastavení u těchto nástrojů a hledejte funkce emotion, sentiment, mood, engagement, stress, scoring, profiling.
- Zeptejte se dodavatele písemně: „Obsahuje produkt funkce, které spadají pod čl. 5 nařízení (EU) 2024/1689? Jaké údaje a kategorie o osobách odvozuje?“ Odpověď uložte.
- Vypněte a zapište sporné funkce. Pokud je vypnout nejde, nástroj nepoužívejte pro zaměstnance.
- Doplňte směrnici o větu, že zakázané praktiky podle čl. 5 se ve firmě nepoužívají a nové AI nástroje schvaluje odpovědná osoba.
- Opakujte při každém novém nástroji a alespoň jednou ročně; do 2. 12. 2026 projděte i dvě nové položky.
Celý postup je součástí checklistu povinností firem; body k odškrtnutí najdete i v kontrolním seznamu (PDF).
Pokuta: nejvyšší hranice v AI Actu
Za zakázanou praktiku hrozí podle čl. 99 až 35 mil. EUR nebo 7 % celosvětového ročního obratu, podle toho, co je vyšší. U malých a středních podniků se použije nižší z obou částek, a pořád jde o strop, ne sazbu. Přihlíží se k tomu, jestli jste porušení sami zjistili a napravili.
Zdroje
- Nařízení (EU) 2024/1689, čl. 5 (zakázané praktiky), čl. 50, čl. 99 a příloha III (EUR-Lex, česky)
- Nařízení (EU) 2026/1744 (Digital Omnibus): změna čl. 5 (bod 7) a čl. 113 (EUR-Lex, česky)
- Evropská komise: pokyny k zakázaným praktikám AI (únor 2025)
- MPO: Novela AI aktu (nařízení (EU) 2026/1744) a nové pokyny
Stav k 29. 9. 2026. Stránka je informativní, nejde o právní poradenství. Hraniční případy posuzujte podle pokynů Komise a konkrétního nastavení nástroje.
Časté otázky
Je zakázané rozpoznávání emocí na pracovišti?
Ano. Od 2. 2. 2025 je zakázané používat AI, která z biometrických údajů (obličej, hlas, držení těla) odvozuje emoce zaměstnanců na pracovišti nebo studentů ve škole. Výjimkou jsou jen zdravotní a bezpečnostní důvody. Týká se to například kamer hodnotících „náladu“ zaměstnanců nebo analýzy hlasu operátorů call centra. Analýza sentimentu z psaného textu pod zákaz podle pokynů Evropské komise nespadá.
Smí call centrum analyzovat emoce zákazníků?
Zákaz v čl. 5 se týká emocí zaměstnanců a studentů, ne zákazníků. Rozpoznávání emocí zákazníků z hlasu ale není bez pravidel: lidé o něm musí být informováni (čl. 50 odst. 3), jde o zpracování biometrických údajů podle GDPR a systém rozpoznávání emocí je zároveň vysoce rizikový podle přílohy III. Pokud stejný nástroj vyhodnocuje i hlas operátora, jste u zákazu.
Od kdy platí zákaz zakázaných praktik AI?
Osm původních zákazů v čl. 5 platí od 2. 2. 2025. Novela Digital Omnibus (nařízení (EU) 2026/1744) doplnila zákaz AI vytvářející nekonsensuální intimní obsah skutečných osob a materiál zobrazující sexuální zneužívání dětí; tyto položky se použijí od 2. 12. 2026.
Jaká je pokuta za zakázanou praktiku AI?
Až 35 mil. EUR nebo 7 % celosvětového ročního obratu, podle toho, co je vyšší. U malých a středních podniků se použije nižší z obou částek. Jde o nejvyšší hranici pokut v AI Actu (čl. 99).
Týká se zákaz i firmy, která nástroj jen koupila?
Ano. Zákaz se vztahuje na uvádění na trh, uvádění do provozu i na samotné používání. Firma, která zakázanou funkci ve svém nástroji zapne a používá, porušuje čl. 5 jako zavádějící subjekt, i když nástroj nevyvinula. Proto je dobré funkce HR, kamerových a call-centrových nástrojů projít a zapsat do registru AI.
Mít hotovo a doloženo je levnější než čekat
Prověrka souladu vám za dvě minuty řekne, co máte a co chybí. V článcích pak najdete, jak jednotlivé kroky udělat a doložit.
Ověřit soulad za 2 minuty Články a novinky