Vysoce rizikové jsou AI systémy vyjmenované v příloze III AI Actu (osm oblastí, pro běžnou firmu hlavně nábor a řízení zaměstnanců, úvěry a pojištění, vzdělávání a biometrie) a AI jako bezpečnostní součást regulovaných výrobků (příloha I). Rozhoduje účel použití, ne technologie: ChatGPT na e-maily vysoce rizikový není, ChatGPT na hodnocení uchazečů ano.
Firma, která takový systém používá, má jako zavádějící subjekt povinnosti podle čl. 26: používat ho podle pokynů, zajistit lidský dohled, hlídat vstupní data, uchovávat logy alespoň 6 měsíců, informovat zaměstnance a dotčené osoby a hlásit incidenty. Po novele Digital Omnibus platí od 2. 12. 2027 (příloha III), resp. od 2. 8. 2028 (příloha I).
Co je vysoce rizikový AI systém
AI Act (nařízení (EU) 2024/1689) dělí použití AI podle rizika do čtyř úrovní (přehled všech čtyř s tabulkou ke stažení je v průvodci Kategorizace rizik AI). Většina firemních nástrojů (chatboti, psaní textů, překlady, generování obrázků) spadá do minimálního nebo omezeného rizika, kde stačí AI gramotnost a případně označování. Vysoce rizikové systémy jsou dvě skupiny (čl. 6):
- AI ve výrobcích pod sektorovou legislativou EU (příloha I): strojní zařízení, zdravotnické prostředky, hračky, výtahy, vozidla. Týká se hlavně výrobců a dovozců.
- AI použitá v citlivých oblastech (příloha III): osm oblastí, kde AI ovlivňuje přístup lidí k práci, penězům, vzdělání nebo úřadům. Tady se nejčastěji ocitne i běžná firma, která AI jen používá.
Klíčové je slovo účel. Stejný nástroj může být jednou úplně bez povinností a podruhé vysoce rizikový, podle toho, k čemu ho nasadíte.
Osm oblastí přílohy III s příklady z firem
| Oblast | Co tam spadá | Týká se běžné firmy? |
|---|---|---|
| 1. Biometrie | Vzdálená biometrická identifikace osob, biometrická kategorizace podle citlivých znaků, rozpoznávání emocí (mimo pracoviště a školy, kde je zakázané). Neplatí pro prosté ověření totožnosti, např. odemknutí telefonu nebo vstup otiskem prstu. | Výjimečně: kamerové systémy s rozpoznáváním obličejů v prodejně, analýza emocí zákazníků. |
| 2. Kritická infrastruktura | AI jako bezpečnostní součást řízení dopravy, dodávek vody, plynu, tepla, elektřiny a kritické digitální infrastruktury. | Jen energetika, teplárny, vodárny a provozovatelé sítí. |
| 3. Vzdělávání | Rozhodování o přijetí, hodnocení výsledků učení, určení úrovně vzdělání, dohled nad podváděním při zkouškách. | Školy, vzdělávací agentury, firemní akademie s certifikací. |
| 4. Zaměstnání a řízení pracovníků | Nábor a výběr (cílení inzerátů, třídění životopisů, hodnocení uchazečů), rozhodování o povýšení, ukončení, přidělování úkolů podle chování nebo vlastností, sledování a hodnocení výkonu. | Ano, nejčastější případ. ATS s AI skórováním, AI video pohovory, hodnocení výkonu z dat. |
| 5. Základní soukromé a veřejné služby | Nárok na sociální dávky, hodnocení úvěruschopnosti a credit scoring (kromě odhalování podvodů), oceňování rizika a ceny životního a zdravotního pojištění, třídění tísňových volání. | Banky, nebankovní úvěrování, leasing, pojišťovny, splátkový prodej. |
| 6. Vymáhání práva | Posuzování rizika obětí či pachatelů, hodnocení důkazů, profilování při vyšetřování. | Ne, jen orgány činné v trestním řízení. |
| 7. Migrace, azyl, hranice | Posuzování žádostí o víza a azyl, bezpečnostní rizika osob. | Ne, jen státní orgány. |
| 8. Justice a demokratické procesy | AI, která pomáhá soudům vykládat právo a fakta, a AI určená k ovlivňování výsledku voleb. | Ne, s výjimkou agentur pracujících pro volební kampaně. |
Kdy systém z přílohy III vysoce rizikový není
Čl. 6 odst. 3 dává výjimku systémům, které nepředstavují významné riziko, protože podstatně neovlivňují výsledek rozhodnutí. Platí, pokud AI plní jen jednu z těchto rolí:
- úzký procedurální úkol, např. převod naskenovaných životopisů do strukturované tabulky nebo odstranění duplicit;
- zlepšení výsledku už dokončené lidské činnosti, např. učesání formulace hodnocení, které napsal vedoucí;
- odhalení vzorců nebo odchylek v dřívějších rozhodnutích, bez nahrazení lidského posouzení, např. kontrola, jestli hodnotitelé neznámkují nekonzistentně;
- přípravný úkol k posouzení, např. překlad dokumentů uchazeče nebo vyhledání souvisejících podkladů.
Výjimka nikdy neplatí pro profilování osob: jakmile AI hodnotí nebo předvídá vlastnosti, chování či výkon konkrétního člověka, je systém vysoce rizikový. Posouzení výjimky dělá a dokumentuje poskytovatel. Pro vás jako uživatele z toho plyne jednoduchá rada: chtějte od dodavatele písemně, jak svůj systém zařadil a proč.
Povinnosti firmy, která systém používá (čl. 26)
Většinu práce (technická dokumentace, posouzení shody, označení CE, registrace v databázi EU) nese poskytovatel, tedy dodavatel systému. Firma, která systém nasadí, je zavádějící subjekt a má povinnosti podle čl. 26:
- Používat podle návodu. Přijmout technická a organizační opatření, aby se systém používal v souladu s pokyny poskytovatele. Návod si tedy vyžádejte a přečtěte.
- Lidský dohled. Svěřit dohled lidem, kteří mají potřebné znalosti, výcvik a pravomoc, a dát jim podporu. Personalista musí umět výsledek AI přezkoumat a přebít, ne jen odkliknout.
- Vstupní data. Pokud data do systému dodáváte vy, musí být relevantní a dostatečně reprezentativní vzhledem k účelu.
- Sledování provozu. Monitorovat fungování podle návodu; když zjistíte riziko, informovat poskytovatele a dozorový orgán a přestat systém používat.
- Hlášení závažných incidentů. Závažný incident bez zbytečného odkladu nahlásit nejprve poskytovateli, pak dovozci či distributorovi a dozorovému orgánu.
- Logy alespoň 6 měsíců. Uchovávat automaticky generované záznamy, které máte pod kontrolou, nejméně šest měsíců, pokud jiný předpis neurčuje jinak.
- Informovat zaměstnance. Před nasazením na pracovišti informovat zástupce zaměstnanců a dotčené zaměstnance, že budou systému podléhat.
- Informovat dotčené osoby. Uchazeč, žadatel o úvěr nebo student, o kterém systém rozhoduje nebo pomáhá rozhodovat, se to musí dozvědět. Podle čl. 86 má navíc právo na vysvětlení role AI v rozhodnutí, které ho významně ovlivní.
- GDPR. Informace od poskytovatele použít pro posouzení vlivu na ochranu osobních údajů (DPIA), které bude u náboru nebo scoringu zpravidla povinné.
- Spolupráce s úřady. Na vyžádání doložit, co jste dělali.
Totéž, co platí pro celou firmu, platí i tady: lidé, kteří s takovým systémem pracují, potřebují školení podle role (čl. 4). Průvodce AI gramotností →
Posouzení dopadu na základní práva (čl. 27)
Takzvanou FRIA musí před nasazením udělat jen část zavádějících subjektů: veřejnoprávní subjekty, soukromé firmy poskytující veřejné služby (např. soukromá škola, nemocnice, dopravce ve veřejné službě) a firmy, které AI používají k hodnocení úvěruschopnosti nebo k oceňování rizika a ceny životního a zdravotního pojištění. Běžný zaměstnavatel s AI v náboru ji dělat nemusí, DPIA podle GDPR ale ano. Novela Digital Omnibus (čl. 27 odst. 4) výslovně umožňuje odkázat ve FRIA na hotové posouzení vlivu na ochranu osobních údajů (DPIA) podle GDPR nebo převzít jeho části.
Kdy se z uživatele stanete poskytovatelem (čl. 25)
Tohle je nejčastěji přehlížená past. Zavádějící subjekt se stává poskytovatelem se všemi jeho povinnostmi (dokumentace, posouzení shody, CE, registrace), když:
- uvede vysoce rizikový systém na trh pod svým jménem nebo značkou, typicky white-label řešení pro klienty;
- systém podstatně upraví tak, že zůstane vysoce rizikový;
- změní účel systému, který vysoce rizikový nebyl, tak, že vysoce rizikovým se stane. Příklad: firma si nad ChatGPT nebo jiným obecným modelem postaví vlastní nástroj na hodnocení uchazečů.
Pokud interně vyvíjíte „chytré“ HR nebo scoringové nástroje, řešte to se svým právníkem dřív než v roce 2027.
Na co se zeptat dodavatele už teď
Používáte AI v náboru, hodnocení lidí, úvěrech nebo vzdělávání? Pošlete dodavateli těchto osm otázek a odpovědi si založte do registru AI nástrojů:
- Považujete systém za vysoce rizikový podle přílohy III? Pokud ne, jaké je písemné zdůvodnění podle čl. 6 odst. 3?
- Jaký máte plán, aby byl systém do 2. 12. 2027 v souladu (posouzení shody, EU prohlášení o shodě, CE, registrace)?
- Dodáte návod k použití podle čl. 13, včetně omezení přesnosti a známých rizik?
- Jak systém umožňuje lidský dohled? Může náš člověk výsledek přezkoumat, opravit a přebít?
- Jaké logy systém vytváří, kde jsou uložené a jak je můžeme uchovat alespoň 6 měsíců?
- Na jakých datech byl systém trénovaný a jak testujete zkreslení vůči ženám, starším uchazečům nebo cizincům?
- Jak nám pomůžete s informováním uchazečů či klientů a s vysvětlením rozhodnutí podle čl. 86?
- Kde se zpracovávají osobní údaje, kdo je zpracovatel a máte podklady pro naše DPIA?
Vyhýbavá odpověď na první dvě otázky je signál, že je čas hledat alternativu, dokud máte na výběr.
Termíny po novele Digital Omnibus
Novela (nařízení (EU) 2026/1744, účinné od 27. 7. 2026) povinnosti neubrala, jen je odložila:
- 2. 2. 2025 – zákazy (čl. 5), včetně rozpoznávání emocí na pracovišti, a AI gramotnost (čl. 4). Platí už teď.
- 2. 12. 2027 – povinnosti pro vysoce rizikové systémy podle přílohy III (původně 2. 8. 2026).
- 2. 8. 2028 – povinnosti pro AI ve výrobcích podle přílohy I (původně 2. 8. 2027).
Porušení povinností zavádějícího subjektu spadá do prostřední hranice pokut: až 15 mil. EUR nebo 3 % obratu, u malých a středních firem nižší z obou. Pokuty podrobně → · Všechny termíny 2026–2028 →
Co udělat teď
- Sepsat všechny AI nástroje a u každého účel použití. Jak vést registr AI nástrojů →
- Označit ty, které rozhodují o lidech (HR, úvěry, pojištění, vzdělávání, biometrie).
- Ověřit, že nic z toho není zakázané, hlavně analýza emocí zaměstnanců.
- Poslat dodavatelům otázky výše a založit odpovědi.
- Připravit lidský dohled a informování: kdo systém kontroluje, co se říká uchazečům a zaměstnancům, kde jsou logy.
Nevíte, jestli se vás to vůbec týká? Týká se AI Act mé firmy? nebo prověrka souladu za dvě minuty.
Zdroje
- Nařízení (EU) 2024/1689, čl. 6, 25, 26, 27, 86 a příloha III (EUR-Lex, česky)
- MPO: Novela AI aktu (nařízení (EU) 2026/1744) a nové pokyny
- Evropská komise: regulační rámec pro AI
Stav k 29. 9. 2026. Stránka je informativní, nejde o právní poradenství. Evropská komise má k zařazování vysoce rizikových systémů vydat pokyny s praktickými příklady; až vyjdou, stránku aktualizuji.
Časté otázky
Je AI na třídění životopisů vysoce rizikový systém?
Zpravidla ano. Příloha III AI Actu v bodě 4 výslovně uvádí systémy určené k náboru nebo výběru osob, zejména k cílení inzerátů, třídění a filtrování žádostí a hodnocení uchazečů. Povinnosti firmy jako zavádějícího subjektu podle čl. 26 platí po novele Digital Omnibus od 2. 12. 2027.
Týká se příloha III firmy, která používá jen ChatGPT nebo Copilot?
Běžné použití na texty, e-maily, překlady nebo analýzy vysoce rizikové není. Rozhoduje účel: když ale ChatGPT použijete k hodnocení uchazečů nebo zaměstnanců, k rozhodování o úvěru či k hodnocení studentů, jde o vysoce rizikové použití a povinnosti se vás týkají. Pozor, takovou změnou účelu se můžete stát i poskytovatelem podle čl. 25.
Od kdy platí povinnosti pro vysoce rizikové AI systémy?
Po novele Digital Omnibus (nařízení (EU) 2026/1744) platí povinnosti pro systémy podle přílohy III od 2. 12. 2027 a pro AI ve výrobcích podle přílohy I od 2. 8. 2028. Zákazy podle čl. 5, například rozpoznávání emocí zaměstnanců, platí už od 2. 2. 2025.
Jak dlouho musí firma uchovávat logy vysoce rizikového AI systému?
Podle čl. 26 odst. 6 alespoň šest měsíců, pokud jiný předpis (například o ochraně osobních údajů nebo sektorová regulace) nestanoví jinak. Jde o automaticky generované logy, které má zavádějící subjekt pod kontrolou.
Musí soukromá firma dělat posouzení dopadu na základní práva (FRIA)?
Většinou ne. Čl. 27 ukládá posouzení dopadu na základní práva veřejnoprávním subjektům, soukromým subjektům poskytujícím veřejné služby a zavádějícím subjektům, které používají AI k hodnocení úvěruschopnosti nebo k oceňování rizika a stanovení ceny životního a zdravotního pojištění.
Víte, které vaše AI nástroje rozhodují o lidech?
Prověrka souladu vám za dvě minuty řekne, co máte a co chybí. V článcích pak najdete, jak jednotlivé kroky udělat a doložit.
Ověřit soulad za 2 minuty Články a novinky