- Klonovaný hlas zní podle FBI téměř stejně jako pravý. Rada „poslouchejte, jestli to nezní divně“ ve firmě nestačí.
- Útok míří na peníze a přístupy: platba, změna čísla účtu, reset hesla, přeposlání dokumentů. Vždy se spěchem a s tlakem obejít běžný postup.
- Obrana jsou tři pravidla: hlas ani tvář nejsou ověření; neobvyklou žádost ověřujeme zpětně přes uložený kontakt; platby a přístupy schvalují dva lidé.
- Karta ověření pro účtárnu, asistentky a IT je ke stažení jako A4 PDF na nástěnku.
Co je deepfake a proč se týká i malé firmy
AI Act v čl. 3 definuje deepfake jako obraz, zvuk nebo video vytvořené či upravené umělou inteligencí, které se podobá skutečným osobám, objektům, místům nebo událostem a mohlo by se nepravdivě jevit jako autentické. Většina firem to zná z druhé strany: od 2. 8. 2026 musí takový obsah označit, když ho samy zveřejňují.
Tenhle článek je o té první straně. Stejná technologie, kterou firma použije na reklamní video, umožní útočníkovi napodobit hlas jednatele v telefonu nebo jeho tvář ve videohovoru. Nepotřebuje k tomu prolomit žádný systém. Potřebuje nahrávku hlasu (rozhovor, webinář, video z konference), jméno a telefon člověka, který ve firmě schvaluje platby, a věrohodný příběh.
Že nejde o teorii, dokládají úřady. FBI vydala 15. 5. 2025 varování před kampaní, která od dubna 2025 cílila na vysoké představitele americké administrativy textovými zprávami a hlasovými zprávami vytvořenými umělou inteligencí: útočníci se vydávali za jiné vysoké úředníky, budovali důvěru a pak oběti přesměrovali na odkazy, kterými kradli přihlašovací údaje. Policie ČR popisuje deepfake videa známých osobností a českých politiků, která lákají na výhodné investice; v případu z Olomoucka z května 2025 takovému videu uvěřila seniorka. Cíl je jiný než u firmy, technika je stejná.
Jak útok na firmu vypadá
Podvod s falešným šéfem existoval dávno před AI, jen chodil e-mailem. Deepfake mu přidal hlas a tvář. Scénáře, na které se připravit:
Všechny čtyři mají stejný vzorec: známá identita, spěch, důvěrnost a požadavek obejít běžný postup. Právě tyhle čtyři znaky jsou spolehlivější signál než kvalita hlasu.
Proč nestačí „poznat to po hlase“
FBI ve svém varování radí poslouchat tón a volbu slov, ale hned dodává, že hlas naklonovaný AI může znít téměř stejně jako pravý. Starší rady o podivné intonaci nebo nesynchronizovaných rtech se s každou generací nástrojů stávají méně spolehlivé. Když obranu firmy postavíte na tom, že účetní pozná podvod, postavíte ji na schopnosti, která slábne.
Co naopak slábnout nebude: útočník nemá přístup k vašemu adresáři a nemůže zvednout telefon, když zavoláte zpět na uložené číslo. A nemůže obejít druhého schvalovatele, o kterém neví. Obrana tedy nestojí na detekci, ale na postupu.
Tři pravidla, která podvod zastaví
K tomu jedno doplnění, které FBI doporučuje rodinám a které se osvědčuje i v malých firmách: dohodnuté slovo nebo fráze pro ověření po telefonu, když jde o peníze nebo přístupy. Nepište ji do e-mailu ani do chatu, domluvte ji osobně a občas ji změňte. Není to náhrada zpětného zavolání, ale rychlý první filtr.
Karta ověření: co dělat, když volá „ředitel“
Postup pro účtárnu, asistentky, nákup a IT podporu na jednu stranu A4. Vytiskněte, dejte k telefonu, projděte na poradě.
Zastavte se, když žádost splňuje dva z těchto znaků
- Jde o peníze, změnu bankovního účtu, přístup nebo důvěrné dokumenty.
- Spěchá to: dnes, do hodiny, než skončí jednání.
- Má to zůstat důvěrné: nikomu to neříkat, neřešit s kolegy.
- Má se obejít běžný postup: bez objednávky, bez druhého podpisu, mimo systém.
- Přišlo to novým kanálem: z neznámého čísla, soukromého e-mailu, hlasovou zprávou, přes nový chat.
Čtyři kroky
- Nic neslibujte a hovor ukončete. Zdvořile: „Ověřím to a zavolám zpět.“ Pravý ředitel to pochopí. Podvodník bude tlačit.
- Zavolejte zpět na uložené číslo. Z firemního adresáře, ne z displeje, ne z podpisu v e-mailu. U dodavatele na číslo osoby, se kterou jste jednali dřív.
- Nechte žádost projít běžným postupem. Objednávka, druhé schválení, zápis v systému. Žádná výjimka kvůli spěchu nebo kvůli tomu, kdo volá.
- Zapište to a nahlaste. I když se nic nestalo. Komu: nadřízenému a tomu, kdo ve firmě řeší bezpečnost. Pokus o podvod je informace, kterou mají znát i kolegové.
Co nikdy neuděláte po telefonu, ve videohovoru ani na základě hlasové zprávy
- Nezadáte platbu ani nezměníte číslo účtu dodavatele nebo zaměstnance.
- Nesdělíte heslo, kód z SMS nebo z aplikace pro dvoufaktorové ověření. FBI to říká výslovně: kód nikomu, ani e-mailem, ani zprávou.
- Neresetujete přístup bez ověření totožnosti postupem, který má IT napsaný.
- Nepošlete smlouvy, ceníky ani osobní údaje na novou adresu „protože ta stará nefunguje“.
Jak to napsat do směrnice
Do vzoru směrnice pro používání AI tohle téma nepatří, protože nejde o to, jak lidé AI používají, ale jak ji používá útočník. Patří do platební nebo bezpečnostní směrnice, případně do pracovního postupu účtárny a IT. Stačí čtyři věty:
Pak to lidem řekněte. Jednou na poradě, s konkrétním příkladem, kartou na stole a větou od jednatele: „Když vám zavolám a budu chtít rychle zaplatit, zavěste a zavolejte mi zpět. Nebudu se zlobit.“ Tahle věta od šéfa udělá víc než celá směrnice, protože odstraní strach, na kterém podvod stojí.
AI na obou stranách: když podvod projde přes vašeho AI asistenta
Jedna věc, která se často přehlíží. Pokud máte v účtárně AI asistenta, který zpracovává došlé faktury a navrhuje platby, může podvodná faktura nebo e-mail projít přes něj. OWASP v seznamu Top 10 pro agentní aplikace (2026) popisuje přesně tento scénář: upravená faktura dodavatele projde finančním asistentem, ten doporučí urgentní platbu na účet útočníka a manažer ji schválí, protože důvěřuje doporučení a jeho vysvětlení. Pravidla výše platí i tady: doporučení AI není ověření a změnu účtu potvrzuje člověk přes uložený kontakt. Jak nastavit AI agenta, aby takové chyby nedělal sám, popisuji v průvodci prompt injection a AI agenti.
Když už se to stalo
- Okamžitě banka. Zavolejte své bance, že jde o podvodnou platbu; čím dřív, tím větší šance na zastavení nebo vrácení.
- Policie ČR. Podvod je trestný čin. Uložte si vše, co máte: číslo volajícího, nahrávku hlasové zprávy, e-maily, pozvánku na videohovor, údaje o platbě.
- Přístupy. Pokud útočník získal heslo nebo kód, změňte ho a odhlaste všechna zařízení. Zkontrolujte, co s přístupem stihl: přeposílání pošty, nová pravidla ve schránce, stažené soubory.
- Osobní údaje. Pokud unikly, jde o porušení zabezpečení podle GDPR a běží lhůta 72 hodin na ohlášení ÚOOÚ, pokud nelze vyloučit riziko pro dotčené osoby. Celý postup je v průvodci postup při AI incidentu.
- Lidé. Neobviňujte toho, kdo zvedl telefon. Podvod je navržený tak, aby fungoval na kohokoli. Opravte postup, ne člověka.
Zdroje
- FBI Internet Crime Complaint Center: Senior US Officials Impersonated in Malicious Messaging Campaign, alert I-051525-PSA (15. 5. 2025) (kampaň od dubna 2025, hlasové zprávy vytvořené AI, doporučení k ověření: nezávisle zjistit číslo a zavolat, potvrdit nové kontakty přes dříve ověřený kanál, nesdělovat kódy dvoufaktorového ověření, dohodnuté slovo)
- Policie ČR, KŘP Olomouckého kraje: „Deepfake video“ přesvědčilo seniorku (30. 5. 2025) · Policie ČR: Prokoukl to! A ty? (preventivní kampaň, aktualizace 2024 o rizicích umělé inteligence a deepfake videích)
- Nařízení (EU) 2024/1689 (AI Act), čl. 3 bod 60 (definice deep fake) a čl. 50 odst. 4 (EUR-Lex, česky)
- OWASP Top 10 for Agentic Applications 2026, ASI09 Human-Agent Trust Exploitation (scénář podvodné faktury a finančního asistenta)
- Nařízení (EU) 2016/679 (GDPR), čl. 33 (EUR-Lex, česky)
Stav k 28. 10. 2026. Postup ověření je doporučení autora z praxe, ne požadavek zákona. Stránka je informativní, nejde o právní poradenství.
Časté otázky
Co je deepfake?
AI Act ho v čl. 3 definuje jako obraz, zvuk nebo video vytvořené či upravené umělou inteligencí, které se podobá skutečným osobám, objektům, místům nebo událostem a mohlo by se nepravdivě jevit jako autentické. Pro firmu je podstatné, že sem patří i klonovaný hlas v telefonu a tvář ve videohovoru.
Dá se deepfake hlas poznat po sluchu?
Nespoléhejte na to. FBI ve varování z 15. 5. 2025 uvádí, že hlas vytvořený AI může znít téměř stejně jako hlas skutečného člověka. Obrana firmy proto nestojí na tom, že zaměstnanec podvod pozná, ale na postupu: neobvyklá žádost o platbu, změnu účtu nebo přístup se ověří zpětným zavoláním na uložené číslo a schválí druhým člověkem. Tři pravidla výše.
Co dělat, když volá „ředitel“ a chce rychlou platbu?
Hovor zdvořile ukončit, nic neslibovat a zavolat řediteli zpět na číslo, které máte uložené ve firemním adresáři, ne na číslo, ze kterého přišel hovor. Platbu schválit jen postupem, který ve firmě platí pro každou platbu, tedy včetně druhého schválení. Spěch, tlak na mlčenlivost a požadavek obejít běžný postup jsou samy o sobě důvod k ověření. Karta ověření výše.
Musí firma deepfake nějak hlásit nebo označovat?
Povinnost označovat deepfake podle čl. 50 AI Actu se týká toho, kdo AI obsah zveřejňuje. Útočník ji samozřejmě neplní, takže ochranu firmy nezajistí. Pokud podvod proběhl, jde o trestný čin: obraťte se na banku kvůli zastavení platby a na Policii ČR. Pokud přitom unikly osobní údaje, posuďte ohlášení ÚOOÚ do 72 hodin podle GDPR. Postup výše.
Dejte kartu k telefonu, ne do šuplíku
Jedna strana A4 pro účtárnu, asistentky a IT. A jedna věta od jednatele na poradě: „Zavěste a zavolejte mi zpět.“
Stáhnout kartu ověření (PDF) Postup při AI incidentu