AIscale › Bezpečnost AI › Deepfake podvody

Deepfake hlas a video: jak ve firmě ověřit, že opravdu volá ředitel

Účetní zvedne telefon. Volá jednatel, má jeho hlas, spěchá, potřebuje dnes zaplatit zálohu novému dodavateli a nikomu to neříkat. Hlas už není důkaz, že mluvíte s tím, za koho se volající vydává. Obrana firmy proto nestojí na tom, že někdo podvod pozná, ale na postupu, který platbu, změnu účtu nebo přístup bez ověření nepustí. Tady je, jak ho nastavit. Včetně karty na nástěnku.

Publikováno 28. 10. 2026 · Jiří Staněk · 9 min čtení

Stručně
  • Klonovaný hlas zní podle FBI téměř stejně jako pravý. Rada „poslouchejte, jestli to nezní divně“ ve firmě nestačí.
  • Útok míří na peníze a přístupy: platba, změna čísla účtu, reset hesla, přeposlání dokumentů. Vždy se spěchem a s tlakem obejít běžný postup.
  • Obrana jsou tři pravidla: hlas ani tvář nejsou ověření; neobvyklou žádost ověřujeme zpětně přes uložený kontakt; platby a přístupy schvalují dva lidé.
  • Karta ověření pro účtárnu, asistentky a IT je ke stažení jako A4 PDF na nástěnku.

Stáhnout kartu ověření (PDF)

Co je deepfake a proč se týká i malé firmy

AI Act v čl. 3 definuje deepfake jako obraz, zvuk nebo video vytvořené či upravené umělou inteligencí, které se podobá skutečným osobám, objektům, místům nebo událostem a mohlo by se nepravdivě jevit jako autentické. Většina firem to zná z druhé strany: od 2. 8. 2026 musí takový obsah označit, když ho samy zveřejňují.

Tenhle článek je o té první straně. Stejná technologie, kterou firma použije na reklamní video, umožní útočníkovi napodobit hlas jednatele v telefonu nebo jeho tvář ve videohovoru. Nepotřebuje k tomu prolomit žádný systém. Potřebuje nahrávku hlasu (rozhovor, webinář, video z konference), jméno a telefon člověka, který ve firmě schvaluje platby, a věrohodný příběh.

Že nejde o teorii, dokládají úřady. FBI vydala 15. 5. 2025 varování před kampaní, která od dubna 2025 cílila na vysoké představitele americké administrativy textovými zprávami a hlasovými zprávami vytvořenými umělou inteligencí: útočníci se vydávali za jiné vysoké úředníky, budovali důvěru a pak oběti přesměrovali na odkazy, kterými kradli přihlašovací údaje. Policie ČR popisuje deepfake videa známých osobností a českých politiků, která lákají na výhodné investice; v případu z Olomoucka z května 2025 takovému videu uvěřila seniorka. Cíl je jiný než u firmy, technika je stejná.

Jak útok na firmu vypadá

Podvod s falešným šéfem existoval dávno před AI, jen chodil e-mailem. Deepfake mu přidal hlas a tvář. Scénáře, na které se připravit:

Volá ředitel, chce platbuJednatel je „na jednání“, potřebuje dnes zaplatit zálohu, akvizici nebo pokutu. Spěchá, je to důvěrné, nikomu to neříkat. Cíl: účtárna, asistentka, kdokoli s právem zadat platbu.
Dodavatel mění číslo účtuZnámý hlas obchodního partnera nebo e-mail s hlasovou zprávou: „změnili jsme banku, nové číslo je…“. Faktura je pravá, účet ne. Cíl: účtárna, nákup.
Kolega potřebuje reset heslaVolá „zaměstnanec“ na IT podporu, zná jména, projekty, spěchá na prezentaci. Chce reset hesla nebo nový kód pro dvoufaktorové ověření. Cíl: IT, helpdesk.
Videohovor s vedenímPozvánka na krátký videohovor, kde „finanční ředitel“ zadá převod. Tvář sedí, kamera je „špatná“, hovor je krátký. Cíl: finance, management.

Všechny čtyři mají stejný vzorec: známá identita, spěch, důvěrnost a požadavek obejít běžný postup. Právě tyhle čtyři znaky jsou spolehlivější signál než kvalita hlasu.

Proč nestačí „poznat to po hlase“

FBI ve svém varování radí poslouchat tón a volbu slov, ale hned dodává, že hlas naklonovaný AI může znít téměř stejně jako pravý. Starší rady o podivné intonaci nebo nesynchronizovaných rtech se s každou generací nástrojů stávají méně spolehlivé. Když obranu firmy postavíte na tom, že účetní pozná podvod, postavíte ji na schopnosti, která slábne.

Co naopak slábnout nebude: útočník nemá přístup k vašemu adresáři a nemůže zvednout telefon, když zavoláte zpět na uložené číslo. A nemůže obejít druhého schvalovatele, o kterém neví. Obrana tedy nestojí na detekci, ale na postupu.

Tři pravidla, která podvod zastaví

1. Hlas, tvář ani známé číslo nejsou ověření identity.Platí pro telefon, hlasovou zprávu i videohovor. Číslo volajícího lze podvrhnout, hlas naklonovat. Tohle pravidlo musí znát každý, kdo může zadat platbu, změnit údaje dodavatele nebo resetovat přístup.
2. Neobvyklou žádost ověřujeme zpětně přes kontakt, který už máme.FBI radí nezávisle zjistit telefonní číslo dané osoby a zavolat jí pro ověření, a nové kontaktní údaje potvrdit přes dříve ověřený kanál. Ve firmě to znamená: zavěsit a zavolat zpět na číslo z firemního adresáře, ne na číslo z displeje, ne na číslo z e-mailu, ve kterém žádost přišla. Změnu bankovního účtu dodavatele ověřit u osoby, se kterou jste jednali dřív, na jejím dřívějším čísle.
3. Platby, změny účtů a přístupy schvalují dva lidé, bez výjimky pro vedení.Druhý schvalovatel je ten, o kom útočník neví. „Výjimka, protože volal šéf“ je přesně díra, na kterou podvod cílí. Pokud má jednatel právo zadat platbu sám, ať to dělá sám v bankovnictví, ne po telefonu přes účetní.

K tomu jedno doplnění, které FBI doporučuje rodinám a které se osvědčuje i v malých firmách: dohodnuté slovo nebo fráze pro ověření po telefonu, když jde o peníze nebo přístupy. Nepište ji do e-mailu ani do chatu, domluvte ji osobně a občas ji změňte. Není to náhrada zpětného zavolání, ale rychlý první filtr.

Karta ověření: co dělat, když volá „ředitel“

Postup pro účtárnu, asistentky, nákup a IT podporu na jednu stranu A4. Vytiskněte, dejte k telefonu, projděte na poradě.

Stáhnout kartu ověření (PDF)

Zastavte se, když žádost splňuje dva z těchto znaků

  • Jde o peníze, změnu bankovního účtu, přístup nebo důvěrné dokumenty.
  • Spěchá to: dnes, do hodiny, než skončí jednání.
  • Má to zůstat důvěrné: nikomu to neříkat, neřešit s kolegy.
  • Má se obejít běžný postup: bez objednávky, bez druhého podpisu, mimo systém.
  • Přišlo to novým kanálem: z neznámého čísla, soukromého e-mailu, hlasovou zprávou, přes nový chat.

Čtyři kroky

  1. Nic neslibujte a hovor ukončete. Zdvořile: „Ověřím to a zavolám zpět.“ Pravý ředitel to pochopí. Podvodník bude tlačit.
  2. Zavolejte zpět na uložené číslo. Z firemního adresáře, ne z displeje, ne z podpisu v e-mailu. U dodavatele na číslo osoby, se kterou jste jednali dřív.
  3. Nechte žádost projít běžným postupem. Objednávka, druhé schválení, zápis v systému. Žádná výjimka kvůli spěchu nebo kvůli tomu, kdo volá.
  4. Zapište to a nahlaste. I když se nic nestalo. Komu: nadřízenému a tomu, kdo ve firmě řeší bezpečnost. Pokus o podvod je informace, kterou mají znát i kolegové.

Co nikdy neuděláte po telefonu, ve videohovoru ani na základě hlasové zprávy

  • Nezadáte platbu ani nezměníte číslo účtu dodavatele nebo zaměstnance.
  • Nesdělíte heslo, kód z SMS nebo z aplikace pro dvoufaktorové ověření. FBI to říká výslovně: kód nikomu, ani e-mailem, ani zprávou.
  • Neresetujete přístup bez ověření totožnosti postupem, který má IT napsaný.
  • Nepošlete smlouvy, ceníky ani osobní údaje na novou adresu „protože ta stará nefunguje“.

Jak to napsat do směrnice

Do vzoru směrnice pro používání AI tohle téma nepatří, protože nejde o to, jak lidé AI používají, ale jak ji používá útočník. Patří do platební nebo bezpečnostní směrnice, případně do pracovního postupu účtárny a IT. Stačí čtyři věty:

Vzor textu: Platbu, změnu bankovního spojení, zpřístupnění systému nebo předání důvěrných dokumentů nelze provést na základě telefonického hovoru, hlasové zprávy ani videohovoru. Každou takovou žádost zaměstnanec ověří zpětným kontaktem na číslo nebo adresu vedenou ve firemním adresáři. Platby a změny bankovního spojení schvalují vždy dvě osoby; výjimka pro členy vedení se nepřipouští. Pokus o podvod zaměstnanec zapíše a ohlásí nadřízenému, i když ke škodě nedošlo.

Pak to lidem řekněte. Jednou na poradě, s konkrétním příkladem, kartou na stole a větou od jednatele: „Když vám zavolám a budu chtít rychle zaplatit, zavěste a zavolejte mi zpět. Nebudu se zlobit.“ Tahle věta od šéfa udělá víc než celá směrnice, protože odstraní strach, na kterém podvod stojí.

AI na obou stranách: když podvod projde přes vašeho AI asistenta

Jedna věc, která se často přehlíží. Pokud máte v účtárně AI asistenta, který zpracovává došlé faktury a navrhuje platby, může podvodná faktura nebo e-mail projít přes něj. OWASP v seznamu Top 10 pro agentní aplikace (2026) popisuje přesně tento scénář: upravená faktura dodavatele projde finančním asistentem, ten doporučí urgentní platbu na účet útočníka a manažer ji schválí, protože důvěřuje doporučení a jeho vysvětlení. Pravidla výše platí i tady: doporučení AI není ověření a změnu účtu potvrzuje člověk přes uložený kontakt. Jak nastavit AI agenta, aby takové chyby nedělal sám, popisuji v průvodci prompt injection a AI agenti.

Když už se to stalo

  1. Okamžitě banka. Zavolejte své bance, že jde o podvodnou platbu; čím dřív, tím větší šance na zastavení nebo vrácení.
  2. Policie ČR. Podvod je trestný čin. Uložte si vše, co máte: číslo volajícího, nahrávku hlasové zprávy, e-maily, pozvánku na videohovor, údaje o platbě.
  3. Přístupy. Pokud útočník získal heslo nebo kód, změňte ho a odhlaste všechna zařízení. Zkontrolujte, co s přístupem stihl: přeposílání pošty, nová pravidla ve schránce, stažené soubory.
  4. Osobní údaje. Pokud unikly, jde o porušení zabezpečení podle GDPR a běží lhůta 72 hodin na ohlášení ÚOOÚ, pokud nelze vyloučit riziko pro dotčené osoby. Celý postup je v průvodci postup při AI incidentu.
  5. Lidé. Neobviňujte toho, kdo zvedl telefon. Podvod je navržený tak, aby fungoval na kohokoli. Opravte postup, ne člověka.

Zdroje

Stav k 28. 10. 2026. Postup ověření je doporučení autora z praxe, ne požadavek zákona. Stránka je informativní, nejde o právní poradenství.

Časté otázky

Co je deepfake?

AI Act ho v čl. 3 definuje jako obraz, zvuk nebo video vytvořené či upravené umělou inteligencí, které se podobá skutečným osobám, objektům, místům nebo událostem a mohlo by se nepravdivě jevit jako autentické. Pro firmu je podstatné, že sem patří i klonovaný hlas v telefonu a tvář ve videohovoru.

Dá se deepfake hlas poznat po sluchu?

Nespoléhejte na to. FBI ve varování z 15. 5. 2025 uvádí, že hlas vytvořený AI může znít téměř stejně jako hlas skutečného člověka. Obrana firmy proto nestojí na tom, že zaměstnanec podvod pozná, ale na postupu: neobvyklá žádost o platbu, změnu účtu nebo přístup se ověří zpětným zavoláním na uložené číslo a schválí druhým člověkem. Tři pravidla výše.

Co dělat, když volá „ředitel“ a chce rychlou platbu?

Hovor zdvořile ukončit, nic neslibovat a zavolat řediteli zpět na číslo, které máte uložené ve firemním adresáři, ne na číslo, ze kterého přišel hovor. Platbu schválit jen postupem, který ve firmě platí pro každou platbu, tedy včetně druhého schválení. Spěch, tlak na mlčenlivost a požadavek obejít běžný postup jsou samy o sobě důvod k ověření. Karta ověření výše.

Musí firma deepfake nějak hlásit nebo označovat?

Povinnost označovat deepfake podle čl. 50 AI Actu se týká toho, kdo AI obsah zveřejňuje. Útočník ji samozřejmě neplní, takže ochranu firmy nezajistí. Pokud podvod proběhl, jde o trestný čin: obraťte se na banku kvůli zastavení platby a na Policii ČR. Pokud přitom unikly osobní údaje, posuďte ohlášení ÚOOÚ do 72 hodin podle GDPR. Postup výše.

Dejte kartu k telefonu, ne do šuplíku

Jedna strana A4 pro účtárnu, asistentky a IT. A jedna věta od jednatele na poradě: „Zavěste a zavolejte mi zpět.“

Stáhnout kartu ověření (PDF) Postup při AI incidentu