AIscale › Bezpečnost AI › Prompt injection a AI agenti

Prompt injection a AI agenti: jak se útočí přes e-mail, web nebo dokument

AI asistent, který vám shrne poštu, si přečte i pokyn, který do e-mailu schoval odesílatel. Dokud jen odpovídá, je to špatné shrnutí. Jakmile může sám jednat, je to útok. Tady je, jak to funguje, proč se tomu nedá úplně zabránit a co nastavit, než AI agentovi dáte přístup k poště, dokumentům nebo systémům. Včetně checklistu ke stažení.

Publikováno 28. 10. 2026 · Jiří Staněk · 11 min čtení

Stručně
  • Jazykový model spolehlivě nerozliší váš pokyn od textu, který zpracovává. Pokyn schovaný v e-mailu, na webu nebo v PDF proto může změnit, co AI udělá.
  • Podle OWASP není jasné, zda proti prompt injection existuje spolehlivá prevence. Řeší se dopad, ne příčina: co nejhoršího může AI udělat, když ji někdo zmanipuluje?
  • U AI agenta, který sám posílá zprávy, mění data nebo volá další systémy, rozhodují tři věci: co čte, co smí a jestli nevratné akce schvaluje člověk.
  • Checklist 12 otázek před nasazením AI agenta je ke stažení jako A4 PDF. Hodí se i jako seznam otázek pro dodavatele.

Stáhnout checklist (PDF)

Co je prompt injection a proč se jí nedá úplně zabránit

Když AI asistentovi napíšete „shrň mi tenhle e-mail“, dostane dva texty: váš pokyn a e-mail. Pro model je obojí jen text. OWASP, mezinárodní komunita, jejíž seznam Top 10 pro aplikace s velkými jazykovými modely používají bezpečnostní týmy po celém světě, vede prompt injection na prvním místě (LLM01:2025) a popisuje ji jako situaci, kdy vstup změní chování nebo výstup modelu nezamýšleným způsobem. Rozlišuje dvě varianty:

  • Přímá: uživatel sám napíše vstup, který obejde pravidla. Typicky někdo zkouší firemního chatbota přimět, aby prozradil interní instrukce nebo odpovídal mimo své zadání.
  • Nepřímá: pokyn je schovaný v obsahu z vnějšího zdroje, který AI zpracovává. OWASP výslovně jmenuje webové stránky a soubory. V praxi jde o e-mail, PDF, životopis, pozvánku v kalendáři nebo stránku, kterou si AI otevře při hledání.

Pokyn přitom nemusí být vidět. OWASP uvádí, že vstup může být pro člověka neviditelný, stačí, že ho model přečte: bílý text na bílém pozadí, text v metadatech souboru, poznámka drobným písmem na konci dokumentu.

A teď to podstatné. OWASP k ochraně píše, že vzhledem k tomu, jak modely fungují, není jasné, zda proti prompt injection existují spolehlivé metody prevence. Opatření, která doporučuje, dopad útoku omezují, ne vylučují. Stejně to říká Microsoft u Copilotu: používá klasifikátory proti jailbreakům a nepřímé injekci a zároveň uvádí, že nemusí být k dispozici ve všech scénářích. To není kritika dodavatelů. Je to vlastnost technologie, se kterou musíte počítat při rozhodování, k čemu AI pustíte.

Asistent, nebo agent: v čem je rozdíl

Dokud AI jen odpovídá a výsledek použije člověk, je dopad prompt injection omezený: špatné shrnutí, zavádějící odpověď, v horším případě text, který vás přiměje k chybnému rozhodnutí. Pořád je mezi AI a následkem člověk.

AI agent je něco jiného. Plánuje a sám provádí kroky v dalších systémech: čte poštu a odpovídá na ni, zakládá úkoly, mění záznamy v CRM, objednává, volá další nástroje. OWASP pro ně v prosinci 2025 vydal samostatný seznam Top 10 for Agentic Applications 2026. Na prvním místě je ASI01: Agent Goal Hijack, únos cíle agenta: útočník přes podstrčený obsah změní, co agent považuje za svůj úkol, a agent pak s vašimi oprávněními udělá něco, co nikdo neschválil. OWASP přitom zdůrazňuje, že agenti nemohou spolehlivě rozlišit legitimní pokyny od obsahu, který ovládá útočník.

Tři příklady, které OWASP v tomto dokumentu uvádí, protože se opravdu staly nebo byly veřejně předvedeny:

E-mail bez kliknutíUpravený e-mail přiměl AI asistenta napojeného na firemní poštu a dokumenty, aby skrytě vykonal pokyny a odeslal důvěrné e-maily, soubory a chaty, aniž by uživatel na cokoli klikl. OWASP ho vede jako scénář EchoLeak u Microsoft 365 Copilot.
Webová stránkaÚtočník umístí pokyny na stránku, kterou agent zpracovává při hledání. Agent je poslechne, otevře interní stránky, ke kterým má uživatel přístup, a vynese z nich data.
Sdílený dokumentDokument v cloudovém úložišti obsahuje instrukce pro AI, která ho zpracovává: vynést data uživatele a přesvědčit ho ke špatnému obchodnímu rozhodnutí.
Faktura pro finančního asistentaUpravená faktura dodavatele projde AI asistentem účtárny, který doporučí urgentní platbu na účet útočníka. Manažer důvěřuje doporučení a platbu schválí. OWASP to vede pod ASI09: Human-Agent Trust Exploitation.

Všimněte si společného rysu: útočník nepotřebuje prolomit heslo ani síť. Potřebuje jen, aby se jeho text dostal tam, odkud ho AI čte. Došlá pošta, veřejný web a sdílené úložiště jsou přesně taková místa.

Tři otázky, které rozhodnou, jak velké riziko máte

Než začnete řešit nastavení, položte si u každého AI nástroje tři otázky. Odpovědi určí, jak moc se o něj musíte starat:

1. Čte cizí obsah?Pracuje jen s tím, co mu napíšete vy, nebo čte e-maily, web, přílohy, životopisy, dokumenty od lidí mimo firmu? Pokud ne, nepřímá prompt injection na něj nemá kudy. Jen vaše zadání: nízké riziko.
2. Může něco udělat?Jen odpovídá, nebo má napojení, kterým může odeslat zprávu, změnit záznam, sdílet soubor, zaplatit, spustit kód? Čím víc umí, tím víc záleží na tom, co mu útočník může podstrčit. Čte cizí obsah a jen odpovídá: střední riziko, kontrolujte výstupy.
3. Dá se to vrátit?Odeslaný e-mail, provedená platba, smazaná data nebo změněné oprávnění se nevrátí. Tyhle akce nesmí proběhnout bez člověka. Čte cizí obsah a může jednat nevratně: vysoké riziko, lidské schválení je nutné.

OWASP pro to má zásadu, kterou v agentním Top 10 nazývá Least-Agency, nejmenší samostatnost: nasazovat agentní chování jen tam, kde přidává hodnotu, protože zbytečná autonomie rozšiřuje plochu útoku, aniž by cokoli přinesla. Jinými slovy, než se ptát „jak agenta zabezpečit“, zeptejte se „potřebuje tohle vůbec být agent“.

Co nastavit: pět opatření, která OWASP doporučuje

Následující opatření vycházejí z doporučení OWASP k prompt injection (LLM01:2025), k nadměrné samostatnosti (LLM06:2025 Excessive Agency) a ke zneužití nástrojů agenta (ASI02: Tool Misuse and Exploitation). Přeložil jsem je do rozhodnutí, která může udělat firma, jež AI nevyvíjí, ale nasazuje:

  1. Nejmenší oprávnění, nejlépe jen pro čtení. OWASP radí dát agentovi jen ty funkce, které úkol vyžaduje, a uvádí přímo příklad: asistent, který shrnuje poštu, nemá mít právo odesílat ani mazat. Napojení na databázi: čtení jedné tabulky, ne zápis do celé. Pokud dodavatel nabízí jen „plný přístup“, je to důvod k otázce, ne k odkliknutí.
  2. Lidské schválení nevratných akcí. OWASP požaduje potvrzení člověkem u akcí s velkým dopadem a jmenuje mazání, převody a publikování. Doporučuje také, aby agent před provedením ukázal, co se chystá udělat. V praxi: agent připraví odpověď zákazníkovi, člověk klikne na odeslat.
  3. Oddělení cizího obsahu. OWASP doporučuje nedůvěryhodný obsah jasně označit a omezit jeho vliv na pokyny. To je hlavně úkol pro dodavatele nástroje, ale vy se na to můžete zeptat: jak nástroj zachází s obsahem e-mailů a příloh? Je oddělený od pokynů uživatele?
  4. Vlastní identita agenta a práce v kontextu uživatele. Agent má mít vlastní účet nebo token s minimálním rozsahem, ne sdílené heslo správce. A akce má provádět jako konkrétní uživatel, aby platila stejná oprávnění jako pro člověka. OWASP k tomu dodává, že oprávnění se mají vymáhat v cílovém systému, ne nechat na AI, aby rozhodla, co smí.
  5. Logy a někdo, kdo je čte. Logování OWASP uvádí jako opatření, které útoku nezabrání, ale omezí škodu. Pro firmu to znamená: vědět, co agent udělal, kdy a na čí pokyn, a mít určeného člověka, kterému se hlásí, když agent udělá něco divného.
Lidská stránka věci: OWASP v agentním Top 10 popisuje i zneužití důvěry člověka v agenta (ASI09). AI mluví sebejistě, umí svá doporučení přesvědčivě zdůvodnit a lidé je pak schvalují bez vlastního ověření. Pravidlo, které z toho plyne, je jednoduché: doporučení agenta není ověření. Platbu, změnu bankovního účtu nebo přístup schvaluje člověk na základě vlastní kontroly, ne proto, že to AI dobře vysvětlila. Jak takovou kontrolu nastavit, popisuji v průvodci revize AI výstupů.

Checklist: 12 otázek, než AI agenta pustíte k firemním datům

Dvanáct otázek pro nasazení jakéhokoli AI nástroje, který čte cizí obsah nebo může jednat: agenta, automatizace s AI, asistenta napojeného na poštu nebo dokumenty. Stejné otázky můžete poslat dodavateli; z odpovědí poznáte, jak vážně bezpečnost bere.

Stáhnout checklist (PDF)

Co agent čte a co může udělat

  1. Je sepsáno, z jakých zdrojů agent čte (pošta, web, úložiště, CRM, nahrané soubory) a které z nich obsahují obsah od lidí mimo firmu?
  2. Je sepsáno, jaké akce agent může provést (odeslat, změnit, smazat, sdílet, zaplatit, spustit) a ke kterým systémům má napojení?
  3. Je jasné, co nejhoršího se stane, když agent poslechne cizí pokyn? Pokud je odpověď „pošle data ven“ nebo „zaplatí“, platí otázky 6 a 7.
  4. Byla zvážena varianta bez agenta: asistent, který jen připraví návrh a člověk ho provede?

Oprávnění a schvalování

  1. Má agent jen nezbytná oprávnění, nejlépe jen pro čtení, a je to nastaveno v cílovém systému, ne jen v instrukcích pro AI?
  2. Nevratné akce (odeslání ven z firmy, platba, mazání, změna práv, publikování) schvaluje člověk dřív, než proběhnou?
  3. Vidí schvalující člověk před potvrzením, co přesně agent udělá (komu, co, kolik), ne jen „agent chce pokračovat“?
  4. Má agent vlastní účet nebo token s omezeným rozsahem, ne sdílené heslo správce? Jde zrušit jedním krokem?

Provoz a lidé

  1. Je zapnuté logování toho, co agent udělal, kdy a na základě čeho? Je určeno, kdo logy kontroluje?
  2. Vědí lidé, komu hlásit, když agent udělá něco nečekaného, a jak ho rychle vypnout?
  3. Je agent zapsaný v registru AI nástrojů s dodavatelem, umístěním dat a rozsahem oprávnění a je s dodavatelem zpracovatelská smlouva, pokud agent pracuje s osobními údaji?
  4. Vědí lidé, že doporučení agenta není ověření, a platí u plateb, změn účtů a přístupů stejná kontrola jako u požadavku od člověka?

Pokud u otázek 5, 6 a 10 odpovíte ne, agenta zatím nenasazujte. Zbytek lze dotáhnout za provozu.

Jak to vypadá v běžné firmě

  • Asistent na došlou poštu. Nejčastější nasazení a zároveň učebnicový příklad: čte obsah od cizích lidí a často umí i odpovídat a přeposílat. Rozumné nastavení: čte a navrhuje, odesílá člověk. Pokud má odesílat sám, tak jen interně a s logem.
  • Chatbot na webu napojený na objednávky. Zákazník může psát cokoli, včetně pokusů o přímou injekci. Pokud chatbot umí jen vyhledat stav objednávky podle čísla a e-mailu, dopad je malý. Pokud umí vracet peníze nebo měnit adresu doručení, patří k tomu lidské schválení. OWASP uvádí přesně tento případ: bot pro zákaznickou podporu, který měl číst historii objednávek, vydával i refundace, protože měl plný přístup k finančnímu rozhraní.
  • Automatizace „když přijde faktura, zapiš ji a připrav platbu“. Faktura je cizí obsah. Zápis do účetnictví ať agent udělá, platební příkaz ať připraví, ale schválení platby a kontrola čísla účtu zůstává na člověku, stejně jako u podvodů s deepfake hlasem.
  • Rozšíření prohlížeče s AI. Čte každou stránku, na které pracujete, včetně interních systémů, a často má oprávnění, která nikdo nečetl. Patří do schvalování nástrojů, které popisuji v článku o shadow AI.

Jak to souvisí s předpisy

AI Act firmě, která agenta jen používá, neukládá samostatnou „bezpečnostní“ povinnost. Opatření z tohoto článku ale spadají do opatření k AI gramotnosti podle čl. 4, protože lidé, kteří s agentem pracují, musí rozumět tomu, co umí a kde se plete. Poskytovatelé vysoce rizikových systémů musí podle čl. 15 zajistit odolnost proti pokusům změnit použití, vstupy nebo výkonnost systému, a prompt injection je přesně takový pokus. Pokud agent pracuje s osobními údaji, platí GDPR a únik dat přes zmanipulovaného agenta je porušením zabezpečení, které se může hlásit ÚOOÚ. Co dělat, když se to stane, je v průvodci postup při AI incidentu.

Zdroje

Stav k 28. 10. 2026. Funkce a podmínky nástrojů se mění, ověřujte je u dodavatele. Stránka je informativní, nejde o právní poradenství.

Časté otázky

Co je prompt injection?

Útok, při kterém vstup změní chování AI modelu jinak, než uživatel zamýšlel. Přímá varianta přichází od uživatele, nepřímá z obsahu, který AI zpracovává: z webové stránky, e-mailu, PDF nebo životopisu se skrytým pokynem. Jazykový model spolehlivě nerozliší, co je pokyn od vás a co je jen text ke zpracování. Podrobně výše.

Dá se prompt injection spolehlivě zabránit?

Podle OWASP Top 10 pro aplikace s velkými jazykovými modely (2025) není jasné, zda proti prompt injection existují spolehlivé metody prevence. Proto se neřeší vyloučení útoku, ale omezení jeho dopadu: minimální oprávnění AI nástroje, oddělení cizího obsahu a lidské schválení akcí, které nejdou vrátit.

Jaký je rozdíl mezi AI asistentem a AI agentem?

Asistent odpovídá a výsledek použije člověk. Agent plánuje a sám provádí kroky v dalších systémech: čte poštu, zakládá úkoly, mění záznamy, odesílá zprávy. OWASP pro agenty vydal v prosinci 2025 samostatný seznam Top 10 for Agentic Applications a doporučuje zásadu nejmenší samostatnosti: nedávat AI autonomii tam, kde není potřeba.

Co nastavit, než AI agentovi dám přístup k firemním datům?

Sepsat, co agent čte, co smí udělat a s jakými oprávněními. Dávat jen nezbytná práva, nejlépe jen pro čtení. Akce, které nejdou vrátit (odeslání ven, platba, mazání, změna práv), nechat schvalovat člověkem. Zapnout logování toho, co agent udělal, a určit, kdo logy čte a komu se hlásí podezřelé chování. Dvanáct otázek výše a v checklistu ke stažení.

Než agenta pustíte k datům, projděte dvanáct otázek

Checklist si vytiskněte nebo pošlete dodavateli. Agent, který projde, patří do registru AI nástrojů.

Stáhnout checklist (PDF) Registr AI nástrojů (vzor)