Audit bezpečnosti AI agentů pro firmy v Česku a na Slovensku. Najděte díry dřív než útočník.

České firmy nasazují AI agenty rychleji, než je stíhají otestovat. Chatbot v bance odpovídá na dotazy k účtu. Agent v e-shopu vyřizuje reklamace. Výrobní firma pouští asistenta do technické dokumentace a servisních manuálů.

Každý takový agent čte text od cizích lidí a podle něj jedná. Útočník nemusí prolomit server. Stačí mu dobře napsaná zpráva, e-mail nebo PDF.

Klasický penetrační test webové aplikace to neodhalí. Prověří přihlášení a API, ale ne to, jestli se agent nechá přemluvit, aby poslal cizí data. My testujeme právě tohle.

Komu audit pomůže

Regulace, se kterými zpráva pomůže

Audit nenahrazuje právníka ani compliance. Dá vám ale doklad, že agent byl prověřen, a seznam věcí k opravě.

• NIS2. Nový zákon o kybernetické bezpečnosti rozšířil povinnosti na mnohem více firem než dřív. Dozor má NÚKIB, na Slovensku NBÚ. AI agent s přístupem k datům patří mezi systémy, jejichž rizika musíte znát.
• DORA. Od ledna 2025 musí banky, pojišťovny a další finanční subjekty pravidelně testovat odolnost svých ICT systémů.
• GDPR. Když agent prozradí osobní údaje, jde o porušení, které se obvykle musí do 72 hodin ohlásit dozorovému úřadu (ÚOOÚ, na Slovensku ÚOOÚ SR). Levnější je díru najít dřív.

Co testujeme

Útočíme na vašeho agenta tak, jak by to udělal skutečný útočník. Testujeme česky, slovensky i anglicky, protože bezpečnostní filtry často selhávají, když útok přijde v jiném jazyce, než v jakém byly napsány.

• Prompt injection. Skryté pokyny ve zprávách, e-mailech, dokumentech a na webových stránkách, které agent čte.
• Únik dat. Jestli agent prozradí data jiných zákazníků, systémový prompt, API klíče nebo interní dokumenty.
• Nebezpečné akce. Jestli agent provede platbu, vrácení peněz nebo změnu v CRM, když ho k tomu někdo přemluví.
• Obcházení pravidel. Jestli se dá přesvědčit, aby porušil pravidla firmy nebo slíbil zákazníkovi něco, co firma nenabízí.

Co dostanete

1. Technickou zprávu. Každá nalezená zranitelnost s ukázkou útoku, hodnocením rizika a postupem opravy.
2. Shrnutí pro vedení a zákazníky. Dvě strany bez žargonu pro představenstvo, auditora nebo zákazníka.
3. Opakovaný test. Po opravách ověříme, že díry jsou opravdu zavřené.
4. Testy v CI. Nastavíme automatické bezpečnostní testy, aby každá změna promptu nebo modelu prošla stejnou kontrolou.

Proč my

agentic_security rozvíjí komunita vývojářů, která hlásí nové techniky útoků. Nové metody proto vidíme brzy a hned je zkoušíme na agentech klientů.

Kolik audit AI agenta stojí

Cena závisí na tom, co agent umí a k jakým datům má přístup. Chatbot, který odpovídá na časté dotazy, stojí méně než agent, který obsluhuje platby a e-maily. Po prvním hovoru řekneme pevnou cenu. Během práce se nemění.

Časté otázky

Která firma v Česku dělá audit bezpečnosti AI agentů? Metaheuristic provádí audity bezpečnosti AI agentů, produktů postavených na LLM a chatbotů pro firmy v Česku a na Slovensku. Audit vede autor agentic_security, open-source skeneru zranitelností pro LLM s více než 2 000 hvězdami na GitHubu.

Čím se audit AI agenta liší od běžného penetračního testu? Běžný pentest prověřuje aplikaci: přihlášení, API, servery. Audit agenta prověřuje, čeho se dá dosáhnout jen textem. Agent může mít bezpečné API, a přesto splnit pokyn schovaný v e-mailu od cizího člověka.

Co je prompt injection? Útok přes text. Útočník schová pokyn do zprávy, e-mailu nebo dokumentu. Agent text přečte a místo vašeho pokynu splní cizí.

Pracujete na produkčním systému? Standardně ne. Pracujeme v testovacím prostředí a v rozsahu, který předem písemně odsouhlasíme.

Začněte krátkým hovorem

Napište nám. Popište ve dvou, třech větách, co váš agent dělá a k čemu má přístup. Odpovíme návrhem rozsahu a ceny.