Problémy on Metaheuristic - Applied AI partnerhttps://www.metaheuristic.co/cs/problem/Recent content in Problémy on Metaheuristic - Applied AI partnerHugoen-usThu, 29 Oct 2026 00:00:00 +0000Audit bezpečnosti AI agentů a LLM v Česku: red teaming a penetrační testyhttps://www.metaheuristic.co/cs/problem/audit-bezpecnosti-ai-agentu/Thu, 29 Oct 2026 00:00:00 +0000https://www.metaheuristic.co/cs/problem/audit-bezpecnosti-ai-agentu/<p>České firmy nasazují AI agenty rychleji, než je stíhají otestovat. Chatbot v bance odpovídá na dotazy k účtu. Agent v e-shopu vyřizuje reklamace. Výrobní firma pouští asistenta do technické dokumentace a servisních manuálů.</p> <p>Každý takový agent čte text od cizích lidí a podle něj jedná. Útočník nemusí prolomit server. Stačí mu dobře napsaná zpráva, e-mail nebo PDF.</p> <p>Klasický penetrační test webové aplikace to neodhalí. Prověří přihlášení a API, ale ne to, jestli se agent nechá přemluvit, aby poslal cizí data. My testujeme právě tohle.</p>