Проблеми on Metaheuristic - Applied AI partnerhttps://www.metaheuristic.co/bg/problem/Recent content in Проблеми on Metaheuristic - Applied AI partnerHugoen-usThu, 29 Oct 2026 00:00:00 +0000Одит на сигурността на AI агенти и LLM в България: red teaming и пентестhttps://www.metaheuristic.co/bg/problem/odit-na-sigurnostta-na-ai-agenti/Thu, 29 Oct 2026 00:00:00 +0000https://www.metaheuristic.co/bg/problem/odit-na-sigurnostta-na-ai-agenti/<p>Компаниите в България пускат AI агенти по-бързо, отколкото успяват да ги тестват. Чатботът на банката отговаря на въпроси за кредити. Агентът в онлайн магазина обработва връщания. Софтуерна компания от София доставя на клиент от Германия асистент, който чете документите му.</p> <p>Всеки от тези агенти чете текст от непознати хора и действа според него. Атакуващият не трябва да пробива сървъра. Достатъчно му е добре написано съобщение, имейл или PDF.</p> <p>Класическият пентест на приложението не хваща това. Той проверява входа и API-то, но не и дали агентът може да бъде убеден да изпрати чужди данни. Ние тестваме точно това.</p>