Problemy on Metaheuristic - Applied AI partnerhttps://www.metaheuristic.co/pl/problem/Recent content in Problemy on Metaheuristic - Applied AI partnerHugoen-usThu, 29 Oct 2026 00:00:00 +0000Audyt bezpieczeństwa agentów AI i LLM w Polsce: red teaming i testy penetracyjnehttps://www.metaheuristic.co/pl/problem/audyt-bezpieczenstwa-agentow-ai/Thu, 29 Oct 2026 00:00:00 +0000https://www.metaheuristic.co/pl/problem/audyt-bezpieczenstwa-agentow-ai/<p>Polskie firmy wdrażają agentów AI szybciej, niż zdążają ich przetestować. Chatbot w banku odpowiada na pytania o kredyt. Agent w sklepie internetowym przyjmuje zwroty. Software house oddaje klientowi z Niemiec asystenta, który czyta jego dokumenty.</p> <p>Każdy z tych agentów czyta tekst od obcych ludzi i na jego podstawie działa. Atakujący nie musi włamywać się na serwer. Wystarczy mu odpowiednio napisana wiadomość, mail albo plik PDF.</p> <p>Klasyczny pentest aplikacji tego nie wyłapie. Skaner sprawdzi formularze i API, ale nie sprawdzi, czy agent da się namówić do wysłania cudzych danych. My testujemy właśnie to.</p>