Problemi on Metaheuristic - Applied AI partnerhttps://www.metaheuristic.co/hr/problem/Recent content in Problemi on Metaheuristic - Applied AI partnerHugoen-usThu, 29 Oct 2026 00:00:00 +0000Sigurnosni audit AI agenata i LLM-ova u Hrvatskoj: red teaming i penetracijsko testiranjehttps://www.metaheuristic.co/hr/problem/sigurnosni-audit-ai-agenata/Thu, 29 Oct 2026 00:00:00 +0000https://www.metaheuristic.co/hr/problem/sigurnosni-audit-ai-agenata/<p>Hrvatske tvrtke uvode AI agente brže nego što ih stignu testirati. Chatbot banke odgovara na pitanja o kreditima. Hotelski asistent prima rezervacije na pet jezika. Webshop prepušta agentu povrate i reklamacije.</p> <p>Svaki od tih agenata čita tekst nepoznatih ljudi i prema njemu djeluje. Napadač ne mora provaliti u server. Dovoljna mu je dobro napisana poruka, e-mail ili PDF.</p> <p>Klasični penetracijski test aplikacije to neće uhvatiti. Provjerit će prijavu i API, ali ne i može li se agenta nagovoriti da pošalje tuđe podatke. Mi testiramo upravo to.</p>