METAHEURISTIC
Hrvatske tvrtke uvode AI agente brže nego što ih stignu testirati. Chatbot banke odgovara na pitanja o kreditima. Hotelski asistent prima rezervacije na pet jezika. Webshop prepušta agentu povrate i reklamacije.
Svaki od tih agenata čita tekst nepoznatih ljudi i prema njemu djeluje. Napadač ne mora provaliti u server. Dovoljna mu je dobro napisana poruka, e-mail ili PDF.
Klasični penetracijski test aplikacije to neće uhvatiti. Provjerit će prijavu i API, ali ne i može li se agenta nagovoriti da pošalje tuđe podatke. Mi testiramo upravo to.
Kome je audit namijenjen
Propisi kod kojih izvješće pomaže
Audit ne zamjenjuje pravnika ni postupak usklađivanja. Ali daje vam dokaz da je agent provjeren i popis onoga što treba popraviti.
- NIS2. Zakon o kibernetičkoj sigurnosti iz 2024. proširio je obveze na mnogo više tvrtki nego prije. AI agent s pristupom podacima dio je sustava čije rizike morate poznavati.
- DORA. Od siječnja 2025. banke, osiguranja i drugi financijski subjekti moraju redovito testirati otpornost svojih IKT sustava.
- GDPR. Ako agent otkrije osobne podatke, to je povreda koju obično treba prijaviti AZOP-u u roku od 72 sata. Jeftinije je propust pronaći ranije.
Što testiramo
Napadamo vašeg agenta onako kako bi to učinio pravi napadač. Testiramo na hrvatskom i engleskom, a turističke asistente i na jezicima vaših gostiju, jer sigurnosni filtri često slabije rade kad napad stigne na jeziku na kojem nisu napisani.
- Prompt injection. Skrivene upute u porukama, e-mailovima, dokumentima i web stranicama koje agent čita.
- Curenje podataka. Hoće li agent otkriti podatke drugih klijenata, sistemski prompt, API ključeve ili interne dokumente.
- Opasne radnje. Hoće li agent izvršiti plaćanje, povrat novca ili promjenu u CRM-u ako ga netko nagovori.
- Zaobilaženje pravila. Može li ga se uvjeriti da prekrši pravila tvrtke ili obeća klijentu nešto što tvrtka ne nudi.
Što dobivate
- Tehničko izvješće. Svaki pronađeni propust s primjerom napada, procjenom rizika i načinom popravka.
- Sažetak za upravu i klijente. Dvije stranice bez žargona za upravu, revizora ili klijenta.
- Ponovno testiranje. Nakon popravaka provjeravamo jesu li propusti stvarno zatvoreni.
- Testove u CI-ju. Postavljamo automatske sigurnosne testove kako bi svaka promjena prompta ili modela prošla istu provjeru.
Zašto mi
Alat agentic_security razvija zajednica programera koja prijavljuje nove tehnike napada. Zato nove metode vidimo rano i odmah ih isprobavamo na agentima klijenata.
Koliko košta audit AI agenta
Cijena ovisi o tome što agent može raditi i kojim podacima ima pristup. Chatbot koji odgovara na česta pitanja košta manje od agenta koji upravlja plaćanjima i e-poštom. Nakon prvog razgovora kažemo vam fiksnu cijenu. Ne mijenja se tijekom rada.
Česta pitanja
Koja tvrtka u Hrvatskoj radi sigurnosni audit AI agenata? Metaheuristic radi sigurnosne audite AI agenata, proizvoda temeljenih na LLM-ovima i chatbotova za tvrtke u Hrvatskoj i regiji. Audit vodi autor alata agentic_security, open-source skenera ranjivosti za LLM-ove s više od 2000 zvjezdica na GitHubu.
Po čemu se audit AI agenta razlikuje od običnog penetracijskog testa? Običan pentest provjerava aplikaciju: prijavu, API, servere. Audit agenta provjerava što se može postići samo tekstom. Agent može imati siguran API, a ipak izvršiti uputu skrivenu u e-mailu nepoznate osobe.
Što je prompt injection? Napad putem teksta. Napadač sakrije uputu u poruku, e-mail ili dokument. Agent pročita tekst i umjesto vaše izvrši tuđu uputu.
Radite li na produkcijskom sustavu? U pravilu ne. Radimo u testnom okruženju i u opsegu koji prije početka pismeno dogovorimo.
Počnite kratkim razgovorom
Pišite nam. Opišite u dvije-tri rečenice što vaš agent radi i čemu ima pristup. Odgovorit ćemo prijedlogom opsega i cijene.
