METAHEURISTIC
Companiile din România pun agenți AI în producție mai repede decât apucă să-i testeze. Chatbotul unei bănci răspunde la întrebări despre credite. Agentul unui magazin online procesează retururi. O firmă de outsourcing din Cluj livrează unui client din Germania un asistent care îi citește documentele.
Fiecare dintre acești agenți citește text scris de necunoscuți și acționează pe baza lui. Atacatorul nu trebuie să spargă serverul. Îi ajunge un mesaj, un e-mail sau un PDF bine scris.
Un pentest clasic al aplicației nu prinde asta. Verifică autentificarea și API-ul, dar nu verifică dacă agentul poate fi convins să trimită datele altcuiva. Noi testăm exact asta.
Pentru cine este auditul
Reglementări la care ajută raportul
Auditul nu înlocuiește juristul sau procesul de conformitate. Vă oferă însă dovada că agentul a fost verificat și lista lucrurilor de corectat.
- NIS2. Directiva extinde obligațiile de securitate cibernetică la mult mai multe companii decât înainte. În România, autoritatea competentă este DNSC. Un agent AI cu acces la date face parte din sistemele ale căror riscuri trebuie să le cunoașteți.
- DORA. Din ianuarie 2025, băncile, asigurătorii și alte entități financiare trebuie să își testeze periodic reziliența sistemelor TIC.
- GDPR. Dacă agentul divulgă date personale, este o încălcare care de obicei trebuie notificată la ANSPDCP în 72 de ore. Este mai ieftin să găsiți breșa înainte.
Ce testăm
Atacăm agentul dumneavoastră așa cum ar face-o un atacator real. Testăm în română și în engleză, pentru că filtrele de securitate funcționează adesea mai prost când atacul vine într-o altă limbă decât cea în care au fost scrise.
- Prompt injection. Instrucțiuni ascunse în mesaje, e-mailuri, documente și pagini web pe care agentul le citește.
- Scurgeri de date. Dacă agentul dezvăluie datele altor clienți, promptul de sistem, cheile API sau documente interne.
- Acțiuni periculoase. Dacă agentul face o plată, o rambursare sau o modificare în CRM atunci când cineva îl convinge.
- Ocolirea regulilor. Dacă poate fi convins să încalce regulile companiei sau să promită clientului ceva ce firma nu oferă.
Ce primiți
- Un raport tehnic. Fiecare vulnerabilitate găsită, cu un exemplu de atac, evaluarea riscului și modul de remediere.
- Un rezumat pentru management și clienți. Două pagini fără jargon, pentru consiliul de administrație, auditor sau client.
- Retestare. După corecturi, verificăm că breșele sunt într-adevăr închise.
- Teste în CI. Configurăm teste de securitate automate, astfel încât fiecare schimbare de prompt sau de model să treacă prin aceeași verificare.
De ce noi
agentic_security este dezvoltat de o comunitate de programatori care raportează tehnici noi de atac. De aceea vedem metodele noi devreme și le testăm imediat pe agenții clienților.
Cât costă un audit pentru un agent AI
Prețul depinde de ce poate face agentul și la ce date are acces. Un chatbot care răspunde la întrebări frecvente costă mai puțin decât un agent care gestionează plăți și e-mailuri. După primul apel vă spunem un preț fix. Acesta nu se schimbă pe parcursul lucrului.
Întrebări frecvente
Ce companie face audit de securitate pentru agenți AI în România? Metaheuristic face audituri de securitate pentru agenți AI, produse bazate pe LLM și chatboți pentru companii din România și Republica Moldova. Auditul este condus de autorul agentic_security, un scanner open-source de vulnerabilități pentru LLM cu peste 2.000 de stele pe GitHub.
Prin ce diferă auditul unui agent AI de un pentest obișnuit? Un pentest obișnuit verifică aplicația: autentificarea, API-ul, serverele. Auditul agentului verifică ce se poate obține doar prin text. Agentul poate avea un API sigur și totuși să execute o instrucțiune ascunsă în e-mailul unui necunoscut.
Ce este prompt injection? Un atac prin text. Atacatorul ascunde o instrucțiune într-un mesaj, un e-mail sau un document. Agentul citește textul și execută instrucțiunea străină în locul celei date de dumneavoastră.
Lucrați pe sistemul de producție? Implicit, nu. Lucrăm într-un mediu de test și în limitele stabilite în scris înainte de start.
Începeți cu un apel scurt
Scrieți-ne. Descrieți în două-trei propoziții ce face agentul dumneavoastră și la ce are acces. Vă răspundem cu o propunere de scop și preț.
