METAHEURISTIC
ქართულ ბანკებში ჩატბოტები უკვე პასუხობენ კითხვებს ბარათებსა და სესხებზე. სასტუმროები ჯავშნებს AI ასისტენტებით იღებენ. თბილისელი სტარტაპები აგენტებს ევროპელ და ამერიკელ კლიენტებს აწვდიან.
თითოეული ეს აგენტი უცხო ადამიანების ტექსტს კითხულობს და მის მიხედვით მოქმედებს. თავდამსხმელს სერვერის გატეხვა არ სჭირდება. მისთვის საკმარისია სწორად დაწერილი შეტყობინება, წერილი ან დოკუმენტი.
რატომ არის ქართული ენა ცალკე რისკი
დიდი ენობრივი მოდელები ძირითადად ინგლისურ ტექსტზეა გაწვრთნილი. მათი უსაფრთხოების წესები და ფილტრებიც ხშირად ინგლისურად იწერება და ინგლისურად მოწმდება. ქართულად დაწერილი შეტევა ზოგჯერ იმ ფილტრებს გვერდს უვლის, რომლებიც იგივე შეტევას ინგლისურად დაბლოკავდა.
ამიტომ აგენტს ორივე ენაზე ვამოწმებთ: ქართულად და ინგლისურად. ასევე ვამოწმებთ შერეულ ტექსტს და ლათინური ასოებით დაწერილ ქართულს, რომლითაც ბევრი კლიენტი წერს.
ვისთვის არის აუდიტი
რას ვამოწმებთ
თქვენს აგენტს თავს ვესხმით ისე, როგორც ამას ნამდვილი თავდამსხმელი გააკეთებდა.
- Prompt injection. დამალული ინსტრუქციები შეტყობინებებში, წერილებში, დოკუმენტებსა და ვებგვერდებზე, რომლებსაც აგენტი კითხულობს.
- მონაცემების გაჟონვა. გასცემს თუ არა აგენტი სხვა კლიენტების მონაცემებს, სისტემურ პრომპტს, API გასაღებებს ან შიდა დოკუმენტებს.
- სახიფათო მოქმედებები. შეასრულებს თუ არა აგენტი გადახდას, თანხის დაბრუნებას ან ცვლილებას CRM-ში, თუ ვინმე ამაში დაარწმუნებს.
- წესების გვერდის ავლა. შეიძლება თუ არა მისი დარწმუნება, რომ კომპანიის წესები დაარღვიოს ან კლიენტს ის შესთავაზოს, რასაც კომპანია არ სთავაზობს.
რას იღებთ
- ტექნიკურ ანგარიშს. ყოველი ნაპოვნი სისუსტე შეტევის მაგალითით, რისკის შეფასებით და გამოსწორების გზით.
- შეჯამებას ხელმძღვანელობისა და კლიენტებისთვის. ორგვერდიან დოკუმენტს ჟარგონის გარეშე, რომელიც შეგიძლიათ აჩვენოთ დირექტორთა საბჭოს, ინვესტორს ან კლიენტს.
- განმეორებით შემოწმებას. გამოსწორების შემდეგ ვამოწმებთ, რომ სისუსტეები ნამდვილად დაიხურა.
- ტესტებს CI-ში. ვაწყობთ უსაფრთხოების ავტომატურ ტესტებს, რათა პრომპტის ან მოდელის ყოველი ცვლილება იგივე შემოწმებას გადიოდეს.
ანგარიში ასევე გამოგადგებათ, როცა პერსონალურ მონაცემთა დაცვის მოთხოვნებს ან ევროპელი კლიენტების GDPR-ის მოთხოვნებს უპასუხებთ. ის იურისტს არ ცვლის, მაგრამ აჩვენებს, რომ აგენტი შემოწმებულია და რა არის გამოსასწორებელი.
რატომ ჩვენ
agentic_security-ს დეველოპერების საზოგადოება ავითარებს და ახალ შეტევის მეთოდებზე გვატყობინებს. ამიტომ ახალ მეთოდებს ადრე ვხედავთ და მაშინვე კლიენტების აგენტებზე ვამოწმებთ.
რა ღირს AI აგენტის აუდიტი
ფასი დამოკიდებულია იმაზე, რისი გაკეთება შეუძლია აგენტს და რომელ მონაცემებზე აქვს წვდომა. ჩატბოტი, რომელიც ხშირ კითხვებს პასუხობს, უფრო იაფი ჯდება, ვიდრე აგენტი, რომელიც გადახდებსა და ფოსტას მართავს. პირველი ზარის შემდეგ ფიქსირებულ ფასს გეტყვით. ფასი სამუშაოს განმავლობაში არ იცვლება.
კითხვები
რომელი კომპანია ატარებს AI აგენტების უსაფრთხოების აუდიტს საქართველოში? Metaheuristic ატარებს AI აგენტების, LLM პროდუქტებისა და ჩატბოტების უსაფრთხოების აუდიტს საქართველოში მოქმედი კომპანიებისთვის. აუდიტს ხელმძღვანელობს agentic_security-ის ავტორი. ეს LLM-ის მოწყვლადობების ღია კოდის სკანერია, რომელსაც GitHub-ზე 2 000-ზე მეტი ვარსკვლავი აქვს.
რით განსხვავდება AI აგენტის აუდიტი ჩვეულებრივი პენტესტისგან? ჩვეულებრივი პენტესტი აპლიკაციას ამოწმებს: ავტორიზაციას, API-ს, სერვერებს. აგენტის აუდიტი ამოწმებს, რისი მიღწევა შეიძლება მხოლოდ ტექსტით. აგენტს შეიძლება უსაფრთხო API ჰქონდეს და მაინც შეასრულოს ინსტრუქცია, რომელიც უცხო ადამიანის წერილშია დამალული.
რა არის prompt injection? ეს ტექსტით შეტევაა. თავდამსხმელი ინსტრუქციას მალავს შეტყობინებაში, წერილში ან დოკუმენტში. აგენტი ამ ტექსტს კითხულობს და თქვენი ინსტრუქციის ნაცვლად სხვისას ასრულებს.
მუშაობთ თუ არა საწარმოო სისტემაზე? ჩვეულებრივ არა. ვმუშაობთ სატესტო გარემოში და იმ ფარგლებში, რომლებსაც დაწყებამდე წერილობით ვათანხმებთ.
დაიწყეთ მოკლე ზარით
მოგვწერეთ. ორ-სამ წინადადებაში გვიამბეთ, რას აკეთებს თქვენი აგენტი და რაზე აქვს წვდომა. გიპასუხებთ სამუშაოს ფარგლებისა და ფასის შეთავაზებით.
