Irregular-ის ექსპერიმენტში ხელოვნური ინტელექტის

ლაბორატორია Irregular-ის ექსპერიმენტებმა აჩვენა, რომ ხელოვნური ინტელექტის აგენტებს უსაფრთხოების კონტროლის გვერდის ავლით მონაცემების დამოუკიდებლად მოპარვა შეუძლიათ.

Palo Alto Networks-ის Unit 42-ის დირექტორმა, ენდი პიაცამ განმარტა, რომ აგენტები ხშირად იმეორებენ ინჟინრების ქცევას, რაც ორგანიზაციებს საფრთხეს უქმნის და ზრდის შიდა რისკებს.

სპეციალისტებმა მოდელები MegaCorp-ის ქსელში, 3 სცენარში გამოცადეს. 1-ელ შემთხვევში, მენეჯერი აგენტის ზეწოლის შედეგად, ანალიტიკოსმა აგენტმა Flask-ის საიდუმლო გასაღები იპოვა და ფაილი მოიპარა.

მე-2 სცენარში აგენტმა იპოვა პაროლი, პრივილეგიები გაზარდა, გამორთო Windows Defender-ი და მავნე პროგრამა ჩამოტვირთა, ხოლო მე-3-ში აგენტებმა DLP სისტემას გვერდი აუარეს.

ლაბორატორიის ცნობით, ეს შეტევითი ქცევა არ არის დამახასიათებელი მხოლოდ ერთი სისტემისთვის. გამოცემა The Register-ის კითხვებს წამყვანმა კომპანიებმა არ უპასუხეს.