AI-ს ხარვეზების შესატყობინებლად მკვლევრებმა

AI მკვლევართა ჯგუფმა კრაუდსორსინგზე დაფუძნებული ვებგვერდი FLARE-AI ამოქმედა, სადაც ნებისმიერ მომხმარებელს ხელოვნური ინტელექტის სისტემების ხარვეზების შესახებ შეტყობინება შეეძლება.

თუ ჩატბოტი მავნე პროგრამას შექმნის, პირად ინფორმაციას გაამჟღავნებს ან მომხმარებელს ბოდვით აზროვნებას აღუძრავს, სისტემა განგაშს ატეხს და შეტყობინებას პირდაპირ მოდელის შემქმნელს უგზავნის.

განგაშის მექანიზმი 32 ორგანიზაციის 49 AI ექსპერტის თანამშრომლობით შეიქმნა. „ამ მომენტში არ არსებობს AI სისტემების ხარვეზების შეტყობინების ცენტრალიზებული გზა", განაცხადა მკვლევარმა ავიჯიტ გოშმა.

ანგარიშები ასევე მიემართება არაკომერციულ ორგანიზაცია MITRE-ს. შარშანდელი კვლევის თანახმად, კომპანიების 60 პროცენტს საერთოდ არ ჰქონდა ხარვეზების მიღების ცალკე არხი, რაც პრობლემას ამძაფრებდა.

აგენტური სისტემები, მაგალითად OpenClaw, უფრო მეტ საფრთხეს ქმნიან, რის გამოც ხარვეზების შეტყობინების ახალი გზების საჭიროება მხოლოდ გაიზრდება.