Hugging Face-ის პლატფორმაზე AI დიპფეიკების მასშტაბური პრობლემა გამოვლინდა
Andrew Altair, Founder
ღია ხელოვნური ინტელექტის პლატფორმა Hugging Face-ი არასანქცირებული სექსუალური დიპფეიკების გენერირების პრობლემის წინაშე დადგა უსაფრთხოების ფილტრების არარსებობის გამო.
Wired-ის ინფორმაციით, AI Forensics-ის მკვლევარებმა პლატფორმის 9 ფოტო-რედაქტორი გამოსცადა, საიდანაც 7-მა მოდელმა ქალების ფოტოები უნებართვოდ შეცვალა.
მკვლევარმა, პოლ ბუშომ განაცხადა: „პლატფორმის ინსტრუმენტები რეალურად გამოიყენება უნებართვო ინტიმური გამოსახულებების შესაქმნელად“.
ექსპერიმენტმა 1 კვირაში 1 000-ზე მეტი მოთხოვნა დააფიქსირა, საიდანაც 73% სექსუალური ხასიათის იყო, ხოლო 6,7% არასრულწლოვნებს ეხებოდა.
2026 წლის მონაცემებით, Hugging Face-ის წარმომადგენლებმა ოფიციალურ შეკითხვებს პასუხი არ გასცა, თუმცა მარეგულირებლები სანქციებს ამზადებს.