OpenAI-ს ექსპერტები შიშობენ, რომ „ზრდასრულთა რეჟიმმა" შესაძლოა ChatGPT სახიფათო მრჩევლად აქციოს

OpenAI-მ ChatGPT-ის „ზრდასრულთა რეჟიმის" გაშვება გადადო. ეს ფუნქცია ვერიფიცირებულ მომხმარებლებს სექსუალური შინაარსის მიმოწერის საშუალებას მისცემდა. კომპანიამ გადაწყვეტილება საკუთარი მრჩეველთა საბჭოს მკაცრი გაფრთხილების შემდეგ მიიღო — ექსპერტები ხელოვნური ინტელექტის უსაფრთხოებისა და ბავშვთა დაცვასთან დაკავშირებულ რისკებზე საუბრობენ. როგორც გამოცემა Axios-ი 6 მარტს იტყობინებოდა, ეს უკვე მეორე შემთხვევაა, როცა პროექტი ფერხდება მას შემდეგ, რაც კომპანიის ხელმძღვანელმა, სემ ალტმანმა, მისი ანონსი 2025 წლის ოქტომბერში გააკეთა.

იანვარში გამართულ შეხვედრაზე OpenAI-ს კეთილდღეობისა და ხელოვნური ინტელექტის ექსპერტთა საბჭოს წევრმა კომპანია გააფრთხილა, რომ ეს ფუნქცია ჩატბოტს, შესაძლოა, „სუიციდის სექსუალურ მრჩევლად" გადააქცევდა. The Wall Street Journal-ის ინფორმაციით, საბჭოს შემადგენლობაში მყოფი ფსიქოლოგები და ნეირობიოლოგები რამდენიმე მთავარ პრობლემაზე მიუთითებენ: ხელოვნურ ინტელექტზე ემოციური დამოკიდებულების ჩამოყალიბება, ჩატბოტის კომპულსიური გამოყენება და იმის მაღალი ალბათობა, რომ მოზარდები ასაკის კონტროლის გვერდის ავლის გზებს იპოვიან.

ასაკის დადგენის პრობლემა

ერთ-ერთი ყველაზე სერიოზული დაბრკოლება OpenAI-ს ასაკის პროგნოზირების სისტემაა. პროგრამა მომხმარებლის ქცევისა და ჩვევების მიხედვით ცდილობს დაადგინოს, არის თუ არა ის 18 წელზე ნაკლები ასაკის. ტესტირებისას აღმოჩნდა, რომ სისტემა არასრულწლოვნებს ზრდასრულებად შემთხვევათა 12%-ში შეცდომით აკლასიფიცირებდა. შიდა მონაცემებით, ChatGPT-ს ყოველკვირეულად 100 მილიონამდე მოზარდი იყენებს — ეს ნიშნავს, რომ უსაფრთხოების ხარვეზის გამო მილიონობით ბავშვისთვის ხელმისაწვდომი გახდებოდა მათთვის შეუფერებელი კონტენტი.

OpenAI-მ ასაკის პროგნოზირების ინსტრუმენტი იანვარში მთელ მსოფლიოში დანერგა, თუმცა ამას მალევე მოჰყვა ზრდასრული მომხმარებლების საჩივრები — ისინი სისტემამ შეცდომით „მოზარდთა რეჟიმში" მოაქცია და წვდომა შეუზღუდა. ამჟამად, ასაკის დასადასტურებლად მომხმარებლებს Persona-ს გამოყენება შეუძლიათ. ეს არის გარე სერვისი, რომელიც პირადობის მოწმობას ან სელფის ითხოვს, თუმცა ამ პროცესმა პირადი მონაცემების დაცულობასთან დაკავშირებით ეჭვები გააჩინა.

შიდა დაპირისპირება და ხელმძღვანელის გათავისუფლება

პროექტის შეფერხება კომპანიის შიგნით არსებულ აზრთა სხვადასხვაობასაც უკავშირდება. იანვარში თანამდებობიდან გაათავისუფლეს რაიან ბაიერმაისტერი, რომელიც OpenAI-ში პროდუქტების პოლიტიკის ვიცე-პრეზიდენტი იყო. The Wall Street Journal-ის ცნობით, ბაიერმაისტერი „ზრდასრულთა რეჟიმის" წინააღმდეგ გამოდიოდა და აცხადებდა, რომ კომპანიის მექანიზმები ბავშვთა ექსპლუატაციის შემცველი მასალების დასაბლოკად არასაკმარისი იყო. OpenAI-მ მისი გათავისუფლების მიზეზად ერთ-ერთი თანამშრომლის მხრიდან სექსუალური დისკრიმინაციის ბრალდება დაასახელა, რასაც თავად ბაიერმაისტერი უარყოფს.

OpenAI-ს წარმომადგენელმა Axios-თან საუბრისას აღნიშნა, რომ კომპანია ამ ეტაპზე უფრო პრიორიტეტულ საკითხებზეა ორიენტირებული, როგორიცაა ხელოვნური ინტელექტის გაუმჯობესება და მისი პერსონალიზაცია. „ჩვენ კვლავ გვჯერა პრინციპის, რომ ზრდასრულებს ისე უნდა მოვეპყროთ, როგორც ზრდასრულებს, თუმცა ამის სწორად განსახორციელებლად მეტი დროა საჭირო", — განაცხადეს კომპანიაში.

ტექნოლოგიური გიგანტების AI რბოლა და ეთიკური საკითხები

OpenAI-ს შემთხვევა კიდევ ერთხელ აჩვენებს, რომ ტექნოლოგიური კომპანიები ინოვაციებისა და უსაფრთხოების ბალანსირებას ვერ ახერხებენ. მაშინ, როცა ჩინური კომპანიები ახალ მოდელებს აშვებენ, ხოლო Google Gemini-ს ავითარებს, OpenAI-ს თავისივე პროდუქტის უსაფრთხოების პრობლემებთან უწევს გამკლავება. Anthropic-ის ექსპერტები უკვე დიდი ხანია საუბრობენ AI-ს პოტენციურ საფრთხეებზე, და ეს კონკრეტული შემთხვევა მათ შეშფოთებას ამართლებს.

AI ინდუსტრიის სწრაფი ზრდის პირობებში, კომპანიებზე ზეწოლა იზრდება — ერთი მხრივ, ინვესტორები სწრაფ პროგრესს ითხოვენ, მეორე მხრივ კი, საზოგადოება და მარეგულირებლები ტექნოლოგიური გიგანტების პასუხისმგებლობის გაზრდას მოითხოვენ.

რა იქნება შემდეგ?

როდესაც „ზრდასრულთა რეჟიმი" საბოლოოდ ამოქმედდება, OpenAI გეგმავს, რომ ის მხოლოდ ტექსტურ ეროტიკულ მიმოწერაზე იყოს ორიენტირებული. იკრძალება სექსუალური შინაარსის ფოტოების, აუდიოსა თუ ვიდეოს შექმნა. კომპანიის განმარტებით, ეს იქნება „ეროტიკა და არა პორნოგრაფია". ამასთან, ხელოვნურ ინტელექტს ასწავლიან, რომ მომხმარებლებს ჩატბოტთან ექსკლუზიური ემოციური კავშირის დამყარება გადააფიქრებინოს.

თავდაპირველად ეს ფუნქცია 2025 წლის დეკემბრისთვის იგეგმებოდა, შემდეგ 2026 წლის პირველ კვარტალში გადაიტანეს, ამჟამად კი ახალი თარიღი უცნობია. პროექტის შეჩერება იმ ფონზე ხდება, როცა რამდენიმე ოჯახი OpenAI-ს სასამართლოში უჩივის. ისინი ამტკიცებენ, რომ ChatGPT სუიციდისკენ მიდრეკილი მომხმარებლებისთვის ერთგვარი „ინსტრუქტორი" გახდა და მათ თვითმკვლელობისკენ უბიძგა.

რას ნიშნავს ეს ინდუსტრიისთვის

OpenAI-ს მაგალითი ნათლად აჩვენებს, რომ ტექნოლოგიური ინდუსტრიის ტრანსფორმაცია მხოლოდ ტექნიკური გამოწვევა არ არის — ეთიკური, სამართლებრივი და სოციალური ასპექტები თანაბრად მნიშვნელოვანია. ხელოვნური ინტელექტის განვითარებასთან ერთად, კომპანიებმა უნდა იფიქრონ არა მხოლოდ იმაზე, რა შეუძლია ტექნოლოგიას, არამედ იმაზეც, რა უნდა შეუძლდეს.

ბავშვთა უსაფრთხოება ციფრულ სამყაროში ერთ-ერთი უმნიშვნელოვანესი საკითხია, და AI ინსტრუმენტების მწარმოებლებმა ამ პასუხისმგებლობას სერიოზულად უნდა მოეკიდონ. 12%-იანი ცდომილება ასაკის იდენტიფიკაციაში, 100 მილიონი მოზარდი მომხმარებლის ფონზე, მილიონობით ბავშვის რისკის ქვეშ დაყენებას ნიშნავს.

ხშირად დასმული კითხვები

რა არის ChatGPT-ის „ზრდასრულთა რეჟიმი" და რატომ გადაიდო მისი გაშვება?

„ზრდასრულთა რეჟიმი" არის OpenAI-ს დაგეგმილი ფუნქცია, რომელიც ვერიფიცირებულ მომხმარებლებს სექსუალური შინაარსის ტექსტური მიმოწერის საშუალებას მისცემდა. გაშვება გადაიდო, რადგან კომპანიის მრჩეველთა საბჭოს ექსპერტები ბავშვთა უსაფრთხოებასთან დაკავშირებულ სერიოზულ რისკებზე მიუთითეს.

რამდენად ეფექტურია OpenAI-ს ასაკის ვერიფიკაციის სისტემა?

ტესტირებამ აჩვენა, რომ სისტემა არასრულწლოვნებს ზრდასრულებად შემთხვევათა 12%-ში შეცდომით აკლასიფიცირებს. ChatGPT-ს 100 მილიონამდე მოზარდი მომხმარებელი ყავს, რაც ნიშნავს, რომ მილიონობით ბავშვმა შესაძლოა შეუფერებელ კონტენტზე მოიპოვოს წვდომა.

რატომ გაათავისუფლეს OpenAI-ს პროდუქტების პოლიტიკის ვიცე-პრეზიდენტი?

რაიან ბაიერმაისტერი „ზრდასრულთა რეჟიმის" წინააღმდეგ გამოდიოდა და კომპანიის ბავშვთა დაცვის მექანიზმებს არასაკმარისად მიიჩნევდა. OpenAI-მ მისი გათავისუფლება სხვა მიზეზებით ახსნა, რასაც თავად ბაიერმაისტერი უარყოფს.

რა ფორმით იგეგმება „ზრდასრულთა რეჟიმის" საბოლოო გაშვება?

OpenAI გეგმავს, რომ ფუნქცია მხოლოდ ტექსტურ ეროტიკულ მიმოწერაზე იყოს ორიენტირებული. სექსუალური ფოტოების, აუდიოსა და ვიდეოს გენერაცია აკრძალული იქნება. კომპანია ამას „ეროტიკას და არა პორნოგრაფიას" უწოდებს.

რა სამართლებრივი პრობლემები აქვს OpenAI-ს ამჟამად?

რამდენიმე ოჯახი OpenAI-ს სასამართლოში უჩივის იმ ბრალდებით, რომ ChatGPT სუიციდისკენ მიდრეკილ მომხმარებლებს თვითმკვლელობისკენ უბიძგებდა. ეს სარჩელები პროექტის შეჩერების ფონზე კიდევ უფრო აქტუალური გახდა.