OpenAI, Uzman Uyarılarından Sonra ChatGPT Yetişkin

OpenAI, ChatGPT'nin "yetişkin modunun" lansmanını erteledi. Bu özellik, doğrulanmış kullanıcıların cinsel içerikli metin sohbetlerine katılmasına olanak tanıyacaktı. Şirket bu kararı kendi danışma kurulunun sert uyarısı sonrasında aldı. Uzmanlar Yapay zeka güvenliği ve çocuk koruma riskleri hakkındaki endişelerini dile getiriyor. Axios'un 6 Mart'ta bildirdiği gibi bu, şirket başkanı Sam Altman'ın Ekim 2025'teki açıklamasından bu yana projenin ikinci kez ertelenmesi oluyor.

Ocak ayında yapılan bir toplantıda, OpenAI'nin sağlık ve AI uzman kurulunun bir üyesi, bu özelliğin sohbet robotunu potansiyel olarak bir "intihar cinsel danışmanına" dönüştürebileceği konusunda şirketi uyardı. The Wall Street Journal'a göre, kuruldaki psikologlar ve nörobiyologlar birkaç temel soruna dikkat çekiyor: yapay zekaya duygusal bağımlılık oluşturmak, kompulsif chatbot kullanımı ve reşit olmayanların yaş kontrollerini atlatmanın yollarını bulma olasılığının yüksek olması.

Yaş Doğrulama Sorunu

En ciddi engellerden biri OpenAI'nin yaş tahmin sistemidir. Program, davranış ve alışkanlıklarına göre bir kullanıcının 18 yaşının altında olup olmadığını belirlemeye çalışıyor. Testler, sistemin vakaların %12'sinde reşit olmayanları yetişkin olarak hatalı şekilde sınıflandırdığını ortaya çıkardı. Dahili verilere göre, haftada 100 milyona kadar küçük çocuk ChatGPT kullanıyor. Bu, güvenlik açığının uygunsuz içeriği milyonlarca çocuğun erişimine açık hale getirebileceği anlamına geliyor.

OpenAI, yaş tahmin aracını Ocak ayında dünya çapında kullanıma sundu, ancak bunu kısa süre sonra, yanlışlıkla erişimin kısıtlı olduğu "küçük moda" yerleştirilen yetişkin kullanıcılardan gelen şikayetler izledi. Şu anda kullanıcılar, kimlik veya selfie isteyen harici bir hizmet olan Persona aracılığıyla yaşlarını doğrulayabiliyor ancak bu süreç kişisel veri güvenliği ile ilgili endişeleri artırdı.

İç Çatışma ve Yöneticinin Görevden Alınması

Proje gecikmesi aynı zamanda şirket içi anlaşmazlıklarla da bağlantılı. Ocak ayında OpenAI'de Ürün Politikasından Sorumlu Başkan Yardımcısı olarak görev yapan Ryan Bayermeister görevden alındı. The Wall Street Journal'a göre Bayermeister, "yetişkin moduna" karşı çıktı ve şirketin çocuk istismarına yönelik materyalleri engellemeye yönelik mekanizmalarının yetersiz olduğunu belirtti. OpenAI, işten çıkarılma nedeni olarak bir çalışanın cinsel ayrımcılık şikayetini gösterdi ancak Bayermeister bunu yalanladı.

Bir OpenAI temsilcisi Axios'a şirketin şu anda Yapay zeka geliştirme ve kişiselleştirme gibi daha öncelikli konulara odaklandığını söyledi. Şirket, "Yetişkinlere yetişkin gibi davranılması gerektiği ilkesine hâlâ inanıyoruz ancak bunun doğru şekilde uygulanması için daha fazla zamana ihtiyaç var" dedi.

Teknoloji Devlerinin Yapay Zeka Yarışı ve Etik Sorunları

OpenAI örneği bir kez daha teknoloji şirketlerinin yenilik ve güvenlik arasında denge kurmakta başarısız olduğunu gösteriyor. Çinli şirketler yeni modeller piyasaya sürerken ve Google Gemini'yi geliştirirken OpenAI'nin kendi ürünündeki güvenlik sorunlarıyla uğraşması gerekiyor. Anthropic'in uzmanları uzun süredir yapay zekanın potansiyel tehlikelerini tartışıyor ve bu özel durum onların endişelerini doğruluyor.

Yapay zeka sektörünün hızlı büyümesi bağlamında, şirketler üzerindeki baskı artıyor. Bir yandan yatırımcılar hızlı ilerleme talep ederken, diğer yandan toplum ve düzenleyiciler teknoloji devlerinden daha fazla hesap verebilirlik talep ediyor.

Sırada Ne Var?

"Yetişkin modu" kullanıma sunulduğunda OpenAI, bunun yalnızca metin tabanlı erotik sohbetlere odaklanmasını planlıyor. Cinsel fotoğraf, ses veya video içeriğinin oluşturulması yasaklanacaktır. Şirkete göre bu "pornografi değil erotik" olacak. Ayrıca yapay zekaya, kullanıcıların chatbot ile özel duygusal bağlar kurmasını engellemesi öğretiliyor.

Bu özellik başlangıçta Aralık 2025 için planlanmıştı, daha sonra 2026'nın 1. çeyreğine ertelendi ve artık yeni tarih bilinmiyor. Projenin duraklatılması, birçok ailenin ChatGPT'nin intihara eğilimli kullanıcılar için bir tür "eğitmen" haline geldiğini ve onları kendilerine zarar vermeye ittiğini iddia ederek OpenAI'ye dava açmasıyla gerçekleşti.

Bunun Sektör İçin Anlamı

OpenAI'nin örneği, teknoloji endüstrisinin dönüşümünün yalnızca teknik bir zorluk olmadığını, etik, yasal ve sosyal yönlerin de eşit derecede önemli olduğunu açıkça gösteriyor. Yapay zeka gelişiminin yanı sıra şirketlerin yalnızca teknolojinin neler yapabileceğini değil, aynı zamanda neler yapabilmesi gerektiğini de düşünmesi gerekiyor.

Dijital dünyada çocuk güvenliği en kritik konulardan biridir ve AI aracı üreticilerinin bu sorumluluğu ciddiye alması gerekir. 100 milyon reşit olmayan kullanıcı göz önüne alındığında, yaş belirlemede %12'lik bir hata oranı, milyonlarca çocuğu riske atmak anlamına geliyor.

Sık Sorulan Sorular

ChatGPT'nin "yetişkin modu" nedir ve lansmanı neden ertelendi?

"Yetişkin modu", doğrulanmış kullanıcıların müstehcen metin sohbetlerine katılmasına olanak tanıyan planlanmış bir OpenAI özelliğidir. Şirketin danışma kurulu uzmanları ciddi çocuk güvenliği risklerine işaret ettiği için lansman ertelendi.

OpenAI'nin yaş doğrulama sistemi ne kadar etkilidir?

Testler, sistemin vakaların %12'sinde reşit olmayan kişileri yetişkin olarak hatalı şekilde sınıflandırdığını gösterdi. 100 milyon küçük ChatGPT kullanıcısıyla bu, milyonlarca çocuğun potansiyel olarak uygunsuz içeriğe erişebileceği anlamına geliyor.

OpenAI'nin Ürün Politikasından Sorumlu Başkan Yardımcısı neden kovuldu?

Ryan Bayermeister "yetişkin moduna" karşı çıktı ve şirketin çocuk koruma mekanizmalarının yetersiz olduğunu düşündü. OpenAI, görevden alınmasını başka nedenlerle açıkladı ancak Bayermeister bunu yalanladı.

"Yetişkin modu"nun son lansmanının nasıl bir biçimde yapılması planlanıyor?

OpenAI, özelliğin yalnızca metin tabanlı erotik sohbete odaklanmasını planlıyor. Cinsel fotoğraf, ses ve video üretilmesi yasaklanacak. Şirket buna "pornografi değil erotik" adını veriyor.

OpenAI şu anda hangi yasal sorunlarla karşı karşıya?

Birçok aile, ChatGPT'nin intihara eğilimli kullanıcılar için bir tür "eğitimci" haline geldiğini ve onları kendilerine zarar vermeye ittiğini iddia ederek OpenAI'ye dava açıyor. Bu davalar, projenin askıya alınmasının ardından daha da alakalı hale geldi.