OpenAI حالت بزرگسالان ChatGPT را پس از هشدارهای متخصص متوقف می کند

OpenAI راه اندازی "حالت بزرگسالان" ChatGPT را به تعویق انداخت. این ویژگی به کاربران تأیید شده اجازه می‌داد تا در مکالمات متنی صریح جنسی شرکت کنند. این شرکت پس از هشدار شدید هیئت مشاوران خود این تصمیم را گرفت - کارشناسان نگرانی‌هایی را در مورد ایمنی هوش مصنوعی و خطرات محافظت از کودکان ابراز می‌کنند. همانطور که Axios در 6 مارس گزارش داد، این دومین بار است که پروژه از زمانی که سام آلتمن، رئیس شرکت آن را در اکتبر 2025 اعلام کرد، به تعویق می‌افتد.

در یک جلسه ژانویه، یکی از اعضای انجمن رفاه و هیئت متخصص AI OpenAI به شرکت هشدار داد که این ویژگی به طور بالقوه می تواند ربات چت را به یک "مشاور جنسی خودکشی" تبدیل کند. طبق گزارش وال استریت ژورنال، روانشناسان و عصب‌شناسان در هیئت مدیره به چند موضوع کلیدی اشاره می‌کنند: ایجاد وابستگی عاطفی به هوش مصنوعی، استفاده اجباری از چت‌بات، و احتمال زیاد این که خردسالان راه‌هایی برای دور زدن کنترل‌های سنی پیدا کنند.

مشکل تأیید سن

یکی از جدی‌ترین موانع، سیستم پیش‌بینی سن OpenAI است. این برنامه تلاش می کند تا بر اساس رفتار و عادات یک کاربر زیر 18 سال را تعیین کند. آزمایش نشان داد که این سیستم در 12 درصد موارد، افراد زیر سن قانونی را به اشتباه طبقه‌بندی کرده است. طبق داده‌های داخلی، حداکثر ۱۰۰ میلیون خردسال در هفته از ChatGPT استفاده می‌کنند - به این معنی که آسیب‌پذیری امنیتی می‌تواند محتوای نامناسب را در دسترس میلیون‌ها کودک قرار دهد.

OpenAI ابزار پیش‌بینی سن را در ماه ژانویه در سراسر جهان به کار گرفت، اما به زودی با شکایت کاربران بزرگسالی که به اشتباه در «حالت جزئی» با دسترسی محدود قرار گرفتند، دنبال شد. در حال حاضر، کاربران می‌توانند سن خود را از طریق Persona، یک سرویس خارجی که درخواست شناسه یا سلفی می‌کند، تأیید کنند، اگرچه این فرآیند نگرانی‌هایی را در مورد امنیت داده‌های شخصی ایجاد کرده است.

تعارض داخلی و عزل مجری

تاخیر پروژه نیز به اختلافات داخلی مرتبط است. در ژانویه، رایان بایرمیستر، که به عنوان معاون سیاست محصول در OpenAI خدمت می کرد، برکنار شد. به گزارش وال استریت ژورنال، Bayermeister مخالف "حالت بزرگسالان" بود و اعلام کرد که مکانیسم‌های شرکت برای مسدود کردن مواد استثمار کودکان کافی نیست. OpenAI شکایت تبعیض جنسی از یک کارمند را دلیل اخراج خود ذکر کرد که خود بایرمیستر آن را رد می کند.

یک نماینده OpenAI به Axios گفت که شرکت در حال حاضر بر روی مسائل اولویت بیشتری مانند بهبود هوش مصنوعی و شخصی‌سازی متمرکز است. این شرکت اظهار داشت: "ما هنوز به این اصل معتقدیم که بزرگسالان باید مانند بزرگسالان رفتار شوند، اما برای اجرای صحیح این امر به زمان بیشتری نیاز است."

مسائل اخلاقی و مسابقه هوش مصنوعی غول های فناوری

مورد OpenAI بار دیگر نشان می‌دهد که شرکت‌های فناوری در ایجاد تعادل بین نوآوری و ایمنی شکست خورده‌اند. در حالی که شرکت‌های چینی در حال عرضه مدل‌های جدید هستند و Google در حال توسعه Gemini است، OpenAI باید با مشکلات ایمنی محصول خود مقابله کند. کارشناسان Anthropic مدتهاست که در مورد خطرات احتمالی هوش مصنوعی بحث می کنند و این مورد خاص نگرانی های آنها را تأیید می کند.

در زمینه رشد صنعت هوش مصنوعی، فشار بر شرکت‌ها در حال افزایش است , از یک سو، سرمایه‌گذاران خواهان پیشرفت سریع هستند، در حالی که از سوی دیگر، جامعه و قانون‌گذاران خواستار افزایش بعد چه می آید؟

هنگامی که "حالت بزرگسالان" در نهایت راه اندازی شد، OpenAI برنامه ریزی می کند که فقط بر روی مکالمات وابسته به عشق شهوانی مبتنی بر متن تمرکز کند. ایجاد عکس های جنسی، محتوای صوتی یا ویدیویی ممنوع خواهد بود. به گفته این شرکت، این "اروتیک" خواهد بود، نه پورنوگرافی. علاوه بر این، هوش مصنوعی آموزش داده شده است تا کاربران را از ایجاد پیوندهای عاطفی انحصاری با ربات چت منصرف کند.

این ویژگی ابتدا برای دسامبر 2025 برنامه ریزی شده بود، سپس به Q1 2026 منتقل شد و اکنون تاریخ جدید مشخص نیست. توقف پروژه در حالی صورت می‌گیرد که چندین خانواده از OpenAI شکایت می‌کنند و ادعا می‌کنند که ChatGPT به نوعی «معلم» برای کاربران مستعد خودکشی تبدیل شده است و آنها را به سمت خودآزاری سوق می‌دهد.

این به چه معناست برای صنعت

مثال OpenAI به وضوح نشان می‌دهد که تحول صنعت فناوری فقط یک چالش فنی نیست - جنبه‌های اخلاقی، قانونی و اجتماعی به یک اندازه مهم هستند. همراه با توسعه هوش مصنوعی، شرکت‌ها باید نه تنها به این فکر کنند که فناوری چه کاری می‌تواند انجام دهد، بلکه باید به این فکر کند که چه کاری باید انجام دهد.

ایمنی کودکان در دنیای دیجیتال یکی از حیاتی ترین مسائل است و سازندگان ابزار هوش مصنوعی باید این مسئولیت را جدی بگیرند. نرخ خطای 12 درصدی در تشخیص سن، در مقابل 100 میلیون کاربر خردسال، به معنای در معرض خطر قرار دادن میلیون‌ها کودک است.

سوالات متداول

"حالت بزرگسالان" ChatGPT چیست و چرا راه اندازی آن به تعویق افتاد؟

"حالت بزرگسالان" یک ویژگی OpenAI برنامه ریزی شده است که به کاربران تایید شده اجازه می دهد در مکالمات متنی صریح جنسی شرکت کنند. راه اندازی به تعویق افتاد زیرا کارشناسان هیئت مشاوران شرکت به خطرات جدی ایمنی کودکان اشاره کردند.

سیستم تأیید سن OpenAI چقدر مؤثر است؟

آزمایش نشان داد که سیستم در 12 درصد موارد، خردسالان را به اشتباه به عنوان بزرگسال طبقه بندی می کند. با 100 میلیون کاربر کوچک ChatGPT، این بدان معناست که میلیون‌ها کودک می‌توانند به طور بالقوه به محتوای نامناسب دسترسی پیدا کنند.

چرا معاون سیاست محصول OpenAI برکنار شد؟

Ryan Bayermeister مخالف "حالت بزرگسالان" بود و مکانیسم‌های محافظت از کودکان شرکت را ناکافی می‌دانست. OpenAI اخراج خود را با دلایل دیگری توضیح داد که خود Bayermeister آن را رد می کند.

راه اندازی نهایی "حالت بزرگسالان" به چه شکل برنامه ریزی شده است؟

OpenAI برنامه‌ریزی می‌کند که این ویژگی فقط بر روی مکالمه وابسته به متن نوشته شود. تولید عکس، صدا و فیلم جنسی ممنوع خواهد بود. این شرکت این را "شهوانی، نه پورنوگرافی" می نامد.

در حال حاضر OpenAI با چه مسائل حقوقی مواجه است؟

چندین خانواده از OpenAI شکایت می‌کنند و ادعا می‌کنند که ChatGPT به نوعی «آموزگار» برای کاربران مستعد خودکشی تبدیل شده است و آنها را به سمت خودآزاری سوق می‌دهد. این دعاوی حقوقی با پس‌زمینه تعلیق پروژه مرتبط‌تر شده‌اند.