OpenAI 在专家警告后暂停 ChatGPT 成人模式
OpenAI postponed the launch of ChatGPT's "adult mode." This feature would have allowed verified users to engage in sexually explicit text conversations.该公司在其顾问委员会发出严厉警告后做出了这一决定, 专家们对人工智能安全和儿童保护风险提出了担忧。正如 Axios 3 月 6 日报道的那样，这是自公司负责人 Sam Altman 于 2025 年 10 月宣布该项目以来第二次推迟。
在 1 月份的一次会议上，OpenAI 健康和AI 专家委员会的一名成员警告该公司，此功能可能会将聊天机器人变成“自杀性顾问”。据《华尔街日报》报道，该委员会的心理学家和神经生物学家指出了几个关键问题：对人工智能形成情感依赖、强迫性使用聊天机器人，以及未成年人很可能找到绕过年龄控制的方法。
年龄验证问题
最严重的障碍之一是 OpenAI 的年龄预测系统。该程序尝试根据用户的行为和习惯来确定用户是否未满 18 岁。测试显示，系统在 12% 的情况下将未成年人错误地归类为成年人。根据内部数据，每周有多达 1 亿未成年人使用 ChatGPT，这意味着安全漏洞可能会让数百万儿童接触到不适当的内容。
OpenAI 一月份在全球部署了年龄预测工具，但很快就收到了成年用户的投诉，他们被错误地置于访问受限的“未成年人模式”。目前，用户可以通过 Persona（一种请求 ID 或自拍照的外部服务）验证自己的年龄，尽管此过程引起了对个人数据安全的担忧。
内部冲突和高管解雇
项目延迟也与内部分歧有关。一月份，担任 OpenAI 产品政策副总裁的 Ryan Bayermeister 被解雇。据《华尔街日报》报道，拜耳迈斯特反对“成人模式”，并表示该公司阻止儿童剥削内容的机制不足。 OpenAI 将一名员工的性别歧视投诉作为解雇原因，但拜尔迈斯特本人否认了这一点。
一位 OpenAI 代表告诉 Axios，该公司目前专注于更优先的问题，例如 AI 改进和个性化。该公司表示：“我们仍然相信成年人应被视为成年人的原则，但需要更多时间来正确实施这一点。”
科技巨头的人工智能竞赛和道德问题
OpenAI 案例再次表明科技公司未能平衡创新和安全。在中国公司推出新模型和Google开发Gemini的同时，OpenAI也必须处理自己产品的安全问题。 Anthropic 的专家长期以来一直在讨论人工智能的潜在危险，而这个特殊案例证实了他们的担忧。
在人工智能行业快速发展的背景下，企业面临的压力越来越大, 一方面，投资者要求快速进步，另一方面，社会和监管机构要求科技巨头加强问责。
接下来会发生什么？
当“成人模式”最终推出时，OpenAI 计划仅专注于基于文本的色情对话。禁止创建色情照片、音频或视频内容。据该公司称，这将是“色情作品，而不是色情作品”。此外，人工智能正在被教导阻止用户与聊天机器人形成排他性的情感联系。
该功能原计划于 2025 年 12 月推出，后来推迟到 2026 年第一季度，现在新日期未知。该项目暂停之际，多个家庭正在起诉 OpenAI，声称 ChatGPT 成为了容易自杀的用户的“导师”，促使他们走向自残。
这对行业意味着什么
OpenAI 的例子清楚地表明，科技行业的转型不仅仅是技术挑战 - 道德、法律和社会方面同样重要。随着人工智能的发展，公司不仅必须考虑技术可以做什么，还必须考虑技术应该能够做什么。
数字世界中的儿童安全是最关键的问题之一，人工智能工具制造商必须认真对待这一责任。 12%的年龄识别错误率，在1亿未成年用户的背景下，意味着数百万儿童面临风险。
常见问题
什么是 ChatGPT 的“成人模式”以及为何推迟推出？
“成人模式”是 OpenAI 计划中的一项功能，允许经过验证的用户进行露骨的色情文本对话。由于该公司顾问委员会专家指出存在严重的儿童安全风险，因此推迟了发布。
OpenAI 的年龄验证系统效果如何？
测试显示，在 12% 的情况下，系统错误地将未成年人归类为成年人。 ChatGPT 拥有 1 亿未成年人用户，这意味着数百万儿童可能会访问不当内容。
为什么 OpenAI 的产品政策副总裁被解雇？
Ryan Bayermeister反对“成人模式”，认为公司的儿童保护机制不足。 OpenAI 用其他原因解释了他被解雇的原因，但拜尔迈斯特本人否认了这一点。
计划以什么形式最终推出“成人模式”？
OpenAI 计划该功能仅专注于基于文本的色情对话。禁止生成色情照片、音频和视频。该公司称之为“色情作品，而不是色情作品。”
OpenAI 目前面临哪些法律问题？
多个家庭正在起诉 OpenAI，声称 ChatGPT 成为了容易自杀的用户的一种“导师”，促使他们走向自残。在项目暂停的背景下，这些诉讼变得更加重要。