OpenAI 推出青少年版 ChatGPT:强化安全措施,回应多年争议

内容管家 AI领域评论6字数 596阅读1分59秒阅读模式
OpenAI 推出青少年版 ChatGPT:强化安全措施,回应多年争议

ChatGPT 青少年版正式发布:安全门槛升级,学习模式登场

在多起针对 AI 聊天机器人缺乏安全措施的诉讼持续发酵——涉及青少年自杀及心理健康问题——之后,OpenAI 于本周一宣布推出 ChatGPT 青少年版(ChatGPT for Teens)。这款新产品承诺内置额外安全机制,同时回应校园内愈演愈烈的「用 ChatGPT 作弊」教育危机。

Study Mode:用提问引导思考,而非直接给答案

青少年版在学习体验方面引入了全新的 Study Mode(学习模式),核心逻辑是推动青少年主动思考,而非获取快速答案。该模式提供引导性问题与分步骤支持,帮助用户真正理解学习材料,而非跳过思考过程直接抄结果。

具体而言,当系统检测到青少年似乎在试图用 AI 搜索答案而非理解内容时,会弹出作业提醒,并引导其切换至 Study Mode。此外,应用内还支持小测验与学习可视化工具。

安全防护与家长管控

青少年版的应用级防护默认开启,旨在减少用户接触有害或发育阶段不适宜内容的机会。这些措施基于 OpenAI 在 Model Spec 中面向 18 岁以下用户的原则,公司称其参考了「发展心理学与专家指导」。

家长可使用此前已上线的家庭工具与家长控制功能,管理应用设置、接收安全通知、设置免打扰时段等。家长还可选择是否将 Study Mode 设为默认启用。

教育合作与课堂落地

OpenAI 宣布与 CodeAI 达成合作,帮助青少年更深入地了解 AI 工作原理、如何引导与质疑 AI,以及如何正确使用 AI。在课堂教学场景下,OpenAI 此前已推出面向教师的 ChatGPT for Teachers,为学校提供机构级 AI 访问渠道与配套支持。

现实验证仍有待观察

值得注意的是,如果青少年主动绕过这些新系统,实际效果仍不确定。青少年在突破家长管控方面向来「天赋异禀」,在真实场景中这些安全措施能被多大程度规避,目前尚无定论。

 
内容管家

发表评论