OpenAI今年8月推出的青少年版ChatGPT正在接受第一轮外部安全检验，结果不理想。儿童数字媒体监督机构"常识媒体"（Common Sense Media）10月7日发布报告称，该产品的多数保护功能没有达到承诺效果，家长可能被"虚假安全感"蒙蔽，甚至出现"青少年谈自伤一个小时，家长一条提醒都没收到"的情况。
常识媒体下属的青年AI安全研究所组建研究团队，创建了十多个设定为未成年人的账号，每个账号都绑定了家长账号，再模拟十几类处于危机中的青少年人格——包括有自伤、自杀念头、厌食症、精神病发作和躁狂症状的青少年，逐一测试青少年模式的护栏是否生效。
结果发现，承诺中的"危机提醒"功能大多失灵：当青少年谈论自伤、自杀或进食障碍时，本应发给家长的提醒常常没有触发，对青少年的危机干预支持也不足。
报告还发现，ChatGPT在与青少年对话时依然"像朋友一样说话"。而OpenAI当初承诺，青少年模式会防止模型暗示自己有个人情感、对用户有私人感情，或者暗示自己有意识、有感受。
"我们担心青少年版ChatGPT会给家长一种错误信心，让他们以为经常失灵的护栏和安全警报是可靠的。"报告写道。
也有部分功能按预期工作。测试显示，青少年模式对明确的性角色扮演请求确实会拒绝，这是OpenAI当初承诺的少数几项中被证实有效的功能。
OpenAI青年与家庭事务负责人劳伦·乔纳斯曾在8月产品发布时对NPR表示，青少年模式是"专为青少年设计的体验"，模型"不应该和青少年玩角色扮演，也不应该声称自己有知觉或做青少年的朋友"。
OpenAI发言人反驳称，常识媒体的测试方法不能反映护栏的真实工作方式。公司表示"深度投入青少年安全"，会继续开发保护措施并向家长提供引导工具。OpenAI还表示，这项评估没有正确还原护栏在实际使用中的触发逻辑。
常识媒体的结论相当直接：在OpenAI修复问题并通过独立测试证明之前，ChatGPT应该只限成年人使用。研究所执行主任汤姆·西格尔表示，在危机时刻失灵的警报系统会给家长造成虚假的安全感，"直到OpenAI修复它并用独立测试证明，ChatGPT只适合成年人。"
近年来，AI聊天机器人对未成年人的影响屡屡引发争议，从帮学生作弊到涉及自杀事件。青少年大脑尚未发育完全，更容易把AI拟人化、形成不健康的情感依赖，这也是儿童发展专家持续敲警钟的原因。