旧金山——OpenAI 11月16日宣布推出新一代儿童性虐待内容图像分类器。同时上线ChatGPT即时警告干预。合规机构可免费接入检测接口。公司还发布了开发者安全指南与执法调查辅助工具。
免费开放AI生成虐待图像识别接口
新图像分类器由OpenAI联合美国国家失踪与受虐儿童中心研发。OpenAI在官方公告中称,这是首款广泛开放、能专门标示内容是否由人工智能生成的此类检测工具。工具通过OpenAI应用编程接口,免费向经审核的儿童安全组织与科技企业开放。推广工作与科技联盟及ROOST合作。
早期内部测试显示,新分类器标记的待审图像总量比现有系统减少48%。检出违规图像数量几乎相同。命中率提高约一倍。合作平台fal与SafetyKit测试分别确认了72%的高置信度新内容检出率与90%的动画类违规识别率。
ChatGPT上线警告弹窗与24小时封禁
11月中旬起,OpenAI在全球个人版ChatGPT账户中逐步部署即时干预屏幕。屏幕针对企图搜索或生成涉未成年人性化内容的提示词发出警告。系统会同步删除被标记的对话。相关账户暂停使用24小时。
暂停期间,系统提供专业心理与行为干预求助渠道。用户多次违规,将面临更长期限限制、永久封号乃至移交执法部门处理。警告文案经塔斯马尼亚大学学者及露西·费斯富尔基金会等专业机构共同设计与独立评估。
配套开发者指南与执法调查工具
OpenAI发布了面向接口开发者的内容安全指南。公司与Anthropic、谷歌共同委托科技联盟发布响应披露指南。指南协助中小团队接入感知哈希匹配与新型内容分类器。
针对儿童安全执法部门,OpenAI将分阶段提供专用插件与数据分析工具。工具帮助调查人员梳理冗长聊天记录与法律文件。这能减少人工审看极端内容的暴露风险。
美国国家失踪与受虐儿童中心高级副总裁约翰·谢汉表示,新分类器让更多机构有能力发现此前未识别的虐待材料。他说,这强化了受害者保护与线索报告。


