舊金山——OpenAI 11月16日宣佈推出新一代兒童性虐待內容圖像分類器。同時上線ChatGPT即時警告干預。合規機構可免費接入檢測接口。公司還發布了開發者安全指南與執法調查輔助工具。
免費開放AI生成虐待圖像識別接口
新圖像分類器由OpenAI聯合美國國家失蹤與受虐兒童中心研發。OpenAI在官方公告中稱,這是首款廣泛開放、能專門標示內容是否由人工智能生成的此類檢測工具。工具通過OpenAI應用編程接口,免費向經審核的兒童安全組織與科技企業開放。推廣工作與科技聯盟及ROOST合作。
早期內部測試顯示,新分類器標記的待審圖像總量比現有系統減少48%。檢出違規圖像數量幾乎相同。命中率提高約一倍。合作平臺fal與SafetyKit測試分別確認了72%的高置信度新內容檢出率與90%的動畫類違規識別率。
ChatGPT上線警告彈窗與24小時封禁
11月中旬起,OpenAI在全球個人版ChatGPT賬戶中逐步部署即時干預屏幕。屏幕針對企圖搜索或生成涉未成年人性化內容的提示詞發出警告。系統會同步刪除被標記的對話。相關賬戶暫停使用24小時。
暫停期間,系統提供專業心理與行爲干預求助渠道。用戶多次違規,將面臨更長期限限制、永久封號乃至移交執法部門處理。警告文案經塔斯馬尼亞大學學者及露西·費斯富爾基金會等專業機構共同設計與獨立評估。
配套開發者指南與執法調查工具
OpenAI發佈了面向接口開發者的內容安全指南。公司與Anthropic、谷歌共同委託科技聯盟發佈響應披露指南。指南協助中小團隊接入感知哈希匹配與新型內容分類器。
針對兒童安全執法部門,OpenAI將分階段提供專用插件與數據分析工具。工具幫助調查人員梳理冗長聊天記錄與法律文件。這能減少人工審看極端內容的暴露風險。
美國國家失蹤與受虐兒童中心高級副總裁約翰·謝漢表示,新分類器讓更多機構有能力發現此前未識別的虐待材料。他說,這強化了受害者保護與線索報告。


