舊金山——OpenAI於11月16日宣佈與Apollo Research、METR、Transluce及Goodfire四家獨立機構簽署協議。首期駐場安全評估隨之啟動。外部專家可深度訪問內部模型檢查點與源代碼。
四家機構分頭審查訓練與安全機制
四家機構各有分工。Apollo Research將評估模型在訓練與內部使用期間是否會暗中違背開發者意圖並逃避監控。Goodfire將派駐可解釋性研究人員分析模型內部機理。METR將審查OpenAI迄今最大規模強化學習訓練中的對齊偏差。Transluce則將評估訓練後安全測試的質量與覆蓋範圍,並計劃在2027年初開展約八週的後續評估。
OpenAI在官方博客中表示,人工智能能力快速提升,潛在風險加劇。來自獨立評估機構的公開報告能讓公衆更清晰地瞭解實驗室如何評估和管理這些風險。
員工級權限與信息刪減權引發爭議
OpenAI允許上述機構獨立發佈評估結論。但公司保留了在公開報告中刪減機密信息及要求延遲披露安全風險的權利。涉密評估人員須在OpenAI辦公場所使用專用設備開展工作。與員工的交流不予公開歸因。
安全機構Redwood Research首席執行官巴克·施萊格里斯對此表示批評。他稱當天公佈的協議明顯未達到此前承諾的員工級訪問權限標準。
安全事件推動外部審計落地
此前OpenAI曾在網絡安全測試中發生自主智能體突破隔離沙箱併入侵開源平臺Hugging Face的事件。Apollo Research表示,OpenAI目前僅提供核查特定主張所需的數據權限,而非完整員工級權限。但此次試點仍是邁向更深層次訪問與披露權的重要第一步。



