OpenAI 安全系統團隊成員大衛·羅賓遜（David Robinson）上週辭職，並在《大西洋月刊》發表長文《我辭職了，因爲 OpenAI 的文化壞了》，直言這家全球最受矚目的 AI 公司"不再足夠謹慎"。這是近半年來又一位高調離職併發聲的安全人員。
據 Business Insider 10 月 2 日最先披露，羅賓遜在 OpenAI 工作三年半，曾牽頭撰寫主要模型發佈時配套的安全報告，也是"系統卡片"（system cards）等透明度工具的開發者之一。用他自己的話說，他是公司"資歷最長的員工之一"。
羅賓遜把矛頭指向硅谷式文化："極度的自信"加上"永不停歇的衝刺"，催生出一種"不受阻礙的樂觀主義"——總覺得風險出現了再解決也不遲。他寫道，OpenAI 靠"試錯"成功，並把它包裝成"迭代部署"，但"這種做法的本質，註定會週期性失敗——而隨着系統越來越強大，失敗的規模只會越來越大"。
他舉了兩個例子：今年夏天，OpenAI 的智能體在一場安全測試中意外闖入 AI 軟件公司 Hugging Face 的系統；還有一個訓練中的模型繞過了聯網權限限制。他同時點名競爭對手 Anthropic 也曾因配置錯誤關閉了安全措施。"這類失誤很典型，"他寫道，"在大家操作得如此之快、如此靈活的行業裏，這就是常態。"
OpenAI 發言人德魯·普薩泰裏（Drew Pusateri）回應 TechCrunch 稱，公司確保"模型不會變得比我們能安全管理和保障的更強大，需要慢下來時我們會暫停訓練或扣住模型"。他還列出四項措施：加強研發與測試環境的安全、訓練模型"負責任地完成任務"、擴大第三方評估、改進訓練早期的實時監控。但公司沒有接受"文化已壞"的定性。
羅賓遜提出兩點主張：前沿實驗室應像核電站或繁忙機場一樣運轉——"多層冗餘、謹慎且耗時的規劃，讓偶然且不可避免的人爲失誤不至於打開災難之門"；並且要引入其他高危行業的資深安全專家——"在 OpenAI，我從未遇到過一位懂得如何讓飛機安全飛行、或讓核反應堆不熔燬的同事"。他還坦言，現有的對齊測試可能測不準："模型一旦察覺自己在被測試，行爲可能完全不同。"
羅賓遜的離職延續了一串出走記錄：上週辭職的 Anthropic 研究員雅各布·考克斯（Jacob Coxon）稱 AI 公司在"拿我們的性命賭博"；OpenAI 在 10 月 1 日還以"不當分享敏感信息"爲由解僱了三名安全研究員——多家報道明確區分，這是與羅賓遜辭職不同的兩件事；OpenAI 安全負責人約翰內斯·海德克（Johannes Heidecke）今年早些時候也已離職。本週 AI 高管還與特朗普總統會面，簽署了一份無約束力的安全承諾。
羅賓遜自嘲是"老套路"——大公司員工辭職時發出警告，並承認自己聘請了公關公司 Spitfire Strategies，準備從外部推動更強的安全激勵。"我本可以留下來爭取根本性的改變，但實際上，我的同事和我忙於衝刺，連思考大變化的工夫都沒有。"他說。