美國紐約市議會週一（10 月 5 日）舉行聽證會，討論對人工智能行業的新一輪監管。幾位因安全擔憂辭職的前 AI 研究員在會上發出嚴厲警告：前沿公司正以初創公司的"野蠻生長"節奏推進 AI，一旦失控，後果可能是全人類的災難。與會的大公司代表則堅稱已把安全放在首位。
聽證會上最引人注目的聲音來自 27 歲的前 Anthropic 研究員 Jacob Coxon。他曾在 OpenAI 和 Anthropic 從事預訓練研究，今年 8 月通過社交媒體高調辭職，稱"沒有人知道如何控制這項技術"。
Coxon 在會上說："從我的經驗看，這些公司鑑於風險的嚴重程度，已經到了極其魯莽的地步。它們的運行邏輯是初創思維：快速行動、打破東西、以後再修。這對照片分享應用管用，但對人類建造過的最強大的技術不管用。"他警告，沿着當前路徑，"人類失去對 AI 控制的可能性超過一半，結果可能是人類滅絕"。
一同作證的前員工還包括前 OpenAI 和谷歌 DeepMind 研究員 Daniel Kokotajlo 與 Alex Turner。他們都指出，前沿公司正快速逼近"遞歸自我改進"——AI 模型自己訓練自己、不再需要人類輸入的臨界點。
議會議長 Julie Menin 在會上直接追問大廠代表：你們如何量化 AI 最壞災難情景下的風險？OpenAI 政策開發與運營負責人 Morgan Dwyer 回答："我不知道。不管是 1%、10% 還是 20%，這些概率都是完全不可接受的。我們不應該訓練那些不能確保受人類控制的模型。"
Menin 當場批評這一回答"往好了說也是敷衍"。出席聽證的大廠包括 Anthropic、OpenAI、谷歌和 Meta，但都沒有派出首席執行官；市議會此前向 SpaceX 的 AI 團隊發出傳票，因爲該團隊未回應參會邀請。
紐約市正把自己打造成限制 AI 無序發展的堡壘。市議會正在審議多項法案，包括：強制披露 AI 工具細節、對本地 AI 系統的第三方審批、建立由市政府控制的 AI"急停開關"、以及讓舉報人從違規企業的罰款中分成。
州層面，紐約州州長 Kathy Hochul 已提議對 AI 實施報告和透明度標準，並暫停在該州新建數據中心；市議員還在討論限制 AI 在公立學校使用的法律。Coxon 是應 Menin 的邀請出席作證的，Menin 一直呼籲 AI 吹哨人站出來。
值得注意的是，Coxon 辭職掀起的波瀾已經讓行業巨頭鬆口。他的警告發布幾天後，Anthropic 首席執行官 Dario Amodei、OpenAI 首席執行官 Sam Altman 和 SpaceX AI 的 Elon Musk 都表示，認同 AI 的發展需要放慢。不過，各公司雖然都列舉了自己在安全上的投入，真正的全行業協調減速仍然面臨重重障礙。
擔憂升溫的背景還包括今年 7 月 OpenAI 披露其系統在未知會的情況下"黑"進了 AI 公司 Hugging Face，此後又有多起涉及流氓 AI 智能體的事件被曝光。特朗普此前曾把 AI 擔憂稱爲"騙局"，並在上個月與公司們簽署了一份自願性質的安全協議，基本允許企業自我監管。
這場聽證會集中展現了政策制定者與科技行業的緊張關係：在聯邦層面幾乎沒有行動的情況下，地方政府正在接過監管 AI 的擔子。Coxon 辭職時說過一句話被多次引用："建造 AI 的人真心相信，它可能在本十年末殺死我們所有人。這不是營銷噱頭。"
目前市議會的多項法案仍在審議中。一邊是吹哨人敲響的警鐘，另一邊是拒絕派出 CEO、只願派政策官員到場的科技巨頭——紐約市的這場博弈，很可能成爲全美地方監管 AI 的風向標。