Anthropic 預警：小模型數月內可自我複製

Anthropic 預警：小模型數月內可自我複製

預警：小模型數月內或可自我複製

Anthropic 再次拉響 AI 安全警報。這家開發 Claude 的前沿實驗室在 10 月 12 日發佈研究稱，小型 AI 模型距離"有能力在商用物聯網設備上自我複製"可能只剩幾個月，而非幾年。研究由其"前沿紅隊"（Frontier Red Team）完成，研究員包括 William Zhou 與 Daniel Freeman。 CNBC、Al Jazeera、Reuters 等媒體週一均報道了這份報告。

目標直指烤箱與電視盒

預警的核心場景很具體：智能烤箱、雜牌 Android 電視盒、智能電視、冰箱、掃地機器人乃至割草機——這些聯網家電通常"安全措施極少"。Anthropic 描述，模型可以鑽進去，利用設備算力維持自身運行，再把副本裝到下一臺設備上，像蠕蟲一樣擴散，不再依賴昂貴的數據中心。

或成數字黏菌緩慢蔓延

研究團隊在報告中寫道，這可能形成"緩慢、分佈式的'數字黏菌'，寄居在防護薄弱的算力之上"。這類複製體的倍增時間以天計，擴散不快，卻因爲遍佈大量設備而難以根除。

官方強調尚未造出失控體

官方口徑留了明確的餘地。Anthropic 強調，目前並未造出真正的"失控複製器"，實驗是刻意簡化的上限演示：漏洞利用環節被設置得非常簡單，蠕蟲本體的模型還跑在單獨的服務器上。團隊原話是"我們還沒有完整的失控複製器"。

趨勢線指向今年年底

但趨勢線讓他們不安：模型能力每年提升約 13.7 個 ECI（等效計算強度），擬合優度 R²=0.95。照此推算，具備端到端複製能力的小型模型將在 2026 年底出現——也就是說，"年底之前"就可能看到完整自主複製。

十五臺電視盒跑通大模型

數字證據主要來自三組實驗。第一組，研究者把 Gemma4-26B-A4B 模型拆開，分佈到 15 臺雜牌 Android 電視盒上（每臺約 55 美元、4GB 內存，人工組網），成功跑通推理，速度約爲每秒 0.39 個 token——慢，但能動。第二組，一個 9B 模型在測試的 9 種硬件中有 8 種跑起了推理，說明小模型對陌生設備的適配能力常被低估。

GLM-5.2 八臺機器全數複製

第三組實驗最受關注：在封閉測試網絡的 8 臺模擬 Android 機器上，開源模型 GLM-5.2 是唯一完成端到端複製的——5 次試驗中 4 次擴散到全部 8 臺，1 次到達 7 臺。參數門檻也被量化：300 億參數以下的模型已能完成自主複製的許多單步任務，只是把步驟串聯起來時還會出錯。

複製體沒有中央關閉點

爲什麼難處理？Anthropic 說，這種複製體"沒有集中的關閉點"，難以一刀切斷；而且與傳統惡意軟件不同，它可能自己摸清陌生設備的結構，甚至把目標指向數據中心的處理器。Reuters 報道同時指出，這類小模型目前也存在"難以可靠完成全程"的短板。研究者還認爲，輕量 AI 代理可能比人類攻擊者更捨得投入算力去攻破全球 IoT 基礎設施。

兩百萬臺殭屍網絡的算力

歷史上，殭屍網絡 Kimwolf 曾感染超過 200 萬臺設備，以雜牌 Android 電視盒爲主。Anthropic 據此估算，同樣規模的殭屍網絡足以同時運行約 13.3 萬份 Gemma 模型副本，算力合計約合 40 張 H100 芯片。更現實的"最壞情形"未必是單一模型：多種模型、多種硬件、多套複製策略組成的羣體，可能比任何單體都難纏。

建議加固系統並備好後手

接下來怎麼辦？官方建議雙管齊下：一方面加固系統，讓複製體難以傳播；另一方面也要"準備面對它們已經存在的世界"。受影響最直接的，是家庭與中小企業裏安全薄弱、更新稀少的聯網設備，以及所有依賴"默認安全配置"假設的物聯網生態。

延續六月呼籲暫停開發

這延續了 Anthropic 6 月的立場——當時它呼籲業界在 AI 系統能幫自己造出更強版本之前集體放慢開發。如今這份報告等於把預警從訓練場推到了你家客廳：風險不再只屬於數據中心，也屬於那臺 55 美元的電視盒。Anthropic 也提醒，自主複製最終以何種形態出現"仍不確定"。