AI 已開始加速研發 AI?METR 評估 Anthropic 內部數據:恐已於 7 月觸及安全預警門檻

2026/11/06 16:17
AI 已開始加速研發 AI?METR 評估 Anthropic 內部數據:恐已於 7 月觸及安全預警門檻
未命名設計 (3)

獨立 AI 評估機構 METR 最新公布的研究報告指出,Anthropic 內部模型的能力進步速度,可能已經達到過去的約 2 倍,而且這波加速很可能主要來自 Claude 開始參與 AI 研發工作。更值得注意的是,研究人員重新檢視 Anthropic 今年 8 月發布的安全評估後發現,公司可能早在今年 7 月就已接近甚至觸及自我加速研發的安全預警門檻。

模型研發進步速度增至 2 倍,Claude 可能成為主要推手

這項調查歷時 11 週,METR 獲准檢視 Anthropic 內部研發資料,包括模型訓練、演算法改進、尚未公開模型的測試成績,以及員工訪談與調查結果。研究團隊將重點放在三個問題:AI 研發是否正在加速、加速是否主要由 AI 自身推動,以及未來一年是否存在可能限制進步速度的技術瓶頸。

METR 最終提交了一份約 100 頁的完整報告,但 Anthropic 在公開版本中刪除了大部分研究人員認為最有參考價值的內部證據,因此外界目前只能依據 METR 公布的結論了解調查結果,難以獨立檢驗所有推論。

METR 在報告中指出,截至 2026 年 10 月,Anthropic 模型在具有明確評分標準的任務上,能力進步速度可能已達到 2024 年 3 月至 2025 年 10 月期間的約 2 倍。

研究團隊對此估計仍存在相當大的不確定性,認為實際加速幅度可能介於 1.3 至 3 倍之間。若以 2 倍計算,代表過去需要約兩年才能累積的模型能力進步,如今可能只需要一年左右。

從基準測試來看,自 2025 年 10 月以來,Anthropic 模型的 AECI 評分成長速度,約為先前的 1.9 倍,95% 信賴區間介於 1.5 至 2.8 倍。不過,METR 也提醒,基準測試的選擇與計算方式會影響結果,而且測試分數不一定能直接反映模型在真實世界中的實際能力。

至於加速的來源,研究人員發現,訓練算力的成長速度並沒有同步提高,因此這波研發效率提升,很難單純歸因於投入更多 GPU 或計算資源。

結合內部演算法進展資料、員工訪談及調查結果,METR 認為,AI 工具參與 AI 研發,很可能已成為目前能力進步加速的主要原因。換句話說,Claude 不只是被用來協助一般程式開發,也可能開始協助研究人員改善演算法、設計實驗及推進下一代模型。

不過,METR 並未認為這項結論已經獲得完全證實。研究人員指出,Anthropic 員工普遍回報 AI 帶來顯著生產力提升,但最重要的 AI 研發工作目前仍未完全自動化,而且公司內部對於 AI 究竟貢獻了多少研發進展,也沒有形成一致看法。

今年7月可能已觸及安全門檻,與Anthropic原先評估出現落差

這份報告最受關注的部分,是 METR 對 Anthropic 今年 8 月發布的安全評估提出不同解讀。

Anthropic 先前評估認為,當時 AI 尚未讓自身研發速度提升至原本的 2 倍,因此並未觸及相關安全預警門檻。

但 METR 根據取得的內部數據重新計算後發現,其中一項衡量研發進步速度的指標,成長率已達到 1.97 倍,幾乎正好落在 2 倍的預警線上。

更值得注意的是,Anthropic 內部報告也承認,如果以完全沒有 AI 輔助的研發情境作為比較基準,研發速度提升超過 2 倍並非不可能。

因此,METR 認為,Anthropic 公開安全報告對研發加速程度的描述可能過於保守,不能排除公司早在 7 月就已觸及預警門檻。

不過,METR 也強調,參與評估的雙方研究人員多數仍傾向認為,當時尚未真正跨越這條界線。這項門檻本身是用來提前辨識潛在風險的預警指標,並不代表 AI 已經失控,或已經能夠完全自主開發下一代模型。

未發現明顯技術瓶頸,未來一年加速可能進一步擴大

除了確認目前的研發加速趨勢,METR 也評估未來一年是否存在可能限制 AI 進步的因素。

研究人員表示,目前沒有發現演算法進步、訓練算力、實驗算力或資料供應方面,存在足以在未來 12 個月內明顯拖慢研發速度的瓶頸。這意味著,如果 AI 持續提高自身參與研發工作的程度,模型能力進步速度仍有進一步加快的可能。

但 METR 也承認,這項判斷受到研究視角限制,不能排除尚未被發現的技術瓶頸。研究人員甚至指出,若低估近期部分研發成長率上升,以及 AI 開始自主貢獻研發工作的早期跡象,就可能低估實際加速程度;反過來說,如果高估 AI 的貢獻,或忽略 2024 至 2025 年早期研發速度原本較低的因素,也可能導致高估。

Anthropic 刪除多數關鍵證據,外界難以獨立覆核

這次評估另一項值得注意的爭議,是完整報告與公開版本之間的差異。

METR 表示,Anthropic 曾向研究團隊開放涵蓋預訓練、強化學習(RL)及演算法進步等不同階段的內部研發資料,這些非公開資訊對判斷 AI 是否正在加速研發具有重要價值。

然而,研究團隊提交約 100 頁完整報告後,Anthropic 在公開版本中刪除了大部分最具參考價值的證據。METR 因此坦言,公眾目前必須在比研究團隊理想中更大程度上,依賴其研究判斷,而不是直接檢視完整數據。

此外,這次 AI 研發加速評估原本還包含算力分配評估,但 Anthropic 在研究團隊尚未形成實質結論前取消了這部分試點,表示希望現階段先聚焦於風險評估,未來再重新考慮。

整體而言,METR 的研究揭示了一項值得 AI 產業關注的變化:當 AI 不再只是接受人類指令執行任務,而是開始協助改善演算法、設計實驗及推進下一代模型研發,AI 技術進步就可能形成自我強化的循環。

目前尚無法確認 Anthropic 是否已真正跨越安全預警門檻,也不能據此認定 AI 已具備完全自主研發能力。但如果 METR 的估計接近實際情況,AI 研發速度可能已經進入新的加速階段,而如何在模型能力快速提升的同時,確保安全評估與控制技術能夠同步跟上,將成為 AI 產業接下來的重要課題。

join Zombit

加入桑幣的社群平台,跟我們一起討論加密貨幣新資訊!

桑幣熱門榜

關閉廣告 關閉廣告
zombie

桑幣正在徵文中,我們想要讓好的東西讓更多人看見!
只要是跟金融科技、區塊鏈及加密貨幣相關的文章,都非常歡迎向我們投稿
投稿信箱:[email protected]

為提供您更多優質的服務與內容,本網站使用 cookies 分析技術。若您繼續閱覽本網站內容,即表示您同意我們使用 cookies,關於更多相關隱私權政策資訊,請閱讀我們的隱私權及安全政策宣示。