人工智慧公司 Anthropic 近日發布最新研究報告指出，隨著 AI 技術快速進展，產業正逐步逼近「遞迴式自我改進」的臨界點，也就是 AI 未來可能具備自行設計、訓練並優化下一代模型的能力。該公司警告，一旦技術跨過此門檻，人工智慧的發展速度可能大幅加快，但同時也將帶來人類難以預測與控制的風險。

Anthropic 在報告中指出，當 AI 系統能夠自行建構自身後續版本時，傳統的人類監督、測試與安全機制將面臨前所未有的挑戰。該公司強調，這類系統不僅會改變軟體開發流程，更可能重塑整個科技研發模式，使「AI 開發 AI」成為主要推動力。

報告同時提到，Anthropic 內部已經出現顯著變化。以其大型語言模型 Claude 為例，目前超過八成的程式碼已由 AI 自動生成，工程師更多扮演審核與指導角色，而非逐行撰寫程式碼。公司指出，這一趨勢顯示 AI 已開始實質性加速自身研發效率。

Anthropic 進一步表示，AI 在內部開發流程中的角色正快速擴張，從最初僅能輔助生成程式碼，到如今可自主執行較長時間的任務並參與實驗設計，使整體研發效率較過去數年提升數倍。

在安全與治理層面，Anthropic 呼籲產業應提前建立跨國協調機制，以便在必要時能「可驗證地」放慢或暫停前沿 AI 的開發進程。公司認為，若 AI 進步速度超過社會調適能力，可能導致風險累積，因此需要類似國際監管框架的制度設計。

不過，Anthropic 也承認，單一企業若自行暫停研發，可能難以產生實質效果，甚至只會改變競爭格局，而無法降低整體風險。因此，真正有效的機制必須建立在多家領先 AI 實驗室與政府之間的共同協議之上，並具備可驗證的執行方式。

該報告將 AI 發展分為多個階段，並認為目前產業仍處於「人類主導、AI 協作」向「AI 自主代理」過渡的階段，但已出現向更高層級發展的早期跡象。未來若AI進一步具備完整研究與開發能力，整個科技創新的主導權可能逐漸由人類轉向機器系統。

Anthropic 表示，雖然這一發展可能帶來科學與醫療等領域的重大突破，但同時也可能帶來治理、控制與安全上的重大挑戰，甚至需要重新定義人類在科技研發中的角色。目前，Anthropic 正計畫在未來數月內與政策制定者、學界及其他 AI 公司展開討論，以探索建立相關監管與協調機制的可行性。