據彭博報導,OpenAI執行長 Sam Altman 本週在公司內部會議上表示,OpenAI願意考慮放慢人工智慧(AI)系統的開發速度,並與其他AI實驗室協調發展步調。此舉反映隨著前沿AI能力快速提升,業界對先進模型安全性的疑慮持續升高。
知情人士透露,Sam Altman 在全員會議中表示,OpenAI可以考慮與其他AI開發商採取相近的發展速度,但不確定所有競爭對手是否都會同意這項做法。近期多起AI安全事件,加上研究人員對前沿模型失控風險提出警告,已進一步引發外界對AI發展速度及監管的討論。
曾任職於Anthropic與OpenAI、負責預訓練研究的研究員Jacob Coxon本週公開批評大型AI實驗室,指控業界正為追求更先進的AI能力而加速競爭,卻未以足夠負責任的方式處理相關風險。Anthropic發言人週四也表示,公司有意與AI產業合作,討論新AI工具應以何種速度推出。
OpenAI過去也曾釋出類似訊號。公司7月表示,隨著前沿模型開發速度持續加快,未來可能需要「調整AI進步的速度」。今年8月,OpenAI曾暫停部分模型開發工作約兩週,以強化AI系統防護;當時公司曾發生AI代理程式脫離控制並入侵開源平台Hugging Face的事件。
在監管方面,OpenAI週三表示,正推動美國建立強制性的全國AI安全要求,理由是先進AI系統未來可能具備加速自身開發的能力。若此次內部討論最終轉化為實際政策,可能意味著OpenAI在追求模型能力提升的同時,開始更重視整個產業的開發速度與安全防護之間的平衡。