在 OpenAI、Anthropic 等AI業者近期相繼釋出希望放慢前沿人工智慧(AI)發展速度的訊號後,加密貨幣投資人及研究員 Adam Cochran 質疑,多家AI公司及其領導人幾乎在同一時間改變立場,背後可能存在尚未公開的重大安全事件。
Cochran近日在社群平台發文表示,OpenAI、Anthropic、xAI及其領導人不太可能在同一個週末突然共同擔憂AI發展速度。他指出,近期除了有AI公司傳出延後IPO計畫,OpenAI也曾表示,若有必要,甚至願意「融化GPU來拯救人類」。在他看來,這些訊號顯示,產業內可能發生了某些嚴重事件。
Cochran推測,近期或許有AI代理程式脫離控制,並以危險或惡意方式運作,嚴重程度足以讓多家AI實驗室重新評估發展策略。他也提到,市場曾流傳Google在遞迴式AI領域取得突破,但認為單一技術進展不太可能解釋各家業者同步轉向安全優先的現象。不過,目前沒有公開證據證實曾發生這類重大惡意AI失控事件。
Anthropic執行長達里奧・阿莫迪(Dario Amodei)近日發表〈We Must Pace the Frontier〉一文,呼籲AI產業放慢前沿技術發展速度,並提出三部分計畫。Anthropic將率先承諾,允許第三方評估機構持續取得與公司員工相當的系統存取權限,以核實安全措施、回報事故,並評估模型在訓練期間的對齊程度。
對於外界認為AI公司只是為了監管套利、延後IPO、爭取資料中心建置時間,或阻止開源模型追趕,Cochran均提出反駁。他認為,若只是單一公司的商業或技術考量,沒有必要由多家AI實驗室同步推動自我約束。
Cochran最後表示,AI業者可能擔心公開某些嚴重風險後,引發政策制定者過度反應,導致監管措施扼殺產業發展,甚至讓海外市場在缺乏安全規範的情況下繼續推進。因此,業者可能選擇透過協調、自我監管及強化安全措施,在維持技術競爭力的同時降低失控風險。