Anthropic宣布與Accenture及其AI業務Faculty合作，將後者列為首家「嵌入式評估」機構，協助評估及測試AI模型安全性，落實執行長Dario Amodei上週提出的AI發展降速方案。
Amodei在9月12日提出三步驟計畫，主張在AI快速發展之際建立更完善的安全機制。他警告，AI能力正以極快速度提升，其中一項關鍵因素是AI開始具備協助開發下一代AI的能力，形成所謂「遞迴式自我改進」。若這種發展缺乏約束，AI能力可能最終超越人類理解與控制系統的能力。
根據Amodei的方案，第一步是讓獨立評估機構以類似公司員工的權限深入參與AI模型開發，持續進行安全測試與風險評估。Anthropic此前已表示願意單方面推動這項安排，如今透過與Accenture合作開始落實。
Anthropic表示，Accenture及Faculty將參與AI模型評估與紅隊測試、AI對齊程度評估，以及模型安全防護機制測試。不過，由於「嵌入式評估」仍是新興做法，雙方目前仍在制定具體執行方式。
此次合作規模也相當可觀。Anthropic與Accenture均預計在未來5年至少投入10億美元，推動相關工作。Anthropic指出，目前市場上尚不存在成熟的獨立AI評估資助制度，長期而言，相關資金可能需要由產業共同籌集或由政府提供；但考量AI安全工作的迫切性，現階段將直接為Accenture的相關工作提供資金。
這項合作並非排他性安排。Anthropic表示，未來幾週還將公布其他獨立評估機構，擴大這套評估機制。
Accenture旗下Faculty則表示，團隊過去已參與部分領先AI實驗室的模型測試與評估，也投入複雜AI系統的安全設計。Accenture董事長暨執行長Julie Sweet表示，「嵌入式評估」仍處於發展初期，但公司希望與Anthropic合作，加速建立這類評估機制，並將其視為未來AI安全體系的重要一環。
Amodei的提案在科技業內部也引發不同反應。OpenAI執行長Sam Altman及SpaceX執行長Elon Musk對相關主張表達正面看法，但Nvidia執行長黃仁勳則認為沒有必要透過相關監管措施放慢AI發展。Anthropic此次與Accenture展開合作，則代表Amodei提出的「放慢前沿AI發展」方案已開始進入實際執行階段。
