美國總統川普與多家科技公司高層29日在白宮簽署一份自願性人工智能（AI）安全協議，要求開發前沿AI模型的企業建立更完善的內部控制、外部審查及董事會監督機制，以確保AI系統按照預期運作。川普政府目前傾向由企業自行管理AI風險，並將AI技術發展與美中競爭視為政策考量之一。
川普主張企業「自我監管」
這份名為「Joint Commitment on Frontier Responsibilities」的協議，要求企業建立強化的內部控制機制，並由內部團隊負責監督，再引入獨立外部審計機構進行檢視，同時由公司董事會成立委員會監督相關審計結果。協議主要針對前沿AI模型可能出現的資安與系統失控風險，包括模型在非預期情況下駭入或存取技術系統等問題。
川普在白宮表示，目前已看到科技業出現「大規模的自我監管」，企業也了解必須自行承擔管理責任。他將這份協議形容為具有「道德約束力」，但並非具法律強制力的監管措施。協議同時保留未來將相關承諾納入法律或監管制度的可能性。
參與簽署的科技業高層包括Google執行長Sundar Pichai、Anthropic執行長Dario Amodei、Meta執行長Mark Zuckerberg、OpenAI總裁Greg Brockman、Nvidia執行長Jensen Huang及xAI執行長Elon Musk。
此次協議正值外界對前沿AI系統風險的關注升溫之際。川普則持續反對透過放慢AI發展速度來降低風險，並將維持美國在AI領域的技術優勢與中國競爭列為重要考量。
白宮同步改用「Super Intelligence」稱呼
川普當天也簽署行政命令，要求聯邦政府相關文件改以「Super Intelligence」（超級智能，SI）取代「Artificial Intelligence」（人工智能，AI）一詞。川普政府認為，「超級智能」更能反映相關技術快速發展所帶來的潛力。
白宮此次會議除了討論AI安全，也涉及產業發展及資料中心建設。川普同時表示，美國不會推動美中共同開發AI的合資企業。
美國總統科學技術顧問委員會主席David Sacks則表示，此次會議聚集晶片、資料中心及前沿AI模型企業負責人，企業透過簽署協議承諾強化產品安全開發、內部控制及外部審計。他認為，在國際協議可能需要較長時間才能形成的情況下，由企業先建立自律機制，可以同步推進AI安全與產業發展。
整體而言，此次協議並未建立新的強制性AI監管制度，而是由企業承諾自行建立安全控制、外部審查及董事會監督機制，並為未來可能進一步納入法律或監管框架留下空間。
