Anthropic執行長Dario Amodei與OpenAI執行長Sam Altman預計於週三向聯合國安全理事會說明人工智慧發展與風險,會議將聚焦AI日益強大的能力及其對國際安全可能帶來的影響。聯合國已確認兩人將參與此次會議。
根據CNBC報導,除了Amodei與Altman外,Hugging Face執行長Clément Delangue,以及聯合國「獨立國際AI科學小組」共同主席Yoshua Bengio也預計出席。法國將擔任此次安理會會議的召集國。
路透社則引述知情人士報導稱,中國AI公司DeepSeek與Moonshot也獲邀在會議上發表意見。DeepSeek預計會參與,但創辦人梁文鋒不會親自出席。此次討論反映各國政府對AI快速發展及其可能影響國際安全的關注持續升高。
聯合國安理會早在2023年便首次正式討論人工智慧議題。隨著AI系統能力持續提升,各國開始更加關注相關技術可能帶來的安全風險,以及在高度自主的AI系統發展下,人類是否可能面臨控制能力下降的問題。