ChatGPT 今年的誕生讓全球人工智能(AI)產業真正開始受到重視。然而,構建強大的人工智能系統雖然是技術上的巨大突破,但也有許多人認為,這可能會對人類社會造成不可預知的風險。
生命未來研究所(future of life)為此發起了一項連署,呼籲暫停訓練比GPT-4 更強大的人工智能系統,並至少暫停六個月。截至目前為止,包含馬斯克、蘋果聯合創辦人 Steve Wozniak、Ripple 聯合創辦人 Chris Larsen,以及其他 1000 多名人工智能專家及產業高階主管都簽署了這封連署信。
信中寫道:
「我們是否應該發展最終可能超過我們、超越我們,並取代我們的非人類思維?我們應該冒險失去對我們文明的控制嗎?此類決定不該被委託給未經選舉產生的技術領導者。只有當我們確信它們的影響是積極的並且它們的風險是可控的時候,才應該繼續開發強大的人工智能系統。」