加州《SB 1047》AI 安全法案

加州正在推動一針對人工智能的監管法案「SB 1047」。該法案由州參議員 Scott Wiener 於今年 2 月提出，其目的是為大型 AI 系統的開發建立安全標準，防止其模型造成嚴重傷害，例如促成可能造成大量人員傷亡或造成超過 5 億美元經濟損失的生物武器的開發。

以 OpenAI 為首的 AI 科技公司公開對此表示反對，並於週三寄出一封致加州參議員 Scott Wiener 辦公室的信函，表示該法案將損害人工智慧行業的創新，並認為該問題的監管應該由聯邦政府而不是各州來制定。

此外，批評者還表示，該法案要求公司向州政府提交有關 AI 模型的詳細資訊，此舉將阻礙創新，並阻止小型開源開發商建立新創企業，因為他們擔心被起訴。儘管 Scott Wiener 在權衡之下取消了法案中原本對科技公司科處的刑事責任，但仍然無法獲得 OpenAI 等批評者的認可。

馬斯克與 Vitalik 分享觀點

針對此議題，社群中也存在許多討論。馬斯克今天就在 X 上發文表示，在綜合考慮之下，他認為加州應該通過「SB 1047」AI 安全法案。馬斯克說道：

「在過去的 20 多年裡，我一直是 AI 監管的倡導者，就像我們監管任何可能對公眾構成風險的產品/技術一樣。」

以太坊創辦人 Vitalik Buterin 回覆稱他認同馬斯克的想法，但他補充表示，責任並不是「如果使用 AI 衍生模型出了嚴重問題，你就會被罰款」，而是取決於你是否達到了「合理注意」這個標準。

「我同意這個『合理注意』的標準確實很模糊，因為在現階段很難制定一個不模糊的標準。但這並不意味著你要對下游用戶的幾乎所有行為負無限責任。」

此外，Vitalik 進一步補充說道，他喜歡這個法案的其中一個原因是它引入了「重大危害」這一類別，並且明確區分了這種危害與其他不良事件。

「我認為這一點非常重要，尤其是在當今這個時代，許多人使用像『言語暴力（verbal violence）』這樣的詞彙，並試圖擴大原本表示極端危害的術語的涵蓋範圍，使其包括所有不良事件（同樣地，也擴大了『安全』的定義）。語言的膨脹無法完全避免，因為這是基本博弈論的結果，但我們需要通過重新劃分『真正嚴重的事情』和『中等程度不好的事情』之間的區別來進行補償。」