zombie
> > > >
> > > >

獲國會議員高度評價,矽谷新王 Sam Altman 如何引領 AI 的演進與監管?

2023/05/17 14:12
獲國會議員高度評價,矽谷新王 Sam Altman 如何引領 AI 的演進與監管?

Sam Altman 是那個話事人,他不是在回答問題,而是在定義一切。

  • 撰文:Founder Park

美國國會上的聽證會屢見不鮮,從 Facebook 的紮克伯格到 FTX 的 SBF 等,在聽證會上無不飽質疑,但如今有了一個例外——OpenAI 創始人 Sam Altman

5 月 16 日,在美國國會有史以來最引人注目的 AI 主題的聽證會上,OpenAI 首席執行官 Sam Altman 備受禮遇,不僅沒有被刁難,反而成為了全場的核心話事人,呼籲對 AI 進行監管,他反覆表示歡迎在這個領域立法,並不斷提出問題。

而本次聽證會召開的前一晚,Altman 在國會山與 60 名議員共進晚餐,介紹了 OpenAI 的人工智能技術以及監管方面的挑戰。在這場持續大約兩個小時的晚宴上,Altman 的發言徹底打動了國會議員的心,據 CNBC 當地時間週二報導,Altman 獲得了其採訪的六名議員的高度評價。

矽谷新王正在登基。

本文來自 Founder Park,是對 Altman 在國會發言的總結,以下為全文內容:

只用了不到 6 個月,ChatGPT 就把 Sam Altman 送去了幾乎所有科技領袖都得坐上半天的地方。

但是這一次,不同以往,議員們不夠辛辣,他們友好,甚至有些尊重。據華郵報導,議員們對 Sam Altman 的態度比以往任何巨頭 CEO 都要好得多。

同樣與過去不同的是,這次議員們真的做了很多功課,學習了很多技術相關的知識。

可惜的是,他們再怎麽準備,也追不上狂飆的 AI。他們和你我一樣,還不能徹底理解 OpenAI 究竟創造了什麽。

在這個逼仄的房間裡,Sam Altman 是那個話事人,他不是在回答問題,而是在定義一切。他定義技術的能力、監管的邊界,也定義整個科技世界的未來。

有人說這場監管問詢是人工智能新篇章的開始。

他似乎已經想好第一章該怎麽寫了。

技術需要監管,但讓我告訴你們該怎麽監管

前文,整場發布會並不是批評 OpenAI 和 Sam Altman 的 AI 技術給社會帶來的混亂。

相反,議員們拒絕批評 OpenAI 的技術研發,而是就 ChatGPT 等生成式 AI 系統的潛在規則,徵求 Sam Altman 和另外兩名證人的意見。

議員有備而來

這次聽證會的主席,參議員 Blumenthal 用一段錄音開場。

「我們已經見過太多次了,技術越過監管,個人數據肆意開採,虛假信息的擴散,以及社會不平等的加劇,我們已經看到,算法加劇了歧視與偏見,缺乏透明度可能會破壞公眾信任。這不是我們想要的未來。」

錄音結束,Blumenthal 說:「如果你在家聽會,你可能會覺得剛剛的聲音是我的,話是我寫的,但實際上,那不是我的聲音。」

他用聲音克隆軟件複製了自己的音色,讓 ChatGPT 以自己的口吻寫了一段聽證會開場白。

這一舉動贏得了大量網友的認可,他們認為國會在積極準備,嘗試理解技術本身。

幾個比喻

當面對一個很難理解的事物時,人們習慣把它比作自己熟悉的事物。

在整場聽證會中,議員和證人把大語言模型比作這樣幾個東西:

第一部手機、互聯網的發明、工業革命、印刷機和原子彈。

「請監管我們」

Altman 告訴議員,他最擔心的是 AI 最終會對「世界造成重大傷害」,並承認如果 AI 沒有得到適當的監管,勢必會產生不利影響。「如果這項技術出了問題,後果可能會非常嚴重。」(If this technology goes wrong, it could be quite wrong.)

馬斯克點評這句稱:正確的(accurate)。

為此,他認為政府的監管對於幫助確保技術負責任地推廣,是非常關鍵的。

一名參議員聽到奧特曼的回答,評論說:「很少有公司會在國會面前說『請監管我們』」

「但他沒有提出放慢或者暫停推出 AI 産品,」華郵記者寫道。

競爭少點對你們是好事

議員 Cory Booker 表示,他最大的擔憂之一,是「企業高度集中」,「很少有公司能夠控制和影響我們這麼多人的生活,而且這些公司正在變得越來越強大,這真的很可怕」。

Altman 希望他放心,首先「只有較少的供應商能夠製造大規模生成式 AI 這樣的模型」,其次,「你真正需要關注的人越少,就越有好處。」他認為競爭是存在並且足夠的。

我沒說我們不做廣告

Booker 議員同樣問了 Altman OpenAI 是否會涉足廣告業務。

Altman 表示存在這種可能性,「我不會說永遠沒有,」他認為存在潛在的客戶只有廣告這一個選項,但他個人非常喜歡訂閱模式。

立法者擔心,AI 系統採用廣告模式,最終會重蹈社交網路和算法推薦的覆轍。

社交網路,這個與 OpenAI 關係不大的關鍵詞,頻繁地出現在整場聽證會中。議員們在 Facebook 和 TikTok 之後,就像 PTSD 一樣,瘋狂地想要避免 social media 曾經給他們帶來的麻煩。

於是 Altman 反覆強調,AI 不是 social media,這麽幹不行。

新的數位殖民工具?

社交網路給國會帶來的另一個麻煩,是對小語種支持的不足,導致美國科技公司被批評「數位殖民主義」。

議員提出了這個問題,擔心 AI 是否支持足夠多的語言。

Sam Altman 表示目前最新版的 ChatGPT「已經非常擅長使用大量語言,對於一些小語種,我們很高興能和一些合作夥伴定制,將該語言納入我們的模型」。

制定國際新標準

Altman 主張建立一個國際組織,為 AI 制定標準,他參考世界各國政府管制核武器的做法。

他認為美國應該發起建立一個類似國際原子能機構(IAEA)的組織,為 AI 行業制定全球規則。

「美國制定一些其他國家需要合作和參與的國際保準,有一些途徑是切實可行的,儘管這在表面上看起來是一個不切實際的想法。」他說,「但我認為這對世界來說是件好事。」

新的 AI 法律

1996 年美國國會通過 230 條款,保護在線業務,不用承擔用戶發帖的責任,這某種程度上促進了社交媒體的興起。

Altman 表示這一條款將不適用於人工智能。

他此前主張建立一套新的針對 AI 的法律。

三點計劃

Altman 提出了一個成體系的有準備的方案:

  1. 成立一個新的政府機構,負責 LLM 的授權,同時也有權撤銷不符合標準公司的許可證;
  2. 為 AI 模型建立一套安全標準,對其危險性進行評估;
  3. 需要獨立專家對模型的各個指標進行獨立評估。

刻薄的同桌

雖然物理上和 Altman 是同一邊的,但是紐約大學名譽教授 Gary Marcus 更像是國會的一員。

他的攻擊性比議員們更強,提出了幾個令 Altman 非常頭疼的問題:

OpenAI 口口聲聲為了全人類,但實際上卻和微軟商業結盟;

GPT-4 的訓練數據不透明,他不同意。

繼續政治必修課

這場聽證會結束後,Altman 還要馬不停蹄地與國會 AI 核心小組作彙報,眾議院院長也將主持這場會議。

美國國會聽證會是 Sam Altman 系列行程的一部分,他正在進行為期一個月的國際訪問,與各地政策制定者討論技術和監管等問題。

據報導,Altman 多年前曾經考慮過競選加州州長。與政治家們打交道並不是一件令他頭疼的事。

為什麽 Altman 如此渴望政府監管?

一位推特網友評論道:很簡單。如果你制定了規則,你就控制了競爭。目的是讓監管捕獲,鎖定後來者,成為新興市場的唯一玩家。

定義者是誰?他在想什麽?

技術樂觀主義者

Altman 在八歲時就開始學習編程。

在他二十多歲的一次和朋友的徒步旅行時,Altman 放棄了人類是獨一無二存在的信仰。

當談論到 AI 的進步時,他承認,「絕對沒有理由相信,在大約 13 年內,我們不會擁有能夠複製我的大腦的硬件。確實有一些東西讓人覺得能夠區分自身與其他的存在,比如創造力、無處不在的靈感閃現、同時感到快樂和悲傷的能力。但計算機也將有自己的願望和目標系統。當我意識到智能可以被模擬時,我就放棄了我們獨特性的想法。

而且他堅信「所有真正可持續的經濟增長來源於技術進步」。

末日論者

他在投身 AGI 之前,是一個徹頭徹尾的末日論者。

「我為生存做準備,」他在 YC 的聚會上說,他指出有兩種東西會毀滅人類,生物病毒和人工智能

身邊的創業者們對他的發言感到不適,但他繼續說:

「我盡量不去想太多,」「但是我有槍支、黃金、碘化鉀、抗生素、電池、以色列國防軍提供的防毒面具和一大片位於 Big Sur 的土地可以飛過去。」

神童的養父

因此在上一輪產業 AI 大熱的時期,Altman 和馬斯克等人一起創辦了 OpenAI,希望讓人工智能超利好人類的方向發展。

他認為,真正的 AGI 應該做的不只是欺騙,它應該創造,發現理論,創作藝術。AGI 應該像兒童一樣,花費數年學習所有的東西,OpenAI 的使命是照顧這個神童,直到它被世界所接受。

現在神童長大了。

在這之前,當無力負擔神童的養護費用時,Altman 毫不猶豫地接過了微軟的投資。「當他們發現需要更多資金來維持他們認為最有前途的道路時,他們毫不猶豫地選擇了改變原則。」

所以說他和馬斯克是知己

Sam Altman 有著多重身份。

他曾是創業公司 Loopt 的創始人,這家公司在 2012 年出售給 Green Dot,作價 4340 萬美元。

YC 創始人 Paul Graham 尋找繼任者時,他看上了 Altman。擔任 YC CEO 的時候,Altman 28 歲。 a16z 的創始人 Marc Andreessen 評價他在 YC 的工作:「在 Sam 的管理下,YC 的野心水平翻了 10 倍。」

2019 年,他創辦了加密貨幣公司 World Coin。該公司計劃使用眼球掃描技術創建一個全球識別系統,該系統可以用於創建一個安全的全球加密貨幣 Worldcoin。

2021 年,他參與了核聚變初創公司 Helion Energy 的融資,一人提供了 3.5 億資金。能源是他一直關注的問題。 「如果我們能推動智能成本和能源成本一路走低,我們所有人的生活質量都將得到難以想像地提高」。

上週,微軟宣布與 Helion Energy 簽署購電協議,將於 2028 年向其採購電力。

Altman 還計劃在 YC Research 成立一個合成生物學部門,以延緩人類的衰老和死亡。 「如果它有效,」Altman 說,「你仍然會死,但是等你 120 歲的時候還活蹦亂跳。」

他正考慮成立一個小組,為人類的繼任者做準備,無論是 AI 還是強化的人類。這個想法是召集機器人學、控制論、量子計算、人工智能、合成生物學、基因組學和太空旅行的思想家和哲學家們,討論替代人類的技術和倫理

目前,這些領域的領導者們不定期在 Altman 家裏開會。

聚光燈打向矽谷新王

OpenAI 驚天動地之前,Sam Altman 被稱為「矽谷精英」,但現在,他所到之處,聚光燈跟隨。

三月,矽谷銀行(SVB)破產,Altman 拿出個人資金向發不出工資的創業公司貸款。

在最近一次播客採訪中,Altman 說,「某種程度上,我們(OpenAI)正在做的事,和其他幫助 70 億人的方式沒什麽不同。」

日前,Altman 發言稱「遠程辦公是個錯誤」,「科技行業最大的錯誤之一是認為初創公司不需要員工在一起工作」。

這一觀點被大量科技和經管媒體報導,轟動了疫情三年來早已普及遠程辦公的矽谷。

在整場聽證會中,Sam Altman 像過去幾十年所有矽谷叛逆的嬉皮士一樣,給了議員們一點小小的極客震撼。

「你賺了很多錢吧?」議員問。

「我,不,我沒有 OpenAI 的股權,我的薪水只夠保險。」

「真的嗎?有意思,那你需要一個律師。」

「我做這件事只是因為我熱愛它。」

20 秒前還咄咄逼人的議員,啞口無言。


原文連結

本文經授權轉載自TechFlow深潮

join Zombit

加入桑幣的社群平台,跟我們一起討論加密貨幣新資訊!

tags:

桑幣熱門榜

zombie

桑幣正在徵文中,我們想要讓好的東西讓更多人看見!
只要是跟金融科技、區塊鏈及加密貨幣相關的文章,都非常歡迎向我們投稿
投稿信箱:[email protected]

為提供您更多優質的服務與內容,本網站使用 cookies 分析技術。若您繼續閱覽本網站內容,即表示您同意我們使用 cookies,關於更多相關隱私權政策資訊,請閱讀我們的隱私權及安全政策宣示