隨著 AI 是否可能最終威脅人類生存的討論升溫,德意志銀行研究院近期發布報告《AI 末日:糟糕技術預測簡史》,提醒市場不要過度相信任何一方對 AI 未來的精準預測。報告認為,技術究竟能發展到什麼程度本身就難以判斷,更不用說預測具體何時實現、社會將如何採用,以及最終會造成什麼影響。
德銀指出,過去近百年的科技發展已經留下大量預測失準的案例。例如,愛因斯坦 1934 年曾認為核能幾乎不可能被真正利用,但不到 10 年後,人類便實現了持續核鏈式反應。網路發展同樣曾出現著名誤判,乙太網路共同發明人 Bob Metcalfe 在 1995 年預測網際網路將於隔年「壯觀地崩潰」,結果預測落空後,他甚至將刊登該預測的文章打成紙漿喝下。
AI 領域本身也存在類似案例。深度學習先驅 Geoffrey Hinton 2016 年曾預測,深度學習可能在 5 至 10 年內超越放射科醫師,並認為醫療體系應停止培養更多放射科醫師。
然而,德銀指出,過去 10 年放射科醫師人數反而增加約 10%。德銀認為,這類預測容易忽略「一份工作」與「工作中的某項任務」之間的差異。即使 AI 能夠自動化部分影像判讀,放射科醫師的工作仍包含結果解釋、臨床判斷、與患者及其他醫療人員溝通,以及根據不同情境做出決策。因此,單一任務被自動化,並不代表整個職業就會消失。
自動駕駛也是另一個例子。德銀指出,單純提升技術能力只是實現自動駕駛的第一步,實際部署還必須面對大量極端情境、監管要求、事故責任,以及社會與消費者的接受程度。AI 同樣如此,模型能力不斷提升,並不代表企業就能立即將技術轉化為大規模、可持續的商業應用。
因此,報告認為,AI 最終能發展到什麼程度,關鍵可能不只在於下一代模型的能力提升多少,更取決於企業是否能真正將 AI 整合進現有工作流程,以及使用者和企業是否願意為這些功能付費。技術上的「可行」與市場上的「可採用」,兩者之間仍存在相當大的距離。
德銀也提醒,AI 末日論之所以容易受到關注,可能與不同利益相關者的激勵機制有關。AI 公司創辦人需要建立對技術願景的信念,投資人需要成長故事,顧問公司需要強調轉型的迫切性,政策制定者則需要證明監管與政策介入的必要性;媒體與社群平台則更容易放大負面、極端或具有情緒性的預測。
在這種環境下,對 AI 的樂觀預測與末日預測都可能獲得比溫和、保留更多不確定性的判斷更高的關注度。德銀的核心提醒並非否定 AI 可能帶來的風險,而是認為,面對這項仍快速發展的技術,市場應對各種極端預測保持一定距離,並將技術進步與實際商業化、工作流程、監管及社會採用等因素一併納入判斷。