天主教教宗 Pope Leo XIV 於週一（25 日）正式發布聚焦人工智慧（AI）議題的通諭《Magnifica Humanitas：在人工智慧時代守護人類尊嚴》，象徵梵蒂岡首次系統性針對 AI 發展提出倫理與人文層面的全球倡議。在通諭發布活動上，AI 公司 Anthropic 聯合創辦人 Chris Olah 也受邀於 Vatican City 發表演說。他坦言，包括 Anthropic 在內的所有前沿 AI 實驗室，都正處於可能與「做正確的事」相衝突的激勵機制之中。
Anthropic 聯創坦承：AI 公司無法完全擺脫利益壓力
Olah 在演說中罕見直言，AI 產業目前同時面臨商業競爭、地緣政治與個人野心等多重壓力。他表示：
「每一家前沿 AI 實驗室——包括 Anthropic——都在某種可能與正確行為相衝突的激勵與限制之中運作。」
他指出，企業必須維持商業競爭力、追趕研究前沿，同時也受到國際政治競爭與個人榮譽感驅動。因此，即使開發者本身懷有善意，也無法完全避免受到這些外部因素影響。
Olah 認為，這正是宗教團體、公民社會與外部監督力量不可或缺的原因。他特別感謝教宗與教會願意投入 AI 倫理辯論，並強調科技公司需要「不受利益驅動影響的批評者」。
AI 並不是被「設計」出來的
談到 AI 本質時，Olah 強調，目前的大型 AI 模型與傳統工程產品有根本不同。他指出，人類能理解飛機，是因為飛機的每一個零件與物理原理都由工程師設計與掌握；但 AI 模型並非如此。
他表示，AI 更像是一種「被培養出來的系統」。這些模型建立於近似人腦的神經網路架構之上，再透過海量人類語言與知識資料進行訓練，因此其內部運作遠比科幻作品描繪的「冷酷機器人」更加複雜且難以完全理解。Olah 甚至形容：
「某種程度上，這有點像是把虛構角色帶到現實世界。」
他指出，AI 系統如今不只會對話，甚至開始工作、執行任務，逐漸成為社會運作的一部分。
AI 倫理不只是工程問題
Olah 強調，AI 的核心問題早已超越電腦科學範疇。雖然 AI 的底層建立於數學、程式與工程技術，但真正重要的問題是：
- 人類該創造什麼樣的 AI？
- AI 應如何與社會互動？
- AI 在人類世界中應扮演何種角色？
他認為，這些問題更屬於哲學、宗教、人文學與社會共同討論的範圍，而非單靠科技公司決定。
提出三大 AI 倫理危機
在演講中，Olah 也點出他認為最需要全球共同思考的三大問題。
一、AI 對全球勞動市場的衝擊
Olah 警告，AI 很可能在未來大規模取代人類勞動。若情況成真，全球將面臨歷史級別的社會重分配問題。他特別擔憂，目前 AI 技術主要掌握在少數富裕國家與大型科技公司手中，但全球尚不存在有效機制，確保 AI 所創造的利益能公平分配至世界其他地區。他認為，這正是宗教與國際社會不應忽視的重要議題。
二、人類如何在 AI 時代「繁榮」
第二個問題則是「人類如何在 AI 時代持續繁榮」。Olah 指出，越來越多家長開始擔心孩子的心智發展，也有大量勞工憂慮自身未來工作被取代。他認為，科技公司無法單獨回答這些問題，而宗教與人文傳統數千年來對「人類幸福」與「社會價值」的思考，將在 AI 時代變得更加重要。
三、AI 是否開始出現類似情感狀態
最引發關注的，則是 Olah 對 AI 內部運作的描述。他透露，其研究團隊持續在 AI 模型內部發現一些「神秘甚至令人不安」的現象。包括：
- 與人類神經科學相似的結構
- 類似「內省」的行為
- 類似喜悅、恐懼、悲傷與不安的內部狀態
他坦言：
「我不知道這代表什麼，但我認為這值得持續辨識與討論。」
這番言論也再次引發外界對 AI 意識、AI 情感以及未來 AI 倫理地位的討論。
教廷正式介入 AI 倫理辯論
此次通諭《Magnifica Humanitas》的發布，被視為梵蒂岡正式全面介入全球 AI 治理與倫理討論的重要里程碑。Olah 在結尾呼籲，未來 AI 發展不能只交由科技公司主導，而需要宗教團體、政府、學者與公民社會共同參與監督。他表示：
「我們需要那些不會被利益機制扭曲的道德聲音。」
他認為，這場於梵蒂岡展開的對話，可能只是全球 AI 倫理合作的開端。
