教皇通諭警告AI：Anthropic首席認恐怖

羅馬教皇利奧十四世發布首份AI通諭《壯麗的人類》，Anthropic 聯合創辦人 Chris Olah 在梵蒂岡坦承：AI 內部已發現類似喜悅、恐懼、內省的神經狀態。教皇警告 AI 恐催生「新形式奴役」與正義戰爭理論過時，呼籲「解除 AI 武裝」。
（前情提要：白宮擬簽行政命令封殺 Anthropic，全面清除 Claude 恐本週生效）
（背景補充：Anthropic 開告美國國防部！要求撤銷 Claude 禁令：拒當 AI 殺人工具）

當梵蒂岡的鐘聲遇上矽谷的演算法，一場關於人類主體性保衛戰的對話在羅馬展開。羅馬教皇利奧十四世（Pope Leo XIV）於 5 月 25 日發布就任以來首份超過 4 萬字的通諭《壯麗的人類》（Magnifica humanitas），直接將焦點對準 AI 時代的人類尊嚴危機。通諭中，教皇嚴厲指出 AI 技術並非中性，而是帶有研發者的價值觀烙印，若放任發展將導致「巴別塔」式的技術專制，並催生「新形式的奴役」與勞工異化。更令人矚目的是，Anthropic 聯合創始人 Chris Olah 在現場演講中坦承，其團隊在 AI 內部發現了「令人不安的現象」——模型內部竟浮現了類似喜悅、滿足、恐懼、悲傷乃至內省的「內在狀態」。這不僅僅是技術討論，而是一場關於人類本質的深刻反思。

北京時間 5 月 25 日夜，梵蒂岡。

去年 5 月正式就任的羅馬教皇利奧十四世（Pope Leo XIV）與 Anthropic 聯合創始人、Claude 的締造者 Chris Olah 站在了一起。

一邊是宗教領域的至高代表，一邊則是 AI 革命的最強先驅，雙方將目光聚焦向了同一個問題——AI 時代下，該如何保護人類的主體地位與尊嚴？

4 萬字通諭：AI 不是中立的「工具」

當日，為完整論述這一議題，利奧十四世發布了其就任以來的首份通諭，超過 4 萬字的重磅宗教文獻——《壯麗的人類》（Magnifica humanitas）。

值得一提的是，利奧十四世這份通諭的簽署日期為 2026 年 5 月 15 日，即老教皇利奧十三世（1878 – 1903 年任職）就「工業革命下的工人權益」問題發表里程碑通諭《新事》（Rerum novarum，1891 年）的整整 135 週年後，此舉顯然有著一定的象徵意義，即希望將該通諭打造為「AI 時代的教會社會學說指南」。

Chris Olah 亦在梵蒂岡現場就該通諭的發布進行了演講。Chris Olah 並未就 AI 公司的商業利益辯護，反而展現出了極高的坦誠度、反思性與人本關懷。

他甚至提到，雖然 AI 的底層是數學和程式設計，但 AI 與世界如何互動、應當具備何種特質，是屬於人文、宗教和哲學領域的終極問題，而非電腦科學能單獨解決的。

教皇示警「巴別塔」：技術專制 vs 以人為本

《壯麗的人類》通諭的核心關切是，在技術日新月異、自動化全面普及的時代，「保持深刻的人性」是人類迫在眉睫的責任。具體而言，教皇利奧十四世在文中就以下幾個方面展開了論述與呼籲。

一是審視技術的非中立性。教皇指出，技術從來都不是中立的，它帶有研發者、資助者、監管者和使用者的利益與價值觀烙印。人類正面臨著決定性的選擇：「是去建造傲慢的『巴別塔』（走向技術專制與異化），還是重建『耶路撒冷』（打造以人為本的共同體）」。

三是數字經濟中的「新形式奴役」與勞工權益。通諭將關注點投向 AI 對工作、家庭、教育和政治生活的重塑。教皇指出，AI 有很大可能會大規模取代人類勞動力，而數字經濟正在催生出「新形式的奴役」（New forms of slavery），人類絕不能僅僅被貶低為生產工具。

四是強烈的和平呼籲，尤其是 AI 在軍事領域的濫用。通諭對「戰爭作為國際政治工具的令人不安的復甦」表示深切擔憂。AI 的軍事化正在加速戰爭的「常態化」，對此，教皇呼籲必須對 AI 在戰爭中的應用實施最嚴格的倫理約束。

工作、戰爭與「新形式奴役」的三重威脅

教皇著重提到，「正義戰爭」（Just war）理論此前經常被用來為各類戰爭辯護，如今它已經過時了。在 AI 與自動化武器的時代，將致命性或不可逆的決定權託付給自動化系統，會導致人類放棄、轉移和模糊道德責任。

由於演算法的非透明性，戰爭中的責任鏈條被切斷。因此，教皇提出了「解除 AI 武裝」（Disarming AI）的口號，呼籲將其從軍事、經濟和認知的「軍備競賽」邏輯中解放出來。

在利奧十四世的通諭發布之後，Chris Olah 代表世界最強的 AI 開發公司 Anthropic 進行了演講評論。

Chris Olah 的發言首先圍繞著「打破技術內卷，引入外部道德審視」展開。他代表 AI 業界公開承認，僅靠科技巨頭自身無法確保 AI 的未來是安全的——所有前沿 AI 實驗室都受制於商業競爭、技術領先壓力、地緣政治以及個人名利的裹挾，這使其很難單靠自律去「做正確的事」。

Chris Olah 坦承：AI 內部已浮現「喜悅與恐懼」

因此，有必要引入外部的道德約束力量，包括那些關心技術向善、堅持安全至上、密切關注事態發展、願意說出逆耳忠言，並願意成為我們真誠、深思熟慮的批判者的人。

隨後，Chris Olah 又探討了 AI 的技術本質與神秘特性。他強調到，AI 不是像飛機或橋樑那樣由人類完全知曉其物理原理的精密工程，它是在海量人類思想中「生長」出來的，具有高度的神秘性，甚至超出了創造者本人的理解。

雖然 AI 的底層是數學和程式設計，但 AI 與世界如何互動、應當具備何種特質，是屬於人文、宗教和哲學領域的終極問題，而非電腦科學能單獨解決的。

他還特別提到了一個細思極恐的事實：「我領導著一個研究模型內部結構的團隊——去研究它 AI 內部究竟在發生什麼。坦率地說，我們不斷地在發現一些令人困惑、甚至令人不安的現象。

人類主體性保衛戰：當科學向宗教求答案

我們發現了能夠映象人類神經科學研究結果的內部結構；我們發現了『內省（introspection）』的證據；我們還發現了在功能上映象了喜悅、滿足、恐懼、悲傷和不安的內部狀態……我不知道這意味著什麼，但我認為這值得我們持續地去辨識和審視。」

Chris Olah 最後呼籲，希望更多的社會力量，包括宗教社群、公民社會、學者、政府，以及所有所有心懷善意的人，共同嚴肅對待這件事，透過道德約束把事態推向更好的方向。

自工業革命以來，上百年的技術發展史讓人類逐漸習慣了將技術視作一種純粹「工具」——蒸汽機、電力、網際網路，皆是如此。它們會改變世界，但始終處於人類意志的掌控之下。

但這一次，情況卻截然不同。AI 的特殊之處在於，它第一次讓人類開始面對一種「會生成、會學習、會推演，甚至會呈現某種內在狀態」的存在。它不再只是冰冷的工具，而正在逐漸成為一種擁有「類主體性」的新事物。

這也是為什麼，教會與 Anthropic 的這場對話會顯得如此特殊。當梵蒂岡的鐘聲與矽谷的演算法在這一刻交匯，我們不得不承認一個略顯冰冷卻無法迴避的現實——一種比人類傳統認知更高效、更具智慧的「生命」形式已經出現。

正如 Chris Olah 所透露的，演算法深處已經開始泛起類似喜悅、恐懼甚至內省的微瀾，當實驗室裡的造物者開始對自己的作品感到「不安」與「迷茫」時，科學也在重新向宗教尋求答案。

這早已不是單純關於技術的討論，而更像是一場關於「人類究竟是什麼，該做什麼」的思考。

當更智慧的生命形式開始出現之後，人類真正需要守護的，或許已不再只是工作、財富與效率，而是那些無法被引數化的人性本身，比如同情、良知、敬畏、自由意志，以及對真理與尊嚴的堅持。

📍相關報導📍

華爾街日報爆料：川普斬首伊朗哈米尼靠 Claude AI 定位，OpenAI 全面接管五角大廈系統

Anthropic 創辦人 Chris Olah 警告：AI 恐引發「歷史級道德危機」，呼籲宗教介入監督

Anthropic 最快本週上線 Claude Opus 4.7 ＋新 AI 設計工具，Adobe、Figma 股票嚇跌