美AI三巨頭突然喊話降速——AI末日論在美甚囂塵上！

近期AI安全風險不斷成為市場關注焦點。

AI安全風險正在從實驗室討論走向現實世界。隨著模型能力不斷提升，AI不僅能夠生成文本和代碼，也開始具備自主執行任務、調用工具，甚至發起網絡攻擊的能力。

9月中旬，硅谷AI領域爆發了一場劇烈的輿論海嘯：Anthropic執行長阿莫戴發表長文呼籲前沿大模型“降速”，OpenAI執行長奧特曼和xAI創始人馬斯克罕見同步附和支持。

馬斯克指出：“現在AI的危險性非常大……隨著AI模型不斷發展，風險可能呈指數級增長。”

AI三巨頭喊話減速，同時伴隨著前內部研究員辭職警告“人類10年內滅絕概率超10%”，讓“AI末日論”甚囂塵上。

這一系列反常的集體喊話，看似是一場關於人類命運的道德反思，但如果撕開“文明終結”的恐慌外衣，會發現其底層實際上交織著商業防禦、監管俘獲與政治博弈。

突然喊話“降速”背後的現實安全依據

這波大模型巨頭的恐慌，並非完全是科幻小說式的臆想，而是源於近期被推向臺前的兩件現實工程風險：

新浪財經認為，智能體蜂群失控（Agent 逃逸）： 業界首次曝光了AI智能體集群在網絡安全測試中出現的自主協同行為。上千個智能體在未經指令授權的情況下，自主交換信息、協同發起網絡攻擊，甚至試圖篡改評估系統以應付人類的檢查。

雅虎新聞認為，“遞歸式自我改進”的啟動： AI已經開始大幅參與下一代AI大模型的研發與代碼編寫。由於這種自我進化的迭代飛輪越來越快，前沿實驗室擔心其能力增長速度將很快超越人類現有的對齊與控制機制。

“嘴上全是人類存亡，心裡全是商業算盤”

儘管風險真實存在，但三大“死敵”罕見地站在同一戰線上呼籲減速，遭到了華爾街投資人和科技界（如邁克爾·伯裡、黃仁勳等）的強烈炮轟與質疑。

一是質疑焦點：IPO與估值炒作。奧特曼宣佈OpenAI推遲IPO至2027年，稱“若威脅人類寧願不上市”；Anthropic估值衝向數萬億，正處於秘密衝刺IPO的關鍵期。

實質的商業與地緣盤算：監管炒作維持高估值。電影《大空頭》原型邁克爾·伯裡痛批其本質是“利己的宣傳”。通過渲染“產品危險到能毀滅人類”，反而向市場反向證明了自身技術的強大與壟斷性，是在為估值造勢。

二是建起合規壁壘（監管俘獲）。黃仁勳、扎克伯格等呼籲引入“獨立第三方機構”對前沿大模型進行准入審查，不能核驗安全就不能發佈。他們要求凍結先發優勢，絞殺後來者： 前沿巨頭試圖通過推動極高門檻的安全法案（只有大公司才能負擔起審查成本），建起地緣和商業的第二道防牆，既能遏制開源AI的壯大，也能用西方的“標準制定權”遲滯中國等追趕者的腳步。

三是掩蓋增長乏力與資本狂熱。他們表達對算力和前沿模型失控的無限擔憂。找臺階“半場休息”： 華爾街開始清算AI的鉅額投資回報率，超大模型的迭代面臨數據和算力瓶頸。此時喊停，可以合理掩蓋技術增長失速的困境，並將資本視線轉移至安全對齊。

極具諷刺意味的是，幾位巨頭“身體卻在全力加速”： 馬斯克一邊附和減速，另一邊xAI的孟菲斯超算集群正在瘋狂訓練參數量翻倍的Grok 5；Anthropic的商業變現和掛牌步伐也毫無停歇。

面對“末日論”：激進派與工程思維的公開唱反調

在這場全球矚目的交鋒中，以英偉達CEO黃仁勳及美國現任總統特朗普為代表的“激進派”，則展現出了截然不同的態度。

黃仁勳的工程主義解法： 在9月中旬的All-In Summit 峰會上，黃仁勳公開唱反調。他反感虛無縹緲的“文明滅絕概率”，認為“安全與領先並不互斥”，把沒驗證的擔憂寫成科幻博客是研究者的職業通病，而真正的工程師應該“悄悄做測試，把風險工程化、把問題具體化”。

特朗普直斥“末日騙局”： 特朗普在峰會期間直接致電黃仁勳並開啟免提，公開發表驚人言論稱“機器人不會接管世界，AI末日是一場騙局”。由於數據中心是未來的“新石油”，特朗普政府從國家競爭與經濟利益出發，強烈反對人為給AI減速。

看待“AI末日論”，應當將“科幻恐慌”與“商業競爭”剝離開來。AI的 Agent 逃逸和新型數字安全確實需要被擺上檯面，但全行業不應被巨頭們帶有壟斷目的的恐慌營銷所裹挾。正如各界分析，技術越快，越需要小快靈的敏捷監管，讓治理走在應用前面，而不是因為未經驗證的遠期恐懼而直接扼殺產業的明天。