作者：布萊恩・索齊

　　OpenAI 首席執行官山姆・奧特曼，似乎正被自己參與打造的、如同噩夢一般的人工智能產物深深困擾，甚至難以安睡。

　　美國東部時間凌晨 0 點 57 分左右，奧特曼在 X 平台發文表示：「人工智能的發展存在兩種必須規避的災難性走向。第一，我們可能會對人工智能失去對未來的掌控。這是無法接受的。我們堅定站在人類一方，人工智能必須始終服務於人。想要做到這一點，我們必須保證對齊技術與安全手段的發展速度，跑在模型能力迭代的前面。」

　　他接着寫道：「第二種風險，是世界出現權力的高度集中。如果某個人或者某家企業掌握能力極強的人工智能，並將自身世界觀強加給所有人，結局將是極度反烏托邦的。規避上述兩大威脅，需要走好一條狹窄的中間道路。舉例來說，某一個國家攫取過大權力，或是某一家實驗室手握過多話語權，都屬於這類風險。」

　　短短兩天之內，Anthropic 首席執行官達里奧・阿莫代伊與奧特曼這兩位 AI 行業巨頭，接連對由他們主導、並帶領頂尖研發團隊加速推進的這項強大技術發出警示。

　　阿莫代伊於周六在個人博客中表示：「過去幾個月，我愈發確信，想要充分應對相關風險，需要更加審慎行事。不只是投入資源防範風險，還要管控 AI 能力的迭代速度，為風險防控留出追趕的時間。我們必須放緩人工智能模型的能力提升節奏。整體技術依舊會保持較快發展，我們要善用爭取到的時間。」

　　阿莫代伊發文之後，奧特曼隨即表態，認同這位競爭對手的觀點。

　　接連發聲之前，已有兩名 AI 研究人員對前沿高級 AI 模型的危險性表達擔憂。

　　上周早些時候，雅各布・考克森宣佈從 Anthropic 離職。他稱，無論是 Anthropic 還是 OpenAI，在研發高性能人工智能系統這件事上，都沒有承擔起應有的責任。

　　隨後，Anthropic 的對齊科學負責人埃文・哈賓格在考克森帖子下回復，認可這位前員工的看法。他認為，這項技術存在超過 10% 的概率會 「致使全體人類消亡」。

　　特朗普總統周日對這類安全擔憂提出反駁。他表示：「我們在人工智能領域領先中國。我們是全球技術最先進的國家，坦白說，我希望維持這一優勢，因為誰贏得人工智能競賽，就能贏得未來。」

　　受上述擔憂情緒影響，周一 AI 板塊頭部股票承壓，市場擔憂 AI 技術發展或將遇阻。閃迪盤前下跌 5%，英偉達盤前下跌 3%。

　　約克維爾艾夫斯公司創始合夥人丹・艾夫斯向雅虎財經表示：「我認為達里奧的文章加上周末行業討論，會造成周一開盤短暫走弱，但市場很快就會反彈。投資者很快就會看清，儘管行業上演這番輿論風波，但未來五年 5 萬億美元的 AI 投入大局不會發生實質改變。」