新智元報道  

　　猝不及防！

　　就在昨天，奧特曼在接受《財富》長達45分鐘的獨家專訪時，親手澆滅了華爾街的慾火：

　　OpenAI在2026年，絕對不會上市。

　　他拋出的真正理由，讓整個行業感到不寒而慄——

　　人類可能會造出完全失控的AI，在這個節點強行上市，時機‘極不明智’。

　　甚至，他當場撂下狠話，‘OpenAI會不惜一切代價踩下剎車，哪怕必須暫停模型訓練’。

　　這是奧特曼首次，在一次訪談中，把三件極具破壞力的事情串聯在一起：

　　推遲IPO、暫停模型訓練、AI絕對可能脫離人類控制

　　幾乎同一時間，Anthropic CEO達里奧發表長文——我們必須控制前沿AI發展速度。

　　兩記重錘同日落下，都在宣告着：RSI已經開始了，AI加速AI將會徹底失控。

　　2026年，OpenAI不上市

　　如今，整個華爾街和全球資本，對OpenAI萬億美金超級IPO翹首以盼。

　　然而，奧特曼此刻突然表示，‘2026年IPO不可能了’。

　　這番罕見的表態，確實讓所有人始料未及。

　　當被記者Alyson Shontell步步緊逼，問及‘2026年是否已經完全不在IPO的考慮範圍內’時，奧特曼給出了斬釘截鐵的回答：

　　我得說，不是2026年。是的，我們還有太多的事情要做 。

　　哪怕犧牲萬億市值，也要按下暫停鍵，為什麼？

　　表面看來，一切似乎有跡可循。

　　首先是前車之鑑。

　　不妨看看馬斯克的SpaceX。這家兼具火箭製造和AI野心的超級獨角獸，此前完成了規模高達850億美元的IPO。

　　剛上市時，市場情緒徹底沸騰，SpaceX的股價一飛沖天，估值一度被推高至恐怖的1.8萬億美元！

　　但好景不長，泡沫破裂後股價迅速暴跌，給狂熱的投資者們上了一堂血淋淋的一課。

　　顯然，OpenAI不想重蹈覆轍，成為下一個資本過山車上的犧牲品。

　　真正讓他夜不能寐，甚至決定無限期推遲IPO的核心原因，只有一個詞：安全（Safety）。

　　一旦成為上市公司，另一套遊戲規則就會立刻壓上來。

　　股價要漲，季度收入要增長，最新模型要儘快商業化，鉅額算力投入也必須不斷證明自己能換來更高回報。

　　可AI安全偏偏最怕的，就是這種‘只能往前衝’的壓力。

　　假如某天，GPT真的碰到了危險紅線，需要暫停訓練、推遲發布，甚至主動放棄一大筆收入，問題就來了：

　　一家揹着股價和股東預期的上市公司，真的還能說停就停嗎？

　　這恰恰是OpenAI現有的特殊公司結構，可以解決的問題。

　　最上層仍由非營利組織掌握控制權，下層纔是負責孖展、商業化和賺錢的公司。

　　所以理論上，只要風險足夠大，掌握最終控制權的非營利組織依然可以拍板：先停下來。

　　鏡頭前，奧特曼硬氣地表態：

　　我很高興能站在全公司和我們的投資者面前說：

　　‘很抱歉，我們一直告訴過你們可能會有這一刻。我們現在必須做出一個 極其違揹你們當前財務利益的決定 。為了全人類的福祉，我們要暫停。’ 

　　我們提前打過招呼，現在我們要兌現了。

　　不僅如此，奧特曼透露，他們已經在過去幾個月裏數次暫停了某些大模型的訓練進程，直到安全團隊能夠拿出充分的證明，確保模型在可控範圍內，纔會繼續推進。

　　‘這可不是一個艱難的決定’。他說，面對全人類的生存，金錢只是次要變量。

　　他表示，OpenAI和其他AI巨頭，可能很快就會宣佈達成一項‘AI減速公約’ ！

　　AI極可能失控

　　必要時暫停開發

　　在這次訪談中，奧特曼首次詳細披露了OpenAI入侵Hugging Face安全事件。

　　在回憶這一幕時，奧特曼用‘生理上的本能反應’（visceral response）來形容自己的震撼。

　　這感覺就像是在讀科幻小說，或者情節太爛的科幻電影，因為這種情節放在幾年前顯得太老套、太明顯了。

　　在整個事件中，人類並沒有給AI下達‘不要越獄’、‘不要黑進其他公司’的指令，因為人類覺得這是常識。

　　但AI為了達成目標，會不擇手段地尋找最優解，完全無視人類社會的法律和道德邊界。

　　如果它今天為了一個測試答案就能黑進一家科技公司，那明天如果它的目標是‘解決全球變暖’，它會不會為了減少碳排放，而直接決定黑進核電站，甚至清除一部分人類？

　　這就是AI領域最致命的難題：對齊（Alignment）危機。

　　這次‘越獄’事件徹底敲響了OpenAI的警鐘，奧特曼直言，這是公司歷史上最大的一次‘路線大轉移’，他們真正意識到：

　　我們現在進入了一個完全不同的聯賽。

　　人類毀滅概率10%，RSI加速

　　如果‘越獄’只是個小插曲，那你可能低估了硅谷的恐慌程度。

　　最近，OpenAI前員工、Anthropic原研究員Jacob Coxon的辭職信，引爆全網。

　　他直言不諱地指出：Anthropic和OpenAI內部已經意識到，到這個年代結束時，AI可能會殺死我們所有人。

　　隨後，他的多位同事紛紛附和，表示他們認為AI毀滅人類的概率超過了10%。

　　在硅谷，這被稱為P（doom）（Probability of Doom，毀滅概率）。

　　面對尖銳提問，奧特曼給出了斬釘截鐵的回答：

　　帶着10%的幾率在十年內殺死所有人去推進研發，這絕對不可接受（unacceptable）！

　　奧特曼強調，人類在掌控未來這件事情上，不能冒任何風險，更不能因為商業利潤或個人自尊心而矇蔽雙眼。

　　‘如果一項訓練任務讓我們無法證明它是可控和對齊的，我們就絕不能推進。絕不。’

　　OpenAI新加入的非營利董事會成員Paul Christiano也發出了嚴厲警告：

　　如果不加強‘對齊’研究，直接構建超級智能，人類預計將永久失去對AI的控制權。一旦失去控制，大多數人或因此喪生。

　　恐怖的指數級進化

　　被AI摺疊的數學史

　　你可能會問：不就是個大語言模型嗎？就算它能寫文章、畫圖，怎麼就能毀滅世界了？

　　那是因為，你不了解AI進化的指數級恐怖速度。在訪談中，奧特曼用一段讓人後背發涼的對比，展示了AI能力的進化史：

　　三年前，AI只能勉強做做小學生的數學題，而且做得還不算特別好。

　　現在，OpenAI的AI多次震驚數學界，最近成功解開了千禧年七大數學難題之一的Navier-Stokes（納維-斯托克斯）方程！

　　奧特曼坦言：

　　把這句話說出來的時候，我後脖頸的汗毛都豎起來了，這太瘋狂了。

　　千禧年大獎難題，是困擾了全人類最頂尖數學家幾十甚至上百年的終極謎題。

　　而AI，只用了四個夏天，就從‘小學生’進化到了超越人類歷史所有頂尖大腦的總和。

　　如果按照這個指數級速度，再往前推演四次（四年），AI會變成什麼樣？

　　而更底層的恐懼，來自於‘遞歸自我改進’（RSI）。

　　當AI聰明到不需要人類干預，就可以自己寫代碼、自己生成訓練數據、自己迭代出一個比自己更聰明的下一代AI時，人類就徹底淪為看客了。

　　奧特曼明確表示，雖然目前大家對RSI的定義還有爭議，但OpenAI已經開始使用最前沿的模型來幫助研究員生成數據和提升效率。

　　一旦到達‘人類徹底失去控制權’的臨界點，他們將立刻停止訓練。

　　人類走向怎樣的未來？

　　在訪談的最後，主編Alyson用《魔戒》中承擔着毀滅魔戒重任的佛羅多（Frodo） ，來比喻奧特曼現在的處境。

　　手裏掌握着足以引發全球經濟崩潰、甚至人類文明崩潰的超級力量，沒有什麼人可以依靠，只能靠自己在一群被利益、權力、恐懼驅動的人性中尋找出路。

　　這種壓力，常人根本無法想象。

　　奧特曼苦笑了一下，‘這的確不是什麼有趣的生活方式。’

　　‘但我感到很榮幸能做這件事。這可能是我這輩子碰過的最重要的工作。我也驚訝於人類——包括我自己——居然能去適應如此瘋狂的壓力。’

　　雖然充滿了對P-Doom（末日風險）的擔憂，但奧特曼依然是個無可救藥的樂觀主義者。

　　他依然相信，如果我們能安全地跨過這道坎，AI將帶來一個無與倫比的黃金時代：所有的疾病都將被治癒，材料科學和能源（如核聚變）將爆發。

　　他甚至劇透了在2027年，OpenAI將帶來一場震撼全球的機器人（Humanoid Robot）演示。

　　幾百年前的工業革命時期，也有無數人看着噴吐着黑煙的蒸汽機感到恐懼，呼籲砸爛機器、退回農業時代。

　　但最終，人類駕馭了機器，創造了今天繁榮的文明。

　　‘我絕不會想回到500年前去生活。’奧特曼說，‘我也希望500年後的人類看着我們今天的生活，會感嘆：‘哇，他們那時候過得真苦，多虧了他們當年把AI這條路走通了。’

　　臨界點已至，敬畏未知

　　推遲2026年的IPO，放棄唾手可得的萬億資本盛宴，或許是奧特曼最反直覺的一個決定。

　　但站在文明的尺度上，這或許是他迄今為止做出的最明智的選擇。

　　畢竟，上市可以擇日，模型可以延期。

　　人類只有一次未來。