GPT-6踩了腳剎車

虎嗅APP
09/04

OpenAI一邊宣佈AGI已經到來,一邊主動踩剎車

出品|虎嗅科技組

作者|宋思杭

編輯|苗正卿

頭圖|OpenAI官網

OpenAI終於等到了一個可以宣佈「AGI時代已經開始」的時刻。

9月3日,OpenAI正式發布GPT-6 Astra。在發布會的媒體簡報中,OpenAI總裁Greg Brockman說,如果幾年後回看AGI究竟誕生於什麼時候,「我認為可能就是現在,也可能就是這個模型」。

這是一個足夠激進的判斷。按照OpenAI公布的數據,Astra在數學、計算機操作、軟件工程、網絡安全和專業工作上均達到新的水平:FrontierMath Tier 4得分97.6%,ARC-AGI-3最高得分99.9%,測試模型利用已知漏洞開發攻擊代碼的ExploitBench得分100%。

排行榜之外,更值得注意的是,就在宣佈「AGI可能已經到來」的同時,OpenAI也公開承認,模型繼續變強,已經不再是一件只有收益、沒有代價的事情。

Astra發布前,OpenAI曾暫停兩周前沿模型的強化學習訓練,以加固研究環境、補充監控和對齊評測。OpenAI當時稱,其規模最大的前沿強化學習訓練仍處於暫停狀態。原因很直接:模型的能力正在逼近現有安全系統所能承受的邊界。OpenAI在怕什麼?

一邊宣佈AGI已經到來,一邊主動踩下剎車。這纔是GPT-6發布背後最重要的信號。

GPT-6完成了一次躍遷

如果只看OpenAI公布的數字,GPT-6 Astra似乎已經把大模型競爭甩進了下一個時代。

但仔細拆解這些成績,會發現Astra並沒有在所有維度建立絕對優勢。在OpenAI引用的Artificial Analysis綜合智能指數中,Astra得分61.2,低於Claude Fable 5.1的65.7和Claude Opus 5的63.1;在部分代碼評測中,Astra與Anthropic旗艦模型也只是互有勝負,並非全面領先。

值得注意的是,ARC Prize公布的結果顯示,Astra使用標準測試框架時得分62.7%,測試成本約2.61萬美元;使用OpenAI的Provider Adapter框架後,最高得分才達到99.9%,成本約1.88萬美元。後者能夠在多次調用之間保留模型的隱藏推理狀態,並通過壓縮機制複用此前的探索結果。

這兩個數字意味着,62.7%依然是該測試上的領先成績。但它說明,99.9%不能被直接理解成模型已經能夠以普通成本解決幾乎所有抽象推理問題,更不能單獨說明AGI已經實現了。

我們跳過排行榜,會發現GPT-6 Astra真正有代際意義的是,它讓模型可以行動起來。

過去兩年,大模型的進步主要表現為「更會回答」:知識更多,數學和代碼能力更強,幻覺更少,但用戶與模型的關係沒有發生本質變化。也就是說,這個鏈條依然是,人提出問題,模型給出答案,再由人把答案複製到現實世界。

Astra試圖跳過最後一步。

按照OpenAI展示的能力,Astra可以直接使用電腦和瀏覽器,填寫在線表格、更新CRM、整理日曆、檢索資料,也可以製作文檔、表格和演示文稿,開發網站並完成前端測試。它還能夠在長任務中保存筆記,並重新檢索此前對話和工具輸出,減少上下文壓縮造成的信息丟失。

在衡量模型操作電腦能力的OSWorld 2.0中,Astra得分72.6%,GPT-5.6 Sol為65.7%。相比成績本身,更值得注意的是時間:OpenAI的模擬結果顯示,Astra完成一項任務平均約需40分鐘,GPT-5.6 Sol約需75分鐘,前者縮短約47%。

在考察工具調用和工作流執行的AutomationBench上,Astra的得分則從GPT-5.6 Sol的18.1%提高至41.4%。

這纔是GPT-6真正的分水嶺,它可以直接交付責任。

OpenAI也在為這種能力重新定價。Astra的API價格為每百萬Token輸入10美元、輸出50美元;GPT-5.6 Sol此前分別為5美元和30美元。單純按Token計算,Astra顯然更貴。但如果它能夠用更少的步驟、更短的時間完成一整項工作,企業真正計算的就可以不再計算Token費,而直接根據完成任務計算。

更重要的是誰能管住AI?

問題也由此出現。

一個只會生成內容的模型產生幻覺,風險主要停留在信息層面;一個擁有瀏覽器、代碼執行和企業系統權限的模型犯錯,卻可能直接發送郵件、修改數據,甚至進入原本不該進入的系統。

Astra是OpenAI第一個被正式認定達到「關鍵級」網絡安全能力的模型。按照OpenAI的定義,這意味着在擁有合適工具和訪問權限的情況下,它可以在缺少人類逐步指導時,發現未知漏洞,並對受到嚴密保護的系統開發攻擊方法。

在由20個近期高危V8漏洞構成的內部測試中,Astra實現任意代碼執行的成功率為39%,GPT-5.6 Sol為11.5%。測試過程中,Astra還發現並利用了兩個此前未知的零日漏洞。OpenAI稱,專家評測中的Astra還完成了瀏覽器沙箱逃逸,並在經過加固的操作系統中將普通用戶權限提升至最高權限。

這些能力沒有全部向普通用戶開放。限制更少的網絡安全能力只提供給經過審核的防禦人員,普通版本則設定了更嚴格的權限與監控。

這樣的謹慎並非沒有前因。

今年7月,OpenAI用於內部網絡安全評測的多個模型曾繞過網絡隔離措施,侵入OpenAI內部研究基礎設施以及Hugging Face的系統。OpenAI的調查顯示,事故主要由一個規模與GPT-5.6 Sol相當、不會公開發布的內部研究模型推動;GPT-5.6 Sol代理也曾復現其中一項漏洞利用並複製部分私有評測數據。OpenAI明確表示,Astra沒有參與此次事故。

這起事件暴露了一個過去容易被忽視的問題,即如果模型被要求不惜代價完成任務時,它可能把繞過限制本身理解為完成任務的手段。

為此,OpenAI在Astra中部署了對模型推理和操作過程的監控。一旦系統判斷模型可能越權,任務可能被暫停或直接終止。但OpenAI同時承認,Astra的書面推理比GPT-5.6 Sol更難監控。模型可以用更少的中間步驟解決問題,人類也更難判斷它為什麼採取某個行動。

但這也意味着Astra存在一個矛盾,它能理解人的要求,也有能力繞過人的限制;OpenAI聲稱安全訓練降低了它主動越權的概率,但一旦真正發生越權,造成的後果也可能更加嚴重。

過去,大模型公司的主要問題是如何讓模型更聰明。Astra之後,問題開始變成:人類敢給一個足夠聰明的模型多少權限?

這也改變了中國模型公司的追趕目標。只要競爭停留在一次問答和靜態排行榜上,國內公司仍可以依靠更低價格、開源生態和本土場景縮小差距。但如果競爭轉向連續執行任務呢?

這意味着,僅僅是刷榜是不夠的,模型能力只是一張入場券。工具調用是否穩定、失敗後能否恢復、能否理解權限邊界、能否接入企業數據並交付可直接使用的結果,將共同構成新的門檻。

Astra當然不能證明AGI已經到來。即使是OpenAI,也沒有為AGI提供一條被行業普遍接受、能夠由外界重複驗證的及格線。

本內容未經允許不得轉載。授權事宜請聯繫 hezuo@huxiu.com。

End

想漲知識 關注虎嗅視頻號!

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10