SemiAnalysis最新對談:OpenAI與Anthropic雙雄爭霸、谷歌掉隊,編程喫下近半Token

華爾街見聞
07/23

生成式 AI 產業正迎來極其關鍵的商業化拐點——行業重心正從粗放式的「預訓練算力堆疊」,全面轉向「企業級 ROI 兌現與高毛利 API 戰」

知名 AI 與半導體研究機構 SemiAnalysis 在最新對談中,對大模型行業的競爭格局、算力金融化模式及盈利邏輯進行了深入的討論。分析師任務,編程與軟件工程已成為代幣(Token)消耗的核心引擎,驅動前沿實驗室的收入重心由消費端全面轉向高毛利的企業級 API。

在競爭格局上,OpenAI 憑藉新模型與 Codex 成功打出反擊,與 Anthropic 演變為雙雄爭霸,而谷歌則因算力綁定與戰略失誤淪為第五。同時,AI 能力的提升正從預訓練轉向強化學習(RL)擴展定律,催生出百億美元級別的 RL 環境數據市場。各大廠商在算力變現、訂閱補貼擠壓與企業預算控制之間展開了新一輪博弈。

核心觀點

  • 編程喫下大半Token需求: 編程與軟件工程已成為當前最消耗 Token 的場景,前沿實驗室 API 收入中 70% 以上來自於編程。重度企業用戶單人每年在 AI 上的支出已高達 10 萬美元。

  • 訂閱制「補貼打折」,實驗室倒逼 API 遷移: 200 美元/月的 Pro/Max 訂閱能換取價值 8000 至 12000 美元的 API 額度,平均利用率僅需 5%~10% 即可讓實驗室虧損。實驗室正全力將用量向毛利率 85%+ 的 API 端引導。

  • OpenAI 憑藉 5.6 與 Codex 強勢反撲: 年初一度陷入停滯的 OpenAI 憑藉 5.5、5.6 版本及 Codex 重新發力,企服 API 收入迅速回升,與 Anthropic 演變為平分秋色的「雙雄爭霸」格局。

  • 谷歌淪為「第五名」,算力鎖定引發人才出走: 谷歌 Gemini 表現不及預期,且因簽署了缺乏「回收條款(Clawback)」的長期 TPU 出租協議,導致自用算力受限,引發 DeepMind 頂尖人才流失。

  • xAI 算力出租新玩法與 Meta Neocloud 保底: 馬斯克以 3-4 倍市場溢價將 Colossus 算力出租給 Anthropic,但附帶 90 天算力回收條款;Meta 則計劃推出 Neocloud 作為資本支出(CapEx)的保底變現方案。

  • RL 擴展定律接棒,單條環境任務賣出上萬美元: 強化學習(RL)成為提升大模型能力的最核心 Scaling Law,各大實驗室今年數據預算將超 100 億美元。高質量軟件工程 RL 任務單價已突破五位數。

一、 企業代幣預算控制與編程場景的崛起

SemiAnalysis 團隊觀察到,隨着企業 AI 支出的增加,許多機構正在步入緊縮時代並嚴格審查 AI 預算。

然而分析師指出,盲目限制員工使用高級模型或將開發者排除在外的政策極其短視。

數據顯示,編程與軟件工程已成為目前最消耗代幣的使用場景,佔到前沿實驗室 API 收入的 70% 以上。重度企業用戶單人每年在 AI 上的支出高達 10 萬美元,且帶來了清晰可見的投資回報率(ROI)。因此,企服市場的代幣消費並未因預算審查而停滯,反而呈現出向高效編程場景高度集中的趨勢。

二、 訂閱制補貼難以為繼,實驗室倒逼流量走向高毛利 API

在商業模式方面,SemiAnalysis 分析指出,現有的固定月費訂閱制(如 Pro 或 Max 計劃)存在嚴重的補貼與負毛利問題。

當用戶的代幣利用率僅達到 5% 至 20% 時,訂閱服務就會觸及盈虧平衡點甚至虧損。

為了改善財務狀況,前沿實驗室正積極引導企業客戶從低毛利的訂閱制轉向毛利率高達 85% 以上的 API 按量付費模式。例如,Anthropic 的企業計劃已不再包含固定用量,全面實行 API 定價,這助推其在第二季度實現了營業利潤盈利。

三、 OpenAI 憑藉 5.6 與 Codex 實現翻盤,與 Anthropic 平分秋色

針對前沿模型的競爭,SemiAnalysis 團隊認為,此前一度陷入增長停滯的 OpenAI 已成功實現翻盤。通過發布 5.5、5.6 版本模型以及 Codex 工具,OpenAI 在企服 API 領域的收入快速回升,其消費端與企業端的收入比例已逆轉為 40:60。

相比之下,Anthropic 憑藉早期在編程數據上的激進投入和極其聚焦的企業級定位,保持了極高的付費轉化率。雙方在月度淨增 ARR 上已重回同等量級,開啓了明確的雙雄爭霸格局。

四、 第三名之爭與算力策略分化,谷歌陷入困局

在其他競爭者的排位中,SemiAnalysis 認為谷歌的 Gemini 模型表現不及預期,已跌落至行業第五名。

其根本原因在於谷歌簽署了大量缺乏「算力回收條款(Clawback)」的長期 TPU 出租協議,導致自身在關鍵時刻無法調集足夠算力進行頂級模型訓練,進而引發 DeepMind 頂尖人才的流失。

相反,xAI 採取了高溢價出租算力並附帶 90 天強制回收條款的靈活策略,既實現了資金變現,又保留了衝擊 AGI 的算力彈性;而 Meta 則將算力出租作為資本支出的保底變現方案(Neocloud)。

五、 代幣即服務(TaaS)爆發與芯片初創公司的路徑選擇

隨着企業對模型選擇多樣性和合規性的需求提升,代幣即服務(TaaS)呈現爆發式增長,在雲巨頭的營收佔比中顯著提升。

分析師認為,三大超大規模雲廠商(AWS、Azure、GCP)憑藉既有的企業分銷渠道和合規優勢,佔據了 TaaS 市場的絕大部分份額。

雖然獨立推理初創公司得益於整體市場蛋糕的擴大而快速增長,但對於硬件/芯片初創公司而言,僅靠與第三方 TaaS 平台合作難以實現長期突破,未來必須建立自己的 Neocloud 或與前沿實驗室展開直接合作。

六、 RL 擴展定律接棒預訓練,高端數據環境成為百億級新戰場

SemiAnalysis 強調,強化學習(RL)已取代預訓練,成為當前提升大模型能力最重要的擴展定律(Scaling Law)。

前沿實驗室今年在 RL 環境數據上的預算總和將遠超 100 億美元。為了訓練 AI 自主完成複雜的白領與工程任務,市場催生出了專門的 RL 環境初創產業鏈。由於創建高質量、無歧義且需要人類工程師耗時整天設計的工程任務極具挑戰,實驗室願意為單條頂級編程 RL 環境任務支付上萬美元的報酬,這表明 AI 數據產業正在從低端標註向高智力價值轉型。

以下為訪談全文,由AI輔助翻譯:

Jordan:大家好,歡迎回到 SemiAnalysis 周報。今天是第 20 期,我們和代幣經濟學(Tokconomics)團隊在一起。事情發展得非常快,我們是在 7 月 15 日星期三錄製這一期的。我猜等到這一期播出的時候,市場上又會有更多模型發布,以及這些公司關於其盈利能力、收入和活躍用戶數的最新披露。無論如何,我們現在要記錄當前這個時間點,討論一下代幣預算規劃(Token Budgeting)、Meta 的計算策略、MSL 期貨、Fable 和 Soul 的發布,以及 Anthropic 的利潤率。非常興奮能深入探討這些內容。今天和我在一起的是 Max,你怎麼樣,夥計?

Max:非常好,謝謝邀請我。

Jordan:歡迎。我們還有 Crystal,近來怎麼樣,Crystal?

Crystal:嘿,Jordan。

Jordan:還有 Joey。

Joey:嘿,Jordan。

Jordan:酷。那麼我們要從代幣預算開始。Crystal,交給你了。這段時間我們一直在和很多企業溝通,詢問他們情況如何。在 SemiAnalysis,我們仍然在最大化利用代幣(Token Maxing),但其他企業正步入緊縮時期。你能帶我了解一下你在寫這篇文章時的發現嗎?

Crystal:是的,現在有很多企業正在嚴查預算,因為他們認為員工花得太多了。是的,很多人感到害怕,因為他們會想:「哦,如果我沒有足夠的代幣來完成工作怎麼辦?」但我認為情況未必如此,而且這適用於大多數人,對吧?因為很多人甚至遠遠沒有達到那個上限。每家公司可能只有少數幾個重度超級用戶會真正受到影響。但除此之外,我認為它對大多數人工作流程的影響,並沒有社交媒體上傳播的那麼大。據我們觀察,公司一直採取許多不同的策略,無論是按個人分配,還是給整個公司制定月度預算。我認為按公司制定預算顯然比按個人分配合理得多,畢竟有些用戶從中所創造的使用價值會比其他人多得多。

Jordan:那你看到大家實際上是怎麼執行這一點的?顯然,如果你直接使用超級豪華的最大化思維模型(Max Thinking Model),預算很快就會燒光。但在某些情況下,當真正執行預算時,大家會採取不同的方法,對吧?

Crystal:是的,沒錯。所以我看到有些人——我和一些人聊過,他們屬於規模較小的公司,預算要小得多。他們的做法是,嘗試優化如何針對像 Anthropic 或 OpenAI 這類較昂貴的代幣進行使用。他們會先用較便宜的模型處理大量內容並壓縮成較短的提示詞(Prompt),然後再使用更昂貴的模型,或者使用公司不計入預算的模型。關於到底哪些模型會被計入預算,存在很多差異。有些企業把自己的自研模型算進預算,但有些企業不算。所以如果企業不計入,很多人就會傾向於把那些免費模型推到極限、大量使用,然後再去用那些真正要花錢的模型。

Jordan:你還看到人們——也許 Max 我可以讓你聊聊這個。你最近看到越來越多的人把代幣花在編程上,而不是其他使用場景,對吧?這似乎是增長最快的市場。

Max:是的,我認為編程/軟件開發總體上是目前為止最消耗代幣的使用場景。實際上我認為這就是為什麼很多關於代幣預算的討論顯得相當……我認為很多預算本身是非常盲目的。比如我聽到有人說,他們想確保銷售人員不用 Opus 或 Fable 來寫郵件,所以要求他們必須改用 Sonnet。這就像是,哥們,從代幣的角度來看,生成封郵件幾乎是免費的。你用 Opus 還是 Sonnet 來寫這封郵件根本無關緊要。我完全無法理解為什麼你要制定這樣的政策來減少代幣支出。我還聽到很多公司的奇葩規定,比如只允許工程團隊使用 Cloud Code 或 Codex,而其他人只能用 Codework 之類的東西。我認為這非常短視。老實說,你不應該建立一個工程師高高在上、其他人只能被迫使用次等工具的等級制度。你真的應該給每個人嘗試這些工具的機會,找出如何利用它們提高效率。

Jordan:是的。Joey,你現在在使用這些模型嗎?如果我有權限使用而你沒有,你會怎麼想?

Joey:我可能會……是的,我確實在使用一些權限,雖然沒有 Max 和 SemiAnalysis 的其他人用得那麼多,但這可能只是我們目前工作的性質所致,現在情況也在改變。但是是的,我會相當生氣,因為我仍然大量使用 Opus 4.8 來拉取各種數據源做 AI 研報任務,做更多研究類型的任務。嗯,是的,我會非常生氣。

Jordan:你怎麼看待 ROI(投資回報率)的問題?我認為對很多人來說,代幣預算背後的整個動機顯然是有人還沒有看到這項投資的回報。要麼是沒看到,要麼是還沒顯現出來。但結合你做的很多研究,你會發現使用它有很多好處,對吧?

Joey:是的,我認為鑑於目前市場非常專注於編程,現在前沿實驗室在 API 方面的 ARR(年度可重複收入)有 70% 以上來自於編程領域。其次,據我們所知,這主要是由超級用戶和頭部企業驅動的。編程應用非常廣泛。對於 Anthropic 來說,並沒有單一家獨大的客戶。比如 Meta 大約佔 Anthropic 總 ARR 的 3% 到 5%,但整體主要是由超級用戶驅動的。如果你在其中一家公司達到了超級用戶的程度——我認為 Ramp 的數據表明,排名前 1%(即 99 百分位)的公司,每位員工每年在 AI 上的支出高達 10 萬美元。如果你達到了那種程度,說明你顯然獲得了相當不錯的 ROI。在我們與許多企業的交流中,這些頂尖工程師的支出甚至可以遠超有限的預算上限。但如果你是一個花了天價卻看不到 ROI 的人,你的預算很快就會被砍。我認為大家總會嘗試一些最終放棄的項目,廢棄之後繼續前行。但很明顯,因為市場高度專注於編程,人們獲得了 ROI,所以他們會繼續支出。我們持續聽到 Anthropic 和 OpenAI 的淨增 ARR 都在擴大——特別是 OpenAI 從 3 月下旬推出 Codex 以及 5.5、5.6 版本以來,API 代幣的支出明顯在擴大。

Jordan:是的,有很多 traditionally(傳統上)不做大量開發工作或不專注於此的組織,只允許中後台人員使用 Copilot 365 或 SAT 之類的工具。但我認為市場會繼續擴大。當談到個人的具體使用時,你們怎麼看應用程序中的 API 使用與編程訂閱計劃之間的平衡?你們和他們交流時,會問他們是在用 Cloud Code 訂閱制,還是按代幣付 API 費用嗎?

Max:嗯,我的意思是,任何能用訂閱制的人絕對應該用訂閱制,純粹是因為補貼太高了。OpenAI 和 Anthropic 對此非常精明,所以當他們推出企業計劃時——比如 SemiAnalysis 用的就是 Anthropic 企業計劃——他們根本不讓你用訂閱制,強迫你按代幣付費,因為他們知道那纔是利潤所在。但我認為總的來說,能用訂閱制的人都會用訂閱制,只有那些需要突破限制的人才會去付 API 費。

Crystal:我甚至和幾家初創公司的人聊過,他們根本沒買 Team 班或 Enterprise 企業版。他們就是每個月買 5 個(或者任何所需數量的)Claude 或 OpenAI 個人訂閱,刷公司卡。如果達到了已有賬戶的限制,他們當月就再買一個,因為對他們來說,這樣運營比直接走 API 計費划算得多。

Max:但是是的,如果你是一家足夠年輕的初創公司,根本不在乎安全性或任何企業級保障,那就絕對應該給每人買 10 個訂閱,而不是付 API 額度。我們最近做的一項研究(有一條相當火的推文)指出,對於 Codex,每月 200 美元的訂閱大約可以換來價值 12,000 美元的 API 額度;而 Anthropic 每月 200 美元大約能換來 8,000 美元額度。顯然,對於能在兩者之間選擇的人來說,這完全是不假思索的選擇。

Jordan:Max,你能再深入講講這個嗎?當你談到這些業務的利潤率概況,再對比訂閱計劃與 API 時,情況到底是什麼樣的?我把螢幕上那張推文串裏的核心圖表調出來。

Max:好的。[清嗓子] 嗯,是的。本質上,當你聽說每月 200 美元的計劃能產生價值 8,000 美元的 API 額度時,如果平均用戶的利用率接近 100%,那麼訂閱制的利潤率就會低得多。所以真正關鍵的問題是:在我們整個用戶群中,實際的平均利用率是多少?Jordan 剛纔展示的圖表就是各個計劃的盈虧平衡百分比。我們可以看到,對於 Claude Max 20x 計劃,盈虧平衡點只有 10%。對於 Pro 和 5X 計劃,稍微好一點,是 20%。而 OpenAI 因為在訂閱限制上更加慷慨,Plus 和 Pro 5X 計劃的盈虧平衡點更低,為 11.4%,Pro 20X 計劃甚至只有 5.7%。我們相當確信,尤其是對於這些 20x 計劃,Anthropic 和 OpenAI 的平均利用率遠高於 10% 和 5.7%。這意味着,這些 20x 計劃的利潤率不僅比 API 差(我們認為 Anthropic 的 API 利潤率至少在 85% 以上),甚至整體上可能是負利潤率。因此,這些公司當然希望將儘可能多的用量轉移到 API 上。Joey 寫了一份關於 Anthropic 業務的通訊,這剛好可以引出為什麼我們認為 Anthropic 的處境可能比 OpenAI 更強。

Joey:是的。而且我認為,一旦你轉向 Anthropic 的企業訂閱計劃,訂閱費裏就不包含任何用量了,全都是按 API 定價計算。

Joey:是的,我認為我們在 Anthropic 發現的非常有趣的一點是,因為他們現在的業務——雖然情況正在改變——有 80% 以上的 ARR 來自 API 端,正如 Max 所說,API 是超高利潤率的,所以他們今天已經達到了盈利的狀態。其中一部分是按 Non-GAAP(非通用會計準則)計算(即剔除股權激勵成本),但像營業利潤在第二季度已經盈利,第三季度甚至可能達到 10 億美元以上的利潤。這部分是因為他們增長太快了,招聘速度和重新投入訓練的速度跟不上他們的設想。但正因為他們目前擁有毛利優勢,他們可以把任意多的資金重新砸回模型訓練中,從而擴展其模型優勢和能力優勢。我們認為這顯然是他們應該嘗試去做的。所以,僅僅因為他們今天非常賺錢,並不意味着他們應該立即或儘快維持 30% 的 EBITDA 利潤率來證明這是一個盈利的商業模式,而是應該繼續儘可能多地投入到模型訓練中。

Jordan:是的。你能談談消費級和企業級之間的比例嗎?假設消費級是指那些付費訂閱計劃,而企業級是按 API 使用量付費。當你觀察這些時,顯然大部分 Twitter 用戶都在用訂閱計劃,但隨後你只要拿到一個大客戶,他在 API 代幣上的支出極其龐大,以至於把其他一切都淹沒了,這讓它成為了一門好生意。

Joey:是的。因為 Anthropic 非常專注,他們在歷史上一直專注於企業級。他們 90% 以上都是企業級。相比之下,ChatGPT 從消費級切入,在第一季度,其 ARR 的 60% 來自消費級,而且 9.5 億周活躍用戶中只有 6% 最終付費購買了計劃,大多數人買的是每月 20 美元的計劃。這是完全不同的業務組合,因為 OpenAI 必須為另外 9 億免費周活躍用戶提供服務並承擔成本,這導致他們的綜合毛利率拉低了約 20 個百分點。不過這種情況正在改變。我們個人認為,隨着 OpenAI 的 API 業務自 3 月下旬憑藉 Codex 以及 5.5 和 5.6 版本崛起,二季度消費級與企業級的 60/40 比例已經翻轉為 40/60。據我們從渠道(特別是像 Bedrock 和 Foundry 這樣的代幣即服務/Token-as-a-Service 業務)聽到的消息,OpenAI 已經意識到了這一點並開始轉型,甚至新增 ARR 在 Anthropic 和 OpenAI 之間看起來更加均衡了。

Jordan:是的。隨着 5.6 Six Soul 的發布,這挺令人震驚的。X 上像 Tibo 這樣追蹤每日活躍用戶數的人都在慶祝用戶數突破 700 萬、800 萬。但要明確的是,ChatGPT 免費層有超過 9 億的周活躍用戶。從 9 億的基數來看,真正轉換為完整付費產品的人並不多,轉化率目前並不算高。

Joey:是的,很有趣。你甚至能在 Claude 消費級的付費率上看到這一點:Claude 免費用戶中有大約 9% 最終會付費。所以它的用戶群體要聚焦得多。如果我們看那 9 億周活用戶,很多只是把 ChatGPT 當作谷歌搜索的替代品。消費級業務很難做變現,留存曲線通常相當差,用戶 3 個月、6 個月、12 個月後的留存率很低。廣告也是個艱難的商業模式,很難擴展。雖然他們提出了 2030 年瘋狂的廣告收入目標,但消費級確實不好做。鑑於 API 代幣的利潤率,企業級纔是王道。Anthropic 在今年前六個月憑藉早期在編程領域的槓桿建立了相當好的領先優勢,而到了七月中旬,這似乎正在演變為一場旗鼓相當的雙雄爭霸賽。

Jordan:是的。Crystal,在這場雙雄爭霸中你看到了什麼?

Jordan:你接觸的人裏,大家是在用 Anthropic、Codex,還是兩者都在用?

Crystal:感覺幾周前我和大家交流時,大家使用 Anthropic Claude Code 的比例非常高。如果我問他們為什麼,他們會說「只是習慣了而已」。但現在,隨着消費級用戶使用 ChatGPT 的頻率遠超 Claude,這種效應開始滲透到企業級。以前那些完全不碰 Codex 的 Claude Code 重度用戶,開始覺得「好吧,要不我也試試 Codex?」所以,儘管消費級佔的蛋糕份額很小,利潤率也不如企業級直接,而且 OpenAI 歷史上在消費級市場的表現不如 Anthropic,但他們在消費級領域建立的牽引力最終會滲透進來,我們在過去這一周裏已經開始看到這種跡象了。

Jordan:Max,你的看法是什麼?OpenAI vs Anthropic,對你來說目前處於什麼格局?

Max:我記得上次參加這個播客時,剛好是 5.5 發布的時候,當時我們還在聊年初 OpenAI 的處境有多麼艱難。我認為 3 月和 4 月其 ARR 增長可能是平的,這肯定在 Sam Altman 腦海裏敲響了警鐘。但我們當時預測 5.5 會是一個拐點,它確實是個非常好的模型,大概達到了 Opus 4.8 的水平。而這一預測的發展甚至比我們預期的更快、更樂觀。這裏有些人甚至說 5.6 和 Fable 一樣好,而且價格只有一半。我們還認為它可能是一個小得多的模型,這證明了 OpenAI 出色的訓練能力。正如 Joey 之前提到的,現在 OpenAI 和 Anthropic 之間的月度淨增 ARR 已經旗鼓相當,這相當令人震驚——此前人們有點把 OpenAI 淘汰出局了(Jordan 可能是其中之一 [笑聲]),但夥計們,他們捲土重來了!

Jordan:我很靈活,隨時調整觀點。這一切始終取決於模型,夥計們!大家總是問我什麼時候停止黑 OpenAI,只要他們發布一個足夠好的模型,它就是好模型。對於我想做的事情,我現在基本上默認使用 OpenAI,儘管它的客戶端不支持多標籤頁等功能。

Max:等等,你在用 Codex App 還是 CLI(命令行界面)?

Jordan:CLI。

Max:你的使用形態是 CLI?

Jordan:CLI。

Max:我覺得他們根本不希望你用 CLI,夥計。他們非常積極地想讓你用 App。是什麼讓你退縮了?

Jordan:標籤頁(Tabs)。我需要同時打開多個標籤頁。

Max:好吧。我認為你應該這樣用——因為我同意,我第一次用 Codex 時,每次開新對話,它就消失在左側邊欄的茫茫大海里。正確的用法應該是:每個項目只固定(Pin)一個主線程,任何時候有具體需求,就讓那個主線程去派生子線程(Subthreads)。這樣你實際上根本不需要去管左側邊欄裏的絕大多數線程,只需要用那幾個固定好的主線程就行。

Jordan:是的,那太糟糕了。其次,我一直在遠程 SSH 環境裏工作,他們的遠程體驗很爛。所以對這兩點我非常反感。

Max:有道理。我覺得他們在改進這個,不過明確地說,我不用它來看代碼。

Jordan:謝謝澄清。上次你來的時候我們就討論過,有時你還是得在終端裏運行東西,查看日誌輸出,這並不是標準 Codex App 所擅長的。但我不是他們的目標市場,我明白他們瞄準的是全球的「氛圍感程序員(Vibe Coders)」,幫助大家構建更多 B2B SaaS,這是他們的核心商業模式。我不是目標市場,這沒問題,我會繼續用 CLI。

Crystal:實際上,我好奇他們內部大多數軟件工程師是用 App 還是 CLI。

Jordan:在 SemiAnalysis 肯定全是 CLI。我們所有的硬核工程師都是 CLI 的死忠粉,絕不可能放棄它。

Max:這是個好問題,你下次可以去問問他們。

Jordan:好的,下次見到 OpenAI 的人我會問問。好的,讓我們換個話題,聊聊誰會成為第三名。我們之前討論過一些發布:xAI 捲土重來,他們發布了掛載 Cursor 的 Grok,發展勢頭良好;Meta 推出了 Llama Spark,堆疊了海量算力,並暗示要推出 Neocloud(新一代雲服務)——當然 xAI 是第一個這麼做的。你們想先聊聊模型還是算力?

Max:先聊算力吧,我覺得更更有趣。模型方面一句話總結(TL;DR):它們不差,但在現階段,除非你能交付真正的頂級前沿模型(Frontier Model),否則根本不重要,而它們顯然還算不上真正的頂級前沿,所以誰在乎呢。你覺得會有人把它們的 API 用到爆嗎?

Jordan:在它成為真正的前沿模型之前,我不認為有人會用它們的 API。

Max:是的。當他們提供 API 時,其「代幣即服務」業務也會有極高的利潤率。但這前提是它必須比當時最好的 Anthropic 和 OpenAI 模型更好,這說起來容易做起來難。我覺得像 Grok 4.5、Spark 1.1,它們唯一的價值在於證明擴展曲線(Scaling Curve)依然有效。這就像是:好吧,這些人不像 Gemini,他們目前還在牌桌上,能訓練出合格的模型。雖然還稱不上頂級前沿,但他們有非零的概率能追上來。就我個人而言,我絕對不會把代幣用量轉移到 Grok 4.5 或 Spark 1.1 上。

Jordan:好吧。但你提到了另一個名字,在我看來它現在令人震驚地排在第五位——Gemini,你還是這個觀點嗎?

Max:100% 確定。我認為他們顯然處於第五名。[笑聲] 除非 Gemini 3.5 Pro 比我們聽到的行業傳聞好得多,否則他們可能會永遠停留在第五名。

Jordan:永遠停留在第五名可能與模型質量有關,而模型質量又與他們擁有的算力掛鉤。

Max:是的。當第一次看到 xAI 與 Anthropic 的交易(Elon 把 Colossus 1 號集群的算力幾乎全部租給了 Anthropic)時,我一開始誤解了 Elon 的意圖。但實際上真正的核心問題是:假設你通過擴大算力規模證明了自己確實能夠達到前沿,你是否有能力回收(Claw back)所有的算力? 這就是 Elon 在結合 Cursor 和 xAI 時採取的策略——基本上是在說:「我留給你們足夠的算力去證明你們有能力達到前沿;與此同時,我把所有多餘的算力以極高的利潤率(可能是市場價的 3 倍甚至 4 倍)租出去來實現變現。但我會在每一份合同里加入 90 天回收條款(Clawback Clause)。一旦你們做得非常好,我就把所有算力全部回收拿來自己用。」 對於一個堅信自己能構建出 RSI(遞歸自我提升/AGI)的人來說,這是一個非常有效的策略。你可以這樣理解:OpenAI 和 Anthropic 是通過直接賣推理代幣來將算力變現,而 Elon 則是通過做這些短期算力租賃交易來變現。關於 Meta 算力,有傳言說他們要變成 Neocloud。我認為只要他們採取 xAI 風格的帶回收條款的交易,或者直接提供給外部,或者做「代幣即服務」——只要這種變現方式在理論上允許他們在 Llama 表現出色時把算力全部收回,這就是一個極度明智的決定。這讓他們短期內可以更激進地購買算力,同時長期來看依然保有構建 AGI 的機會。谷歌的問題(也是他們除了 Gemini 3.5 Flash 表現不佳之外排在第五的原因)在於,他們簽署了大量長期算力協議,無法回收租給別人的 TPU,這些算力被長期鎖定。這表明他們自身缺乏構建 AGI 的信念。像 Noam Shazeer、John Jumper 等 DeepMind 頂尖人才的離職,某種程度上就是因為這個事實——他們是堅定的 AGI 信徒,但領導層不是,所以他們認為在這種情況下唯一的出路就是去別的地方工作。

Jordan:哇,好吧,非常犀利的觀點。我想深入探討兩點。第一點與算力回收(Clawback)有關。這確實是一個有效的策略,但你基本上只能回收一次,之後就再也沒有人願意從你這裏購買或信任你了。還是說你認為可以在這兩者之間找到平衡?

Max:在理想狀態下,你只需要回收一次,因為只有當你確信繼續擴展能夠突破至頂級前沿時你纔會這麼做。但我也認為有可能不只回收一次。原則上 Anthropic 將其視為短期交易。如果 Elon 六個月後說「我要全部收回」,一年後又說「開玩笑的,我們其實還是訓練不出前沿模型」,而此時 Anthropic 業務極其火爆、急需算力,他們為什麼要拒絕呢?

Jordan:是的,經濟利益能讓敵人變成朋友。第二點是關於商業模式,Joey 我想請你聊聊。哪種商業模式更好?是銷售你自己的前沿模型(或接近前沿模型)的代幣,還是以高於市場價的溢價短期出售算力訪問權?

Joey:銷售自己的代幣絕對是最好的模式。哪怕你是 AWS 或 Azure,銷售別人的代幣也是相當不錯的商業模式(如果你能參與上行收入分成的話)。但如果你能以高於市場價的速率運行算力,這也是個不錯的生意。關於 Meta 的算力出租,這個方案其實已經討論了一段時間了(從去年第三季度就有人提出)。這給扎克伯格提供了一個兜底方案:如果 Llama 不夠成功,他們也有辦法在資本支出上獲得體面的 ROI。這讓他們可以在 2027 年乃至 2028 年放膽投入鉅額資本支出,因為市場需求擺在那裏。Anthropic 願意支付 3 倍市場價就是一個信號。投資者可以感到安心:即便 Llama 被認定不成功,Meta 也能轉型為一個優質的 Neocloud 業務,專門為各大實驗室提供服務。

Jordan:是的。但你們在 Meta 算力文章裏的那張圖表非常驚人——xAI 和谷歌的協議以市場價 4 倍的速率將算力變現。雖然過去你說的很有道理,但我有點想質疑:這種近期的 GB300 租賃協議難道不是極好的生意嗎?利潤率顯然高得離譜,對吧?

Joey:是的,利潤率高得驚人。當你計算每吉瓦(GW)的 ARR 時,很多人只要能在推理端獲得 480 億美元的實際代幣 ARR 就非常高興了。谷歌那筆交易看起來不是很划算,但 Meta 算力出租是在向市場講一個故事:他們能夠複製 xAI 的模式(除非需求呈指數級爆發導致大家瘋狂搶購 GPU,否則這可能是一次性的)。Neocloud 本身就是個很好的生意,每吉瓦產生 120 億到 500 億美元的收入。而且各大實驗室在提升每吉瓦代幣吞吐量方面做得太出色了,新模型定價也更高。比如 Anthropic 每兆瓦(MW)收入去年是 1600 萬美元,現在在三個季度內翻了一倍多,有些人認為兩到三個季度內還能再翻倍。

Jordan:讓我們看看這個趨勢。我把圖表放在螢幕上。整個「代幣即服務(TaaS)」市場有兩點深深震撼了我:第一,增長速度極其恐怖。我以為去年第四季度的市場規模已經很大了,但與你們預測的今年年底的數字相比,去年顯得微不足道 [笑聲],正如你所說,翻了不止一倍。第二,微軟 Foundry 在這裏的表現太糟糕了。

Joey:隨着最近 OpenAI API 的成功,Foundry 的數據會被向上修正。此前 Foundry 90% 的用量來自 OpenAI,而 OpenAI 此前極度偏向消費端,API 還沒爆破。Foundry 現在好一些了。相比圖表,Vertex(谷歌)可能會因為 Gemini 的表現而更差一些。但要看最新的 Tokconomics 預測,你得付費訂閱,夥計,我們不能免費白送 [笑聲]。不過我們這次好歹把座標軸留着了。當我們和企業交流時,代幣即服務(TaaS)是非常受歡迎的消耗代幣的方式。AWS 和 Azure 與 Fortune 500 強企業有鉅額業務往來,企業客戶每年在雲端砸數億美元。如果我能直接找現有的雲廠商,擁有更多的模型選擇權,消耗已有的企業協議(ELA)或抵扣額度,這對 AWS 和 Azure 的客戶來說都極具吸引力。半年前 TaaS 可能只佔 Anthropic 業務的 5%,現在很可能已經佔到了 20%。

Jordan:Crystal,你如何看待大家選擇三大超大規模雲廠商的 TaaS,還是選擇 Smaller(較小)的初創公司(如 Together、Base10、Fireworks,或者 OpenRouter 上的任何服務)?

Crystal:隨着越來越多的傳統大型企業介入——比如金融服務業在 AI 的利用上還有巨大的潛力未被釋放——這就是 Azure 和 Bedrock 受益的地方,因為這些企業本來就是他們的客戶。一旦他們獲得了內部合規批准,就會直接通過既有渠道購買,這佔據了市場的絕大部分份額。

Jordan:有道理。Max,你呢?你如何看待 Together、Fireworks、Base10 這些初創公司的 TaaS 增長?相比於綁定大型實驗室的雲巨頭,它們發展得怎麼樣?

Max:它們都是非常令人印象深刻的企業。我確實預計開源代幣用量的增長速度會慢於前沿模型(Frontier)代幣用量,但這僅僅是因為前沿代幣用量將會呈現絕對的爆發式增長。開源代幣用量同樣會爆發,只是程度略低一些。有趣的是,如果你和投資 Together、Fireworks、Base10 的風投(VC)聊,他們最喜歡的邏輯是:「推理將是有史以來最大的市場,所以哪怕這些公司只能在這個超級巨大的蛋糕裏切下一極其微小的份額,也足夠讓我們賺翻了。」 這個論點基本上是對的。我不指望它們的用量能超過 OpenAI 或 Anthropic,但在未來它們依然會是極好的企業。

Jordan:關於它們可以綁定大型實驗室的傳聞怎麼看?比如 xAI 贏了一點,Fireworks 就因為綁定了 Cursor 而跟着暴漲。

Max:我不認為這能長期持續。Fireworks 能獲得曝光是因為最初 Composer 曾基於 Chem 進行後訓練。如果你是一個從零開始構建前沿模型的實驗室,沒有任何理由相信 Fireworks 的工程師在模型優化上會比你自己的工程師更強。因此我不認為它們未來能分走這部分利潤。

Jordan:那為什麼三大雲巨頭能分走這部分利潤呢?

Max:因為雲巨頭擁有 Neocloud 所不具備的企業分銷渠道。Anthropic 讓利給 Bedrock,並不是為了讓亞馬遜工程師去優化 Claude 的運行速度,而是為了讓所有依賴 Bedrock 的現有企業客戶能夠直接使用 Claude。

Joey:我們聽到傳聞說,這筆協議可能會重新談判。因為最初的條款對 AWS 過於有利(能拿 20% 到 30% 的收入分成)。雲廠商擁有龐大的客戶基礎,企業對它們的安全與合規非常放心。但當時交易達成是因為亞馬遜有推動 Trainium 芯片工作的激勵。我們拭目以待看這種收入分成能否持續。

Jordan:讓我再為非雲巨頭的 TaaS 初創公司做一次多頭辯護(Bull Case)。從 AWS 和谷歌買 TaaS 的一大好處是他們的工程師在優化 Trainium 和 TPU。但現在有一整批芯片初創公司正在推向市場,它們最直接的路線就是與 TaaS 初創公司合作——頂級前沿實驗室不會花時間去為你這個「第七好的芯片初創公司」做優化,但如果芯片初創公司與 TaaS 合作,為某個模型做出了比英偉達性價比高得多或性能強得多的優化,它們就有機會創造極其獨特的價值。你認為這些內核工程師(Kernel Engineers)未來會不會走這條路?

Max:這一點很有道理,短期內可行。但如果任何新芯片初創公司真正達到了足夠的規模,前沿實驗室就會直接組建內部團隊來確保模型在該芯片上完美運行。絕不可能出現一種情況:一種比英偉達好得多且大規模出貨的新加速器出現後,OpenAI 居然要依賴 Together 去幫他們在該芯片上運行模型,而不是直接與該芯片公司合作開發第一方能力。

Jordan:你認為它會走 Cerebras 的路線——芯片公司為了成功,最終必須自己變成 Neocloud,並與前沿實驗室建立直接聯繫。好的,有道理。

最後我們可以聊聊 Meta 的 MSL(Massive Scaling Law)。Max,我非常喜歡文章裏關於強化學習(RL)的速成課——不僅是從技術角度,更是從商業角度(人們去哪裏買數據、如何構建環境、市場格局如何)。你能宏觀介紹一下嗎?過去在預訓練時代,誰有頂尖團隊和最多算力,誰就能訓練出最大最強的模型;但現在有了與 RL 相關的擴展定律(RL Scaling Law),這在宏觀上是如何演變的?

Max:是的。我認為讓每個人理解強化學習(RL)是當今提升模型能力最重要的 Scaling Law,這一點至關重要。很多人相信,阻礙模型像人類一樣在電腦上完成任何工作的唯一障礙,就是缺乏足夠的 RL 環境(RL Environments)。這種數據能讓模型在其中嘗試自主完成白領任務,反覆試錯直到徹底掌握解法。現在出現了一整套全新的產業鏈/供應鏈——RL 環境初創公司。它們的工作就是將現實世界中具有經濟價值的任務轉化為 RL 環境,然後賣給實驗室用來訓練模型。

在圖表上可以看到主要參與者。我認為其中一些 ARR 數字甚至被低估了。目前行業共識是,今年前沿實驗室(OpenAI、Anthropic、Google、Meta、xAI,以及亞馬遜、微軟、Thinking Machines 等)的總數據預算將遠超 100 億美元,相比去年增長了 10 倍以上,2027 年極有可能再翻 10 倍。對於這些初創公司來說,客戶需求根本不是問題,實驗室絕不會因為價格太貴而拒絕合同,唯一的問題是你能否足夠快地生產出高質量的數據——只要能,實驗室願意支付任何代價。順便提一句:Anthropic 的模型此前在編程領域最強(至少在 5.6 Soul 出來之前),核心原因就是他們在向這些 RL 環境初創公司購買編程數據時最為激進。其他實驗室也開始意識到這一點並全力追趕。

Jordan:你能深入講講創建這些任務的過程嗎?你在文章中提到 Meta 調動了數千名工程師做這項工作,並澄清了「數據標註是毫無意義的苦力活」這一偏見——實際上它既有巨大的經濟價值,又極具智力挑戰。

Max:是的,我說過它可能比你在大廠做日常工作更有經濟價值,也更能啓發智力。很多人聽到「AI 數據」,還以為是菲律賓的外包人員在畫標註框或者給色情暴力文本打標籤。哥們,模型早就徹底解決那些簡單任務了!現在的數據只有在包含模型還不會做的知識時才有價值。

在軟件工程領域,這意味着要製作一個好的 RL 任務,通常需要一個優秀的人類工程師花費整整一天的時間去設計,確保這是模型目前無法自主完成的任務。你需要坐下來構思一個真實的工程問題,編寫驗證器(通常是一套集成測試和評分標準,用來檢查模型是否真正成功解決了問題)。你還需要為模型撰寫 Prompt(提示詞),這需要在兩個矛盾的因素間取得完美平衡:一方面提示詞必須 100% 公平明確,不能因為提示詞不夠具體導致模型少做了隱性步驟而誤判模型失敗;另一方面,提示詞必須真實、自然,符合人類在現實中向 AI 提問的方式。把握這種平衡極度困難。我們聽說,對於質量最高的編程任務,實驗室願意為單個任務支付超過五位數(上萬美元)的報酬!這已經達到了一個優秀工程師一周的薪水水平。所以這絕不是令人昏昏欲睡的簡單勞動。各位聽衆,如果你正在找工作,且極其擅長創建 RL 任務,你現在的年薪可以達到七位數(百萬美元以上)。

Jordan:這會讓不少聽衆感到興奮。你能更具體地分享一下,如何在「對 AI 而言太簡單」和「對 AI 而言不可能完成」之間找到那個平衡點嗎?

Max:老實說,這個標準一直在變。八個月前我自己也向實驗室賣過環境數據,當時創建數據比現在容易得多。今天,你通常需要識別出模型現有的特定失敗模式(Failure Mode),然後專門針對該失敗模式設計 RL 任務。檢驗難度是否合適的唯一方法,就是讓模型嘗試解決 10 次,看成功率是多少,然後不斷迭代。如果這是你第一次嘗試,你的第一個想法幾乎肯定太簡單了——嘗試把它變難 10 倍,也許就能達到合適的難度水平。

Jordan:非常有意思!好了各位,今天我們進行了一場旋風般的深入探討。在我們聊完代幣預算、Anthropic 利潤率、Meta 算力、MSL 之後,Crystal,我們還有什麼遺漏的嗎?

Crystal:我想不出來了,最近光顧着看世界盃了。我們錄製時是 7 月 15 日星期三,啱啱目睹了阿根廷 2-1 逆轉絕殺英格蘭。辦公室裏的一群英國同事現在在樓下全抑鬱了,太瘋狂了。

Jordan:Joey,你在結束前有什麼想說的?

Joey:沒什麼,代幣支出目前一路飆升,形勢很好。我非常期待下周開始的雲巨頭財報,谷歌、亞馬遜、微軟會陸續發布,營收頂線應該會非常好看。

Jordan:好的,最後讓我們來一輪 Vibe Check(氛圍/心態調查)。Joey,你對市場的態度是什麼?

Joey:只要實驗室的 ARR 在良好增長且沒有減速,我覺得一切都很棒。現在 OpenAI 正在追趕,整體氛圍很好。雖然過去幾天半導體板塊有些波動,但那只是夏季動盪。等大家度完假回到辦公室,半導體在一年內還會暴漲,一切都會好起來的。

Jordan:是的,暑期過後我們會看到加速增長。Joey 會打出 84 杆的高爾夫好成績,看着實驗室 ARR 暴漲並心滿意足。Crystal,你的 Vibe 如何?

Crystal:我覺得非常好,和 Joey 說的一樣。我需要在 AI 泡沫破裂前離開舊金山,所以在太晚之前我要趕緊搬走。

Jordan:Crystal,你覺得這是泡沫?接下來我們應該公開談談我們的賭局了。

Joey:是的!輸家有懲罰。Max 提出了一個輸贏盤(Over/Under):Anthropic 的 ARR 到 2027 年底能否達到 4000 億美元

Jordan:是的,2027 年。Joey,你現在不能把我們模型的實際數字透露給他們,他們得付費訂閱 Tokconomics 模型才能看 [笑聲]。那麼,誰押了 Over(大於),誰押了 Under(小於)?

Max:我押了 Under(低於)。

Jordan:我押了 Over(高於)。

Joey:Jeremy 和我(Joey)都押了 Under。但我們還沒決定具體的賭注是什麼,今年內我們會弄清楚的。

Jordan:上周我們在 Rays 聚會時你們看到我們的籌碼了嗎?我抽了一張 20 加元,Rake 拿出了 200 新加坡元,還有一些盧比 [笑聲],Dylan 拿出了歐元,桌上有五種不同的貨幣。所以不管你們押什麼,我都跟進加幣,和 Max 一起押 Over!因為我們是指數外推主義者!

Max:沒錯!輸家必須寫一篇 Newsletter 詳細解釋自己為什麼預測錯了。

Jordan:太棒了!我們還要在 SemiAnalysis 內部搞一個預測市場,押注 Jeremy(SemiAnalysis 創始人 Dylan/Jeremy)每周的代幣消耗量,搞一個 Over/Under 讓大家都參與進來。Meta 內部不是在搞類似 PolyMarket 的預測市場嗎?我們也來搞一個。

Max:哥們,Meta 趕緊把那個內部項目關了吧,他們在幹嘛呢 [笑聲]。

Jordan:我們就建立一個押注 Jeremy 代幣消耗的市場,我喜歡這個點子。嘿 Jeremy,我押了 6000 盧比在你身上,這周給我狠狠地壓榨數據中心儀表板,夥計!

好了,感謝各位抽出時間,希望聽衆們喜歡這一期。讓我們重回工作,繼續追蹤那些代幣吧!

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10