英偉達補齊推理側閉環:聯手Equinix與Together AI,向企業開放模型推理

華爾街見聞
09/03

英偉達聯手全球最大數據中心託管商Equinix及AI推理平台Together AI,三方分工合作——Equinix提供託管、Together AI提供推理平台、英偉達提供GPU及軟件棧,共同為企業客戶提供開放模型推理服務。此舉標誌着英偉達將算力生態從訓練側延伸至推理側,補全完整閉環。

英偉達正把AI基礎設施的版圖從訓練側延伸到推理側。

周三,英偉達與全球最大數據中心託管商Equinix及AI推理平台公司Together AI達成合作,聯合為企業客戶提供開放模型推理服務,補上從模型訓練到推理部署的最後一環。

按照三方分工,Equinix提供數據中心託管,Together AI提供推理平台,英偉達提供GPU及軟件棧。三方把硬件、軟件與託管能力打包,直接切入企業級AI應用的推理環節。

這一合作是英偉達在推理側生態的關鍵補位。公司此前在訓練側已建立起領先地位,如今借開放模型推理向企業客戶延伸,進一步拓寬其算力生態的覆蓋面。

對Equinix而言,此次合作同樣意味着它在萬億美元級的AI數據中心建設熱潮中,找到了企業級開放模型推理這一差異化切入點。

三方分工:託管、平台與算力的組合

在此次合作中,Equinix負責數據中心託管,Together AI提供推理平台,英偉達提供GPU及軟件棧。

在萬億美元級的AI數據中心建設熱潮中,Equinix作為全球最大數據中心託管商,通過與英偉達和Together AI的綁定,將自身定位聚焦於企業級開放模型推理這一細分領域,成為這輪合作中同樣受關注的受益方。

三方合作的核心目標,是幫助企業客戶運行開放模型的推理工作負載,而非將算力侷限於少數頭部模型廠商。

英偉達押注開放模型的邏輯清晰。首席執行官黃仁勳近期發表公開文章闡述開源AI的重要性,獲得幾乎所有主要AI公司聯署。在其看來,AI模型和應用是英偉達GPU的互補品,開源模型的繁榮意味着更準確、更廣泛的算力需求。

推理收入已超訓練,英偉達補上閉環

據英偉達投資者會議透露,約18個月前,英偉達的訓練與推理收入大致各佔一半;如今推理收入已超過訓練,且這一差距預計將繼續擴大。

與此同時,新興雲服務商貢獻的AI計算基礎設施收入已超過50%,增長動力正從傳統超大規模雲廠商向更廣泛的AI算力生態擴散。

在訓練與架構側,英偉達此前已密集落子。

通過技術許可協議引進Groq核心團隊及其 LPU 技術,並計劃在下一代Vera Rubin 架構(Groq 3 LPX) 中深度融合 LPU;擬以129億美元收購開源AI平台Hugging Face。

此次聯手Equinix與Together AI,則是英偉達把佈局延伸至推理側的關鍵一步,使其算力生態覆蓋從模型訓練到推理部署的完整鏈條。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10