OpenAI首款定製芯片Jalapeno交付樣品,在部分測試中優於英偉達現有產品

TradingKey中文
08/25

Tradingkey - OpenAI周三表示,與博通AVGO)聯合開發的首款定製芯片Jalapeno已交付工程樣品,目前正在實驗室測試。博通首席執行官Hock Tan稱,早期結果顯示,在典型AI工作負載下,Jalapeno的運行成本較常見AI GPU可能降低約50%。

Jalapeno主要面向大語言模型推理,即模型完成訓練後,負責響應用戶請求和執行任務的階段。OpenAI硬件負責人Richard Ho表示,該芯片在吞吐量和響應速度之間實現了平衡,既能以較低成本服務更多用戶,也能縮短對實時響應要求較高的任務的等待時間。芯片額定功耗約為700瓦,有望降低數據中心的電力支出。

OpenAI稱,Jalapeno在內部測試中表現出較高的每瓦性能,並在部分測試中優於英偉達現有產品。不過,相關結果仍屬於公司早期測試披露,尚未經過大規模商業部署驗證。該芯片沒有針對英偉達最新一代Vera Rubin進行測試,也不用於AI模型訓練,因此短期內不會取代英偉達在訓練領域的產品。

消息公布後,博通股價盤初一度升逾1%,隨後漲幅收窄至0.66%,報361.13美元。

博通股價圖,來源:TradingView

按照計劃,最終版本的Jalapeno將從今年晚些時候開始部署到微軟及其他合作伙伴的數據中心。博通此前預計,明年將部署約1.3吉瓦規模的相關芯片,Tan表示,隨着需求持續增長,實際規模可能高於這一目標。兩家公司還制定了多代芯片路線圖,下一代產品預計於2028年推出,此後將持續迭代。

此次合作是OpenAI擴大芯片供應來源、降低基礎設施成本的重要一步。除了繼續大量採購英偉達產品外,OpenAI還與AMD、Cerebras等芯片廠商達成合作,並計劃在芯片、內存、網絡和數據中心繫統等環節加強控制。公司今年早些時候已籌集約1220億美元,用於投入芯片、數據中心和人才。不過,OpenAI如何支付大規模芯片訂單,仍有待後續孖展安排確定。

原文鏈接

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10