Tradingkey - OpenAI周三表示,與博通(AVGO)聯合開發的首款定製芯片Jalapeno已交付工程樣品,目前正在實驗室測試。博通首席執行官Hock Tan稱,早期結果顯示,在典型AI工作負載下,Jalapeno的運行成本較常見AI GPU可能降低約50%。
Jalapeno主要面向大語言模型推理,即模型完成訓練後,負責響應用戶請求和執行任務的階段。OpenAI硬件負責人Richard Ho表示,該芯片在吞吐量和響應速度之間實現了平衡,既能以較低成本服務更多用戶,也能縮短對實時響應要求較高的任務的等待時間。芯片額定功耗約為700瓦,有望降低數據中心的電力支出。
OpenAI稱,Jalapeno在內部測試中表現出較高的每瓦性能,並在部分測試中優於英偉達現有產品。不過,相關結果仍屬於公司早期測試披露,尚未經過大規模商業部署驗證。該芯片沒有針對英偉達最新一代Vera Rubin進行測試,也不用於AI模型訓練,因此短期內不會取代英偉達在訓練領域的產品。
消息公布後,博通股價盤初一度升逾1%,隨後漲幅收窄至0.66%,報361.13美元。

博通股價圖,來源:TradingView
按照計劃,最終版本的Jalapeno將從今年晚些時候開始部署到微軟及其他合作伙伴的數據中心。博通此前預計,明年將部署約1.3吉瓦規模的相關芯片,Tan表示,隨着需求持續增長,實際規模可能高於這一目標。兩家公司還制定了多代芯片路線圖,下一代產品預計於2028年推出,此後將持續迭代。
此次合作是OpenAI擴大芯片供應來源、降低基礎設施成本的重要一步。除了繼續大量採購英偉達產品外,OpenAI還與AMD、Cerebras等芯片廠商達成合作,並計劃在芯片、內存、網絡和數據中心繫統等環節加強控制。公司今年早些時候已籌集約1220億美元,用於投入芯片、數據中心和人才。不過,OpenAI如何支付大規模芯片訂單,仍有待後續孖展安排確定。
原文鏈接