OpenAI被曝瘋狂掃貨Mac,一買就是幾萬台。
一不小心給買斷貨了,還要想盡辦法搞到更多。
Macbook筆記本不要,專買沒有螢幕、沒有鍵盤的Mac mini和Mac Studio。
那麼問題來了:什麼樣的AI業務,英偉達GPU和谷歌TPU搞不定,非得用Mac?
幾萬台Mac搞強化學習,A\也幹了
據Information消息,OpenAI已經購買了數以萬計的Mac mini和Mac Studio,專門用於強化學習。
不只是OpenAI,Anthropic也在通過亞馬遜雲服務AWS租用Mac mini來做類似的任務。
這些Mac被用來訓練」計算機使用智能體」(computer-use agent),也就是能自主操作電腦、完成編輯測試代碼、自動整理郵箱、總結文檔等多步驟任務的AI系統。
這股熱潮直接反映在了蘋果財報上。
最近一個季度,Mac銷售額按年增長近29%,達到103億美元,增速超過了iPhone、iPad等蘋果旗下所有其他產品線,Mac成了蘋果增長最快的業務。
6月23日,蘋果總部Apple Park舉辦了一場名為」Business at the Park」的活動。這在蘋果歷史上並不常見,蘋果向來專注消費者市場,極少專門面向企業客戶辦活動。
這場活動迪士尼和福特的高管到了,Anthropic聯合創始人Jared Kaplan也到了,蘋果即將卸任的CEO Tim Cook和即將接任的John Ternus都在。
據一位參會者透露,蘋果在活動上反覆強調其硬件非常適合在本地處理AI任務,Mac mini是整場活動的焦點。
AI訓練長期以來由英偉達GPU主導,但Mac能在強化學習這個細分場景中被大規模採購,靠的是統一內存。
英偉達GPU的顯存和系統內存是分開的,數據在兩者之間傳輸會產生瓶頸。蘋果M系列芯片則採用單一共享內存池,CPU和GPU直接訪問同一塊內存,在處理AI工作負載時具備性能優勢。
另外,與輕薄的MacBook不同,Mac mini和Mac Studio配備了專門的散熱系統,長時間運行復雜AI任務不會因為過熱而降頻。這對需要持續數小時甚至數天的強化學習訓練來說至關重要。
蘋果還在推廣EXO Labs開源軟件項目,可以將多台Mac組成集群,在本地運行萬億參數級別的AI模型。
蘋果啱啱發布的新款Mac Studio也特別強調了集群能力,多台Mac Studio可以串聯組成更強大的系統來運行前沿模型。
這次新品發布的時間也不尋常。蘋果通常在每年10月或11月進行年末更新Mac產品線,這次提前到了8月。
英偉達盯上了,蘋果倉促應對
Mac在本地AI領域的崛起已經引起了英偉達的注意。
據一位與英偉達高管討論過競爭形勢的知情人士透露,英偉達將蘋果視為本地AI領域最大的競爭對手。
去年底,英偉達發布了DGX Spark,一款與Mac mini設計風格相似的AI桌面電腦,直接瞄準這個市場。
蘋果這邊面臨供應跟不上的現實問題。
AI數據中心對內存芯片的巨大需求導致了歷史性的全行業短缺,蘋果也未能倖免。
對AI開發者最有吸引力的高配版Mac mini和Mac Studio已經斷貨數月。
蘋果前AI產品企業營銷經理Todd Dailey透露,過去一年由於Mac供應受限,一些企業已經開始尋找替代方案,英偉達DGX Spark是被頻繁提及的選項,而且現在有現貨。
Dailey今年4月從蘋果離職,目前是獨立AI顧問。他還透露Mac在企業AI市場的火爆完全是意外,而非蘋果的主動規劃。蘋果沒有專門面向企業客戶的工程團隊,也沒有任何專注於開發者關係的員工。
蘋果上一次出售服務器產品還是2011年就停產的Xserve。基於Mac的服務器操作系統也已於2022年停止開發。
不過已經有人嗅到了機會。
前OpenAI計算基礎設施員工Peter Voell創辦了Mount Thor,一家基於蘋果硬件的雲計算公司,目前仍處於隱身模式,官網將產品描述為「基於蘋果硬件的AI執行環境」。
蘋果也在寄希望於Mount Thor和webAI這樣的合作伙伴,把Mac推進更深的企業市場。
蘋果最近終於開始使用Mac芯片構建自己的服務器。不過,這些服務器僅供內部使用,用於私有云計算(Private Cloud Compute)服務,處理超出iPhone或Mac處理能力的AI任務。
一些企業客戶曾詢問蘋果是否可以出售這些服務器的使用權,但蘋果目前為止都拒絕了。