車圈盡頭是 AI,李想先一步到了路口

華爾街見聞
06/18

過去幾年,理想貢獻了中國汽車行業被模仿最多的一套產品方法論。如今,理想又要去探索未來了。

6月17日,理想辦了一場Livis Day的AI與具身智能發布會。這次沒有行業熟悉的冰箱、彩電和大沙發。取而代之的是VLA、Agent、世界模型、3D ViT、自研的馬赫芯片。

這些內容更像應該出現在OpenAI、Google或者英偉達的開發者大會上,很多人看完Livis Day後的第一反應是:理想怎麼突然開始講一些聽不懂的東西了。

對於一家年銷量正在衝擊第二個百萬輛規模的車企來說,這些內容看上去甚至有些「不務正業」。但理想討論的已經不只是汽車。或者說,汽車已經不再是故事的全部。

要知道,當下國內汽車市場大盤收縮,1-5月的銷量按年下滑近兩成,玩家們紛紛保銷量、保交付的情況下,理想如此激進的行徑,反而是想破內卷,逃出價格戰的裹挾。

回溯來看,過去幾年裏,中國汽車行業幾乎所有企業都在變得越來越像理想。

理想幾乎貢獻了行業最成功的一套產品方法論。從增程到家庭SUV,從六座到冰箱彩電大沙發,越來越多的新車開始長成理想的樣子。曾經被視作另類的選擇,如今已經成為主流。

這是理想最成功的地方,也是理想必須尋找下一個答案的原因,因為所有產品創新都有一個宿命:一旦被驗證成功,就會被複制,賴以成功的護城河就開始被消解。

十年前,馬斯克已經經歷過一次類似的過程。

當越來越多車企開始學習特斯拉如何造電動車的時候,馬斯克把注意力轉向了自動駕駛;當越來越多公司開始追趕自動駕駛的時候,特斯拉又開始研究機器人;而今天,特斯拉自動駕駛負責人Ashok Elluswamy在CVPR上談論的已經不再是汽車,而是一個統一的機器人基礎模型。

Ashok說,自動駕駛、Optimus機器人和智能體,本質上是同一個基礎模型在不同身體上的投影。重要的是那個能夠理解世界、進行推理並採取行動的統一模型。

如果把這場演講與幾天前理想的Livis Day放在一起看會發現,當整個行業都在學習理想的時候,理想開始學習特斯拉了。

首先是大腦,發布會後的媒體溝通會上,基座模型負責人詹錕被問到,為什麼理想如此強調語言模型能力,他向華爾街見聞揭示了理想的真正目標。

「我們認為越往L3、L4走,解決的問題越來越接近90%、95%、98%之後的問題——那些你從來沒見過的問題,需要模型具備像人類一樣思考的能力。」

過去十年,自動駕駛行業最主流的邏輯是規模化學習,讓模型見更多的數據,走更多的路,覆蓋更多的Corner Case,本質上是一種經驗主義,但理想正在討論另一件事。

如果汽車遇到一個從未見過的場景怎麼辦,如果訓練集裏沒有答案怎麼辦?為了說明這一點,詹錕舉了一個例子。「比如出現一頭鴕鳥和一頭大象時,應該怎麼處理?如果是鴕鳥,碰一下沒事;如果碰到大象,碰一下可能就會翻車。」

對於人類來說,這是常識。對於機器來說,卻不一定。因為常識背後並不是記憶而是理解。於是理想開始把注意力從感知轉向思考。

詹錕表示,「人和動物最大的區別,是人以語言作為符號進行高層次的思考。這些能力來自於語言,而不是來自於視覺。」

這其實已經不是傳統智駕公司的表述方式。過去行業討論自動駕駛,關注的是攝像頭、激光雷達和算力。而理想開始討論語言、推理和思維鏈,實際上是在重新定義智能。因為在理想看來,未來汽車最重要的能力可能已經不是「看見」。

理想對Agent的定義也指向同一方向。

很多人把Agent理解成一個更聰明的車機助手。但從理想的表述來看,它顯然不只是一個聊天機器人。詹錕談到Agent時提到幾個關鍵詞:記憶、規劃、推理、執行。這些能力看似屬於Agent,實際上也屬於自動駕駛,甚至屬於未來所有機器人。

因為無論是幫用戶規劃一天行程,還是幫用戶規劃一段駕駛路線,本質上都是同一種能力。理解意圖、拆解任務、執行任務。

MindGPT、Agent、VLA、世界模型,看起來是幾條獨立業務線。實際上指向同一個目標,一個能夠理解世界並採取行動的統一智能體。

詹錕說,「我們把物理機器人分成三個關鍵任務。一是具身交互,二是移動,三是操作。」

隨後他補充道:「車裏麪包含了Language語言智能,這直接遷移到機器人的概率是非常大的——交互、思考、長程規劃。」理想已經把汽車放進具身智能的座標系裏重新審視。

過去行業認為:汽車是交通工具,機器人是機器人,Agent是Agent。而在理想和特斯拉越來越接近的世界觀裏,它們正在逐漸融合。

在這個框架裏,汽車、Agent和機器人共享同一個大腦,分別負責移動、交互和操作。理想要做的,是同時具備這三種能力的統一系統。

回頭看Livis Day上發布的每一項技術,都在給這個統一智能體補拼圖——語言智能、交互智能、行動智能、物理世界的理解能力。

如果說詹錕談的是大腦,那麼謝炎談的則是神經系統。

也有很多人把芯片的問題理解成成本問題。但謝炎對此反覆提到一個詞:全棧。「從L2往L3走的時候有很多問題,今天沒有供應商可以解決。要解決未知問題、想達到更高標準時,領先企業一定會選擇一起做。」

在謝炎看來,未來的競爭已經不再是簡單採購零部件,而是系統能力競爭。模型需要與芯片協同、芯片需要與系統協同、系統需要與車輛協同,最終形成一個完整閉環。

這其實也是特斯拉過去幾年一直在做的事情。Dojo、自研芯片、FSD、Optimus看似分散,背後卻是同一種邏輯。把關鍵能力掌握在自己手裏。因為當行業進入無人區時,供應鏈已經無法提供現成答案。

謝炎後來的一句話點出了理想這次轉型的根本原因,「車的內卷就是因為同質化。要擺脫同質化,就是要做別人不好做或做不到的事。」

某種意義上說,理想今天越來越像特斯拉。它們爭奪的已經不是下一代汽車,而是下一代智能終端,理想要把汽車公司,變成一家真正的AI公司。

以下是與理想汽車CTO謝炎、理想汽車基座模型負責人詹錕的對話實錄:

問:理想汽車這幾年經過很多次智能化的體系調整,最終把芯片、基座模型和智能輔助駕駛整合成統一的(團隊),您作為CTO視角來看,理想的「三位一體」和特斯拉的FSD、HW、xAI相比,差異化的護城河在哪?是組織效率,還是技術路徑的差異?

謝炎:跟特斯拉相比,大家出發點是一樣的。如果想圍繞AI做出強競爭力有兩方面。

一是需要快速迭代。今天的AI發展很快。從芯片領域來說,英偉達也迭代很快,不僅是自己迭代快,還不斷收購公司補充自己的技術,說明這個行業競爭非常激烈。迭代快是我們進行組織整合的一個目標,幾個團隊更緊密地合作,迭代速度會上去。

第二是,需要垂直整合。理想汽車推崇構建垂直整合的競爭力。在這個時代,如果沒有自己的芯片,只做自己的模型,那麼如果遇到需要芯片和模型聯合設計,才能把問題解決得更好的情況下,我們就失去了這樣的機會,特別是一些大的創新。

我個人觀點是,當技術發展到平台期時,這時分工會很細。比如PC發展到2010年,操作系統歸操作系統、應用歸應用、芯片歸芯片、製造歸製造。但是如果技術處於高速發展期,斜率非常高時,你會發現很多公司又回過頭來做整合,因為需要在技術邊界上把分工打破,重新做整合。

比如英偉達之前只做芯片,現在英偉達連封裝和機架都開始收購公司來做。所以英偉達要解決更進一步的問題時,需要上下游一起來做,如果分成多家公司來做,其實效率是非常低的,甚至是不可能的。

英偉達做Vera Rubin(AI超級芯片平台)時,可以看到不僅是多種處理器,而且機架、散熱技術、互聯技術都是英偉達來做。雖然英偉達是做計算的公司,但現在全拓展開了。我認為技術快速發展的時代,這是有志於領先的公司肯定要走的一條路。

當然這個投入肯定不小,很多公司不具備這種能力。在我們團隊,我的背景是做過操作系統、架構、應用層等AI各個方向,所以我們的整合效率相對更高一些。

除此之外,組織規模小一點也是優勢。如果需要高密度、高整合度,組織規模不能太大,如果組織規模太大,就會導致很多部門牆。這是為什麼我在公司強調要保證比較小的組織規模的原因,就是想讓大家合作得更緊密些。

問:數據是這個時代最寶貴的資產。隨着理想車隊規模的躍升,從理想內部來看,數據的邊際效應是不是出現了衰減?我們是怎麼定義價值數據的?

詹錕:現在大家對於自動駕駛來說,數據的理解逐漸收斂了。

第一,數據的量要足夠大,數據量足夠大的本質是希望收集到更多的Corner Case。Normal Case現在供應商都已經可以採集了,但採集Corner Case非常難,必須要足夠大的車隊纔行。

基數大,但不是說把所有數據都傳回來,這沒意義。現在大家有很多方法在車端做出很好的neural trigger(神經網絡觸發器),來判斷這個場景是難場景還是簡單場景,然後把這些關鍵數據傳回來。這也是現在特斯拉很強的重要原因之一。

對我們來說,我們現在規模已經很大了,主要來源於我們很早就做了很好的基建統一。從理想ONE開始就可以回傳數據了。從L系列開始是全棧所有數據回傳。現在到了Livis具身智能更強了,現在回傳的數據可以理解為達到了L4自動駕駛的公司採集車隊的數據質量,360°點雲和攝像頭數據做了精準的對齊,這些數據給了我們長尾收斂、思考問題的機會。

第二點,指行為質量高。因為現在大家逐漸收斂到端到端的範式,無論做VLA、世界模型還是Vision-Action都可以,但是你一定得知道Action的行為,這時候行為質量就非常重要,行為的乾淨程度、一致性很重要。這對於使用衆包車隊的公司來說很有挑戰。

因為每個人的開車習慣不一樣,怎麼在這麼多的衆包用戶中找到一致性,是我們努力做的事,而且也看到了很多機會點。這相比於採集車隊來說,難度就在這裏。採集車隊的衆包行為沒那麼好控制,但我通過算法可以迅速把好的行為留下來,壞的行為去掉。

比如你每次過紅綠燈時,是不是穩定的加速度;遇到丁字路口時,能否穩定減速;每次超車時是否合理變道,這些都需要清晰的判斷。

正因為我們有很大的車隊,可以篩選出很多高質量的用戶行為和用戶數據。我們用後面的方法來篩選,就簡單很多。因為他在發起行為時,我不確定他的行為好不好。但他開完以後,通過看他的後車距離、變道幅度和角度,就知道是否合理。所以我通過後面完整的數據來看,就可以知道他的每一個行為是不是合理。這對於我們來說非常重要,也是我們現在投入最大力度做的事。

現在你問數據規模上去以後的邊際效應有沒有衰減?

首先,只要模型上去了,只要我們能力往100分去夠,一定是個「對數曲線」,一定是慢慢衰減,不可能線性增長,哪個公司做AI都不是這樣的。但是我們的數據質量,能隨着車隊規模的增大而增長,其實也在抵抗這個對數,我們有更多的機會採集到我們想要的數據。雖然確實越往後面,數據收斂的作用就沒那麼快了,但我們也希望通過規模,把它的速度加起來。

問:要達到特斯拉FSD V14的效果,我們還需要做哪些工作?

謝炎:其實我們的整體能力,內部評分比之前高很多,這個模型現在的上限非常高。真正難的問題是我們要擴大模型的感知與認知能力的上限。你看這個版本的模型在很短時間內,已經達到了量產水平。

很多公司都是先發芯片,再花一段時間適配上車。我們不僅提供了高階的智駕、城市NOA,而且比上一版本能力強很多,在非常窄的3米路況上也可以通行。

詹錕:業界都說要追上FSD的水平,但不一定能追上。我認為追上FSD有兩個層面。

第一是基礎體驗,具體是三方面:安全感、效率、舒適度是否能達到FSD的同等水平。相信大家如果開過FSD,它的安全感非常足,效率很好,舒適度很好,這是它的基本功。我不一定跑很難的路,但這些基本功可以達到這個水平。

第二是能力,這一點也很難追。FSD有哪些能力是別人沒有的?比如特斯拉會禮讓特殊車輛,有極窄通行時的感知精準度,它會識別交警指揮,這些能力非常強。如果我們能做到這兩項,就能追上FSD。

在基礎體驗上,這需要非常好的評價體系。我們希望從自己的測試團隊和產品團隊開始,跟用戶和媒體一起想,怎麼去評價我們的模型——它的安全感、舒適和效率怎麼平衡。這裏有很多方法,再加上我們芯片性能還沒完全釋放,我們可以效率更高、反應更快。

第二個關於能力,這裏有架構升級的機會。為什麼別人沒有、只有特斯拉有?這裏有我們的一些思考。我們會去做這樣的改進,把這些能力提升上來。

大家想想,這些能力是怎麼來的?為什麼別人沒有?可能是以前的範式限制了這些能力,有架構的原因,有數據的原因。它怎麼就能找到這麼多倒車數據?這是採集的還是合成的?怎麼把這些坑坑窪窪的信息傳回去?這在架構上有很好的設計。我們在這個層面做了很多嘗試,目前也有一些初步的實踐結果。

問:五年後或者再往後看兩代產品,理想車內的算力中心有沒有可能全部使用自研的馬赫芯片?

謝炎:我們就是這麼思考的。雖然業內有一個說法叫「艙駕一體」,我們認為艙駕一體最核心的是AI算力部分,其他部分是不是一體沒那麼關鍵。因為座艙系統跟AI智駕系統可以完全獨立,但AI算力可以集中在一起,這樣分配效率會高很多。

所以我們路線圖的最終形態是車內一個AI計算中心,所有AI任務都可以到這個計算中心去計算。就像筆記本上跑龍蝦一樣,AI不在筆記本上,而是在雲上,車裏也類似,有一個Token服務器。

這個Token 服務器的優勢:第一,效率非常高。第二,能做到不同任務互相隔離、互不影響。比如智駕任務的確定性——無論是內存還是帶寬,能夠保證不被其他任務干擾,這是軟件和硬件一起設計才能實現的。只靠芯片提供商做不到這一點,需要軟件跟硬件一起配合設計。

我們的優勢在於,可以把一些計算單元完全隔離給智駕用,另一部分給其他任務用。如果是通用的SRT(安全可靠傳輸協議)架構,它不能完全做到這一點,因為這些東西藏在硬件裏,而硬件並不知道上層應用的語義。它不知道下面跑的線程是智駕任務還是其他任務,或者說它做這些事情的代價非常高。就像我昨天發布會說的,我們走向數據流架構有很多原因,有效率的原因,也有AI場景下多任務需要並行運行、對時延非常敏感、對資源確定性要求很高的原因。

問:之前一直是馮·諾依曼架構指導了整個芯片體系,現在我們第一次看到動態數據流架構用起來了,四年前理想看到了什麼?整個鏈條要從頭到尾全部變短纔是真正的全棧優化,背後的組織是怎麼實現的?

謝炎:四年前,我們給自己立了一個很高的目標就是自研。我們為什麼要自研?我和李想有一個非常一致的意見:自研不是為了證明自己有能力做,而是真正去解決問題。

四年前我們看到的問題:一是算力成本非常高,而且會不斷變高,因為車內需要越來越多的AI算力。二是我們希望通過自研做得更好。當時我們用英偉達和地平線,我們給自己定的目標是,如果做不到比外購芯片更好,那做的意義不大。當時定的目標是4倍Orin的性能。

如果要達到這個目標,背後有一套邏輯——你要做得比英偉達更好,用英偉達的技術路線是不可行的。因為英偉達比你早啓動幾十年,積累比你深,資源比你多幾個數量級。你唯一的機會就是跑另外一條路徑。

在這個思路的指引下,我們開始看其他技術路線。就是扔掉所有以前的架構依賴,回到本質,從第一性原理看AI計算本身還有什麼機會。

我在讀研究生時,我導師高光榮教授是數據流架構的奠基人之一,他在MIT時就做這個事。當然在通用計算時代並不成功。我們發現他的思想本質是:你要做的是計算,馮·諾依曼架構相當於幫人類做一箇中介去實現計算,中間有翻譯層,這個翻譯幫助人類更好地去編程,但這個中介和翻譯會降低效率。

如果回到計算的本質,可以把中間的翻譯拿掉。當然的確很少有企業做過實踐,中國也是如此。所以大家看到的機會都是一樣的,關鍵是如何極致地解決這個問題,從第一性原理來倒推。我們四年前定了這樣的目標,並且覺得是可行的。

關於組織協作。為什麼垂直整合比較重要?因為要做到這一點,只有硬件團隊不夠,還必須有模型團隊。我們設計芯片時,軟件團隊、模型團隊坐在一起分析。而且大家比較興奮——之前很多做軟件的人根本沒有機會直接對硬件團隊提需求。

在組織上,我們希望以某一個核心的、有挑戰的目標為中心,圍繞它構建項目團隊。實際團隊是分開的,但像一團篝火一樣,有硬件的人、有軟件的人、有模型的人,大家在大目標下一起共創、一起實現。我們內部越來越多的項目會往這個方向走。

問:馬赫M100為何沒設計PCIe接口,是否因為M100是數據流架構的AI推理芯片,所以相較其他友商的自動駕駛芯片,對帶寬需求沒那麼高?

謝炎:我認為未來智駕需要更多的算力。回到2022年我們設計芯片時的目標,它的性能是當時最好芯片的4倍,我們覺得夠了。PCIe控制器本身也佔一些面積和成本,所以就沒有加,覺得四年以後怎麼也夠了。

某種程度來說,我認為加上會更好,因為有可能未來智駕需要更多的算力。你可以想象當未來的智駕能力更強時,也許不是幾年,也許是兩年後,需求就不一樣了,這也是我們設計未來芯片時會考慮到的點。

你看昨天發布的場景,今天有一些雲端的大模型最終要落到本地,特別是跟艙內視覺相關的。很多人會敏感,覺得艙內攝像頭把車內信息都上傳到雲端不安全,所以這些信息應該在本地處理。比如你在地庫跟一輛車像跟機器人一樣交流,而地庫沒有信號,所以你需要很強的本地大模型,幾B到幾十B的模型。所以會有另外一顆芯片,更好地承擔這部分工作。

關於第二個問題,我們對帶寬的要求會低,現在HBM很火,很多人覺得帶寬越高越好。計算,帶寬,SRAM等等都是需要晶體管代價來實現,最終的設計都是成本/綜合性能等多方面的綜合設計考量後的一種選擇。

不同的架構設計,僅僅靠一兩個指標來做簡單對比,既不合理也不專業。這就像打拳擊比賽,高有高的優勢,體重大有體重大的優勢,但不是由單一指標決定了勝負,最終比的是拳擊這個運動的結果。泰森,既不是最高也不是最重的,卻是拳擊最強的那一個。

M100 通過編譯器顯式編排數據搬運與計算時序,絕大多數張量數據在片上流動完成算子運算與中間結果傳遞,大幅減少了對於直接進出 DDR 的訪存次數,因此對外部 DDR 帶寬依賴更低。

問:為什麼現在的大算力芯片方案,比如英偉達、小鵬、理想自研的這些,都沒有做芯片級的艙駕融合,反倒是高通在低算力的驍龍8650上做了這件事?

謝炎:從本質上講,艙和駕是兩個獨立系統。特別是對高端的L3往L4走,智駕需要一個更高確定性的系統,內存是專屬、計算資源是專屬,這時融合的意義就小了很多。因為資源不能實時切換,實時切換會降低確定性。如果變成越來越獨佔的方向,融合的價值就不大了——你只是把芯片拼在一起,但資源還是兩份,並不會帶來成本的降低,甚至會影響效率。

對低端來說,L2對切換的實時性要求不高,有一部分確實可以有限地共享,但我認為也不多,未來會證明這一點,因為今天只是個概念。

我認為真正的艙駕融合,是艙需要的資源和駕需要的資源在物理上完全是一塊,可以動態共享。不是形式上放在一起,但實際切成兩半。融合就像你的筆記本跑瀏覽器和其他應用程序,筆記本的內存完全可以共用。

你看現在那些艙駕融合系統,它肯定還是分開的,今天做不到一會兒跑這個一會兒跑那個。如果做到的話,融合的價值確實很大,但做不到的話,只是減少一定的成本,只是省了一次封裝的成本。對中低端芯片來說這部分錢可以省,但也省不了太多。

我的觀點是,越往後走智駕越來越高端,艙駕融合這件事可能意義並不大。如果把這些芯片做得更近一點,在一塊板上做成很小體積的集成化方案,這是可以的,並不一定要做成一塊芯片,也可以多塊芯片放在一起。

問:現在的智能駕駛模型中還有「L」的部分嗎?

詹錕:現在自動駕駛的架構,大家都會有一個共同的趨勢,就是把VLA和World Model整合在一起。無論做VLA還是World Model,裏面的Prompt都要用Language。

我覺得更本質的問題是馬赫VLA到底是Language Based Model還是Vision Based Model?昨天說的機器智能和語言智能,我覺得這可能正好是兩個不同方向的base。

機器智能來說,我覺得Vision Based是更合理的,它是對空間理解、對3D空間的感知、對環境服務是更合理的。Language肯定有用,對理解環境、理解交通、理解指導、理解複雜的思考決策都是有價值的。

馬斯克一直在說要把Reasoning(推理)上車,雖然還沒上,但大家都在往這方向做,而且Language一直是我們很重要的一箇中間監督項。

但對於語言智能來說,Language Based永遠是最好的,沒有哪個語言智能是用Vision Based的。但Vision必須要,否則怎麼能看到車內你拿了手機、拿了電腦呢?這個問題就是你以哪個為base。從長遠來看,基於Vision和Language原生的基礎模型,可能是長遠的未來趨勢。

謝炎:如果要走向L3、L4,要解決更泛化的問題時,你的模型需要具備像人類一樣的思考能力。

如果它只有Vision和Action,它有很多數據,碰到分佈以外的情況就會不知道怎麼辦。比如出現一頭鴕鳥和一頭大象時,應該怎麼處理?如果是鴕鳥,碰一下沒事;如果碰到大象,碰一下可能就會翻車。這隻能通過大量的數據,給它幾十億公里的數據。

而一個動物,哪怕學會了所有常見情況,碰到這種從未見過的情況完全不會處理,它不知道做什麼選擇是對的。

我們認為越往L3、L4走,解決的問題越來越接近90%、95%、98%之後的問題——那些你從來沒見過的問題,需要模型具備像人類一樣思考的能力。而得到像人一樣推理和思考能力的來源是語言模型。

人和動物的最大區別,是人以語言作為符號進行高層次的思考,這些能力來自於語言,而不是來自於視覺。我們認為越往後走,語言的重要性會越突出,這也是未來需要很大算力的原因。因為如果只有Vision-Action,算力到了一定程度就夠了。

但如果要往後走,模型需要理解各種場景,比如有個警察在做手勢,你要理解他是讓你走還是不讓你走,這不是靠收集數據或生成數據就能解決的問題。

問:基座模型怎麼從車擴展到其他終端?

詹錕:你說車的自動駕駛怎麼遷移到機器人上?我認為這個gap很大。切換到機器人的導航沒問題,但如果切換到操作上,模型不是那麼一樣。或者說基座只是一個非常基本的,它後面一定是千差萬別,這一點要確認。

車裏麪包含了語言智能,這直接遷移到機器人的概率是非常大的——交互、思考、長程規劃。DeepMind Robotics團隊有個ER模型,就是來自Gemini的,把語言思考上的能力從通用場景遷移到機器人上。

我們把物理機器人分成三個關鍵任務。一是具身交互,我們跟它溝通、交流、思考,讓它做任務規劃。二是移動,自動駕駛能不能從A點到B點,無碰撞、安全、高效地到達目的地。三是操作,狹義的具身,是一個獨立任務,是開放性場景,業界很多人都在探索,包括硬件、數據都是不完善的。這三個任務任意的組合,都會形成非常有價值的商業模式與價值形態。

我們的車有機會把這三點都涵蓋。涵蓋以後,我們想長成任何一個物理的具身本體都有非常大的機會。你說我們有沒有共同基座?我們肯定有云端的共同基座。但這個基座是不是放在任何任務上就能直接用?我覺得比較難。

但它作為基座,提供海量的數據支持、訓練環境,能提供基模的baseline,幫助你快速做下個任務的收斂,這是很有幫助的。所以這也是我們成立基座模型團隊的原因,我們會有基座來支撐各個業務,但每個業務有自己的特點。

問:自研芯片背後需要什麼條件?目前自動駕駛迭代速度很快,芯片要持續迭代的話,需要什麼樣的條件?

謝炎:芯片,先期投入的確不小,可能一年要好幾億。第一個條件是達到一定的營收規模。對車企來說,營收規模一年1000億以上,研發投入至少10%,就有大幾十億到上百億,每年投錢研發芯片是可以的。第二個條件是,你研發芯片解決的問題,要能讓你的產品能力更強。

這裏有個誤區,很多人說芯片要有很大的出貨規模纔行。其實芯片的成本和麪積相關。一輛車上的芯片,比如Livis是2顆馬赫M100,加起來800平方毫米。而一部高端手機芯片大概100平方毫米,所以一輛車的智駕芯片相當於8台手機的芯片面積。

這樣算下來,大幾十萬輛車需要的晶圓面積非常大,完全可以攤薄成本。所以成本不能僅用顆數來衡量。有的IT公司說一年出貨好幾億顆,但其實每顆面積非常小。不能脫離背景只談量,這是不完整的。

我們在馬赫M100立項時算過,做這個芯片不會讓公司的效益變差,而是會變好。我們不是為了證明自己能做而做,不僅性能要做到最好,在成本上也要幫助公司省錢。

問:自動駕駛的Scaling Law似乎沒有起來。接下來理想要拉大差距的話會做什麼?

詹錕:一年前到現在,智駕格局確實發生了變化,感覺差距變小了。但從另一個角度看,從一年前到現在,很多玩家已經不在了,現在至少智駕的玩家收斂了。

有幾個原因。一是智駕是重投入,它不是把一個公司的算法帶到另一個公司就能轉起來,它是一個系統,涉及到系統、人、技術、算力、平台,這是很大的壁壘,無法在短期內建起來。

為什麼你感覺第一梯隊差距沒拉大?這裏要思考,我們如何建立護城河,靠什麼能讓別人無法快速追上。我認為要參考特斯拉。

第一,全棧才能建立真正的護城河。你的算力、芯片、基礎設施能不能完全統一在自己的可控範圍內,這很重要。如果你只是算法,中美之間的人才流動很快,很容易被遷移。但如果你是全棧的,遷移成本很高,也很難。

第二,你願不願意把精力投入到苦功夫上,比如精細地洗數據。這裏有很多細節,這些細節並不高大上,但這些一點一滴的細節才能形成護城河。我們也會在這方面持續加大投入,逐步把護城河建起來。現在已經有全棧自研的機會了,我們會加大投入,把這些苦功夫做下來。

雖然第一梯隊之間的差距感覺變小了,但大家跟特斯拉的距離並沒有縮小,特斯拉還是很強。如果我們完成年底追上特斯拉的計劃,是有機會脫穎而出的,也是我們一直想做的事情。

問:未來有多少車企會真正做成自研芯片?在當下芯片產業鏈快速發展的情況下,哪些環節是被加速的,哪些過程是必須要經歷的?

謝炎:你的問題分兩部分。第一,為什麼這麼多車企都發布芯片,是不是這件事很容易?我想說其實挺不容易。

我們自己做這顆芯片花了4年,在新勢力裏我們啓動最晚。大家要看發布芯片後,最終結果是最領先的模型什麼時候真正落到車上。從這個時間來看,除了我們以外,其他家一般要5年時間甚至更長,我們是最快的。

做一顆芯片和做一顆領先的芯片,難度又是不一樣的。我跟李想說過,我最擔心的事不是做不出來,最糟糕的事情是做出來了但它不領先,那公司這個錢就白花了。

我們看業界,並不是每一家公司都能做到。現在很多公司宣佈做了,但並沒有真正落到車上。要看它什麼時候落到車上,什麼時候把最高端的智駕用自研芯片跑起來,並且還能做好用戶體驗。

再者,看是不是所有車都能用。有的公司為了證明自己能用,只用了一款車型,出貨量只有幾千輛,其他車還是用外購芯片,說明它也知道這件事並沒有幫它解決真正的問題。

另外一個指標是能不能持續迭代。做一代芯片不說明問題,最終要做出第二代、第三代。很多公司只做了第一代,第二代就不做了。有些公司也可能買個IP就做了,也可以宣傳自己自研。

但我們不是,因為我們連論文都可以看到,這個世界上沒有第二個芯片跟我們做的一樣,完全沒有,甚至連這個思路都是我們提出來的,沒有任何已有的IP可以follow。

問:在芯片產業鏈裏,哪些環節是可以被加速的,哪些環節是必須要自己踩坑的?

謝炎: 有些技術是成熟的,比如偏後端的部分,有點像造房子,你找工程隊,比如壘磚,是可以找到供應鏈幫你加速的。但是真正要做到量產、做到最領先,設計肯定要自己做,軟件要自己做。如果你連軟件都外包給別人的話,你不可能迭代芯片性能。當然生產一般都是fabless,大家不會自己再去造工廠,這是另外一回事,生產今天是成熟的。

回到國內,我們會越做越深。如果做芯片要持續領先的話,僅僅做芯片設計,做成GDS2(版圖數據庫),交給晶圓廠去做流片,這也不夠。很多部分要跟封裝廠聯合設計,要垂直整合。有些技術不僅僅是貨架商品,由別人提供就可以,你要深入到封裝製造領域才能領先。我們不會停留於此,會越做越深。

問:這套架構能不能很好地應對Agent爆發式的流量?模型的通用性是一方面,帶寬和並行能力能不能應對Agent的爆發?

謝炎: 您可能想問它的通用性問題。我們芯片第一個重要的業務毫無疑問是自動駕駛,但我們沒有做成只能跑一個模型。它的數據流可以跑任何模型算子,不僅可以跑自動駕駛,也可以跑語言模型,昨天我介紹了我們能跑Qwen 35B。

我們是個端側芯片。作為端側芯片,它的服務請求不會很多。如果我們設計一個雲端芯片,是同時服務1000個用戶。但端側芯片的要求不一樣,它服務的對象往往只有一兩個任務,它要求的是更短的延時,而不是服務更多的對象。如果是雲端芯片,架構還是數據流,但設計和端側芯片就不一樣了。

問:馬赫M100芯片對編譯器的要求非常高,編譯任務非常重。跟傳統編譯器相比,有什麼不一樣?

謝炎:如果你學計算機會知道編譯器是計算機裏最難的課,比操作系統還難。

數據流和傳統的馮諾伊曼架構不同。馮諾伊曼架構是為了適應人類的思考,把計算抽象成順序的指令,這樣人可以一步步做推理。而數據流是大規模的併發,多條數據流同時在進行,它不僅在時間上往前推,在空間上也要佈局,叫時間空間編譯。再加上我們沒有指令順序,基本上是用消費者-生產者的模式,大量的消費者和生產者在同步進行,這需要完全不一樣的編譯框架。我們做這個事花了大量的時間。

我們對人才的要求是,不僅要懂編譯,也要懂架構。反過來講,做硬件的人也要懂軟件編譯器怎麼用。所以我們的編譯團隊也是架構團隊,這個芯片是軟件、硬件、架構團隊一起設計的。

我非常同意Jack B.Dennis教授的一句話,他說現在計算機分工太細了,硬件的人不懂軟件,芯片的人不懂編譯器,軟件的人不知道硬件怎麼work。

大家沒有意識到,當你同時看到硬件與軟件,本質就是計算機完整的圖景,當你看到所有東西時,你可以創造更大的創新。看計算機理論的話,它本身不分硬件軟件,本質就是如何讓一個計算任務完成。為什麼後面分出了硬件與軟件?因為有一部分用軟件來抽象效率更高,有一部分用硬件來抽象效率更高。但當你需要更大的創新時,應該打破這個邊界,重新看計算機是怎麼設計的。

今天美國非常創新的公司,他們思考的東西是從根本上打破軟硬件的邊界——把傳統認為是軟件的東西放到硬件上,把傳統認為是硬件的東西放到軟件上,這樣才能得到劃時代的創新。如果原來怎麼做,今天還是怎麼做,性能的提升速度遠遠趕不上需求。今天摩爾定律越來越弱了,縮放定律已經失效了很多年,會拖慢整個AI發展的速度。

問:馬赫M100芯片在理想的定義裏是一款AI推理芯片,而不是AI訓練芯片,這兩者的邊界是什麼?在AI訓練領域英偉達已經很壟斷了,跟它做競爭是不是很難追上?

謝炎: 我認為AI計算的算力市場,最終會出現99%的推理,訓練只佔很小的部分。從這個角度來講,今天中國和美國大量的公司在為了更高的效率專門做推理芯片,也是這個原因,因為最終推理市場更大。如果推理市場沒起來,說明AI沒有真正落地。

從我們的角度而言,我們公司先要解決推理問題。訓練的話,用市場上好的訓練芯片,目前夠我們用了。

從經濟模型角度來講,訓練要的是效率,它對成本不太敏感。訓練要的是在足夠短的時間內迭代。至於成本高了50%,甚至高了100%,也沒關係。英偉達最高端的芯片,很多公司以翻倍的價格也願意買。

但是推理芯片不一樣,它要同時考慮成本與效率,而且考慮成本的比重非常高。從解決公司和業務問題來講,推理問題更大,它跟我們想要達到目標的gap更大。如果我們做一件事的話,我們就解決機會最大的問題。

問:跟友商相比理想的領先性體現在哪些方面?

謝炎:我們為什麼敢說自己是世界第一呢?因為我們跟市面上標準可以獲得的芯片做對比,它是英偉達Thor-U三倍的性能,對於上車時間我們已經做得很快了。做芯片基本要5年時間,而我們基本快4年時間就上車,而且把所有模型都跑起來,這已經很快了。

問:去年年中,為什麼還要重新做編譯器開發?去年年中迭代的那一版主要是解決什麼問題?

謝炎:編譯器工作不是做完就結束了。從流片前、回片後、部署上車後,一直會持續迭代,因為編譯器的核心任務是把硬件效率發揮出來,需要一版一版不斷優化。去年年中那一版主要是把性能優勢充分發揮出來。

我在20多年前學編譯課時,老師第一課就講:編譯問題是個NP-Complete(NP完全)問題,是計算機理論裏最難的問題之一。這種問題你並不知道最佳性能點在哪,但可以不斷逼近。所以「跑通」跟「跑到最好」距離非常大,而且最好永遠不可及,只能不斷逼近。

我們在跑馬赫VLA模型時,性能已經是ThorU的三倍了,但我們覺得依然有潛力可挖,依然在繼續迭代編譯器。

問:3DViT我們大概是什麼時候開始研發這個技術路徑的?

詹錕:3DViT證明了2D視覺也能學會完整的3D空間結構,證明了Scaling Law在3D空間的全新可行性。

第二,之前團隊一直在往這方面探索和嘗試,中間做了很多方案的取捨和權衡。最後因為我們看到3D ViT對空間深度的理解、物體精細度的理解能達到激光雷達級別的效果,我們去年才正式從研究探索階段轉入產品開發階段。

在這個過程中,我們把它變成一個真實項目,放到最新的馬赫VLA裏面來。原來馬赫VLA不一定使用3D ViT,但有了會更好。3D ViT後續還有更大的改進與優化空間,這也是追上FSD V14很重要的一環,中間的視覺信息能不能表徵清楚,這是非常關鍵的。

3D ViT是一個純視覺方案,它不依賴於激光雷達。它基於視覺,把空間建模成帶有色彩信息的全綵點雲,基於更強的視覺編碼器和空間視覺表徵,做到更豐富的3D理解。

能不能達到激光雷達的效果?我們是有信心的。因為我們最新所有的車都標配了激光雷達,激光雷達對純視覺方案有非常強的監督和校驗作用。一定要達到跟激光雷達完全一樣的精度嗎?不一定。特別是看遠處時,人也分不清大貨車是20.8米還是19.8米。

但在極近處,人對深度的感知非常敏感,我們也是如此,在極近處能達到激光雷達的水平,這是上線的標準。另外,理解空間以後更重要的是做出更擬人的行為決策。

問:之前的CNN(卷積神經網絡)模型映射到數據流架構會比較好,但現在模型進化到了Transformer和MoE(混合專家)結構,芯片是否還適合模型架構的進化?

謝炎:我認為數據流架構比馮·諾依曼架構更貼近計算的本質。馮·諾依曼做的事情是為了人類編程方便,抽象了數據的順序指令流,GPGPU也是多個指令流,做SIMT。為了人類編程方便,用指令流順序表達,又要有高並行度,所以需要做很多硬件額外開銷,把並行度重新挖出來。

我認為數據流最重要的一個思想是:假設對人類編程的方便性降低,我靠很強的編譯器,甚至靠AI編譯器,能不能拿掉這部分額外開銷?CPU和GPU架構裏有大量的晶體管開銷用在緩存一致性,比如指令重排序、分支預測。你看一個CPU,30%的晶體管開銷在這上面。如果不用馮·諾依曼架構,這些都可以拿掉。

緩存一致性也是同樣的道理,不僅緩存一致性本身會佔用晶體管規模,更大的問題是,你為了做到緩存一致性,並行規模不會特別大。如果把可擴展性拉起來的話,緩存一致性就是個災難,這是不可行的。早期有研究表明,8到16核做緩存一致性就非常困難了,時間開銷很大,效率開銷也很大。

講到本質,就是這些額外開銷能不能拿掉。這樣做的代價就是編譯難度會變大,調度難度會變大。在過去這不可行,首先並行度沒那麼高,除了高性能計算,就是所謂的超級計算機,模擬核爆炸或預測天氣,這種場景並行度非常高,這種場景下用編程模型是有意義的。

AI有大量的並行,需要分配到不同的計算單元時,這個架構就有優勢了。我昨天講了,幫把晶體管利用率提升。

你啱啱想問的是,MoE和Transformer的計算密度沒那麼高,特別是decode階段可能計算密度沒那麼高,帶寬瓶頸會更大,這的確是需要解決的問題。在計算密度不高的工作負載裏,斯坦福去年有一篇論文講Mega kernel,它把kernel做大,就是為了避免數據頻繁進出。

Groq和Cerebras為什麼要做那麼大的片上內存?就是因為數據全放在片上的效率更高,可以不進出DDR,因為DDR的瓶頸很高,而且成本也很高。今天大家都要用HBM,但都不想用HBM,因為太貴了。回到車上更是如此,我們用不了HBM。我們通過架構的方式把進出DDR變少,讓效率進一步提升,不僅是晶體管利用率提升,計算效率也提升。

問:理想做全棧自研的底層思考是什麼?

謝炎:全域到底解決什麼問題?假設我們停留在L2、L2+,以自動駕駛為例,不做垂直整合也可以,無非是從供應商採買。車還是人類監督,人類隨時準備接管,開得慢一點、效率低一點也沒關係,要求不高。

但昨天發布會上理想希望它像機器人一樣獨立地完成任務,那對它的智能要求就非常高了。不僅是腦子,對手腳的掌握、對加速、輪子、縱向橫向的控制,要求都很高。

從L2往L3走的時候有很多問題,今天沒有供應商可以解決。你分開採買,可以給你係統、給你線控,但加在一起,有大量的冗餘,成本又高,延遲又高,出了問題還很難定位。所以要解決未知問題、想達到更高標準時,領先企業一定會選擇一起做。當然我不排除20年後技術進入平台期時,會拆分出各種供應商。但在技術還沒收斂的階段,要達到這個目標,必須自己整合。

就是因為一些問題不好解決,我們纔要自己出手,而且這些問題是長期性、重要性的問題。比如L3、L4,今天沒有人完全做到,特斯拉也沒完全做到,這是無人區,你需要解決這些問題,需要投入巨大的資源。

車的內卷就是因為同質化。要擺脫同質化,就是要做別人不好做或做不到的事。這些事如果供應商能做到,那又同質化了。這就是基本邏輯。

問:3D ViT對智駕行為的改善,具體體現在哪些方面?

詹錕:人眼有兩個非常重要的特性:第一是實時雙目,雙目天然就帶了3D結構,這一點很厲害;第二是前額葉很強,能抽取非常高維特徵的表徵。做深度學習本質上是在做表徵學習,就是把信息映射到高維空間的特徵,這個特徵長什麼樣子我們沒法直觀描述,但它要包含所有下游想要的信息,這是大腦在做的事。

人的雙眼時刻去觀察3D物理空間以後,大腦中整個物理空間會有很強烈的3D感。但是攝像頭,特別是單目攝像頭,天然是沒有3D感的。人眼如果遮住一隻,當習慣了雙眼訓練以後,單目也能看到3D結構,因為前額葉已經把這種能力固化下來了。

對機器來說也是這個思路:用很高維的3D空間數據去訓練它。即便攝像頭在移動中,也能構建出三維空間,這就是典型的3D建模思路。任何一段視頻進來,通過三維建模構建出三維空間,任何一個單目攝像頭就可以知道三維空間是什麼樣,跟人的思路一模一樣。通過這種方式,3D ViT就可以深刻理解3D環境。

補充一點,激光雷達也能理解3D環境,它是主動光。但3D ViT的特點是,除了理解環境的3D結構外,還能理解3D物體的屬性、紋理、類型,因為它有RGB,保留了所有信息。甚至還能做tracking,就是對移動物體做動靜分離,在3D環境中很容易判斷目標是動還是不動,這就是光流的作用。把這些能力結合以後,高維的視覺表徵就非常豐富,不會有遺漏。比如地面有個坑和溝,你很容易識別出來。

如果我拿BEV來表達的話,我沒有定義什麼是溝和坑,對下游決策來說就缺少了這個信息,這就叫高維表徵的缺失。所以只有解決了這個問題,才能給下游提供更完整的信息,下游才能根據這些表徵做出正確的動作。

以前大家熟知的「The Bitter Lesson」(苦澀的教訓),是指機器不要加任何人為先驗,用數據訓練,一定做得比人更好。現在最新的理念是「Vision Bitter Lesson」(視覺苦澀教訓),就是怎麼判斷你的視覺表徵好不好?看你有沒有做出對應的動作——你繞過了這個溝,才能證明你理解了這個溝。我們通過構建一個非常好的三維空間表徵標準,讓下游把動作真正理解好,這樣視覺能力就得到了充分的展現。

問:在馬赫M100平台上,強化學習數據提升了15倍,具體會在哪些場景去做強化學習?

詹錕:強化學習最重要的是決策和行為的聯合優化。現在所有訓練範式中,強化學習都是post-training階段的一部分,主要針對訓練中的弱勢場景、數據分佈不好的場景、或者混淆度高的場景。這需要有很精細的拆分方法,把這些場景識別出來後,讓模型在裏面自主探索,通過reward給它反饋探索的結果對不對,對決策和行為做聯合強化。具體場景非常多,比如繞行、變道等,都是通過這套方法論,找到post-training中的弱勢場景來做強化,不是一概而論的。

問:做基座模型是不是汽車公司想站在AI前沿的必要基礎能力?

詹錕:關於基座模型,我認為答案是肯定的。只要想走具身智能和AI方向,基座模型一定是必爭之地。基座模型不太可能像OS(操作系統)一樣有一個標準件,因為每個人的場景任務不一樣,需求也不一樣,所以基座模型需要自己建。特別是語言模型的基座,做汽車有汽車的基座,我們對視覺語言的重視更多,參數量的分配比例也跟通用模型不同。

核心有兩種類型的任務——語言智能和機器智能,這兩個對基座模型的需求是不一樣的。可以共用一個雲端大模型做基礎,但實際使用中一定是有區分、有差異化的,我們也是在往這個方向做。我們已經有非常強大的統一基座模型,可以構建物理環境,我們對它有很多反饋和評價機制。但真正落到車上時,需要有裁剪、有取捨、有參數量的適配、芯片能否承載,我們要做不同的改造。

至於將來會不會有一個技術收斂的外部模型給所有廠商直接用?如果說有開源的pre-training(預訓練)模型,這是有可能的。但你想讓一個pre-training模型就直接給大家當基座用,我覺很難。大概率大家還是要做很強的post-training(後訓練),才能變成真正能用的基座模型。

問:Mind-Pro在Agent能力上表現出行業領先的水平,未來有沒有考慮過開源?

詹錕:Mind-Pro是一個性能不錯的主流模型。模型架構採用了MHA(多頭注意力)、GQA(分組查詢注意力)之類的架構設計。要不要對外輸出?這是一個商業選擇問題。我們自己車的本體有強烈的優化傾向性,沒有必要對外去卷coding(代碼能力)這個賽道。現在大家賣token主要還是往coding方向走,我們沒必要卷這個方向。

但我們為什麼在這些benchmark(基準測試)上取得了不錯的成績?因為我們對自己的硬件本體有非常深刻的理解。我們車上有很多硬件資源需要調度,如果用其他第三方大模型去試,效果不會比我們好,反應還很慢,常識錯誤也很多。我們通過強化學習以後,模型對車身運動有很強的理解——知道車身如何晃動,裏面有很多tools(工具接口)可以調用。只有基於自己的本體做了強化以後,纔會有非常深刻的優勢。我們不一定要跟別人去卷coding,因為那是另一個賽道了,不符合理想汽車的主路徑。

如果有機會往具身應用方向做開源的話,從長遠來看可能有這個機會,但目前各家硬件差異較大,並不一定完全能通用。這是我們想做的方向——把我們的模型跟Agent和物理世界結合得更好,這就是馬赫Mind要解決的問題。

問:李想想基於下一代馬赫芯片做一個家庭算力中心,類似英偉達DGX Spark的理念。這個項目現在是否在推進中?

謝炎:我們做的M100本質上是一個通用AI推理芯片,理論上講,它能很好地推理自動駕駛模型,也可以推理語言模型。有同事說這個芯片這麼好,能不能裝到家裏面,因為他需要一個私人的家庭算力。出發點是從這裏開始的。下一代芯片毫無疑問會更強,經過一定的改造,我相信放在家裏非常有競爭力。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10