智能駕駛芯片排名并不簡(jiǎn)單只看AI算力,CPU、存儲(chǔ)帶寬、功耗和AI算力數(shù)值一樣重要。
在智能駕駛系統(tǒng)中,CPU算力扮演著至關(guān)重要的角色。由于軟件系統(tǒng)的復(fù)雜性,它需要消耗大量的CPU運(yùn)算資源。軟件系統(tǒng)包含眾多中間件,如SOME/IP、自適應(yīng)AUTOSAR、DDS、ROS等,以及基礎(chǔ)軟件如定制的Linux BSP、OS抽象層、虛擬機(jī)等。此外,與底層硬件關(guān)聯(lián)的內(nèi)存管理、各種驅(qū)動(dòng)、通訊協(xié)議等也大量消耗CPU資源。
在應(yīng)用層中,路徑規(guī)劃、高精度地圖、行為決策等也是CPU資源的主要消耗部分。同時(shí),CPU還負(fù)責(zé)管理AI運(yùn)算時(shí)的任務(wù)調(diào)度和存儲(chǔ)搬運(yùn)指令等任務(wù)。盡管AI在圖像特征提取、分類、BEV變換、矢量地圖映射或空間分布等方面具有重要作用,但CPU仍然是核心,而AI只是其附屬功能。
在衡量算力方面,權(quán)重排名依次為AI算力、存儲(chǔ)帶寬、CPU算力、GPU算力和制造工藝。存儲(chǔ)帶寬和AI算力具有同等重要性。盡管GPU在某些情況下可以處理FP32數(shù)據(jù),發(fā)揮重要作用,但大部分車載AI處理部分僅對(duì)應(yīng)INT8位數(shù)據(jù)。
為了更準(zhǔn)確地衡量算力,MAC陣列數(shù)量是一個(gè)關(guān)鍵指標(biāo)。例如,谷歌的TPU V1具有65000個(gè)FP16 MAC,運(yùn)行頻率為0.7GHz,其算力為91TOPS。而特斯拉第一代FSD的兩個(gè)NPU,每個(gè)具有9216個(gè)INT8 MAC,運(yùn)行頻率為2GHz,其總算力為73.7TOPS。至于制造工藝,更先進(jìn)的工藝意味著更低的功耗
智能駕駛芯片TOP20
如何計(jì)算存儲(chǔ)帶寬,芯片本身都有存儲(chǔ)管理器,這通常是CPU的一部分,決定存儲(chǔ)帶寬的有兩點(diǎn),首先是CPU支持的存儲(chǔ)類型,即存儲(chǔ)的物理層和控制器,其次是CPU的存儲(chǔ)帶寬,LPDDR的存儲(chǔ)帶寬最高一般是256比特,GDDR可以到384比特,HBM可以到4096甚至8192比特,這些都關(guān)聯(lián)成本,廠家在設(shè)計(jì)芯片時(shí),會(huì)在成本和性能之間找一個(gè)平衡點(diǎn),有些廠家偏重成本,那就64比特甚至32比特,有些偏重性能,如真正的AI芯片,無(wú)一例外都是HBM的,成本都在1500美元以上。
常見(jiàn)汽車內(nèi)存性能與價(jià)格對(duì)比
上表為常見(jiàn)汽車內(nèi)存性能與價(jià)格對(duì)比,顯然,一分價(jià)錢(qián)一分貨。英偉達(dá)H100是HBM3的最大采購(gòu)者,每GB的采購(gòu)價(jià)格大約14美元。還有一點(diǎn)需要指出,目前沒(méi)有車規(guī)級(jí)GDDR6存儲(chǔ)芯片。
目前智能駕駛芯片除了百度和特斯拉,都采用了LPDDR。
歷代LPDDR的參數(shù)
存儲(chǔ)帶寬在智能駕駛系統(tǒng)中扮演著至關(guān)重要的角色,其計(jì)算方式是將CPU的存儲(chǔ)位寬與存儲(chǔ)器的Data transfer rate(DDR)相乘,再除以8換算為大寫(xiě)的GB。以英偉達(dá)Orin和特斯拉一代FSD為例,Orin的存儲(chǔ)位寬為256比特,支持LPDDR5,傳輸速率為6400MT/s,其存儲(chǔ)帶寬為204.8GB/s;而特斯拉一代FSD的存儲(chǔ)位寬為128比特,支持LPDDR4,傳輸速率為3200MT/s,其存儲(chǔ)帶寬為51.2GB/s。
Roof-line模型是解決計(jì)算量和訪存量問(wèn)題的理論工具。計(jì)算量指的是模型進(jìn)行一次完整前向傳播所發(fā)生的浮點(diǎn)運(yùn)算個(gè)數(shù),即模型的時(shí)間復(fù)雜度。而訪存量指的是模型完成一次前向傳播過(guò)程中所發(fā)生的內(nèi)存交換總量,即模型的空間復(fù)雜度。計(jì)算量除以訪存量可以得到模型的計(jì)算強(qiáng)度I,表示此模型在計(jì)算過(guò)程中每Byte內(nèi)存交換到底用于進(jìn)行多少次浮點(diǎn)運(yùn)算。
由于智能駕駛系統(tǒng)軟件異常復(fù)雜,會(huì)消耗大量的CPU運(yùn)算資源,軟件系統(tǒng)包含眾多中間件諸如SOME/IP、自適應(yīng)AUTOSAR、DDS、ROS等,基礎(chǔ)軟件包括訂制的Linux BSP、OS抽象層、虛擬機(jī)等。除此之外,應(yīng)用層中的路徑規(guī)劃、高精度地圖、行為決策等也大量消耗CPU資源。同時(shí)CPU也管理AI運(yùn)算時(shí)的任務(wù)調(diào)度、存儲(chǔ)搬運(yùn)指令等,整體的任務(wù)調(diào)度、決策自然也是CPU的任務(wù)。
在智能駕駛系統(tǒng)中,CPU算力占據(jù)核心地位。為了確保系統(tǒng)的流暢運(yùn)行和高效性能,必須綜合考慮AI算力、存儲(chǔ)帶寬、CPU和GPU算力以及制造工藝等多種因素。
算力決定“屋頂”的高度(綠色線段),帶寬決定“房檐”的斜率(紅色線段)
在智能駕駛系統(tǒng)中,模型計(jì)算的理論性能受到硬件最大理論性能的限制。如果一個(gè)模型所需的算力超過(guò)了計(jì)算平臺(tái)的理論性能,那么計(jì)算平臺(tái)的利用率將達(dá)到100%,此時(shí)風(fēng)險(xiǎn)在于處理圖像的幀率或FPS可能無(wú)法達(dá)到目標(biāo)幀率。對(duì)于智能駕駛來(lái)說(shuō),主流幀率是30FPS,而高速行駛則需要更高的幀率。
如果模型的算力需求過(guò)高,計(jì)算平臺(tái)即使?jié)M負(fù)荷運(yùn)轉(zhuǎn)也無(wú)法適應(yīng),導(dǎo)致幀率下降。在這種情況下,高速行駛會(huì)帶來(lái)風(fēng)險(xiǎn)。一般來(lái)說(shuō),廠家不會(huì)推薦使用算力需求遠(yuǎn)超理論性能上限的模型。
當(dāng)計(jì)算平臺(tái)的利用率低于100%時(shí),模型處于Memory-Bound狀態(tài)。在這個(gè)狀態(tài)下,模型的理論性能P完全由計(jì)算平臺(tái)的帶寬上限(房檐的斜率)和模型自身的計(jì)算強(qiáng)度I(Intensity)決定。因此,在帶寬瓶頸的前提下,計(jì)算平臺(tái)的帶寬越陡峭,或者模型的計(jì)算強(qiáng)度越大,模型的理論性能P可以呈線性增長(zhǎng)。
斜率較低意味著即使計(jì)算強(qiáng)度快速增加,計(jì)算平臺(tái)算力的增加也很緩慢,導(dǎo)致計(jì)算平臺(tái)的利用率很低。例如,如果計(jì)算平臺(tái)的理論算力是100TOPS,斜率很低,那么即使很高的計(jì)算強(qiáng)度模型的利用率也可能不到50%。這意味著存儲(chǔ)帶寬決定了計(jì)算平臺(tái)的性能利用率。因此,存儲(chǔ)帶寬的重要性絲毫不亞于算力,甚至可能高于算力。這也是特斯拉二代FSD排名第二的主要原因,因?yàn)镚DDR6的帶寬相對(duì)于LPDDR具有壓倒性優(yōu)勢(shì)。
特斯拉第二代FSD
特斯拉第二代FSD芯片采用了三星的7納米工藝,這一選擇主要是出于價(jià)格和地理因素的考慮。首先,三星的代工價(jià)格遠(yuǎn)低于臺(tái)積電,大約只有臺(tái)積電價(jià)格的一半左右。其次,臺(tái)積電的亞利桑那工廠效率相對(duì)較低,從2020年開(kāi)工建設(shè)到預(yù)計(jì)2025年投產(chǎn),進(jìn)度緩慢。而三星的德克薩斯奧斯汀二代工廠僅用兩年就完工投產(chǎn),且距離特斯拉總部較近。
第一代FSD使用的是三星的14納米工藝。根據(jù)WikiChip的數(shù)據(jù),三星7納米LPP HD高密度cell方案的晶體管密度高達(dá)95.08 MTr/mm2,而HP高性能方案的晶體管密度為77.01 MTr/mm2。相比之下,三星14納米UHP方案的晶體管密度為26.22 MTr/mm2,HP方案晶體管密度為32.94 MTr/mm2。基本上,三星7納米的晶體管密度是14納米的3倍以上。這意味著特斯拉的第二代FSD芯片可以容納更多的MAC陣列,從而實(shí)現(xiàn)AI性能的三倍提升??紤]到第一代FSD的AI性能為73.7TOPS@INT8,三倍的提升即為221.1TOPS。如果再結(jié)合稀疏模型加速技術(shù),算力數(shù)字還可以再增長(zhǎng)一倍。另外,根據(jù)推測(cè),由于二代FSD芯片面積明顯大于一代,并且NPU增加到3個(gè),因此其算力可能在500TOPS上下。
特斯拉在二代FSD中還大幅度加強(qiáng)了CPU的性能,采用了三星的Exynos 20核心配置。這進(jìn)一步證明了CPU在智能駕駛中的重要性。
安霸的CV3可能不為大多數(shù)人所熟知,但它在存儲(chǔ)帶寬方面表現(xiàn)出色,支持最高的LPDDR5X規(guī)格,并且具有最高的256比特位寬。這款芯片采用三星的5納米工藝制造,目前已經(jīng)得到了德國(guó)大陸汽車公司的支持。
綜上所述,無(wú)論是特斯拉還是安霸,都在積極探索更先進(jìn)的制程工藝和存儲(chǔ)技術(shù),以提高AI性能和系統(tǒng)整體表現(xiàn)。隨著智能駕駛技術(shù)的不斷發(fā)展,這些創(chuàng)新將為未來(lái)的汽車帶來(lái)更高效、更安全的駕駛體驗(yàn)。
安霸CV3-AD內(nèi)部框架圖
安霸CV3-AD是一款高性能的汽車AI芯片,最高包括了16核心的Coretex-A78AE,具有極高的CPU算力。同時(shí),它也通過(guò)了ASIL-B級(jí)認(rèn)證,這意味著它具有高度的可靠性和安全性。在AI算力方面,安霸CV3-AD等效于500TOPS,表現(xiàn)出色。
英偉達(dá)、特斯拉和Mobileye等也是汽車AI芯片領(lǐng)域的知名企業(yè)。英偉達(dá)的芯片位寬為256比特,而特斯拉和Mobileye的芯片大多是128比特。至于征程6的存儲(chǔ)信息,目前尚未公布。
另外,值得一提的是百度旗下的昆侖芯科技。雖然較少人知曉,但昆侖芯科技其實(shí)是百度智能芯片及架構(gòu)部獨(dú)立后的產(chǎn)物,全稱為昆侖芯(北京)科技有限公司。該公司在2021年4月完成了獨(dú)立融資,估值約為130億元。在2022年11月29日的百度Apollo Day技術(shù)開(kāi)放日上,第二代昆侖芯宣布已完成在百度無(wú)人駕駛車輛RoboTaxi的駕駛系統(tǒng)上的完整適配,并在高階自動(dòng)駕駛系統(tǒng)中運(yùn)行正常。
昆侖芯科技的歷史可以追溯到2011年,當(dāng)時(shí)它開(kāi)始從事AI計(jì)算相關(guān)工作,早期使用FPGA芯片對(duì)AI進(jìn)行計(jì)算加速。在接下來(lái)的幾年里,昆侖芯科技在百度數(shù)據(jù)中心部署了超過(guò)5000片F(xiàn)PGA芯片,并在2017年累計(jì)部署超過(guò)12000片。到了2018年,昆侖芯科技決定自研AI芯片,并正式啟動(dòng)昆侖芯系列產(chǎn)品的研發(fā)和設(shè)計(jì)。
第一代昆侖芯于2020年開(kāi)始大規(guī)模部署,采用14納米工藝和先進(jìn)的HBM內(nèi)存、2.5D封裝技術(shù)。這款芯片剛量產(chǎn)就在百度數(shù)據(jù)中心里部署了超過(guò)2萬(wàn)片。一年后,第二代昆侖芯量產(chǎn),采用了更先進(jìn)的7納米工藝和XPU第二代的架構(gòu)。同時(shí),它也是業(yè)界第一顆采用GDDR6高速顯存技術(shù)的AI芯片。目前,昆侖芯科技正在研發(fā)更先進(jìn)的第三代AI芯片,針對(duì)高階自動(dòng)駕駛系統(tǒng),未來(lái)可能會(huì)推出定制的車規(guī)高性能SoC(系統(tǒng)級(jí)芯片)。
綜上所述,汽車AI芯片領(lǐng)域的市場(chǎng)競(jìng)爭(zhēng)激烈,各大廠商都在積極研發(fā)高性能、高可靠性和高安全性的產(chǎn)品。而隨著技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷拓展,這個(gè)市場(chǎng)還有很大的發(fā)展空間和潛力。
英偉達(dá)對(duì)存儲(chǔ)系統(tǒng)一向比較重視,全線都是最高的256比特。高通SA8650與座艙領(lǐng)域的SA8255非常近似,CPU和GPU基本完全相同,AI算力做了特別加強(qiáng),存儲(chǔ)位寬是比較少見(jiàn)的96比特,SA8650是取代上一代SA8540P的,主要是增加了針對(duì)功能安全的部分,增加了4個(gè)Cortex-R52內(nèi)核。Mobileye對(duì)成本異常重視,也從不公布其存儲(chǔ)帶寬和支持存儲(chǔ)類型,只能猜測(cè)。Xavier雖是早期產(chǎn)品,但存儲(chǔ)位寬是最高的256比特,所以排名很靠前。
微信公眾號(hào)
官方抖音號(hào)
傳真:0086-755-85274635
地址:深圳市龍華區(qū)民治街道北站社區(qū)鴻榮源北站
中心B塔22層
? 2023 ? 深圳市恩智科技有限公司 版權(quán)所有 粵ICP備2023150117號(hào)