
為了讓AI特別是在自動駕駛汽車中,加速器在最短延遲內(nèi)達(dá)到最佳精度,TFLOP然而,一些專家認(rèn)為,這種野蠻的處理方法已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針。……
芯片采購網(wǎng)專注于整合國內(nèi)外授權(quán)IC代理商現(xiàn)貨資源,芯片庫存實(shí)時查詢,行業(yè)價格合理,采購方便IC芯片,國內(nèi)專業(yè)芯片采購平臺。
人工智能(AI)特別是在自動駕駛汽車中,加速器在最短延遲內(nèi)達(dá)到最佳精度(AV)中,TFLOP(兆次浮點(diǎn)運(yùn)算)已成為許多所謂大腦芯片的關(guān)鍵指針。比賽的選手包括Nvidia的Xavier、Mobileye的EyeQ5、特斯拉(Tesla)全自動駕駛(FSD)以及計算機(jī)芯片NXP-Kalray芯片。
然而,一些專家認(rèn)為,這種野蠻的療是不可持續(xù)的。在EE Times在獨(dú)家專訪中,DeepScale執(zhí)行長ForrestIandola提出其不可持續(xù)的原因是因為AI硬件設(shè)計師持有的許多常見假設(shè)已經(jīng)過時。隨著AI應(yīng)用越來越多,AI供應(yīng)商積累更多的經(jīng)驗,導(dǎo)致不同的經(jīng)驗AI任務(wù)開始需要不同的技術(shù)方法。假如是這樣,AI使用者購買AI技術(shù)方式會改變,供應(yīng)商也會做出回應(yīng)。
DeepScale執(zhí)行長ForrestIandola
Iandola這意味著搜索神經(jīng)網(wǎng)絡(luò)架構(gòu)(NAS)例如,其快速發(fā)展不僅加快了對深度神經(jīng)網(wǎng)絡(luò)的優(yōu)化(DNN)搜索過程,降低成本。他認(rèn)為,有一種方法可以在目標(biāo)任務(wù)和目標(biāo)操作平臺上建立最低延遲和最高精度DNN,而不是依靠更大的芯片來處理所有的事情AI任務(wù)。
Iandola設(shè)想未來AI芯片或傳感器系統(tǒng)(如計算機(jī)視覺、雷達(dá)或光達(dá))供應(yīng)商不僅提供硬件,還提供自己的高速高效DNN——為應(yīng)用而設(shè)計DNN架構(gòu)。任何供應(yīng)商都將匹配他們需要的不同操作平臺DNN,假如真的是這樣,那么AI比賽中的所有賭注都將失敗。
需要明確的是,芯片公司和傳感器供應(yīng)商都沒有提出上述前景。很少有人在特定的硬件上有針對性地運(yùn)行AI任務(wù)的可能性。
Iandola及其DeepScale最近團(tuán)隊設(shè)計了一系列DNN模型被稱為SqueezeNAS”。在最近的一份報告中,他們聲稱在目標(biāo)平臺上搜索延遲,SqueezeNAS能夠建立更快、更準(zhǔn)確的模型。這份報告被推翻了AI小區(qū)先前對NAS、乘積累加(MAC)運(yùn)算和將ImageNet精度應(yīng)用于目標(biāo)任務(wù)中的一些假設(shè)。
DeepScale于2015年由Iandola和KurtKeutzer教授共同成立,是位于加州山景城的一家新公司,致力于發(fā)展微型DNN。兩位聯(lián)合創(chuàng)始人曾在加州大學(xué)柏克萊大學(xué)分校工作,DeepScale因其快速高效DNN研究在科學(xué)界備受推崇。
手工設(shè)計(Manual designs)
要真正理解機(jī)器學(xué)習(xí)在計算機(jī)視覺方面的最新進(jìn)展,需要了解其發(fā)展歷史。
還記得AlexNet2012年,網(wǎng)絡(luò)結(jié)構(gòu)模型獲勝ImageNet圖像分類競賽嗎?這為研究人員專注于競爭打開了大門ImageNet在計算機(jī)視覺任務(wù)中找到最高精度的研究DNN,競爭。
基于強(qiáng)化學(xué)習(xí)和超級網(wǎng)絡(luò)的基礎(chǔ)NAS比較(數(shù)據(jù)源:DeepScale)
過時的假設(shè)
機(jī)器學(xué)習(xí)的簡短歷史向我們展示了神經(jīng)結(jié)構(gòu)搜索的出現(xiàn)如何為計算機(jī)視覺研究奠定基礎(chǔ)。但在這個過程中,它也反駁了研究小組的一些早期假設(shè),Iandola指出。
那么,需要糾正哪些假設(shè)呢?
Iandola稱,大多數(shù)AI系統(tǒng)設(shè)計師認(rèn)為,ImageNet分類中最精確的神經(jīng)網(wǎng)絡(luò)可以為目標(biāo)任務(wù)提供最精確的骨干網(wǎng)絡(luò)。但計算機(jī)視覺包括許多AI任務(wù)-從目標(biāo)檢測、分割和3D從空間到目標(biāo)跟蹤、距離估計和自由空間。并非所有任務(wù)都是平等的。Iandola強(qiáng)調(diào)。
ImageNet目標(biāo)任務(wù)的準(zhǔn)確性與目標(biāo)任務(wù)的準(zhǔn)確性關(guān)系不大。這不能保證。
來看由Iandola團(tuán)隊創(chuàng)建的SqueezeNet。Iandola這是一個小的神經(jīng)網(wǎng)絡(luò),它的解釋ImageNet分類精度明顯低于VGG,但在識別一組圖像中類似斑塊的任務(wù)時,它比VGG更準(zhǔn)確。
當(dāng)分類任務(wù)達(dá)到極限時,Iandola是時候為不同的任務(wù)設(shè)計不同的神經(jīng)網(wǎng)絡(luò)了。
另一個常見的假設(shè)是Raltron代理在目標(biāo)運(yùn)算平臺上減少M(fèi)AC然而,最近的研究表明,減少了MAC與減少延遲沒有太大關(guān)系。MAC神經(jīng)網(wǎng)絡(luò)并不總能實(shí)現(xiàn)較低的延遲,Iandola指出。
在Iandola的SqueezeNAS在報告中,他堅持認(rèn)為不僅僅是不同的AI任務(wù)需要不同DNN。為目標(biāo)運(yùn)算平臺(如CPU、GPU或TPU選擇合適的版本)DNN也很重要。
例如,他引用了優(yōu)化不同智能手機(jī)網(wǎng)絡(luò)的方法FBNet作者的話。他們發(fā)現(xiàn)了DNN在iPhonex它在三星運(yùn)行得很快,但在三星運(yùn)行得很快Galaxy S八上執(zhí)行得很慢。報告中,Iandola即使MAC數(shù)量保持不變,不同的卷積維數(shù)會根據(jù)處理器和核心來決定更快或更慢的運(yùn)行。
對自動駕駛的影響
今天,DeepScale與包括在內(nèi)的多家汽車供應(yīng)商建立了合作關(guān)系Visteon、Hella Aglaia Mobile Vision GmbH其他未透露姓名的公司。DeepScale一直在開發(fā)微型DNN,該公司聲稱,在保證最先進(jìn)性能的同時,它們需要更少的計算。
在SqueezNas的報告中,Iandola他向同事解釋說,他的團(tuán)隊使用超級網(wǎng)絡(luò)NAS用于語義分割的設(shè)計DNN,用于識別道路、車道、車輛和其他物體的準(zhǔn)確形狀。NAS系統(tǒng)配置優(yōu)化Cityscapes語義分割數(shù)據(jù)集精度高,在小型車輛級運(yùn)算平臺上實(shí)現(xiàn)低延遲。
隨著SqueezNAS的發(fā)展,DeepScale對自己的定位是:優(yōu)化DNN、AI硬件和特定AI任務(wù)之間的協(xié)同關(guān)系成為先驅(qū)。
隨著AI芯片即將席卷市場,Iandola認(rèn)為系統(tǒng)設(shè)計師必須明智地選擇加速器。他們應(yīng)該準(zhǔn)確地考慮硬件應(yīng)該執(zhí)行AI以及硬件加速器應(yīng)在哪種神經(jīng)網(wǎng)絡(luò)上運(yùn)行。
將使用安全攝像頭、自動駕駛汽車和智能手機(jī)AI芯片。考慮到每個系統(tǒng)所需的速度、準(zhǔn)確性、延遲和應(yīng)用程序,確定合適的硬件和NAS它變得至關(guān)重要。
Iandola表示,對于OEM對于汽車制造商來說,要將測試版的自動駕駛汽車轉(zhuǎn)化為商業(yè)產(chǎn)品,必須提取存儲在自動駕駛汽車后行李箱中的刀鋒服務(wù)器。Iandola預(yù)計汽車制造商可能會要求硬件芯片公司提供適合硬件平臺的優(yōu)化DNN。
對于Nvidia這樣的公司可能不是問題,因為它GPU它得到了大型軟件生態(tài)系統(tǒng)的支持。然而,其他大多數(shù)AI硬件供應(yīng)商會嚇出一身冷汗。
此外,隨著一系列新的傳感器-攝像頭、光達(dá)和雷達(dá)的設(shè)計,汽車OEM例如,不同類型的神經(jīng)網(wǎng)絡(luò)可能會面臨一些殘酷的現(xiàn)實(shí)。另一個例子是,不同品牌設(shè)計的光達(dá)使用不同的光達(dá)AI硬件。Iandola今天,無論是傳感器供應(yīng)商還是傳感器供應(yīng)商AI處理器公司沒有為其硬件提供優(yōu)化推薦的神經(jīng)網(wǎng)絡(luò)。”
Iandola表示,OEM汽車廠和一級零部件供應(yīng)商將開始要求優(yōu)化DNN,匹配特定硬件和AI任務(wù),這將是不可避免的。我們相信使用NAS在目標(biāo)運(yùn)算平臺上優(yōu)化低延遲變得越來越重要。
以超級網(wǎng)絡(luò)為基礎(chǔ)NAS出現(xiàn),NAS成本一直在下降。因此,是時候讓硬件供應(yīng)商開始尋找自己的優(yōu)化了DNN。當(dāng)被問及DeepScale通過合作、授權(quán)或AI開發(fā)和優(yōu)化硬件公司DNN填補(bǔ)這個缺口時,Iandola我們還沒有真正考慮過這個問題。
- Semtech PerSe可穿戴設(shè)備采用智能人體感應(yīng)技術(shù),優(yōu)化用戶體驗
- 索尼新版 PS5 臺積電已在日本注冊,有望升級 6nm 工藝處理器
- 三星電子將在未來20年在德州建設(shè)新工廠 2000 億美元
- 據(jù)報道,寧德時代考慮在墨西哥建廠,為特斯拉和福特提供電池
- 如何創(chuàng)造一個3的終極體驗D人臉智能門鎖
- Sondrel為下一代多通道汽車服務(wù)SoC部署Arteris IP
- 寧德時代首批換電站落地廈門,月租最低399元
- 帶你了解元宇宙背后的技術(shù)原理
- 廣告進(jìn)入元宇宙
- 光刻機(jī)傳來新消息,臺積電不得不接受現(xiàn)實(shí)
- 西門子低代碼首席執(zhí)行官對現(xiàn)代數(shù)字化轉(zhuǎn)型的看法
- 應(yīng)云而生,技高勝者——IDC MarketScape:中國公共云網(wǎng)絡(luò)邊緣安全(NESaaS)市場制造商評估報告發(fā)布
