不止Googlevs.Nvidia：深度學(xué)習(xí)引領(lǐng)AI芯片大戰(zhàn)
AI前線導(dǎo)讀：2017年，AI芯片是半導(dǎo)體產(chǎn)業(yè)的亮點，而它受到的關(guān)注又遠遠超出半導(dǎo)體的圈子。這一年，從科技巨頭到初創(chuàng)公司，新老角色輪番登場，為我們上演了精彩好戲。若干年后，當(dāng)我們再回頭來看，一定可以把2017年作為AI芯片元年。
GoolevsNvidia巨頭之間的錯位戰(zhàn)爭
四月初，Google公布了一篇即將在ISCA2017上發(fā)表的論文：In-DatacenterPerformanceAnalysisofaTensorProcessingUnit�？梢哉f正是這件小事，揭開了一部年度大戲的序幕，而它產(chǎn)生的深遠影響甚至可能會持續(xù)到很多年之后。其實，在2016年6月的時候Google就透露了自己研發(fā)了一款在云端使用的專用AI芯片，TPU（TensorProcessingUnit）。Google做AI芯片當(dāng)然是吸引眼球的新聞，但苦于一直沒有公布細節(jié)，大家也只能猜測和等待。因此，這篇普通的學(xué)術(shù)論文，得到了媒體的極大關(guān)注。我也在第一時間寫了一篇評論文章：GoogleTPU揭秘，也是我的公眾號閱讀量最大的文章之一。對TPU高度關(guān)注的當(dāng)然不只我們這些吃瓜群眾，還有AI芯片領(lǐng)域絕對的統(tǒng)治者Nvidia。后面就發(fā)生了黃教主和Google間關(guān)于TPU的Benchmark結(jié)果是否合理的口水戰(zhàn)。而早在2016年Google透露TPU的時候，Nvidia就多次表示它對GPU在AI運算上的統(tǒng)治地位沒有什么威脅。
5月11日，www.twshmhelmet.com，NvidiaGTC2017大會，黃教主在Keynote上拋出了最新的GPUVolta（GV100）。Nvidia股票應(yīng)聲大漲，媒體也是大肆報道。AI芯片的焦點似乎又回到了Nvidia這一邊。
除了公布了重量級的Volta，GTC上還有一個小事件，Nvidia宣布開源它的DeepLearningAccelerator（DLA），9月正式公開。這個發(fā)布，在黃教主的Keynote中是一句話帶過，但在業(yè)界引起的震動卻一點也不小。Nvidia為什么要搞開源？會開源什么東西？這個開源會不會影響眾多初創(chuàng)公司的前景？對這些問題的討論一直延續(xù)到NVDLA真正開源之后。
沒過多久，5月17日，在GoogleI/O大會上，Google公布了第二代TPU，用媒體的話說stoleNvidia’srecentVoltaGPUthunder。雖然TPU2的細節(jié)公布的并不多，但指標(biāo)確實看起來很不錯，而且具有非常好的可擴展性。唯一的遺憾就是它并不對外銷售，只能以TPUCloud的方式供大家使用。
9月下旬，JeffDean這位Google的軟件大神參加了HotChip這個芯片界的重要會議，并在KeynoteRecentAdvancesinArtificialIntelligenceviaMachineLearningandtheImplicationsforComputerSystemDesign也親自介紹了TPU和TPU2的情況，把它們作為新的計算生態(tài)中重要的一環(huán)。
9月底，NVDLA在承諾的最后期限之前開源了NVDLA的部分硬件代碼，同時公布了未來開源更多硬件和軟件的路線圖。這之后，大家對NVDLA也做了各種分析和討論，試圖把它玩起來。從目前來看，NVDLA的開源好像并沒有影響眾多初創(chuàng)公司的融資。這個話題我們后面再說。至于Nvidia開源DLA的原因，官方的說法是讓更多人可以更容易的實現(xiàn)Inference，促進AI的推廣，特別是在眾多嵌入式設(shè)備上的應(yīng)用。但從整個開源的過程來看，這個開源的決定似乎是比較倉促的。DLA來自Nvidia自動駕駛SoC中的一個module，最初并不是以開源IP為目的而設(shè)計的。而且9月的開源也只公開了一部分硬件代碼和相應(yīng)的驗證環(huán)境，離真正能用起來也還是有較大差距。我們不好判斷這個開源的決定是否和GoogleTPU（在Inference上有比較大的優(yōu)勢）的強勢亮相有關(guān)系。但基本的推測是，在DeepLearning中Nvidia的核心利益應(yīng)該在于Training（目前GPU還是training的最好平臺）。讓Inference門檻更低，滲透到更多應(yīng)用，特別是Edge端，從而進一步促進Training的需求，應(yīng)該是符合它的最大利益的。而且NVDLA的軟件環(huán)境還是使用Nvidia的CUDA/TensorRT，還是由Nvidia掌控的。
這場從一篇論文開始，幾乎貫穿了2017年全年的Google和Nvidia的明爭暗斗，對業(yè)界的影響可能要遠遠超過這兩家公司本身。我之所以把它稱為錯位的戰(zhàn)爭，是因為它發(fā)生在Google這樣的傳統(tǒng)的軟件巨頭和Nvidia這樣的芯片巨頭之間。如果換成IntelvsNvidia，似乎是再正常不過的。Google的參戰(zhàn)，也許是開啟了新的時代。我們可以看到，不僅是TPU，Google在10月又公布了他們在GooglePixel2手機中使用的定制SoCIPU（ImageProcessingUnit）。和Apple越來越多的自己定制芯片一樣，Google這樣的科技巨頭同樣有應(yīng)用（明確知道自己要什么），技術(shù)（對相關(guān)技術(shù)的多年積累），資源（不缺錢，不缺人）上的優(yōu)勢，定制自己的硬件，甚至芯片會變得常態(tài)化。同時我們也看到，GoogleTPU的示范效應(yīng)已經(jīng)顯現(xiàn)，更多的科技巨頭加入AI加速硬件的競爭。Tesla宣布自己定制自動駕駛芯片；Amazon，Microsoft，以及國內(nèi)的BAT，華為都在Cloud中提供專門的FPGA加速的支持；據(jù)稱BigFive中還有在自己開發(fā)芯片的；BAT也都在組建芯片設(shè)計的團隊，等等。雖然大家具體的架構(gòu)和實現(xiàn)方式不同，但都反映出對AI專用硬件的極大興趣。相信未來這一趨勢會越來越明顯。
同時，傳統(tǒng)的芯片巨頭當(dāng)然不會坐視這個巨大的市場被Nvidia主宰或者被Google們瓜分。Intel連續(xù)收購了Nervana（云），Movidius（端），Mobileye（自動駕駛），Altera（FPGA），又把AMD的RajaKudori（GPU）招至帳下，甚至還搞了Loihi（nueromorphic），可以說拿了一手好牌；雖然動作沒有大家想象的那么快，但后面的發(fā)力還是值得期待的。AMD也在努力追趕，畢竟他們的CPU+GPU有自己絕活，而整個公司也已經(jīng)逐漸走出了低谷。而且，不管Tesla和AMD合作自動駕駛芯片的消息到底是真是假，芯片公司這種輸出芯片設(shè)計能力的模式也是一種不錯（或者無奈）的選擇。
以DeepLearning為代表的新型計算模式將引領(lǐng)未來芯片的發(fā)展方向，這一觀點基本已經(jīng)是大家的一個共識。越來越多的玩家會關(guān)注能夠支持新型計算的芯片，其中很多可能之前完全不在半導(dǎo)體這個圈子，也完全不了解芯片是怎么回事。2017年我們不時能看到一些對比CPU，GPU，F(xiàn)PGA和ASIC架構(gòu)的科普文章，甚至有10W+的閱讀量，不難看出大家的熱情。
初創(chuàng)公司長長的list
2017的AI芯片大戲中，主角不僅是巨頭，初創(chuàng)公司也都粉墨登場，戲份一點兒都不遜色。更重要的，在初創(chuàng)公司的表演中，中國公司不僅毫不怯場，而且非常出彩。我從8月份開始在github上維護一個AI芯片的列表，既包括大公司的產(chǎn)品，又包括初創(chuàng)公司的情況。到12月，這個列表中的信息越來越多，世界范圍內(nèi)的初創(chuàng)公司有30多家。而且這個列表還只包含了公開信息，還有很多公司處在stealth狀態(tài)并沒有收錄。我也聽到一個說法，在AI芯片領(lǐng)域的初創(chuàng)公司可能超過了100家，在TSMC排隊投片也有30家。