2019年12月18日，一年一度的英偉達(dá)（NVIDIA）GTC China 2019大會(huì)如期而至。本次大會(huì)上，英偉達(dá)（NVIDIA）創(chuàng)始人兼首席執(zhí)行官黃仁勛帶了極具個(gè)人色彩的主題演講。
在長達(dá)兩個(gè)多小時(shí)的Keynote中，黃仁勛介紹了NVIDIA在圖形加速計(jì)算方面的最新情況，從數(shù)據(jù)中心到邊緣、機(jī)器人，域名購買，包括工作站、服務(wù)器和終端。比如在深度推薦系統(tǒng)應(yīng)用方面，百度AIBox推薦系統(tǒng)以及阿里巴巴推薦系統(tǒng)均借助英偉達(dá)的AI平臺(tái)實(shí)現(xiàn)計(jì)算加速。
其實(shí)，NVIDIA的加速計(jì)算在云端非常普及，NVIDIA也與眾多云服務(wù)提供商都有合作，比如AWS、Azure、谷歌云，包括中國的百度、滴滴、阿里的云平臺(tái)，NVIDIA和各個(gè)云供應(yīng)商都保持了非常緊密的合作。
NVIDIA加速計(jì)算產(chǎn)品管理總監(jiān)Paresh Kharya介紹說，推薦系統(tǒng)是互聯(lián)網(wǎng)最重要的引擎。因?yàn)槲覀兠媾R越多越多的選擇，包括資訊、商品、視頻等，有效的推薦系統(tǒng)至關(guān)重要。
在Paresh Kharya看來，當(dāng)前，AI模型不斷變化，整個(gè)推理過程也在不斷變化，只有不斷對(duì)這些模型進(jìn)行訓(xùn)練，才可以進(jìn)行有效推薦。所以訓(xùn)練模型確實(shí)需要大量算力，這也是NVIDIA解決方案能夠解決的問題。
NVIDIA GPU架構(gòu)支持高度靈活的可編程軟件定義，而且架構(gòu)是向前兼容。“當(dāng)你使用了一個(gè)編程框架之后，在未來如果使用新的硬件，可以縮短整個(gè)開發(fā)周期，也就是說整個(gè)硬件是可以隨著軟件不斷更新適應(yīng)的，而且在軟件庫里就可以進(jìn)行直接更新。而且我們的平臺(tái)幾乎可以在任何設(shè)備上使用，包括數(shù)據(jù)中心、邊緣或者是物聯(lián)網(wǎng)。”Paresh Kharya說。
除此以外，英偉達(dá)GPU增加了為ARM平臺(tái)提供計(jì)算加速。基于對(duì)ARM平臺(tái)的支持，超級(jí)計(jì)算中心、超大型云運(yùn)營商和企業(yè)能夠?qū)⒂ミ_(dá)加速計(jì)算平臺(tái)的優(yōu)勢與最新的ARM服務(wù)器平臺(tái)相結(jié)合，能夠滿足高性能計(jì)算（HPC）社區(qū)對(duì)于類型更加多樣化的CPU架構(gòu)日益增長的需求。
Paresh Kharya表示，ARM是一個(gè)廣泛使用的架構(gòu)，而是開放平臺(tái)，各種各樣的公司都可以在ARM架構(gòu)上進(jìn)行他們想要的創(chuàng)新。多元化的支持使得ARM可以給客戶更多選擇，無論在數(shù)據(jù)中心還是在邊緣設(shè)備上面，這也是NVIDIA為什么選擇支持ARM進(jìn)行加速計(jì)算。“我們通過將CUDA平臺(tái)和ARM架構(gòu)進(jìn)行兼容，在整個(gè)加速計(jì)算領(lǐng)域，無論是AI、高性能計(jì)算還是我們進(jìn)入的所有的領(lǐng)域都可以給到客戶更多選擇。”
面向會(huì)話式AI的TensorRT 7
黃仁勛還發(fā)布了英偉達(dá)的新一代突破性推理軟件——TensorRT 7。它可以幫助全球各地的開發(fā)者實(shí)現(xiàn)會(huì)話式AI應(yīng)用，大幅減少推理延遲。能夠?qū)崿F(xiàn)與語音代理、聊天機(jī)器人和推薦引擎等應(yīng)用進(jìn)行實(shí)時(shí)互動(dòng)。
Paresh Kharya表示，會(huì)話式AI是一個(gè)非常復(fù)雜的任務(wù)，而TensorRT 7可以將復(fù)雜的AI模型進(jìn)行加速計(jì)算，真正實(shí)現(xiàn)實(shí)時(shí)會(huì)話式AI，并且可以準(zhǔn)確處理中間復(fù)雜的流程。
NVIDIA負(fù)責(zé)TensorRT產(chǎn)品市場的Siddarth Sharma解釋說，TensorRT 7可以完成整個(gè)流程計(jì)算，從語音識(shí)別到語義理解再到語音輸出。“實(shí)現(xiàn)會(huì)話式AI，你需要在300毫秒內(nèi)將三個(gè)過程完成，而且要非常智能，這中間需要復(fù)雜的模型計(jì)算，TensorRT 7專門針對(duì)其進(jìn)行了優(yōu)化設(shè)計(jì)。”
據(jù)了解，TensorRT 7內(nèi)置新型深度學(xué)習(xí)編譯器。該編譯器能夠自動(dòng)優(yōu)化和加速遞歸神經(jīng)網(wǎng)絡(luò)與基于轉(zhuǎn)換器的神經(jīng)網(wǎng)絡(luò)。這些日益復(fù)雜的神經(jīng)網(wǎng)絡(luò)是AI語音應(yīng)用所必需的。與在CPU上運(yùn)行時(shí)相比，會(huì)話式AI組件速度提高了10倍以上，從而將延遲降低到實(shí)時(shí)交互所需的300毫秒閾值以下。
對(duì)于軟件的作用，Paresh Kharya說，通過軟件方式使得性能進(jìn)一步提升，像醫(yī)療領(lǐng)域的Clara平臺(tái)，自動(dòng)駕駛領(lǐng)域的Drive以及Isaac，硬件和軟件的相互結(jié)合讓計(jì)算性能得以大幅度提升。“我們僅僅通過軟件就使AI計(jì)算性能在兩年之間提升了4倍，所以軟件對(duì)加速計(jì)算的性能提升是非常重要的，未來我們會(huì)繼續(xù)在我們各個(gè)平臺(tái)上對(duì)軟件進(jìn)行完善以提升性能。”
例如現(xiàn)在AI開發(fā)者會(huì)用各種各樣的AI開發(fā)框架，比如TensorFlow。NVIDIA盡可能將更多的軟件庫整合到TensorFlow當(dāng)中，這樣開發(fā)者就可以充分利用這些庫基于GPU進(jìn)行AI開發(fā)，而不用關(guān)注底層的東西，直接利用庫開發(fā)他們想要的東西，并且可以在任何的硬件平臺(tái)上進(jìn)行使用。
Paresh Kharya表示，整個(gè)深度學(xué)習(xí)模型是高度多元化的，這也是為什么NVIDIA硬件要做成可編程，這樣才可以促進(jìn)加速計(jì)算在AI領(lǐng)域的應(yīng)用。NVIDIA也在提供多樣化的堆棧幫助用戶創(chuàng)新、訓(xùn)練和優(yōu)化自己的模型。
