從人工智能的發(fā)展歷程不難看出，計(jì)算能力始終是推動(dòng)人工智能發(fā)展的重要?jiǎng)恿ΑＬ貏e是在當(dāng)前這一波以深度神經(jīng)網(wǎng)絡(luò)為理論基礎(chǔ)的人工智能浪潮中，算法、數(shù)據(jù)和計(jì)算能力是業(yè)界公認(rèn)的三大基石。其中，算法、數(shù)據(jù)的作用比較難以量化，而計(jì)算能力則可以用數(shù)字來(lái)說(shuō)話。這個(gè)圖是來(lái)自O(shè)penAI的數(shù)據(jù)，可以從中看出典型人工智能訓(xùn)練負(fù)載對(duì)計(jì)算能力的需求的變化情況。圖中的左下角是2012年出現(xiàn)的最早期的深度神經(jīng)網(wǎng)絡(luò)模型AlexNet，右上角是這兩年最火爆的AlphaGo系列。從圖中可以看出，從2012年一直到現(xiàn)在，人工智能的計(jì)算能力需求是一個(gè)指數(shù)性的增長(zhǎng)，大概每3.5個(gè)月就要翻一番。在這種壓力下，計(jì)算能力受到挑戰(zhàn)。遵循摩爾定律發(fā)展的CPU計(jì)算能力，每18-24個(gè)月翻一番，與前面提到了人工智能算力的每3.5個(gè)月翻一番的需求有較大差距。同時(shí)，摩爾定律也面臨發(fā)展的物理極限，功耗墻等已經(jīng)嚴(yán)重影響了新的芯片工藝的發(fā)展，國(guó)內(nèi)服務(wù)器租用 服務(wù)器托管，最典型的就是10nm工藝遲遲未能面世。而在計(jì)算領(lǐng)域，除了摩爾定律外還有Gustafson定律，這個(gè)定律是說(shuō)系統(tǒng)優(yōu)化某一個(gè)部件所獲得的系統(tǒng)性能的改善程度，取決于該部件被使用的頻率或其所占總執(zhí)行時(shí)間的比例。這意味著什么呢？這意味著如果我們的程序中串行部分比例比較小，并行部分的比例比較大，那么通過(guò)增加處理器個(gè)數(shù)，就能獲得更大的加速比。這也是CPU從單核走向多核多線程的理論依據(jù)，而當(dāng)前GPU、FPGA等則通過(guò)提供更多的計(jì)算核個(gè)數(shù)，獲得更高的加速比。

最后做一下展望，我們認(rèn)為軟硬件融合、低功耗、邊緣智能、新型AI加速技術(shù)的引入是未來(lái)人工智能服務(wù)器發(fā)展的趨勢(shì)。

王峰：人工智能現(xiàn)在是產(chǎn)業(yè)熱點(diǎn)，從ODCC服務(wù)器工作組的角度來(lái)講，服務(wù)器作為人工智能所需的計(jì)算能力的最重要載體，它的發(fā)展要能夠與時(shí)俱進(jìn)。因此，我們發(fā)起了一個(gè)專門的研究項(xiàng)目，對(duì)人工智能服務(wù)器的技術(shù)體系做全面的梳理，今天在這里給各位來(lái)賓匯報(bào)下工作進(jìn)展。

人工智能到現(xiàn)在耳熟能詳，它的發(fā)展歷程也是有起有伏。1956年，AI概念提出后就迎來(lái)了第一小高潮，標(biāo)志性事件是人工智能技術(shù)對(duì)數(shù)學(xué)原理第二章的內(nèi)容作了證明，但是因?yàn)樗惴Ｐ碗y以滿足更廣闊的需求，以及激增的計(jì)算能力需求得不到滿足，使得AI跌入第一次低谷；第二波高潮的標(biāo)志性事件則是專家系統(tǒng)的問(wèn)世與應(yīng)用，但是因?yàn)閷＜蚁到y(tǒng)的建設(shè)投入、運(yùn)行維護(hù)的代價(jià)很高，最終PC機(jī)的性能提升和應(yīng)用普及影響了它的價(jià)值；當(dāng)前，我們正面臨第三波高潮，以深度學(xué)習(xí)為基礎(chǔ)的AI正快速進(jìn)入到我們生產(chǎn)生活的方方面面。

當(dāng)前，AI加速芯片是業(yè)界關(guān)注的焦點(diǎn)。從通用性的角度看，最優(yōu)的是CPU，然后是GPGPU，也就是通用GPU，然后是硬件可編程的FPGA芯片，最后是專用的集成電路ASIC。從性能、專用性來(lái)講，因?yàn)锳SIC是專用的，典型的像谷歌的TPU、寒武紀(jì)、包括上周華為剛發(fā)布的處理器，可以針對(duì)細(xì)節(jié)做優(yōu)化，算法的實(shí)現(xiàn)都可以做專項(xiàng)能力的提升，所以在性能、功耗等方面有優(yōu)勢(shì)。而在通用性、靈活性、應(yīng)用兼容性等方面，CPU、GPU等則更優(yōu)。雖然AI加速器件非常重要，但是從服務(wù)器整體來(lái)講，它們也只是其中的一小部分，從這個(gè)我們合作伙伴仁寶做的GPU服務(wù)器的主板圖可以看出，GPU只是其中一小塊兒，服務(wù)器的設(shè)計(jì)與實(shí)現(xiàn)是系統(tǒng)化的工程，除了AI加速芯片外還有很多事情要做。

有了上述的技術(shù)體系梳理，在AI服務(wù)器的設(shè)計(jì)中就要考慮典型配置參數(shù)，VPS，而高性價(jià)比的服務(wù)器配置一定和前面提到的業(yè)務(wù)場(chǎng)景密切相關(guān)，另外，現(xiàn)在我們也有一些經(jīng)驗(yàn)配置，例如：內(nèi)存越大性能越強(qiáng)，因此容量至少和GPU總的顯存大小相同；SSD需要保存與用戶通常要處理的數(shù)據(jù)集大小相當(dāng)?shù)?a href='http://www.qzkangyuan.com/cnidc/dc/jhcc/' target='_blank'>存儲(chǔ)容量，然后再多留出數(shù)十GB空間；HDD最容易成為性能瓶頸，它需要容納下典型AI業(yè)務(wù)所需的全部數(shù)據(jù)。最后，服務(wù)器實(shí)現(xiàn)了還要有相應(yīng)的評(píng)測(cè)，我們重點(diǎn)看三方面：第一方面是看計(jì)算指標(biāo)，最主要的是單精、半精的浮點(diǎn)計(jì)算性能；第二方面是從主板的系統(tǒng)指標(biāo)來(lái)講，最典型的是GPU間的數(shù)據(jù)帶寬等；第三方面是看場(chǎng)景指標(biāo)，不同的領(lǐng)域里都有不同的要求，我們需要通過(guò)典型的AI框架和算法，評(píng)測(cè)服務(wù)器的業(yè)務(wù)性能指標(biāo)。

10月16日，2018年開(kāi)放數(shù)據(jù)峰會(huì)（Open Data Center Summit 2018，下文簡(jiǎn)稱ODCC）數(shù)據(jù)中心網(wǎng)絡(luò)分論壇在北京國(guó)際會(huì)議中心舉辦。ODCC關(guān)注數(shù)據(jù)中心產(chǎn)業(yè)的各個(gè)方面，從國(guó)家政策和法規(guī)，到地方制度和項(xiàng)目，從產(chǎn)業(yè)全局發(fā)展到具體技術(shù)落地，從尖端熱點(diǎn)技術(shù)到傳統(tǒng)行業(yè)推廣，從國(guó)內(nèi)到國(guó)際，從宏觀到微觀，全力推動(dòng)中國(guó)數(shù)據(jù)中心產(chǎn)業(yè)發(fā)展。

在上述理論基礎(chǔ)上，落實(shí)到具體場(chǎng)景還會(huì)有不同的計(jì)算能力需求。當(dāng)前，AI的典型業(yè)務(wù)場(chǎng)景有三類：第一類場(chǎng)景是海量重復(fù)計(jì)算的場(chǎng)景，例如人臉識(shí)別，主要是對(duì)大量人臉數(shù)據(jù)的分析，任務(wù)相對(duì)重復(fù)；第二類是專家經(jīng)驗(yàn)輔助的場(chǎng)景，針對(duì)一個(gè)個(gè)案，例如在醫(yī)療領(lǐng)域開(kāi)展人工智能的輔助診斷；第三類場(chǎng)景是跨領(lǐng)域協(xié)同，例如像智能交通系統(tǒng)，就需要把方方面面的數(shù)據(jù)匯聚起來(lái)再做全面的分析。不同場(chǎng)景都會(huì)有不同的計(jì)算能力需求。另外，AI服務(wù)器的設(shè)計(jì)也和它們是用于訓(xùn)練還是用于推理、是放在數(shù)據(jù)中心還是邊緣機(jī)房等因素密切相關(guān)。當(dāng)前，人工智能領(lǐng)域越來(lái)越看重邊緣，希望在邊緣提供低延遲的反饋，解決用戶的體驗(yàn)問(wèn)題。而在集中化的數(shù)據(jù)中心中，除了必備的高性能計(jì)算外，如果是用于數(shù)據(jù)訓(xùn)練那么對(duì)存儲(chǔ)會(huì)有較高要求，如果是用于推理則需要對(duì)高速網(wǎng)絡(luò)等配置做全面考慮。

我們針對(duì)AI服務(wù)器的相關(guān)技術(shù)體系做了一些梳理。CPU方面，x86架構(gòu)是主流，但是ARM在功耗上的優(yōu)勢(shì)使得它也在日益得到關(guān)注。AI加速是重中之重，剛才已經(jīng)討論過(guò)了，不在贅述。內(nèi)存方面，我們現(xiàn)看到類似Intel傲騰的技術(shù)，能夠在內(nèi)存、存儲(chǔ)之間做靈活的調(diào)配，也許以后在應(yīng)對(duì)多樣化的AI場(chǎng)景時(shí)會(huì)有幫助。存儲(chǔ)這塊主要是NVMe SSD的引入，之前NVMe價(jià)格是個(gè)大問(wèn)題，而現(xiàn)在一方面是器件成本在逐步下降，另一方面就是AI業(yè)務(wù)的高價(jià)值使得這類此前認(rèn)為的高端技術(shù)能夠在現(xiàn)網(wǎng)里有需求。主板總線，NVLink等協(xié)議比PCIE有更高的性能，而PCIE也在持續(xù)發(fā)展中，在未來(lái)也有廣闊空間。網(wǎng)絡(luò)這一塊，傳統(tǒng)的云服務(wù)也許萬(wàn)兆網(wǎng)絡(luò)就夠用了，但是現(xiàn)在我們要討論100G的RDMA技術(shù)，比如InfiniBand，是否更加適合AI應(yīng)用。另外，管理、散熱等也要做專門的主板布局和相關(guān)的設(shè)計(jì)。不要以為在現(xiàn)在的PC服務(wù)器上插一個(gè)GPU或者顯卡就能當(dāng)一個(gè)GPU服務(wù)器來(lái)用。還是剛才說(shuō)的，AI服務(wù)器的設(shè)計(jì)實(shí)現(xiàn)一定是一個(gè)系統(tǒng)化科、學(xué)化的工程，我們對(duì)這個(gè)事情有一個(gè)比較全面的闡述。