我們的初衷，目前深度學習應用在各個方面、各個產業，包括以圖搜圖、語音檢索、無人駕駛、人臉識別，打造一個跨平臺的高性能的計算能力，為AI的產業化部署提供方便，提高AI算法部署效率，提高用戶體驗。
上面是Anakin大體的現狀情況，混合精度，未來會基于自動模型壓縮和剪裁，我們現在在研究和開發的方向是基于LLVM編譯和自動硬件代碼生成，幫助用戶更快的進行擴展。 接下來看一下Anakin目前的現狀，開源，大家可以看到所有的代碼，再一個是跨平臺支持眾多硬件的擴展能力，VPS，再有是高性能。下面看一下設計原理及核心特征，首先是多框架支持，已經支持的有Paddle、Lego、Caffe。整個框架相對來說比較輕量。目前在做Graph一些優化里，通過一個resource管理平臺，統一管理所有的網絡參數，在多線程的時候，參數共享。在這基礎上也會做運行時的內存分析。再一個是支持圖可視化，真正的用戶可能非常關心我把我的模型輸入給你之后，你會不會改動我模型，會不會跟我之前的設計初衷不一樣。我們可以把你的網絡完整顯示出來，你可以看到所有的網絡參數跟你之前的設計不一樣，經過圖優化之后，會把圖優化的結果動態顯示出來，會顯示所有的優化。還有一個是地址預映射，將更多I/O密集操作與計算密集操作組合在一起。我們還會提供一套跨平臺的支持不同硬件的庫，后端匯編級優化。提供了非常多層面的調用方式，可以用作人工智能計算庫，可以用作獨立推理引擎，再一個還封裝了完整的RPC服務的接口。 性能表現，這邊提供了非常多的實際測試，這個測試是Anakin跟TensorRT的對比。這個是在ARM端的測試，這是我們在兩款ARM處理器上的性能對比。下面看一下Anakin和Tensorflow在英特爾處理器上的性能對比，對Tensorflow來講，它的優化相對來說比較高，整體的性能非常明顯。這是Mobilenet模型測試，在比特大陸上的測試。 10月16日，2018年開放數據峰會（Open Data Center Summit 2018）于上午在北京國際會議中心開幕。作為數據中心行業的一大盛事，ODCC每年都將匯聚數千名數據中心專家與幾十名主流媒體。本屆峰會時間為16日-17日，ODCC將發布最新研究成果，碰撞尖端熱點技術，分享國際技術進展，展示主流產品應用。
崔超文：大家好，我今天演講的主題是AI推理加速引擎-Anakin。
看一下目前市面上或者我們看到的推理引擎的現狀，從AlphaGo包括一些聚合的模型，比如幾個比較復雜的模型，模型爆炸性增長，硬件增長、計算能力增長相對有限。再一個，多個訓練框架對我們也會提供，包括Tensorflow。這些框架由于它的設計理念不同，研發人員水平參差不齊，香港免備案主機 美國服務器，導致表現性性能有非常大的差異，增加了工程師的負擔，無形中增加成本。目前芯片異構化更多一些，包括FPGA、ARM，一些專有的芯片。我們在服務端或應用端部署的時候，過程中我們也會把真正的項目去實際工程化，這些會耗費非常大的人力和物力。我們會設計一套跨平臺支持多種平臺包括AI GPU等等一些新的芯片，支持更多的硬件平臺，在不同的硬件平臺上實施更高性能的計算能力。
