在斯坦福大學前任校長、Alphbet公司董事長John L. Hennessy的大力支持下，英特爾開始全面轉向“域特定架構”策略，并由此構建起屬于自己的CPU、GPU、ASIC與FPGA等多個產品家族。從本質上講，這項策略很可能正是異構計算的重要縮影，但同時也給軟件開發人員帶來沉重的負擔。為了破解困局，英特爾開始著力開發其OneAPI軟件工具集。

目前，英特爾主要依靠至強產品線進行AI推理，領先Movidius實現嵌入式AI，并通過MobileEye支持汽車圖像處理。在數據中心方面，英特爾于2016年收購Nervana Labs，隨后于2019年12月收購了Habana Labs。上個季度，英特爾在AWS上一舉拿下模型訓練設計大獎。AWS方面宣稱，與其他領先GPU平臺（很可能是指英偉達A100）相比，VPS租用，Habana Labs平臺在價格/性能方面保持著40%的優勢。不過AWS也強調，這一結果來自一攬子AI工作負載，可代表AWS上約八成AI運行負載的一般情況。

Gaudi芯片通過8 x 100Gb裸片搭載的標準以太網架構，借助“模型并發性”機制提高存儲容量處理能力。這套架構能夠擴展至數千個節點，擁有廣闊的負載容納范圍。隨著DNN模型的規模擴張與復雜性增長（每3.5個月翻一番），國內服務器，這種橫向擴展能力將變得愈發重要。Gaudi架構能夠支持基于融合以太網的RDMA（ROCE）。ROCE的重要意義在于，能夠將其引入芯片，英特爾能夠獲得8個超高速（100 Gb）互連端口且無需昂貴的網絡接口卡（NIC，價格可能遠高于1000美元）或者機架交換機（價格通常高于10000美元）。而且與需要消耗大量CPU周期的共享內存管理軟件相比，RDMA能夠顯著簡化程序員在整體架構中訪問共享內在的挑戰并借此提高性能表現。

但在Habana之外，也有不少用戶更傾向于使用英特爾至強處理器執行某些推理甚至是訓練作業。Facebook就分享了其AI基礎設施設計心得，表示正在推薦、多層級感知器以及整體推理等作業中大量使用至強CPU。

目前無法斷言Facebook的態度到底有多堅定，畢竟社交巨頭對其他芯片也表現出了極大興趣，包括高通的A1100以及Facebook內部自研的推理處理器Kings Canyon。Facebook目前每天處理超200萬億項預測與超過60億項語言翻譯操作，因此高效推理處理器將成為提升Facebook運營效率的關鍵所在。

Facebook AI每天需要處理數萬億次查詢。該公司在使用GPU的同時，也在廣泛使用CPU（很可能來自英特爾）。

作為英特爾的合作伙伴，Datatonic公司也分享了使用至強處理器提升AI推理性能并降低處理成本的心得。請注意，這部分數據的比較對象是上代英偉達GPU，而非最新的英偉達A100。但無論如何，Datatonic給出的結果仍然令人意外、甚至可以說是震驚。

英特爾客戶Datatonic最近分享了測試結果，英特爾至強處理器確實有能力成為速度更快、成本更低的AI實現途徑。

預計在AWS的強大設計之下，Habana Gaudi訓練芯片將在2021年上半年迎來更多輝煌的戰果。Gaudi在大規模處理方面擁有獨特優勢，我們也將其視為訓練類工作負載的重要競爭選項。另外，Gaudi同樣擁有出色的可擴展性，這也成為英特爾陣營的核心優勢。

借助ROCE帶來的100 Gb以太網端口，英特爾的Gaudi平臺能夠提供出色的可擴展性。

至于Habana Goya推理處理器，考慮到其短短兩年的發展歷程，我們對其設計水平還無法抱有太高的信心。事實上，英特爾方面甚至有可能暫時擱置Goya發展計劃，專注于推動至強處理器在數據中心領域的推理處理探索。這一方面是因為至強已經在AI加速方面取得了不錯的成績，此外新任CEO Pat Gelsinger也需要盡可能減少低利潤產品帶來的成本壓力。當然，目前關于Goya項目的消息還太少，尚未公開的大客戶部署以及可能公布的下一代芯片方案都有可能幫助Goya迅速成為人們的關注焦點。

優勢：英特爾擁有全面的產品組合，只要能夠克服域特定架構帶來的固有軟件開發挑戰，奪取市場份額將只是時間問題。總之，英特爾研究院在AI方面擁有相當強勁的潛在優勢。

劣勢：英特爾必須解決生產問題。Habana Gaudi的上市速度太慢，給競爭對手下留下了跟進甚至超越英特爾的機會。另外，我們還沒有聽說有任何大型客戶使用Habana Goya處理推理類工作負載。