上圖：2017年2月，在倫敦科學博物館舉辦的科學博物館機器人展覽會的預覽上展示的世界首款安卓機器人新聞播報員Komoroid.

今天，GPU（或稱圖形處理單元）的應用程序已然遠遠超過了其本身。超級計算機設計人員們發現它們非常適合于從他們所建立的系統中的CPU卸載大量的工作負載；其也被證明是一種被稱為深度學習（Deep Learning）的機器學習方法的超高效處理器。這正是Google公司用來提供有針對性的廣告的AI類型，而亞馬遜的Alexa則可以用于即時回答語音查詢。

創建相應的算法，使得計算機能夠通過觀察和迭代來進行學習無疑是相當復雜的；同樣令人難以置信的是：設計計算機系統來執行這些指令，并借助數據中心的基礎設施來為這些系統供電和冷卻。 Ober在Nvidia公司的超大規模客戶數據中心系統中深入了解了這一深度學習。

他在接受Data Center Knowledge網站的記者采訪時表示說：“我們一直在大型數據中心處理大量超大規模（真正的超大規模）。 而建立一款用于深入學習培訓的GPU系統是一個非常浩大困難的工程問題。這真的非常非常難。即使像Facebook和微軟這樣的互聯網巨頭企業們也在努力。”

上圖：Facebook最新的AI服務器Big Basin.八個散熱器中的每一個都隱藏著GPU. （照片來源：Facebook）

訓練一款AI需要花費大量功率能耗

培訓是深度學習中所涉及到的一種計算工作負載（或者說是一類工作負載，因為該領域正在發展，并且有幾種不同的培訓方法）。其目的是教授一款深層神經網絡——一個計算節點網絡，旨在模擬人腦中的神經元相互作用的方式——從現有數據中提取新功能。例如，一款神經網絡可以通過重復地“查看”多張其中含有狗的各種圖像來學習識別照片中的狗，圖像中的狗將被標記為狗。

其他類型的工作負載是推理，這是一款神經網絡將其知識應用于新數據的領域（例如，識別之前未見過的圖像中的狗）。

Nvidia公司為上述兩個類別的工作負載制作GPU.但是，在數據中心實施培訓可以說是特別困難的部分，因為用于培訓的硬件需要非常密集的GPU群集，或者每臺服務器具備多達可支持8個GPU的互連服務器。而這樣的一款機柜可以很容易地消耗掉30kW以上的功率密度，超級計算機領域之外的大多數數據中心都不是為這一大功率密度提供支持而設計的。即使這樣，在這個范圍的低端，大約20款這樣的機柜需要消耗與AT&T體育球場達拉斯牛仔隊的超大屏幕一樣多的功率，后者是世界上最大的1080p視頻顯示器，其中包含3000萬個燈泡。

“我們的確是給很多數據中心的基礎設施帶來了真正的壓力，”Ober在談到Nvidia公司的GPU時表示說。 “通過深度學習培訓，企業通常希望盡可能的能夠使得計算池盡可能密集，這樣就會消耗掉相當驚人的功率密度，這無疑是一大真正的挑戰。”另一個問題是如何控制這些集群中的電壓。 GPU計算本質上是在瞬變中產生大量的電力（電壓突然上升），而且這些都是難以應付處理的。“

互連節點是另一大挑戰難題。 Ober說：“根據您的培訓數據來源的不同，數據中心網絡的負擔可能是令人難以置信的。” “你企業可以創造一個真正火的熱點。”在他看來，電力密度和網絡可能是數據中心系統深度學習的兩大設計挑戰。

上圖： Tesla P100 是Nvidia公司功能最為強大的GPU（照片來源：Nvidia公司）

人工智能的冷卻

Ober說，像Facebook和微軟這樣的超大規模的數據中心運營商們主要是通過將他們的深度學習集群傳播到許多機架上來解決功率密度的挑戰，盡管會在液體冷卻或液體輔助冷卻方面面臨一定的“困惑”。液體冷卻是將冷凍水直接輸送到主板上的芯片（冷卻超級計算機的通用方法），而液體輔助冷卻則是將冷凍水帶到連接到IT機柜的熱交換器上，通過冷卻空氣來為服務器提供冷卻。

并不是每家需要支持高密度深度學習硬件的企業都擁有令人羨慕的數十萬平方英尺的數據中心空間，對于那些沒有如此規模的數據中心供應商，例如選擇專注于高密度的數據中心來說，已經選擇了采用液體輔助冷卻的路線。最近，市場對于這些供應商的服務需求已經出現了飆升，而這在很大程度上是受益于市場對于機器學習日益增長的興趣。