Google 所提供的網絡處事大概是地球上最大的計較機網絡,這套網絡擁有 15 個客棧巨細的數據中心,并漫衍在四塊大陸上。
你大概會認為這個網絡已經足夠強大,日常利用 Google 自家的各類處事完全沒有問題,但 Google 并不這么認為,Google 的工程師們也不這么認為,他們擔憂這套已經很是復雜的網絡有一日會不堪重負。
為了省錢,本身做芯片
約莫在六年前,Google 為其 Android 系統插手了新的語音識別技能,也就是我們熟悉的 Google Now 和 Google Assistant.
而除了事情就是思考的 Google 工程師溘然想到,假如世界上每個 Android 手機用戶每人天天利用 Google 的語音搜索處事 3 分鐘,那么所需要的數據中心巨細至少是此刻的兩倍之多,假如用戶越發頻繁的利用 Google 語音處事,那么當前的數據中心將不堪重負。
另外,Google 其時已經開始研究利用深度神經網絡和巨大的數學系統來開拓其語音識別處事,這使得其語音處事可以通過闡明大量的數據來進修一些特定的任務處理懲罰本領。而這種呆板進修形式,不單從頭發現了語音識別,還促進了圖像識別,呆板翻譯,互聯網搜索等技能的成長,但它對數據處理懲罰的本領要求很是苛刻。
由于利用深度神經網絡進修技能,Google 看到呆板的識別錯誤率下降了25%,可是這種進步需要更強大的數據處理懲罰本領,也就是說,需要更多的數據中心。
數據中心不足用,那就多建幾座嘍?但是建這么大都據中心是要花上不少錢的,像 Google 這種財大氣粗的公司也不是拿錢不妥錢,一個錢打二十四個結過日子的理智心態也是有的。
因此 Google 的并沒有豪擲千金將其數據中心的占地面積翻番,而是專門為運行深度神經網絡研制了自家的計較機芯片—— Tensor Processing Unit, TPU(不是誰人用來做手機殼的質料……)。在 TOPS / Watt 測試中,TPU 的機能高于尺度處理懲罰器 30 到 80 倍,這個測試功效很是的可觀。
一顆芯片頂一座數據中心?
Google 在去年五月首次透露了自家這款定制處理懲罰器,但并沒有過多的透露其細節。此刻,認真 TPU 芯片研發的 Norm Jouppi 和他的團隊頒發了一篇文章,美國抗攻擊服務器 亞洲服務器,具體說明白該項目,并表明白 TPU 的運行方法以及對一些非凡問題的辦理方案。
Google 的 TPU 芯片僅用于執行神經網絡處事,只是在用戶利用 Android 手機啟用語音指令或搜索指令的時候才會運行。由于神經網絡擁有自主進修的本領,因此不消特意訓它。可是,Jouppi 說,TPU 除了能讓神經網絡可以或許自主進修和高速運算外,最重要的是,Google 不需要為擔憂數據運算本領不敷而多建特別 15 個數據中心,這樣便節減了大量的本錢。
外媒 Wired 認為,TPU 將為計較機芯片規模帶來重大轉變。由于 Google,Facebook,微軟等互聯網巨頭利用深度神經網絡構建其處事的行動越來越多的處事,他們都需要專門的芯片來練習和運行這些 AI 模子。
但差異的是,Google 在構建本身的芯片,而許多公司還在利用 GPU 來辦理深度神經網絡和人工智能的問題。
Google 自家芯片的呈現,也為計較機芯片市場帶來了攻擊。由于有了本身的芯片,Google 不消再購置別家的芯片來適應本身的神經網絡和人工智能架構,而 Google 甚至有大概成為 TPU 芯片的供給商,因為像 Facebook,微軟和亞馬遜這類公司都是芯片的高級買主。同時,大型的芯片制造商,如英特爾等,也正在研發雷同的處理懲罰器以適應新的市場需求。
合用于多種神經網絡模子
另外,Google 的這塊 TPU 芯片可以用在當下任何一個深度神經網絡中,包羅從圖像識別中利用的神經網絡到用于識別語音呼吁的神經網絡等。用 Jouppi 的話說:
我們并不會因問別人造了個新的神經網絡架構而把我們這塊芯片看成垃圾扔掉。
不外 Jouppi 也認為,TPU 尚有進一步提高機能的空間。假如利用 NVIDIA K80 GPU 中存的 GDDR5 顯存,TPU 便可以提供比 Google 當前測試中得到的更好的機能。按照 Google 當前的的測試發明,深度神經網絡一些處事的機能受到內存帶寬的限制,而 GDDR5 則能辦理這些問題。