美國東部時(shí)間10月21日，全球備受矚目的權(quán)威AI基準(zhǔn)測試MLPerf公布今年的推理測試榜單，浪潮AI服務(wù)器NF5488A5一舉創(chuàng)造18項(xiàng)性能紀(jì)錄，在數(shù)據(jù)中心AI推理性能上遙遙領(lǐng)先其他廠商產(chǎn)品。
MLPerf是當(dāng)前全球最具影響力的AI計(jì)算基準(zhǔn)評(píng)測組織，由圖靈獎(jiǎng)得主大衛(wèi)·帕特森（David?Patterson）聯(lián)合谷歌、斯坦福、哈佛大學(xué)等單位共同成立，每年組織全球AI訓(xùn)練和AI推理性能測試并發(fā)榜。此次MLPerf的AI推理基準(zhǔn)測試有全球23家公司和單位參與，在數(shù)據(jù)中心及邊緣等場景進(jìn)行AI計(jì)算產(chǎn)品的性能比試。今年MLPerf訓(xùn)練榜單已于7月公布。
浪潮NF5488A5獲數(shù)據(jù)中心AI性能絕對(duì)優(yōu)勢(shì)
此次浪潮NF5488A5一舉創(chuàng)造18項(xiàng)MLPerf推理性能紀(jì)錄，成為創(chuàng)紀(jì)錄最多的AI服務(wù)器。今年的測試中，數(shù)據(jù)中心AI性能最受關(guān)注，全部參與機(jī)構(gòu)提交了507項(xiàng)性能測試數(shù)據(jù)。浪潮NF5488A5創(chuàng)下了數(shù)據(jù)中心22個(gè)賽項(xiàng)中的13項(xiàng)性能紀(jì)錄以絕對(duì)優(yōu)勢(shì)領(lǐng)先，NVIDIA DGX取得了5項(xiàng)數(shù)據(jù)中心性能紀(jì)錄。而在此前的MLPerf訓(xùn)練榜單中，NF5488A5在最核心的Resnet50訓(xùn)練任務(wù)中也創(chuàng)下了性能紀(jì)錄，單機(jī)性能高居榜首。
浪潮NF5488A5創(chuàng)造18項(xiàng)MLPerf推理性能紀(jì)錄
性能大幅提升3倍，全棧AI能力優(yōu)勢(shì)凸顯
在此次基準(zhǔn)測試中，浪潮AI服務(wù)器NF5488A5在開放優(yōu)化(Open)和固定任務(wù)(Closed)的ResNet50基準(zhǔn)性能測試中，均表現(xiàn)優(yōu)異，相比2019年MLPerf推理榜單的服務(wù)器最好性能提升高達(dá)3倍。
MLPerf ResNet50推理性能2019 VS 2020對(duì)比
NF5488A5是浪潮自研的新一代AI服務(wù)器，是此次MLPerf全球競賽中唯一可以在4U空間內(nèi)支持8塊安培架構(gòu)A100芯片實(shí)現(xiàn)NVLink高速互聯(lián)的AI服務(wù)器。浪潮NF5488A5在系統(tǒng)拓?fù)渖喜捎昧顺脱舆t設(shè)計(jì)，支持PCIe 4.0全鏈路極致優(yōu)化，高頻通信單元采用一級(jí)拓?fù)渥罱B接，最大限度提升處理器到AI芯片間的通信性能。同時(shí)，通過配置NUMA節(jié)點(diǎn)，確保每顆處理器與其直連的GPU之間通信性能最優(yōu)，免備案服務(wù)器，最大限度降低通信延遲。此外，NF5488A5通過深度優(yōu)化系統(tǒng)結(jié)構(gòu)設(shè)計(jì)，確保設(shè)備可在高溫環(huán)境下穩(wěn)定運(yùn)行。
本次基準(zhǔn)測試中，浪潮展示出了卓越的AI計(jì)算軟硬件協(xié)同優(yōu)化能力。在硬件層面，通過對(duì)CPU、GPU硬件性能的精細(xì)校準(zhǔn)和全面優(yōu)化，使CPU性能、GPU性能、CPU與GPU之間的數(shù)據(jù)通路均處于對(duì)AI推理最優(yōu)狀態(tài)；在軟件層面，結(jié)合GPU硬件拓?fù)鋵?duì)多GPU的輪詢調(diào)度優(yōu)化使單卡至多卡性能達(dá)到了近似線性擴(kuò)展；在深度學(xué)習(xí)算法層面，結(jié)合GPU Tensor Core 單元的計(jì)算特征，通過自研通道壓縮算法成功實(shí)現(xiàn)了模型的極致性能優(yōu)化，在精度無損的情況下性能提升近2倍。
各服務(wù)器MLPerf AI推理性能對(duì)比（以浪潮NF5488A5為基準(zhǔn)，越高越好）
浪潮是全球領(lǐng)先的AI計(jì)算領(lǐng)導(dǎo)廠商，其AI服務(wù)器在中國的市場份額已連續(xù)三年保持在50%以上。浪潮致力于AI計(jì)算平臺(tái)、資源平臺(tái)和算法平臺(tái)的研發(fā)創(chuàng)新，并通過元腦生態(tài)與AI領(lǐng)先企業(yè)共同推進(jìn)AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化進(jìn)程。
關(guān)注中國IDC圈官方微信：idc-quan 我們將定期推送IDC產(chǎn)業(yè)最新資訊
查看心情排行你看到此篇文章的感受是：
支持
高興
震驚
憤怒
無聊
無奈
謊言
槍稿
不解
標(biāo)題黨
國內(nèi)資訊 浪潮沈榮：需求引領(lǐng)開放，開放走向未來
浪潮相信未來一定是開放合作的，作為服務(wù)器領(lǐng)先的廠商，浪潮希望不斷走在行業(yè)前列，讓更多的客戶受益，共同推動(dòng)產(chǎn)業(yè)的進(jìn)步。 <詳情>
