浪潮集團(tuán)副總裁彭震表示：“浪潮作為全球領(lǐng)先的AI計(jì)算力提供者，全新發(fā)布的AI品牌TensorServer將致力于成為AI的承載者與賦能者，通過(guò)整合創(chuàng)新AI基礎(chǔ)架構(gòu)系統(tǒng)，向用戶交付強(qiáng)自適應(yīng)、高效加速、靈活拓展的AI基礎(chǔ)架構(gòu)系統(tǒng)，持續(xù)推動(dòng)以計(jì)算開(kāi)啟可進(jìn)化的智慧世界。AI云作為一種新興的云服務(wù)形式，已經(jīng)得到越來(lái)越多公有云廠商、AI初創(chuàng)公司及AI用戶的共同青睞。NF5468M5正是TensorServer品牌對(duì)AI基礎(chǔ)架構(gòu)創(chuàng)新的承諾在AI云場(chǎng)景的最新產(chǎn)品體現(xiàn)。”

AI云對(duì)基礎(chǔ)架構(gòu)的設(shè)計(jì)帶來(lái)新的挑戰(zhàn)，要求AI服務(wù)器具備云虛機(jī)的GPU資源支持與高效分配、適合于不同AI訓(xùn)練場(chǎng)景的GPU靈活拓?fù)洹I線上推理的高并發(fā)低延遲與高能效比、大規(guī)模AI數(shù)據(jù)的存儲(chǔ)與通信能力。

NF5468M5專為AI云場(chǎng)景對(duì)彈性配置能力予以優(yōu)化，增強(qiáng)了PCI-E拓?fù)浜蛿?shù)量配比的彈性，適配多種框架的運(yùn)算需求，并增加了易于管理和維護(hù)的遠(yuǎn)程GPU拓?fù)渲貥?gòu)技術(shù)。NF5468M5可靈活支持AI模型的線下訓(xùn)練和線上推理兩類場(chǎng)景，能夠讓AI模型訓(xùn)練性能最大化或AI在線推理效能最大化。NF5468M5面向線下訓(xùn)練對(duì)性能的需求，可支持8顆最高性能的Tesla Volta GPU以PCI-E或NVLink的高速互聯(lián);面向在線推理對(duì)高能效比的需求，可支持16顆高能效比的Tesla P4 GPU，適用于語(yǔ)音、圖片、視頻場(chǎng)景。在智能視頻分析場(chǎng)景下，可同時(shí)處理300路以上1080p高清視頻結(jié)構(gòu)化。NF5468M5同時(shí)實(shí)現(xiàn)了數(shù)據(jù)存儲(chǔ)與通訊性能極大化，消除IO瓶頸，可支持288TB大容量存儲(chǔ)或32TB固態(tài)存儲(chǔ)，實(shí)現(xiàn)高達(dá)400Gbps通信帶寬和1us的超低延遲。

NF5468M5的發(fā)布凸顯出浪潮在AI計(jì)算平臺(tái)上的創(chuàng)新能力。此前，浪潮已經(jīng)相繼推出多款創(chuàng)新的AI計(jì)算平臺(tái)，包括全球首款在2U空間內(nèi)高速互聯(lián)集成8顆最高性能GPU的AI服務(wù)器AGX-2、單機(jī)可實(shí)現(xiàn)支持16個(gè)GPU的超大擴(kuò)展性節(jié)點(diǎn)SR-AI整機(jī)柜、率先實(shí)現(xiàn)協(xié)處理器與CPU計(jì)算資源的解耦和重構(gòu)的AI擴(kuò)展模塊GX-4。目前，浪潮已建立全球領(lǐng)先的AI計(jì)算產(chǎn)品系列，適合線下訓(xùn)練的計(jì)算加速節(jié)點(diǎn)采用浪潮領(lǐng)先業(yè)界設(shè)計(jì)的浮點(diǎn)運(yùn)算能力強(qiáng)、高擴(kuò)展的GPU服務(wù)器，或KNM 計(jì)算加速器，而用于線上識(shí)別的計(jì)算加速節(jié)點(diǎn)采用浪潮低功耗、高能效比的GPU服務(wù)器，或者低功耗定制優(yōu)化推理程序的FPGA加速器。

浪潮全新AI品牌TensorServer將整合提供高性能的AI計(jì)算平臺(tái)、管理套件、框架優(yōu)化和應(yīng)用加速，為行業(yè)AI轉(zhuǎn)型提供賦能支撐。除完善的AI計(jì)算產(chǎn)品外，浪潮TensorServer還可提供包括TensorFlow、Caffe-MPI、CNTK 等浪潮專家優(yōu)化過(guò)的深度學(xué)習(xí)框架，而AIStation 管理平臺(tái)可對(duì)深度學(xué)習(xí)框架提供任務(wù)管理、登錄接口、參數(shù)調(diào)優(yōu)等服務(wù)，并對(duì)節(jié)點(diǎn)和計(jì)算加速部件進(jìn)行狀態(tài)監(jiān)控和調(diào)度等。