Amazon公司的Werner Vogels于上周宣布Amazon深度學(xué)習(xí)框架將會正式選用MXNet,并且AWS將會通過增加源代碼貢獻(xiàn)、改進(jìn)文檔以及支持來自其它框架的可視化、開發(fā)以及遷移工具,為實現(xiàn)MXNet成功的長遠(yuǎn)目標(biāo)做出貢獻(xiàn)。
Vogles指出在欺詐檢測、推薦流水線、庫存和產(chǎn)品檢查審計等領(lǐng)域,有一系列無法通過編寫顯式算法實現(xiàn)的計算任務(wù),對此問題一類被稱為深度學(xué)習(xí)的機(jī)器學(xué)習(xí)方法正日益發(fā)揮重要作用,此外,在內(nèi)容搜索、自主無人機(jī)、訂單履行中心機(jī)器人、文本及語音識別等領(lǐng)域中也廣泛地使用了機(jī)器學(xué)習(xí)方法。Vogels給出了Amazon在深度學(xué)習(xí)框架選取中所考慮的三個因素,即擴(kuò)展能力、開發(fā)速度及可移植性。
深度學(xué)習(xí)程序庫Caffe、CNTK、MXNet、TensorFlow、Theano和Torch都得到了Amazon的評估,并且被AWS所支持?,F(xiàn)在AWS選定了MXNet作為可擴(kuò)展框架,并號召開源社區(qū)為MXNet投入更多的努力。在機(jī)器學(xué)習(xí)平臺服務(wù)的開發(fā)上,AWS所采取的方法將會如同在RDS中一樣,并且:
“我們將通過提供最好的EC2實例組及適用的軟件工具,支持深度學(xué)習(xí)框架領(lǐng)域中所有廣受歡迎的深度學(xué)習(xí)框架。”
Vogels提到了今年初發(fā)布的深度學(xué)習(xí)AMI及附帶的云信息模板。AMI工具集是一種64位的Amazon Linux發(fā)布版,其中預(yù)裝了對CNTK的支持,以及針對MXNet、Graphviz、pygal和Python pandas的更新包。該發(fā)布版中預(yù)置了六種深度學(xué)習(xí)架構(gòu),分別是NXNet、Caffe、TensorFlow、Theano、Torch和CNTK。AMI中還包括NVIDIA CUDA Toolkit和cuDNN庫安裝程序、Anaconda、Python 2和3。評論表明這仍是第一代的AMI,它已經(jīng)可為開始使用GPU架構(gòu)的分析工程師提供良好的工作基礎(chǔ)。
MXNet最初是由華盛頓大學(xué)和卡內(nèi)基梅隆大學(xué)(CMU)開發(fā),用于支持卷積神經(jīng)網(wǎng)絡(luò)(CNN)和長短期記憶網(wǎng)絡(luò)(LSTM)運(yùn)算。CMU計算機(jī)科學(xué)系主任Andrew Moore指出:
MXNet誕生于CMU,并在CMU發(fā)展壯大。它是我目前所見到的最具擴(kuò)展性的深度學(xué)習(xí)框架,也是計算機(jī)科學(xué)領(lǐng)域輝煌研究的代表性成果。多個不同學(xué)科交匯于其中并共同協(xié)作,實現(xiàn)將線性代數(shù)創(chuàng)造性地引入大規(guī)模分布式計算中,從而引領(lǐng)了深度學(xué)習(xí)的全新局面。我們很高興看到Amazon對MXNet的投入,并迫切期待MXNet能不斷地走向強(qiáng)大。
CMU在MXNet上訓(xùn)練了Inception V3算法。訓(xùn)練運(yùn)行在一個P2實例的集群上,并逐步增添了GPU數(shù)目。在運(yùn)行多至1000層的深度網(wǎng)絡(luò)時,MXNet僅占用了低至4GB的內(nèi)存。MXNet支持多種語言的API接口,包括Python、C++(并支持在Android和iOS上編譯)、R、Scala、Julia、Matlab和JavaScript。
查看英文原文:Amazon Announces MXNet as Deep Learning Framework of Choice at AWS