超級計(jì)算機(jī)作為國之重器,是眾多前沿科研的強(qiáng)大支柱。隨著人工智能的迅速發(fā)展,智能超級計(jì)算機(jī)成為科研界與工業(yè)界新的熱點(diǎn);全球各大科研機(jī)構(gòu)、企業(yè)巨頭、創(chuàng)業(yè)公司都紛紛推出了各自的智能超級計(jì)算機(jī)。近日,國際測試委員會(huì)(BenchCouncil)在2020青島創(chuàng)新節(jié)期間舉辦的的智能計(jì)算機(jī)大會(huì)和芯片大會(huì)聯(lián)合主論壇上發(fā)布了國際首個(gè)智能超級計(jì)算機(jī)榜單HPC AI500。日本富士通公司奪得榜首,騰訊公司位列第四,中日美三國公司包攬榜單前九。

通過科學(xué)合理的實(shí)驗(yàn),HPC AI500榜單從人工智能性能評價(jià)標(biāo)準(zhǔn)AIBench中選取了最能代表智能超算應(yīng)用場景的測試程序:圖像分類和極端天氣分析(目標(biāo)檢測)。考慮到模型精度在人工智能領(lǐng)域的重要性,HPC AI 500使用每秒有效浮點(diǎn)操作數(shù)(VFLOPS)作為主要的性能指標(biāo), 該指標(biāo)是一個(gè)兼顧系統(tǒng)性能和模型精度的指標(biāo)。除了VFLOPS,HPC AI500同時(shí)還使用訓(xùn)練人工智能模型所需時(shí)間和相應(yīng)模型所能達(dá)到的精度作為輔助指標(biāo)。

榜單顯示,來自日本富士通公司推出的智能超級計(jì)算機(jī)系統(tǒng)以每秒3.141億億次的有效浮點(diǎn)運(yùn)算速度位列榜首。排名第二和第三的智能超級計(jì)算機(jī)系統(tǒng)分別來自美國谷歌公司和日本索尼公司,由中國騰訊公司推出的智能超級計(jì)算機(jī)系統(tǒng)則排榜單第四位。榜單上前三的智能超級計(jì)算機(jī)系統(tǒng)均通過使用大規(guī)模的人工智能加速器(如GPU,TPU等)和相應(yīng)的高性能算法來提高人工智能的性能。折桂的日本富士通公司的智能超級計(jì)算機(jī)系統(tǒng)使用了多達(dá)2048塊的Tesla V100GPU,并提出了新穎的通訊算法來優(yōu)化不同層次。

HPC AI500 VFLOPS排名

在不同超級計(jì)算機(jī)上訓(xùn)練人工智能模型所需的時(shí)間

在不同超級計(jì)算機(jī)上訓(xùn)練人工智能模型達(dá)到的精度

此外,國際測試委員會(huì)(BenchCouncil)還發(fā)布了智能芯片性能榜單,對近20款主流人工智能芯片配置進(jìn)行了性能排名。該排行榜基于最新的人工智能性能評價(jià)標(biāo)準(zhǔn)AIBench。AIBench旨在客觀公正、綜合全面地評價(jià)當(dāng)前蓬勃發(fā)展的各類人工智能系統(tǒng),引領(lǐng)人工智能系統(tǒng)的研發(fā)走向正確的方向。它包含3個(gè)互聯(lián)網(wǎng)人工智能場景和17個(gè)人工智能任務(wù),能夠反映真實(shí)的人工智能應(yīng)用場景,由國際測試委員會(huì)(BenchCouncil)聯(lián)合阿里、騰訊、微軟亞研、Paypal 等國內(nèi)外17家知名互聯(lián)網(wǎng)企業(yè)共同發(fā)布,是目前最全面的人工智能性能評價(jià)標(biāo)準(zhǔn)。

智能芯片性能榜單對多種硬件做了性能排名,對芯片購買方有借鑒意義,也對智能芯片的設(shè)計(jì)方向具有參考價(jià)值。對于圖像分類負(fù)載,Google出品的 TPU 性能達(dá)到英偉達(dá)GPU的8倍以上,但是通用性不及英偉達(dá) GPU,在部分負(fù)載上軟件開發(fā)者需要對其做針對性的優(yōu)化,會(huì)帶來額外的開發(fā)成本。同時(shí)榜單中可以看出,Facebook主導(dǎo)的開源軟件框架Pytorch 雖然支持 TPU,但是性能很差,尤其是 I/O 利用率遠(yuǎn)不及 Google 主導(dǎo)的軟件框架Tensorflow,導(dǎo)致 TPU 無法發(fā)揮全部性能。目前國內(nèi)很多廠商在智能芯片上的投入很大,但是卻忽視了與軟件開發(fā)框架的協(xié)同優(yōu)化。Google對TPU和Tensorflow的軟硬件協(xié)同設(shè)計(jì)與優(yōu)化值得國內(nèi)智能芯片廠商借鑒和學(xué)習(xí)。

智能芯片排行榜(圖像分類)

智能芯片排行榜(目標(biāo)檢測)

智能芯片排行榜(學(xué)習(xí)排序)