繼AI訓(xùn)練基準(zhǔn)v0.5、v0.6之后，MLPerf在今年6月推出AI推理基準(zhǔn)v0.5。參加本輪推理基準(zhǔn)測試并提交結(jié)果的公司共14家，谷歌（TPUv3）、英偉達(dá)（T4、RTX、Xavier）、英特爾（CLX 9282、NNPI-1000）、Habana（Goya）等呈現(xiàn)了當(dāng)前AI推理系統(tǒng)最高水平的競逐。

今年9月問世的含光800是阿里巴巴第一款正式流片的AI芯片，基于臺(tái)積電12nm工藝生產(chǎn)，其性能突破得益于軟硬件的協(xié)同設(shè)計(jì)：采用平頭哥自研架構(gòu)，有效降低內(nèi)存訪問延時(shí)；集成達(dá)摩院的創(chuàng)新算法，深度優(yōu)化CNN及視覺類算法，大幅提升視覺計(jì)算效率。

含光800主要用于云端視覺場景，現(xiàn)已大規(guī)模應(yīng)用于阿里巴巴集團(tuán)內(nèi)多個(gè)場景，如視頻圖像識(shí)別/分類/搜索、城市大腦等，未來還可應(yīng)用于醫(yī)療影像、自動(dòng)駕駛等領(lǐng)域。今后，含光800的算力將通過阿里云對外輸出。

xiesc