隨著人工智能領(lǐng)域的持續(xù)發(fā)展，尤其是大模型技術(shù)的出現(xiàn)和廣泛應(yīng)用給計(jì)算資源的需求帶來了巨大的增長，催生了人工智能訓(xùn)練芯片的快速發(fā)展。目前，國內(nèi)AI芯片正處于發(fā)展期，多生態(tài)、多架構(gòu)百花齊放，在主要能力層面已達(dá)成一定的產(chǎn)業(yè)共識(shí)，但在功能性、兼容性、傳統(tǒng)人工智能任務(wù)性能、大模型任務(wù)性能和穩(wěn)定性等方面仍有待改善和規(guī)范。leyucom樂魚官網(wǎng)

　　為引導(dǎo)產(chǎn)業(yè)有序發(fā)展、規(guī)范行業(yè)自律，并為用戶提供選型參考，中國信息通信研究院（以下簡(jiǎn)稱“中國信通院”）牽頭，二十余家相關(guān)行業(yè)重點(diǎn)企業(yè)參與，聯(lián)合編制了《面向訓(xùn)練任務(wù)的人工智能芯片通用技術(shù)要求》標(biāo)準(zhǔn)，該標(biāo)準(zhǔn)團(tuán)標(biāo)已完成，也同步在中國通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）進(jìn)行了立項(xiàng)。該標(biāo)準(zhǔn)針對(duì)面向訓(xùn)練任務(wù)的人工智能芯片的各項(xiàng)能力給出了規(guī)范性約束和參考性建議，中國信通院依據(jù)標(biāo)準(zhǔn)指標(biāo)要求推出了“人工智能訓(xùn)練芯片專項(xiàng)評(píng)估”服務(wù)，即日起正式開始啟動(dòng)首輪評(píng)估。一

　　面向?qū)ο?/p>

　　本標(biāo)準(zhǔn)為人工智能行業(yè)中訓(xùn)練芯片的提供方和需求方提供了成熟、有序的人工智能訓(xùn)練芯片能力參考框架。為芯片提供方提供人工智能訓(xùn)練芯片能力的評(píng)價(jià)和指導(dǎo)標(biāo)準(zhǔn)，幫助提升產(chǎn)品研發(fā)；為芯片需求方提供有效衡量芯片能力水平的標(biāo)準(zhǔn)依據(jù)，幫助企業(yè)提供選型參考。二

　　人工智能訓(xùn)練芯片專項(xiàng)評(píng)估內(nèi)容

　　人工智能訓(xùn)練芯片專項(xiàng)評(píng)估主要包含五個(gè)能力域，分別為“功能要求”、“兼容性要求”、“傳統(tǒng)人工智能任務(wù)要求”、“大模型任務(wù)要求”、“穩(wěn)定性要求”，各能力域涉及以下核心條目。

　　1.功能要求

　　功能要求，評(píng)估AI訓(xùn)練芯片的基礎(chǔ)能力。硬件要求包括計(jì)算精度、混合精度、分布式訓(xùn)練、通信能力、硬件加速能力、視頻編解碼能力等；軟件要求包括集合通信算法、算子支持能力、自定義算子開發(fā)、虛擬化能力、管理能力、功耗監(jiān)控、軟件加速庫等。功能要求中涉及OPS、通信帶寬、吞吐量、功耗、加速比等多個(gè)性能參數(shù)。2.兼容性

　　兼容性要求，評(píng)估AI訓(xùn)練芯片的軟硬件兼容能力。硬件兼容能力包括CPU架構(gòu)、存儲(chǔ)技術(shù)等；軟件兼容能力包括操作系統(tǒng)、深度學(xué)習(xí)框架、分布式訓(xùn)練框架和生態(tài)遷移能力等。3.傳統(tǒng)人工智能任務(wù)要求leyu·樂魚(中國)體育官方網(wǎng)站

　　傳統(tǒng)人工智能任務(wù)要求，評(píng)估AI訓(xùn)練芯片的場(chǎng)景支持能力以及在傳統(tǒng)人工智能任務(wù)上的性能表現(xiàn)。重點(diǎn)考察對(duì)計(jì)算機(jī)視覺任務(wù)、自然語言處理任務(wù)、語音類任務(wù)和推薦類任務(wù)的支持能力。性能參數(shù)涉及執(zhí)行任務(wù)的訓(xùn)練時(shí)間、訓(xùn)練能耗以及模型FLOPs利用率（MFU）等。4.大模型任務(wù)要求

　　大模型任務(wù)要求，評(píng)估AI訓(xùn)練芯片對(duì)于大模型訓(xùn)練的支持能力以及在大模型訓(xùn)練任務(wù)上的性能表現(xiàn)。重點(diǎn)考察其對(duì)語言大模型、視覺大模型、語音大模型和多模態(tài)大模型的支持能力，同時(shí)關(guān)注其是否支持并行策略以及集群化模型訓(xùn)練。性能參數(shù)涉及綜合加速比、訓(xùn)練時(shí)間、訓(xùn)練能耗、模型FLOPs利用率（MFU）、斷卡次數(shù)等。5.穩(wěn)定性要求

　　穩(wěn)定性要求，評(píng)估人工智能訓(xùn)練芯片的計(jì)算穩(wěn)定性。重點(diǎn)關(guān)注其壓力測(cè)試下的穩(wěn)定性、異常監(jiān)測(cè)與管理機(jī)制、ECC數(shù)據(jù)校驗(yàn)、高溫低溫穩(wěn)定性、通信穩(wěn)定性和可維護(hù)性等特點(diǎn)。三

　　人工智能訓(xùn)練芯片參評(píng)價(jià)值

　　人工智能訓(xùn)練芯片專項(xiàng)評(píng)估，面向適用于人工智能訓(xùn)練任務(wù)的芯片開展。專項(xiàng)評(píng)估基于標(biāo)準(zhǔn)指標(biāo)要求，對(duì)人工智能訓(xùn)練芯片進(jìn)行系統(tǒng)化測(cè)試，企業(yè)參評(píng)的核心價(jià)值主要體現(xiàn)在三方面，一是提升業(yè)務(wù)信任度，通過第三方評(píng)估驗(yàn)證人工智能訓(xùn)練芯片的技術(shù)產(chǎn)品能力，提供行業(yè)認(rèn)可的背書，幫助業(yè)務(wù)推廣；二是技術(shù)對(duì)標(biāo)及提升，通過全面的檢驗(yàn)檢測(cè)，以行業(yè)最佳實(shí)踐作為對(duì)標(biāo)，幫助參評(píng)企業(yè)完善產(chǎn)品能力；三是增進(jìn)行業(yè)交流，以標(biāo)準(zhǔn)和評(píng)估工作搭建交流平臺(tái)，推動(dòng)技術(shù)亮點(diǎn)分享、實(shí)踐心得交流，促進(jìn)技術(shù)供給方和應(yīng)用方之間的交流。四

　　評(píng)測(cè)流程

　　1、需求溝通：溝通評(píng)估需求，明確參評(píng)意向；

　　2、商務(wù)確認(rèn)：對(duì)接評(píng)估服務(wù)，確認(rèn)項(xiàng)目周期；

　　3、自評(píng)答疑：準(zhǔn)備自評(píng)材料，組織測(cè)前答疑；

　　4、正式評(píng)估：開展材料審查，進(jìn)行技術(shù)測(cè)試；

　　5、專家評(píng)審：組織參與評(píng)審，答辯專家提問；

　　6、結(jié)果發(fā)布：核驗(yàn)證書報(bào)告，公開大會(huì)發(fā)布。

　　專項(xiàng)評(píng)估工作即日起正式啟動(dòng)，評(píng)估工作將持續(xù)開展，評(píng)估結(jié)果將分批發(fā)布，詳情請(qǐng)咨詢業(yè)務(wù)聯(lián)系人。五

　　業(yè)務(wù)聯(lián)系人

　　靳老師

　　15910806929（微信同號(hào)）

　　jinzhen@caict.ac.cn

　　- END -

　　AI工程化推進(jìn)委員會(huì)

　　2017年10月初，工業(yè)和信息化部正式批復(fù)中國信息通信研究院承建人工智能關(guān)鍵技術(shù)和評(píng)測(cè)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室（以下簡(jiǎn)稱“部重點(diǎn)實(shí)驗(yàn)室”）。中國信通院為進(jìn)一步推動(dòng)我國人工智能的工程化進(jìn)程，依托部重點(diǎn)實(shí)驗(yàn)室成立了AI工程化推進(jìn)委員會(huì)。委員會(huì)聚焦人工智能開發(fā)工具和平臺(tái)，AI研發(fā)運(yùn)營和管理，大模型應(yīng)用，知識(shí)計(jì)算應(yīng)用和AI數(shù)據(jù)集治理等技術(shù)方向，以產(chǎn)業(yè)活動(dòng)、研究報(bào)告、標(biāo)準(zhǔn)和評(píng)估、最佳實(shí)踐等手段，推動(dòng)人工智能工程化相關(guān)的工具、系統(tǒng)、流程和治理體系的完善。企業(yè)單位申請(qǐng)鏈接：

　　https://mp.weixin.qq.com/s/nZ_ZkBtk18lRyHuCkGEqCg