AI芯片一般泛指所有用來加速AI應(yīng)用，尤其是用在基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)中的硬件。

　　? AI芯片根據(jù)其技術(shù)架構(gòu)，可分為GPU、FPGA、ASIC及類腦芯片，同時CPU可執(zhí)行通用AI計算，其中類腦芯片還處于探索階段。

　　? AI芯片根據(jù)其在網(wǎng)絡(luò)中的位置可以分為云端AI芯片、邊緣及終端AI芯片；根據(jù)其在實踐中的目標(biāo)，可分為訓(xùn)練（training）芯片和推理（inference）芯片。

　　? 云端主要部署訓(xùn)練芯片和推理芯片，承擔(dān)訓(xùn)練和推理任務(wù)，具體指智能數(shù)據(jù)分析、模型訓(xùn)練任務(wù)和部分對傳輸帶寬要求比高的推理任務(wù)；邊緣

　　和終端主要部署推理芯片，承擔(dān)推理任務(wù)，需要獨立完成數(shù)據(jù)收集、環(huán)境感知、人機交互及部分推理決策控制任務(wù)。

　　GPU(Graphics Processing Unit)圖形處理器最初是一種專門用于圖像處理的微處理器，隨著圖像處理需求的不斷提升，其圖像處理能力也得到迅速提升。目前，GPU主要采用數(shù)據(jù)并行計算模式完成頂點渲染、像素渲染、幾何渲染、物理計算和通用計算等任務(wù)。因其超過CPU數(shù)十倍的計算能力，已成為通用計算機和超級計算機的主要處理器。其中通用圖形處理器GPGPU(GeneralPropose Computing on GPU)常用于數(shù)據(jù)密集的科學(xué)與工程計算中。

　　? 英偉達與AMD仍占據(jù)GPU霸主地位，2018年至今，國產(chǎn)GPU也積極發(fā)展中，已有部分產(chǎn)品落地。

　　FPGA全稱是Field Programmable Gate Array：可編程邏輯門陣列，是一種“可重構(gòu)”芯片，具有模塊化和規(guī)則化的架構(gòu)，主要包含可編程邏輯模塊、片上儲存器及用于連接邏輯模塊的克重購互連層次結(jié)構(gòu)leyucom樂魚官網(wǎng)。在較低的功耗下達到GFLOPS數(shù)量級的算力使之成為并行實現(xiàn)人工神經(jīng)網(wǎng)絡(luò)的替代方案。

　　? ASIC（Application-Specific Integrated Circuit）是指應(yīng)特定用戶要求和特定電子系統(tǒng)的需要而設(shè)計、制造的集成電路。ASIC從性能、能效、成本均極大的超越了標(biāo)準(zhǔn)芯片，非常適合AI計算場景，是當(dāng)前大部分AI初創(chuàng)公司開發(fā)的目標(biāo)產(chǎn)品。

　　FPGA具有開發(fā)周期短，上市速度快，可配置性等特點，目前被大量的應(yīng)用在大型企業(yè)的線上數(shù)據(jù)處理中心和軍工單位。ASIC一次性成本遠遠高于FPGA，但由于其量產(chǎn)成本低，應(yīng)用上就偏向于消費電子，如移動終端等領(lǐng)域。

　　? 目前，處理器中開始集成FPGA，也出現(xiàn)了可編程的ASIC，同時，隨著SoC的發(fā)展，兩者也在互相融合。

　　在手機、可穿戴設(shè)備等端設(shè)備中，很少有獨立的芯片，AI加速將由SoC上的一個IP實現(xiàn)。

　　? SoC(System-on-chip，片上系統(tǒng)）作為ASIC設(shè)計方法學(xué)中的新技術(shù)，始于20世紀(jì)90年代中期，是以嵌入式系統(tǒng)為核心，以IP復(fù)用技術(shù)為基礎(chǔ)，集軟、硬件于一體的集成芯片。在一個芯片上實現(xiàn)信號的傳輸、存儲、處理和I/O等功能，包含嵌入軟件及整個系統(tǒng)的全部內(nèi)容leyucom樂魚官網(wǎng)。

　　? 由于高集成效能，SoC已經(jīng)成為微電子芯片發(fā)展的必然趨勢。

　　CPU/GPU/GFPGA/ASIC及SoC是目前用的較多的AI芯片，此類AI芯片大多是基于深度學(xué)習(xí)，也就是深度神經(jīng)網(wǎng)絡(luò)（DNN），以并行方式進

　　行計算的芯片，此類AI芯片又被稱為深度學(xué)習(xí)加速器。

　　? 如今，模仿大腦結(jié)構(gòu)的芯片具有更高的效率和更低的功耗，這類基于神經(jīng)形態(tài)計算，也就是脈沖神經(jīng)網(wǎng)絡(luò)（SNN)的芯片為類腦芯片。

　　? 目前，部分企業(yè)產(chǎn)品已進入小批量試用階段 ,類腦芯片最快將于2023年成熟，能效比有望較當(dāng)前芯片提高2-3個數(shù)量級。

　　現(xiàn)在用于深度學(xué)習(xí)的AI芯片（包括CPU、GPU、FPGA、ASIC）為了實現(xiàn)深度學(xué)習(xí)的龐大乘積累加運算和并行計算的高性能，芯片面積越做越大，帶來了成本和散熱等問題。AI芯片軟件編程的成熟度、芯片的安全，神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性等問題也未能得到很好的解決，因此，在現(xiàn)有基礎(chǔ)上進行改進和完善此類AI芯片仍是當(dāng)前主要的研究方向。

　　? 最終，AI芯片將近一步提高智能，向著更接近人腦的高度智能方向不斷發(fā)展，并向著邊緣逐步移動以獲得更低的能耗。

　　AI硬件加速技術(shù)已經(jīng)逐漸走向成熟。未來可能更多的創(chuàng)新會來自電路和器件級技術(shù)的結(jié)合，比如存內(nèi)計算，類腦計算；或者是針對特殊的計算模式或者新模型，比如稀疏化計算和近似計算，對圖網(wǎng)絡(luò)的加速；或者是針對數(shù)據(jù)而不是模型的特征來優(yōu)化架構(gòu)。

　　同時，如果算法不發(fā)生大的變化，按照現(xiàn)在AI加速的主要方法和半導(dǎo)體技術(shù)發(fā)展的趨勢，或?qū)⒃诓贿h的將來達到數(shù)字電路的極限（約1到10TFlops/W），往后則要靠近似計算，模擬計算，甚至是材料或基礎(chǔ)研究上的創(chuàng)新。