神經網路處理器
人氣(1012)
神經網路處理器(Neural-network Processing Unit;簡稱NPU)是專為加速AI應用而設計,透過類似於人類的神經系統的處理器。神經網路是人工智慧中的一種方法,指導電腦以受人腦啟發的方式來處理資料。它會建立一種可讓電腦用來從錯誤中學習並持續改善的適應型系統。相較於CPU及GPU,低功耗、高效能的NPU格外適合處理裝置端的AI推論任務,包括影像辨識、自然語言處理、物件偵測等應用。
神經網路用於深度學習,這是一種進階的機器學習類型,可以在無需人工干預的情況下從未標記資料中得出結論。例如,基於神經網路建構並獲得了足夠訓練資料的深度學習模型,可以識別相片中以前從未見過的物品。
NPU的兩大技術特點:
1. 模擬人類神經網路的運作方式,同樣擅長平行運算處理,並適當地分配晶片內的「任務流」,減少閒置的運算資源。
2. 經由「近記憶體運算」(將處理器盡量靠近DRAM,以減少資料的傳輸延遲以及功率消耗)或「記憶體內運算」(將簡單的邏輯運算移至記憶體陣列中) ,實現儲存及運算的一體化,降低運算過程的能耗、加快存取速度,從而提升AI運算的執行速度和效率 。
|
|
|
|