DAV首頁
數字音視工程網

微信公眾號

數字音視工程網

手機DAV

  • 熱門搜索:
  • 技術風向標
  • LED小間距
  • null
    null
    null
    卓華,
    招商,
    null
    null
    null
    快捷,
    null

    我的位置:

    share

    AI時代,秒懂不可不知的NPU,小白也OK

    來源:亮鉆科技        編輯:ZZZ    2024-06-03 10:16:22     加入收藏    咨詢

    咨詢
    所在單位:*
    姓名:*
    手機:*
    職位:
    郵箱:*
    其他聯系方式:
    咨詢內容:
    驗證碼:
    不能為空 驗證碼錯誤
    確定

    NPU神經處理單元(N euralP rocessingU nit)作為一種新興的硬件加速器,正在成為ARM主板配置中的新寵。

      在人工智能(AI)技術如火如荼的今天,NPU神經處理單元(N euralP rocessingU nit)作(zuo)為一種新興的(de)硬(ying)件加速(su)器,正在成為ARM主板配置中的(de)新寵。與(yu)傳統的(de)CPU和(he)GPU相比,NPU在處理AI任務上的(de)效(xiao)率更高,在現今ARM主板配置中也變得越來越重要。本文將帶大家了解 NPU 的(de)作(zuo)用(yong)、必要性,以及(ji)國產芯片(pian)廠商是如何對它進行(xing)布局的(de)。

     

      什么是NPU

      簡而(er)言之,NPU是專(zhuan)為(wei)AI和機器(qi)學(xue)習(ML)任(ren)務量(liang)身打造的(de)硬件加速(su)器(qi)。相較于傳統的(de)CPU和GPU,NPU針對深度學(xue)習算法所(suo)需的(de)復(fu)雜(za)計算進行了(le)優化(hua),能(neng)讓自然語言處(chu)理、圖(tu)像分析(xi)等(deng)AI任(ren)務更加高效地運行。

      通常,NPU會與CPU集成在一起(qi)。例(li)如,RK3588,RK3588S和RK3568 CPU都已經(jing)集成了NPU。

      NPU / CPU / GPU的比較:

      隨著語音識別、圖像識別、人臉識別等AI應用的普及,NPU的優勢將越發明顯。它能夠迅速、高效地處理和學習大量數據,并顯著提升應用性能。一開始,NPU主要用于提升智能手機的相機功能、電池續(xu)航和安(an)全性。但現在,它正在快(kuai)速擴展到ARM主板以及更多物聯網智能終端(duan)。

      舉例來說,亮鉆部分ARM主板和嵌入式主機就已經內置了NPU,例如:邊緣智能主板D-3588和D-3568、智能物聯網主板K-3588S、AI工業電腦主機VEC-3588、邊緣計算主機KEC-3566和KEC-A311D等。

     

      什么場景需要配置NPU

      對于需(xu)要處理(li)大量(liang)AI任(ren)務的(de)場景,比如醫療影像分析(xi)、智能安(an)防、智能制造(zao)、機器人等,它們(men)需(xu)要處理(li)大量(liang)復雜的(de)人工智能、圖像處理(li)或高性(xing)能計算任(ren)務,NPU可以提升設備的(de)性(xing)能和用戶體驗(yan)。

      簡單來說(shuo),CPU、GPU和NPU都(dou)是(shi)運作的(de)核心組件,而NPU能在AI任(ren)(ren)務方面(mian)大顯(xian)身手,分(fen)擔GPU和CPU的(de)負(fu)擔,讓(rang)它(ta)們更專注于其他傳統任(ren)(ren)務。在需要執行AI任(ren)(ren)務時,操作系統會評估系統資源,決(jue)定由NPU還是(shi)GPU來完成任(ren)(ren)務。

     

      國產芯片廠商深入布局

      目(mu)前,國產SoC廠商正在加大對NPU的投入(ru),以豐富和提(ti)升SoC人(ren)工智(zhi)能處理能力。NPU在SoC中的典型應(ying)用主要是機器(qi)視覺(jue)。

      例如,瑞芯(xin)(xin)微(wei)推出(chu)的新一代機(ji)器視(shi)覺(jue)方案RV1106及RV1103,在(zai)NPU、ISP、視(shi)頻編碼、音頻處理等(deng)方面性能都有顯著提升(sheng),能夠在(zai)低待機(ji)功耗的同時提供出(chu)色的邊緣AI算(suan)力。此外,瑞芯(xin)(xin)微(wei)的高(gao)性能芯(xin)(xin)片RV1126配備(bei)(bei)了2.0Tops的NPU,活體檢(jian)測率高(gao)達98.48%。晶(jing)晨(chen)股(gu)份的A311D采用(yong)(yong)了高(gao)性能A73內(nei)核(he),并搭載了5Tops的高(gao)性能NPU,適用(yong)(yong)于各類(lei)中高(gao)端人工智能物聯(lian)網設備(bei)(bei)。

     

      結語

      展(zhan)望未(wei)來(lai),NPU在AI任務的高效處理上,預示著(zhu)計算技術(shu)的新紀元——更快、更直觀、更符合我們的需求。隨(sui)著(zhu)AI技術(shu)的日益普及,未(wei)來(lai)對(dui)NPU的需求也將會進一步提升,相信NPU的大(da)時代正在來(lai)臨。

    免責聲明:本文來源于亮鉆科技,本文僅代表作者個人觀點,本站不作任何保證和承諾,若有任何疑問,請與本文作者聯系或有侵權行為聯系本站刪除。(原創稿件未經許可,不可轉載,轉載請注明來源)
    掃一掃關注數字音視工程網公眾號

    相關閱讀related

    評論comment

     
    驗證碼:
    您還能輸入500