【導讀】知乎上有好事者對《西游記》的故事線(xiàn)做過(guò)統計,從保護唐僧遭遇各種艱難險阻到最終取得真經(jīng),神通廣大的孫悟空一路上遇到各種危險,共求助22次,觀(guān)音菩薩和天庭諸神不斷出面幫大圣搞定各種凡間險惡。每次惡斗不贏(yíng)吃盡苦頭后,大圣總是會(huì )想法脫離妖魔圍困跳入云端,駕著(zhù)跟斗云去尋求各路神仙,一番口舌糾纏之后,盡管總能及時(shí)出手相助化險為夷,但師傅唐僧和師弟八戒、沙僧難免要苦熬一陣,或遭遇一番皮肉之苦。
這像極了人工智能日益普及的今天,越來(lái)越多的終端設備依靠云端的“大神”(中心算力)實(shí)現各種智能功能,盡管看起來(lái)方便,但其實(shí)很多場(chǎng)景難免面臨各種問(wèn)題和潛在隱患,甚至是各種事故風(fēng)險?!斑吘壎嗽O備監測的各種數據通過(guò)網(wǎng)絡(luò )傳輸到云端,不僅可能帶來(lái)很多應用場(chǎng)景下不能容忍的延遲問(wèn)題,還可能因為隱私數據的泄露導致嚴重的數據安全?!盇DI公司資深業(yè)務(wù)經(jīng)理李勇在最近的一次演講中表示。市場(chǎng)分析數據顯示,2020年中國邊緣計算市場(chǎng)規模為91億元,未來(lái)成長(cháng)空間非常廣闊,預計到2030年中國邊緣計算市場(chǎng)規模將接近2500億元。
算力下沉,亟待邊緣智能賦能多類(lèi)應用場(chǎng)景
根據Gartner預測,2025年將有75%的數據產(chǎn)生在數據中心和云之外并在邊緣側進(jìn)行處理。邊緣計算在降低時(shí)延、帶寬需求、保護隱私數據等多方面的價(jià)值已經(jīng)被廣泛認可,在產(chǎn)業(yè)數智化中的應用也不斷涌現。邊緣計算作為靠近數據源頭,融合了網(wǎng)絡(luò )、存儲、計算與應用能力的分布式計算平臺,可以對數據在本地進(jìn)行實(shí)時(shí)分析處理,數據不必實(shí)時(shí)回傳至云端,縮短延時(shí),減少網(wǎng)絡(luò )帶寬資源需求,確保應用安全高效運行。
“失火而取水于海,海水雖多,火必不滅矣,遠水不救近火也?!薄俄n非子·說(shuō)林上》上這句話(huà),簡(jiǎn)單二十多字說(shuō)明了一個(gè)樸素而重要的道理,即使在科技發(fā)展日新月異的今天依然有其現實(shí)意義。在智能應用中,因為時(shí)間敏感性而舍云端(遠)智能而用邊緣(近)智能的應用場(chǎng)景比比皆是。
例如森林火災監測,公路、鐵路或者是大壩塌方監測,這些地方都普遍比較偏僻,通常沒(méi)有很好的通信網(wǎng)絡(luò ),但快速決策和預警非常關(guān)鍵,因此必須進(jìn)行邊緣端快速判定?!斑@種應用時(shí)間敏感性非常高,傳統的云端監測,可能需要發(fā)送一組圖片到云端,對網(wǎng)絡(luò )流量要求比較高。通過(guò)監測端自主智能識別,在狀況發(fā)生時(shí)只需要發(fā)短信息就可以快速實(shí)現安全告警,避免更嚴重的災害損失發(fā)生?!?李勇指出。
“這些應用除了需要邊緣端快速智能決策,對功耗敏感性也決定了需要進(jìn)行邊緣端自主決策,任何一次更換電池的運維成本可能比設備本身更貴?!崩钣碌莱隽肆硗庖粋€(gè)關(guān)鍵點(diǎn)。邊緣智能決策的好處是避免頻繁的數據傳輸、數據采集導致的高功耗,因此這也讓這些應用場(chǎng)景對邊緣智能方案的低功耗特性提出更高的要求,當前市場(chǎng)通用的MCU或FPGA的智能解決方案,在電池供電的低功耗邊緣端智能應用中依然面臨挑戰,市場(chǎng)需要更具超低功耗特性的新一代解決方案。
今年3·15晚會(huì )暴露的“行走的追蹤器”——兒童智能手表被黑客入侵成為了竊聽(tīng)器;2021年,某品牌攝像頭事件數萬(wàn)條家庭偷拍視頻被傳播售賣(mài);2021年家庭物聯(lián)網(wǎng)Pink事件,導致國內受控智能家居設備超過(guò)百萬(wàn)......近年來(lái),隨著(zhù)具備音頻監測和視頻監測功能的智能設備的普及,類(lèi)似的信息安全事故層出不窮?!斑@些智能設備需要將邊緣端監測的數據傳到云端進(jìn)行數據處理,沒(méi)有人希望家里有一個(gè)設備可能隨時(shí)通過(guò)畫(huà)面或語(yǔ)音監測你家里活動(dòng)情況,你不能確定這些音頻和圖像數據是否會(huì )被別有用心的人所利用?!崩钣轮赋?。
讓智能從云端走向邊緣,這四大核心能力不可或缺
AI技術(shù)使機器能夠以之前完全不可能的方式來(lái)觀(guān)察、聆聽(tīng)和感知世界。過(guò)去,將AI推理布置到邊緣意味著(zhù)從傳感器、攝像機和麥克風(fēng)收集數據,然后將數據發(fā)送到云端實(shí)現推理算法,再將結果送回到邊緣。由于延遲和能耗較大,這種架構對于邊緣智能的普及極具挑戰。作為替代方案,低功耗微控制器可用于實(shí)施簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò )運算,但延遲會(huì )受到影響,且只能在邊緣執行簡(jiǎn)單任務(wù),對于更加復雜的邊緣智能如何落地?ADI集成神經(jīng)網(wǎng)絡(luò )加速器的MAX78000低功耗微控制器通過(guò)獨特的架構設計提供了新的選擇,在算力、功耗、延遲和集成度等方面實(shí)現了關(guān)鍵性能的平衡,為機器視覺(jué)、面部識別、目標檢測和分類(lèi)、時(shí)序數據處理和音頻處理等應用提供了一個(gè)理想選擇。
邊緣智能的典型應用場(chǎng)景是聲音識別和圖像識別,而眾所周知,卷積神經(jīng)網(wǎng)絡(luò )(CNN)是廣泛重視的一種高效識別方法。卷積神經(jīng)網(wǎng)絡(luò )以其局部權值共享的特殊結構在模式識別方面有著(zhù)獨特的優(yōu)越性,CNN算法在人工智能之機器學(xué)習、語(yǔ)音識別、文檔分析、語(yǔ)言檢測和圖像識別等領(lǐng)域等有著(zhù)廣泛應用。MAX78000的核心即是神經(jīng)網(wǎng)絡(luò )加速器,它是針對語(yǔ)音和圖像識別專(zhuān)門(mén)設計的運算加速硬件,可以最大限度地減少卷積神經(jīng)網(wǎng)絡(luò )的功耗和延遲。
“我們看到市場(chǎng)上有很多邊緣智能處理器實(shí)際上只是支持軟件的算法,而不是硬件實(shí)現加速。MAX78000采用了64個(gè)CNN處理器,并行的處理器可以支持最多的卷積預算層數和通道數?!崩钣轮赋?,“MAX78000的CNN加速器完全是專(zhuān)有的,而且非常新穎,它的設計目標是最小化數據移動(dòng),這是眾所周知的對芯片功耗的一個(gè)重大負擔,尤其是在處理CNN中復雜的配置時(shí)?!?/p>
此外,MAX78000還集成了兩個(gè)MCU核心用于系統控制,即Arm Cortex-M4處理器和32位RISC-V處理器,其中Arm Cortex-M4F處理器以100MHz運行,客戶(hù)可以編寫(xiě)任何系統管理代碼,RISC-V處理器的獨特功能是支持以低功耗將數據快速加載到神經(jīng)網(wǎng)絡(luò )加速器,用戶(hù)可使用任何一種微控制器內核將數據輸入到卷積神經(jīng)網(wǎng)絡(luò )的引擎中。而MAX78000具有432KB的權重存儲空間,與運行在低功耗微控制器上的軟件解決方案相比,在配置并加載了數據后,MAX78000運行AI推理的速度快了100倍,功耗還不到其1%。
“低功耗是很多邊緣智能應用場(chǎng)景的關(guān)鍵要求,MAX78000除了基于CNN加速器和雙核處理器架構,還提供高效的片內電源管理,集成單電感多輸出 (SIMO) 開(kāi)關(guān)模式電源,最大限度地延長(cháng)電池供電的物聯(lián)網(wǎng)設備的續航時(shí)間?!崩钣卤硎?,“很多應用需要產(chǎn)品集成度高、體積小,基于MCU或GPU或FPGA的方案很可能放不進(jìn)去,這些方案通常還需要片外存儲器、PMIC,方案無(wú)論成本、尺寸還是功耗都具有很大挑戰性?!?/p>
優(yōu)化聲音識別和圖像識別應用,聚焦邊緣智能主賽道
5G與物聯(lián)網(wǎng)的發(fā)展以及各行業(yè)的智能化轉型升級帶來(lái)了爆發(fā)式的數據增長(cháng),而海量的數據將在邊緣側積累,建立在邊緣的數據分析與處理將成為智能市場(chǎng)增長(cháng)的主力?!盎谠朴嬎愕倪吘壷悄芸赡苤贿m合一些大企業(yè)的應用,例如幾萬(wàn)個(gè)、幾十萬(wàn)個(gè)客戶(hù)來(lái)支持一個(gè)服務(wù)器,能夠支撐云端的成本。很多基本的控制應用,邊緣端的自主智能更具成本效應,也符合隱私保護的考慮?!崩钣轮赋?。
隨著(zhù)數據規模的不斷擴大,云計算在時(shí)效性、傳輸距離、安全性等方面的不足使得其在工業(yè)制造、自動(dòng)駕駛、遠程醫療等場(chǎng)景下明顯力不從心,邊緣側的重要性日益顯現。更靠近數據源的邊緣計算不僅能提供低時(shí)延、高可靠服務(wù),還能同時(shí)保證數據安全、處理實(shí)時(shí)性。IDC預測,未來(lái)超過(guò)50%的數據需要在邊緣側進(jìn)行儲存、分析和計算,這就對邊緣側的硬件系統提出了更高的要求。
邊緣智能中,聲音智能識別和圖像智能識別是其中最主要的應用領(lǐng)域,僅智能音箱2021年市場(chǎng)出貨量就達3896萬(wàn)臺,各種基于人臉識別的智能門(mén)禁、考勤機、閘機應用層出不窮?!盎谡Z(yǔ)音與人臉識別的邊緣智能是當前市場(chǎng)的重要領(lǐng)域,ADI的MAX78000針對這類(lèi)應用從產(chǎn)品方案到工具優(yōu)化以及生態(tài)上提供了豐富的支持?!崩钣卤硎?,“智能識別數據的收集和數學(xué)模型的建立跟訓練很重要,為此ADI提供了聲音識別和face ID 識別demo程序供客戶(hù)下載和學(xué)習,在其基礎上進(jìn)行修改。我們也有非常有經(jīng)驗的第三方生態(tài)伙伴,提供數學(xué)模型的訓練與數據的收集?!?/p>
據悉,MAX78000目前已經(jīng)在森林防火監測、地質(zhì)災害監測以及智能家居等領(lǐng)域獲得廣泛應用?!昂芏囝?lèi)似但并不涉及到公共安全的應用也需要實(shí)現本地快速智能決策,比如有用戶(hù)就針對摩托騎行愛(ài)好者希望在騎行中能對頭戴攝像頭實(shí)現隨時(shí)隨地的語(yǔ)音控制開(kāi)發(fā)產(chǎn)品,類(lèi)似的還有助聽(tīng)器的語(yǔ)音控制、風(fēng)力發(fā)電設備的安全監測這樣的預測性維護等等?!崩钣卵a充道,“這種基于超低功耗硬件算力,高集成度、小尺寸且低成本的邊緣智能解決方案的推出,正在為越來(lái)越多的應用領(lǐng)域提供真正可行的智能賦能方案,我們看到類(lèi)似的各種創(chuàng )新應用正在層出不窮地推出?!?/p>
免責聲明:本文為轉載文章,轉載此文目的在于傳遞更多信息,版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權問(wèn)題,請聯(lián)系小編進(jìn)行處理。
推薦閱讀:
實(shí)時(shí)處理如何驅動(dòng)高性能電源系統