【導讀】為什么人們需要更低功耗的人工智能？麻省理工學(xué)院（MIT）副教授Vivienne Sze此前在接受采訪(fǎng)時(shí)表示，人工智能應用正在向智能手機、微型機器人、互聯(lián)網(wǎng)連接設備和其他功率和處理能力有限的設備轉移，意味著(zhù)數據處理不再需要在云端、倉庫服務(wù)器機架上進(jìn)行，從云上卸載計算使我們能夠擴大人工智能的影響范圍，通過(guò)減少與遠程服務(wù)器通信造成的延遲來(lái)加快響應時(shí)間。

為什么人們需要更低功耗的人工智能？麻省理工學(xué)院（MIT）副教授Vivienne Sze此前在接受采訪(fǎng)時(shí)表示，人工智能應用正在向智能手機、微型機器人、互聯(lián)網(wǎng)連接設備和其他功率和處理能力有限的設備轉移，意味著(zhù)數據處理不再需要在云端、倉庫服務(wù)器機架上進(jìn)行，從云上卸載計算使我們能夠擴大人工智能的影響范圍，通過(guò)減少與遠程服務(wù)器通信造成的延遲來(lái)加快響應時(shí)間。

現在，人工智能的本地化部署有了一個(gè)專(zhuān)屬名稱(chēng)——邊緣智能，也可叫做邊緣人工智能。隨著(zhù)5G、人工智能和網(wǎng)絡(luò )安全三大領(lǐng)域相互滲透，智慧工廠(chǎng)和自動(dòng)駕駛兩大典型的物聯(lián)網(wǎng)應用引發(fā)數據爆發(fā)式增長(cháng)，傳統云端處理、邊端執行的模式已經(jīng)出現明顯的瓶頸，終端硬件搭配AI模型和軟件算法已經(jīng)是大勢所趨，成為人工智能發(fā)展的下一個(gè)關(guān)鍵階段。

本文我們將重點(diǎn)討論傳統人工智能面臨的挑戰，以及邊緣智能會(huì )帶來(lái)哪些好處。同時(shí)，也會(huì )為大家推薦貿澤電子上在售的，適用于部署邊緣智能的元器件，推動(dòng)產(chǎn)業(yè)大升級。

邊緣智能的四大典型優(yōu)勢

自上世紀50年代人工智能概念被提出以后，產(chǎn)業(yè)發(fā)展至今經(jīng)歷了數次的高潮和寒冬。雖然有低谷，但人類(lèi)對人工智能技術(shù)的探索從沒(méi)有停止過(guò)。2006年至今，我們經(jīng)歷了人工智能產(chǎn)業(yè)新一輪發(fā)展大潮，在此過(guò)程中，“算力+算法+數據”正式被定義為人工智能產(chǎn)業(yè)的三駕馬車(chē)，云計算平臺作為算力提供源，大幅提升了人工智能算法模型的體量。

根據前瞻產(chǎn)業(yè)研究院的統計數據，從2016年到2020年全球人工智能產(chǎn)業(yè)市場(chǎng)規模實(shí)現了數倍的增長(cháng)，從2016年的593億美元快速增長(cháng)到了2020年的2,335億美元。市場(chǎng)的高速增長(cháng)不僅給企業(yè)帶來(lái)巨大的投資回報，同時(shí)也賦予社會(huì )發(fā)展肉眼可見(jiàn)的便利性。

圖1：全球人工智能市場(chǎng)規模（圖源：前瞻產(chǎn)業(yè)研究院）

然而，在電信業(yè)務(wù)、政府、安防、金融四大傳統人工智能應用領(lǐng)域取得突破之后，全球人工智能發(fā)展遇到了新的阻力，發(fā)生了巨大的變化。根據市場(chǎng)分析機構IDC的預測，未來(lái)人工智能發(fā)展不再僅僅是云端集中式，會(huì )更加注重落地和實(shí)踐，趨向廣泛化、縱向化，打通人工智能技術(shù)和廣泛行業(yè)的最后一公里。

在這種大趨勢下，傳統人工智能應用框架出現了明顯的技術(shù)瓶頸，包括數據瓶頸、泛化瓶頸、能耗瓶頸、預義鴻溝瓶頸、可解釋性瓶頸和可靠性瓶頸等。在這么多瓶頸背后，一個(gè)相同的原因是此前的人工智能應用框架里，所有應用都是以云計算為依托，數據都必須返回到云端，給處理效率、信息安全、部署成本帶來(lái)了極大的挑戰。

圖2：傳統人工智能應用框架（圖源：前瞻產(chǎn)業(yè)研究院）

隨著(zhù)人工智能落地到越來(lái)越多的細分場(chǎng)景里，完全依賴(lài)云計算的人工智能越來(lái)越不適應，業(yè)界提出的解決方案便是邊緣智能。當然，邊緣智能和傳統的云端智能絕不是替代關(guān)系，而是更好的補充。通過(guò)下方邊緣計算產(chǎn)業(yè)聯(lián)盟（ECC）發(fā)布的邊緣計算參考架構能夠看出，邊緣智能和云端智能并不割裂，只是應用程序和邊緣端緊密結合。

圖3：邊緣計算參考架構（圖源：邊緣計算產(chǎn)業(yè)聯(lián)盟（ECC））

從系統框架來(lái)看，邊緣智能方案大致可以分為基礎資源層、虛擬化層、邊緣虛擬服務(wù)層，實(shí)際上就是云端智能的下沉，一般而言，具體的業(yè)務(wù)切分由規則引擎來(lái)負責。如下圖4所示，當計算資源遷移到邊緣端之后，邊緣智能方案將獨立擁有操作系統以及相關(guān)的硬件資源，這也就是為什么我們上面提到，邊緣智能的核心要義是應用程序和邊緣端深度融合。

圖4：基于規則引擎的邊緣智能方案（圖源：論文《一種基于規則引擎的邊緣計算技術(shù)研究及實(shí)施方案》）

計算和任務(wù)處理直接在邊緣端進(jìn)行，這讓邊緣智能方案具備四大突出的技術(shù)優(yōu)勢。

實(shí)時(shí)性好

首先是實(shí)時(shí)數據處理、提高響應速度。相較于傳統海量數據無(wú)差別上云而言，邊緣智能由于更靠近用戶(hù)終端裝置，可以加快數據的處理與傳送速度，減少延遲。這種實(shí)時(shí)性對自動(dòng)駕駛、工業(yè)機器人等應用有重要價(jià)值。

帶寬需求小

其次是減少互聯(lián)網(wǎng)帶寬依賴(lài)。根據IDC的統計數據，2021年，全球創(chuàng )造了82.5ZB的數據，未來(lái)五年全球數據規模還將以21.2%的年復合增長(cháng)率快速發(fā)展，到2026年達到216ZB。如果這些數據全部送到云數據中心去處理，那么將會(huì )對網(wǎng)絡(luò )帶寬造成巨大的傳輸壓力。而邊緣智能以卸載的方式將大部分邊緣端產(chǎn)生的巨量數據及時(shí)處理，幫助減輕網(wǎng)絡(luò )帶寬的壓力。

功耗低

第三是降低系統功耗。根據工信部數據，2021年中國數據中心耗電量2,166億千瓦時(shí)，占社會(huì )用電量比例達2.6%，相當于1.3個(gè)上海市的總社會(huì )用電量。通過(guò)云邊結合的方式，數據中心可以更加專(zhuān)注在A(yíng)I大模型的訓練和運轉，邊緣智能方案極為強調能耗比，將有助于降低整體功耗。

安全性好

最后，邊緣智能能夠更好地保護用戶(hù)的數據隱私和數據安全。邊緣智能方案在終端就可以對數據進(jìn)行清洗、預處理、聚合、篩選等操作，數據不用完全返回云端再做處理，或者最終傳輸到云端的數據為脫敏數據，降低了隱私、機密數據泄露的風(fēng)險，提升了數據的安全性。

憑借上述這些突出的技術(shù)優(yōu)勢，邊緣智能在智能駕駛、智慧工廠(chǎng)、智慧能源和智能家居等領(lǐng)域應用廣泛，提升了人工智能的應用深度和廣度，豐富了“AI+”的實(shí)際應用。當然，想要打造高效穩定的邊緣智能方案，離不開(kāi)電子元器件的支持。作為全球知名先的電子元器件分銷(xiāo)平臺，貿澤電子銷(xiāo)售的電子元器件遍及各種邊緣智能解決方案，助力打造低碳智能的數字新世界。下面，我們就來(lái)為大家推薦幾款具有代表性、可用于邊緣智能的元器件產(chǎn)品。

Microchip機器學(xué)習整體解決方案

上述內容已經(jīng)提到，邊緣智能是云端智能的下沉，也就是說(shuō)將人工智能的模型置于邊緣端。目前，云端配合最理想的方式是：將機器學(xué)習的訓練模型放置在云端，通過(guò)云端大算力的優(yōu)勢提升訓練的效率；將機器學(xué)習的推理、決策和執行模型放置在邊緣，需要的計算和存儲資源相對較小，保障了部署的靈活性，并降低系統反應的時(shí)間。

因此，我們通過(guò)Microchip機器學(xué)習整體解決方案能夠看到，在邊緣一側，元器件會(huì )涉及到更善于終端推理的FPGA，更利于系統集成和部署的MCU/MPU，以及其他幫助工程師打造邊緣機器學(xué)習方案的模擬器件和安全器件。目前，Microchip這份完整的機器學(xué)習方案已經(jīng)在貿澤電子全面上線(xiàn)，接下來(lái)我們就來(lái)系統地看一下這份方案，以及方案里面的具體器件。

圖5：Microchip機器學(xué)習整體解決方案（圖源：Microchip）

綜合而言，Microchip機器學(xué)習整體解決方案是一個(gè)包括軟件和硬件工具套件、參考設計以及硅平臺的系統方案，非常適合用于需要具有高級性能的簡(jiǎn)單易用的應用。也就是說(shuō)，無(wú)論你是AI和機器學(xué)習方面的新手，還是尋求高性能、經(jīng)驗豐富的工程師大牛，都能夠在Microchip機器學(xué)習整體解決方案里找到適合自己的軟硬件組合。

在硅器件方面，Microchip廣泛的硅器件產(chǎn)品組合包括MCU、MPU和FPGA。為幫助工程師使用這些器件，Microchip準備了全面豐富的軟件工具包，允許工程師朋友使用流行的ML框架，包括TensorFlow、Keras、Caffe和ONNX涵蓋的許多其他框架，以及TinyML和TensorFlow Lite中的框架。這些豐富的開(kāi)發(fā)套件組合起來(lái)，構成了Microchip硅器件背后的開(kāi)發(fā)生態(tài)系統。

比如，在使用Microchip的MCU或MPU器件時(shí)，MPLAB開(kāi)發(fā)生態(tài)系統將與Microchip的開(kāi)發(fā)板以及機器學(xué)習設計合作伙伴提供的軟件套件和解決方案無(wú)縫集成，提供MPLAB X集成開(kāi)發(fā)環(huán)境（IDE）、MPLAB XC C編譯器、MPLAB Data Visualizer等開(kāi)發(fā)工具，顯著(zhù)提升開(kāi)發(fā)者的開(kāi)發(fā)效率。

在使用Microchip的FPGA器件時(shí)，該公司先進(jìn)的VectorBlox加速器軟件開(kāi)發(fā)套件（SDK）可以讓開(kāi)發(fā)者輕松編程高能效神經(jīng)網(wǎng)絡(luò )。VectorBlox加速器SDK還附帶了基于PolarFire視頻套件構建智能AI相機平臺的說(shuō)明，讓開(kāi)發(fā)者可以更加方便地評估不同的卷積神經(jīng)網(wǎng)絡(luò )（CNN）。

此外，圍繞豐富的硅器件，Microchip還提供了豐富的評估套件，包括帶有TDK InvenSense 6軸MEMS運動(dòng)傳感器的SAM D21機器學(xué)習評估套件和帶Bosch IMU的SAM D21機器學(xué)習評估套件。

通過(guò)全面的軟硬件組合，以及Microchip經(jīng)過(guò)驗證的參考設計和經(jīng)驗豐富的合作伙伴網(wǎng)絡(luò )，可以幫助廣大機器學(xué)習開(kāi)發(fā)者降低風(fēng)險、縮短上市時(shí)間、降低功耗和應用成本。開(kāi)發(fā)者可以借助這些資源設計各種應用程序，用于數據中心、自動(dòng)駕駛汽車(chē)、安全和監控、電子圍欄、增強和虛擬現實(shí)耳機頭顯、無(wú)人機、機器人、衛星圖像和通訊中心等領(lǐng)域。

上面我們對Microchip機器學(xué)習解決方案進(jìn)行了全面介紹，接下來(lái)我們通過(guò)一款具體的方案，看一下Microchip方案在機器學(xué)習方面的出色性能。在此，我們?yōu)榇蠹艺归_(kāi)介紹上面提到的帶有TDK InvenSense 6軸MEMS運動(dòng)傳感器的SAM D21機器學(xué)習評估套件，貿澤電子上該評估套件的物料號為EV18H79A，大家可以通過(guò)搜索此物料號，在貿澤電子平臺快速找到這款評估套件，并且通過(guò)該評估套件的詳情頁(yè)就可以看到我們上述提到的Microchip機器學(xué)習整體解決方案。

圖6：EV18H79A（圖源：貿澤電子）

EV18H79A SAMD21機器學(xué)習評估套件基于A(yíng)rm? Cortex?-M0+的32位MCU打造，帶有板載調試器（nEDBG）、ATECC608A CryptoAuthentication安全元件IC和完全認證的ATWINC1510 Wi-Fi網(wǎng)絡(luò )控制器。作為一款面向機器學(xué)習應用的多功能傳感器開(kāi)發(fā)工具，EV18H79A上集成了Microchip MCP9808高精度溫度傳感器、光傳感器以及帶有TDK InvenSense ICM-42688-P、高精度6軸MEMS的附加板，幫助開(kāi)發(fā)者收集數據以訓練和創(chuàng )建機器學(xué)習模型。

此外，為了讓開(kāi)發(fā)者更快上手EV18H79A SAMD21機器學(xué)習評估套件，Microchip還提供了用戶(hù)指南和項目示例，進(jìn)一步幫助大家縮短開(kāi)發(fā)周期。

可用于A(yíng)IoT應用的ESP-EYE開(kāi)發(fā)板

我們都知道，人工智能和物聯(lián)網(wǎng)融合而成的AIoT是邊緣智能典型的應用場(chǎng)景，當然也可以說(shuō)，邊緣智能是AIoT落地的重要推動(dòng)技術(shù)。那么，接下來(lái)我們?yōu)榇蠹彝扑]一款來(lái)自制造商Espressif Systems（樂(lè )鑫科技）、可用于A(yíng)IoT場(chǎng)景的ESP-EYE開(kāi)發(fā)板。

圖7：ESP-EYE（圖源：貿澤電子）

ESP-EYE是專(zhuān)注于A(yíng)IoT智能物聯(lián)網(wǎng)領(lǐng)域的圖像識別與語(yǔ)音處理開(kāi)發(fā)板，板載ESP32系列芯片，集成200萬(wàn)像素攝像頭、數字麥克風(fēng)，擁有8MB PSRAM和4MB閃存的豐富存儲，支持Wi-Fi圖像傳輸與MicroUSB調試與供電?；谝陨县S富的配置和功能，開(kāi)發(fā)者可以基于ESP-EYE實(shí)現語(yǔ)音喚醒、人臉檢測、人臉識別等交互功能，可廣泛應用于智能物聯(lián)網(wǎng)領(lǐng)域的應用開(kāi)發(fā)。

同時(shí)，為了幫助開(kāi)發(fā)者提升開(kāi)發(fā)效率，Espressif Systems為ESP-EYE準備了全面的用戶(hù)指南，讓大家可在Linux、MacOS、Windows操作系統中完成軟件燒寫(xiě)，并實(shí)現上述AIoT相關(guān)功能，可協(xié)助用戶(hù)開(kāi)發(fā)高度集成的AI解決方案。

邊緣智能未來(lái)發(fā)展趨勢

作為傳統云端智能的重要補充和延伸，邊緣智能具有無(wú)窮的魅力，是未來(lái)人工智能領(lǐng)域發(fā)展的重要方向，相關(guān)廠(chǎng)商也將以芯片和軟件技術(shù)為抓手，積極推動(dòng)邊緣智能的發(fā)展。

面向未來(lái)，邊緣智能將呈現四大明顯的發(fā)展趨勢。首先是核心芯片集成度更高、算力更強，整體方案更加智能；其次是系統架構更加靈活，更容易開(kāi)發(fā)和部署；第三是邊緣智能方案的能效比將不斷提升，使得更多的AI負載將卸載到邊緣端；最后是邊緣智能的生態(tài)將更加成熟，圍繞核心硬件將會(huì )有更加豐富的配套工具和開(kāi)發(fā)環(huán)境。

而在邊緣智能技術(shù)不斷提升的過(guò)程中，電子元器件始終都將是整個(gè)方案最核心的部分之一，貿澤電子將持續為行業(yè)帶來(lái)前沿的元器件產(chǎn)品，助力實(shí)現更好的邊緣智能方案。

推薦閱讀：

聲音的三個(gè)維度

差分對緊耦合真的比松耦合好嗎？

低功耗藍牙/蜂窩物聯(lián)網(wǎng)智能手表實(shí)現遠程護理和SOS警報

驅動(dòng)LED的好方法

安森美和Ride Vision合作，為摩托車(chē)騎行者提供先進(jìn)的安全方案