TinyML證明了小芯片也可以發(fā)覺更多可能。這種新方法不是在大型，耗電的云端計算機上運行復雜的機器學習（ML）模型，而是在終端設備上運行優(yōu)化的識別模型，而這些微控制器僅消耗不超過幾毫瓦的功率。

在Arm和行業(yè)領導者Google，Qualcomm等人的支持下，這一新興的細分市場tinyML有潛力改變我們物聯(lián)網(wǎng)（IoT）處理數(shù)據(jù)的方式，其中數(shù)十億個微型設備已用于提供更大的洞察力以及增強消費，醫(yī)療，汽車和工業(yè)等領域的效率。

為什么要在微控制器上使用TinyML？

諸如Arm Cortex-M系列之類的微控制器是ML的理想平臺，因為它們已被廣泛使用。它們可以快速，高效地執(zhí)行實時計算，因此可靠性高，響應速度快，并且由于它們僅消耗很少的電量，因此可以部署在更換電池困難或不便的地方。也許更重要的是，它們足夠便宜，幾乎可以在任何地方使用。市場分析機構IDC報告稱，2018年售出了281億個微控制器，并預測到2023年年出貨量將增長到382億個。

微控制器上的ML成為我們用于分析和理解IoT生成數(shù)據(jù)的新技術。特別是，深度學習方法可用于處理信息并理解來自傳感器的數(shù)據(jù)，傳感器執(zhí)行諸如檢測聲音，捕獲圖像和跟蹤運動之類的事情。

以緊湊格式進行高級模式識別

通過研究機器學習中涉及的數(shù)學，數(shù)據(jù)科學家發(fā)現(xiàn)他們可以通過進行某些更改來降低復雜性，例如用簡單的8位運算代替浮點計算。這些變化創(chuàng)建了機器學習模型，該模型可以更有效地工作，并且需要更少的處理和內存資源。

TinyML技術的飛速發(fā)展得益于新技術和開發(fā)人員的參與。僅在幾年前，我們還慶祝我們能夠運行語音識別模型的能力，該模型能夠在受限的Arm Cortex-M3微控制器上僅使用15 KB（KB）的代碼和22KB的數(shù)據(jù)就可以檢測到某些單詞，以便喚醒系統(tǒng)。

從那時起，Arm推出了新的機器學習（ML）處理器，稱為Ethos-U55和Ethos-U65，這是一種microNPU，專門設計用于加速嵌入式和IoT設備中的ML推理。

與我們今天看到的令人印象深刻的示例相比，Ethos-U55與具有AI功能的Cortex-M55處理器相結合，將大大提高機器學習性能并提高能源效率。我們預計在未來12個月內會推出響應芯片。

TinyML使邊緣設備更上一層樓

TinyML的潛在用例幾乎是無限的。開發(fā)人員已經(jīng)在與TinyML合作，探索各種新想法：響應信號燈改變信號以減少擁堵，工業(yè)機器可以預測何時需要維護，傳感器可以監(jiān)視農(nóng)作物中是否存在有害昆蟲，可以在庫存不足時請求補貨的貨架，醫(yī)療監(jiān)護儀可以在保持隱私的同時跟蹤生命周期等等。

TinyML可以使端點設備更一致，更可靠，因為不再需要依賴繁忙的擁擠的昂貴的互聯(lián)網(wǎng)連接云端，也不必進行復雜的數(shù)據(jù)傳輸。減少甚至消除與云的交互具有以下好處：減少能源消耗，顯著減少處理數(shù)據(jù)的延遲，以及提高安全性。

當然，這些在微控制器上執(zhí)行推理的TinyML模型無意取代當前在云端進行的復雜推理，這毫無價值。他們要做的是將特定功能從云降低到端點設備上。這樣，開發(fā)人員可以在需要時保持云交互。

TinyML還為開發(fā)人員提供了一套功能強大的新工具來解決問題。ML使檢測基于規(guī)則的系統(tǒng)難以識別的復雜事件成為可能，因此端點AI設備可以開始進行新任務。而且，由于ML使得可以用文字或手勢來控制設備，而不是按鈕或智能手機，因此可以在更具挑戰(zhàn)性的操作環(huán)境中更堅固耐用地部署設備。

TinyML不斷擴展的生態(tài)系統(tǒng)

行業(yè)參與者已經(jīng)迅速認識到TinyML的價值，并迅速采取行動以創(chuàng)建一個廣泛的生態(tài)系統(tǒng)。從熱情的愛好者到經(jīng)驗豐富的專業(yè)人員，各個級別的開發(fā)人員，現(xiàn)在可都以訪問易于入門的工具。所需要的只是一臺筆記本電腦，一個開源軟件庫和一條USB線，用于將筆記本電腦連接到價格低至幾美元的廉價開發(fā)板上。實際上，在2021年初，Raspberry Pi發(fā)布了他們的第一塊微控制器板，這是市場上最便宜的開發(fā)板之一，僅售4美元。名為Raspberry PiPico的芯片是由RP2040 SoC供電，RP2040 SoC是一款功能強大的雙Arm Cortex-M0 +處理器。 RP2040 MCU能夠運行TensorFlow Lite Micro，我們預計在接下來的幾個月中，該板將有各種各樣的ML用例。

Arm是TinyML的強烈支持者，因為我們的微控制器架構對于IoT至關重要，并且因為我們看到了設備上推理的潛力。Arm與Google的合作使開發(fā)人員更容易在注重功耗的環(huán)境中部署端點機器學習。 Arm CMSIS-NN庫與Google的TensorFlow Lite Micro（TFLu）框架相結合，使數(shù)據(jù)科學家和軟件開發(fā)人員可以利用Arm的硬件優(yōu)化功能，而無需成為嵌入式編程專家。最重要的是，Arm在Cortex-M硬件Keil MDK以及我們的物聯(lián)網(wǎng)操作系統(tǒng)Mbed OS的優(yōu)化工具上進行了大量投資，以幫助開發(fā)人員在部署ML應用程序時快速地從原型開發(fā)到生產(chǎn)。

沒有許多早期貢獻者，TinyML將是不可能的。Pete Warden，是tinyML的“奠基人”和Google TensorFlow Lite Micro的技術負責人。來自Arm生態(tài)系統(tǒng)的創(chuàng)新者Kwabena Agyeman，他開發(fā)了OpenMV，該項目致力于低成本，可擴展，基于Python的機器視覺模塊的支持機器學習算法。另外一位Arm生態(tài)系統(tǒng)創(chuàng)新者，Daniel Situnayake，Edge Impulse的創(chuàng)始人，tinyML工程師和開發(fā)人員，該公司提供涵蓋數(shù)據(jù)收集，模型訓練和模型優(yōu)化的完整TinyML管道。此外，Arm的合作伙伴（例如提供了NanoEdge AI的公司Cartesiam.ai，NanoEdge AI是一種工具，可根據(jù)在真實條件下觀察到的傳感器行為在端點上創(chuàng)建軟件模型）將TinyML推向另一個高度。

Arm還是TinyML基金會的合作伙伴，TinyML基金會是一個開放的社區(qū)，負責協(xié)調，以幫助人們聯(lián)系，分享想法并參與其中。有許多本地化的TinyML聚會，包括英國，以色列和西雅圖，以及全球范圍的tinyML峰會。
編輯：lyn