類神經網路處理器
Arm ETHOS-U65

針對邊緣與終端裝置的人工智慧創新

藉由 Arm 最新的 Ethos-U microNPU 系列產品,在廣泛的嵌入式裝置中構建低成本、高效率的人工智慧解決方案。Ethos-U65 在保持了Arm Ethos-U55 的功率效率之下,同時擴展了它的適用性到 Arm Cortex-A, Cortex-R 和以 Neoverse 為基礎的系統,同時提供兩倍在裝置上的機器學習 (ML) 性能。

特點和優點

擴展性能和效率

在最小面積上以超過Ethos-U55兩倍的性能開啟新的視覺和語音用例,並且在0.6mm2(16nm)內達到1 TOP/s。

靈活的整合

使用非常成功的Ethos-U架構,在Cortex-A系統和Cortex-M上的BareMetal或RTOS SRAM/FLASH系統上構建具有豐富OS和DRAM支援的低成本、高效率系統。

統一的軟體和工具

透過Arm Cortex和Ethos-U處理器使用通用工具鏈,可以更快地開發、部署和調試終端AI的應用。

強化設計

廣泛地神經網路運算子得以支援主流的神經網路模型,提供更廣泛的AXI介面,並透過添加到內部RAM的ECC來改善可靠性。

合作夥伴分享

“Ethos-U65保持了MCU等級的功率效率和Ethos-U55的架構優勢,同時擴展了它的適用性至基於Cortex-A更高性能的系統單晶片(SoC)。”

Ron Martino, Senior Vice President and General Manager, Edge Processing Business, NXP Semiconductors.

技術應用案例

創新和想法實現之處

人工智慧

人工智慧 (AI) 和機器學習 (ML) 相較以往擴展及定義更多的應用,改變了我們與世界各地的裝置和機器的互動模式。Arm 處理器IP 具有足夠的可擴張性和靈活性,可以運行當前或未來任何類型的 ML 工作負載。

基礎設施

隨著世界朝向一兆台的智慧裝置邁進、裝載、處理和管理由此產生的數據爆炸所需要的計算、 網絡和存儲基礎架構正在發生變化。 基礎設施必須滿足對更高的工作負載密度、更高的性能和功率效率的需求,因此人工智慧正在先進的基礎設施應用,例如頻寬和功率管理子系統中發揮作用。

家庭網路裝置

因家庭中的裝置進行互動的先進層級越來越高,因此通用處理器的功能必須不斷增強。 Ethos-U65 在提供高性能裝置上的 ML 功能的同時亦保持電源效率,以滿足智慧家庭技術的需求 。

相關的產品與服務

Cortex-A 處理器

Cortex-A 處理器系列可提供更先進的用戶體驗和更豐富的界面,同時提供複雜醫療保健應用所需的高性能計算,例如基因組測序。

Cortex-M55

Arm Cortex-M55 處理器是Arm具備最強 AI 能力的Cortex-M 處理器,也是首款採用 Arm Helium 技術的晶片,為物聯網裝置提升了顯著的 ML 能源效率及 DSP 性能。

Ethos-N78

Arm Ethos-N78 是第二代的高端 NPU,可實現從雲到邊緣再到端點的高效 ML 推理。

Neoverse N1

Neoverse N1 為廣泛的雲原生工作負載進行優化, 並以世界級的運算效率執行。

架構與技術

Arm NN

Arm NN 在既有的 NN 框架和底層 IP 之間建構了一座橋樑。它支援既有神經網路框架的高效率轉換,例如 TensorFlow 和Caffe,允許它們在 Arm Cortex-A CPU、Arm Mali GPU 和 Ethos-N NPUs 上高效運行,無需修改。

Arm Compute Library

Arm Compute Library 是為 Cortex-A CPU 和Arm Mali GPU 優化的低階函數的集合,目標是影像處理、電腦視覺和機器學習。它是在 MIT 開放源碼許可下可免費提供的。

CMSIS-NN

Cortex 微控制器軟體介面標準(CMSIS-NN)– Efficient Neural Network Implementation 是一種開發來用於最大化Cortex-M 處理器核心效能以及最小化其佔用的記憶體的高效神經網路內核的集合。

類神經網路處理器
Arm ETHOS-U65

針對邊緣與終端裝置的人工智慧創新

藉由 Arm 最新的 Ethos-U microNPU 系列產品,在廣泛的嵌入式裝置中構建低成本、高效率的人工智慧解決方案。Ethos-U65 在保持了Arm Ethos-U55 的功率效率之下,同時擴展了它的適用性到 Arm Cortex-A, Cortex-R 和以 Neoverse 為基礎的系統,同時提供兩倍在裝置上的機器學習 (ML) 性能。

特點和優點

擴展性能和效率

在最小面積上以超過Ethos-U55兩倍的性能開啟新的視覺和語音用例,並且在0.6mm2(16nm)內達到1 TOP/s。

靈活的整合

使用非常成功的Ethos-U架構,在Cortex-A系統和Cortex-M上的BareMetal或RTOS SRAM/FLASH系統上構建具有豐富OS和DRAM支援的低成本、高效率系統。

統一的軟體和工具

透過Arm Cortex和Ethos-U處理器使用通用工具鏈,可以更快地開發、部署和調試終端AI的應用。

強化設計

廣泛地神經網路運算子得以支援主流的神經網路模型,提供更廣泛的AXI介面,並透過添加到內部RAM的ECC來改善可靠性。

合作夥伴分享

“Ethos-U65保持了MCU等級的功率效率和Ethos-U55的架構優勢,同時擴展了它的適用性至基於Cortex-A更高性能的系統單晶片(SoC)。”

Ron Martino, Senior Vice President and General Manager, Edge Processing Business, NXP Semiconductors.

技術應用案例

創新和想法實現之處

人工智慧

人工智慧 (AI) 和機器學習 (ML) 相較以往擴展及定義更多的應用,改變了我們與世界各地的裝置和機器的互動模式。Arm 處理器IP 具有足夠的可擴張性和靈活性,可以運行當前或未來任何類型的 ML 工作負載。

基礎設施

隨著世界朝向一兆台的智慧裝置邁進、裝載、處理和管理由此產生的數據爆炸所需要的計算、 網絡和存儲基礎架構正在發生變化。 基礎設施必須滿足對更高的工作負載密度、更高的性能和功率效率的需求,因此人工智慧正在先進的基礎設施應用,例如頻寬和功率管理子系統中發揮作用。

家庭網路裝置

因家庭中的裝置進行互動的先進層級越來越高,因此通用處理器的功能必須不斷增強。 Ethos-U65 在提供高性能裝置上的 ML 功能的同時亦保持電源效率,以滿足智慧家庭技術的需求 。

相關的產品與服務

Cortex-A 處理器

Cortex-A 處理器系列可提供更先進的用戶體驗和更豐富的界面,同時提供複雜醫療保健應用所需的高性能計算,例如基因組測序。

Cortex-M55

Arm Cortex-M55 處理器是Arm具備最強 AI 能力的Cortex-M 處理器,也是首款採用 Arm Helium 技術的晶片,為物聯網裝置提升了顯著的 ML 能源效率及 DSP 性能。

Ethos-N78

Arm Ethos-N78 是第二代的高端 NPU,可實現從雲到邊緣再到端點的高效 ML 推理。

Neoverse N1

Neoverse N1 為廣泛的雲原生工作負載進行優化, 並以世界級的運算效率執行。

架構與技術

基於Arm架構的晶片、裝置架構與技術,滿足了現代生活所需的效能。

Arm NN

Arm NN 在既有的 NN 框架和底層 IP 之間建構了一座橋樑。它支援既有神經網路框架的高效率轉換,例如 TensorFlow 和Caffe,允許它們在 Arm Cortex-A CPU、Arm Mali GPU 和 Ethos-N NPUs 上高效運行,無需修改。

Arm Compute Library

Arm Compute Library 是為 Cortex-A CPU 和Arm Mali GPU 優化的低階函數的集合,目標是影像處理、電腦視覺和機器學習。它是在 MIT 開放源碼許可下可免費提供的。

CMSIS-NN

Cortex 微控制器軟體介面標準(CMSIS-NN)– Efficient Neural Network Implementation 是一種開發來用於最大化Cortex-M 處理器核心效能以及最小化其佔用的記憶體的高效神經網路內核的集合。