MoneyDJ新聞 2025-02-27 07:36:06 記者 羅毓嘉 報導
矽智財IP大廠Arm正在加速推動Edge AI (邊緣人工智慧) 的發展，針對IoT (物聯網) 設備的需求推出最新Armv9 Edge AI平台，力求提升AI運算效能、降低功耗，並強化安全性。隨著邊緣設備的AI運算需求日益提升，Arm的全新技術解決方案，將使邊緣裝置能夠執行超過10億參數的AI模型，進一步推動智慧裝置、工業自動化及智慧城市應用的發展。
Arm表示，邊緣AI是IoT世界的核心，但其發展面臨頻寬、延遲、功耗、隱私與安全性等多重挑戰。傳統AI運算主要依賴雲端，但許多應用場景需要即時處理，如智慧門鎖、兒童互動玩具、智慧監控系統等，這些裝置若能在本地端運行AI推理，可降低對雲端的依賴，提升隱私與即時性。
例如，目前市場上的智慧門鎖價格已降至新台幣9,000元左右，即可支援人臉辨識功能；部分兒童互動玩具可在無需連網的情況下與孩童對話。此外，智慧城市管理也開始運用Edge AI，例如智慧監控攝影機能即時辨識交通事故，並自動生成報告。
事實上，隨著語音辨識技術的進步，Alexa等語音助手已經成為典型的Edge AI應用，而未來大語言模型 (LLM)、語言模型(LM)、代理式AI(Agentic AI) 也將逐步整合至邊緣設備。然而，要讓這些設備順利運行AI模型，記憶體空間與算力成為關鍵瓶頸。目前的Edge AI裝置必須具備更強的記憶體管理與計算能力，才能支援更複雜的AI應用場景。
為了解決這些挑戰，Arm推出了Armv9 Edge AI平台，這套解決方案針對低功耗環境設計，適用於IoT設備、工業機器人、智慧家居等應用。此次發表的Cortex-A320，是Arm的最新超高效率處理器，能夠支援超過10億參數的AI模型，並標誌著AI運算從終端設備 (Endpoint AI) 向邊緣AI (Edge AI) 發展的轉變。
此外，Arm擴展了自家的KleidiAI技術，進一步強化Edge AI運算效能。在微軟Nano CPP測試中，啟用KleidiAI可提升70%運算效能，顯示其對AI推理的加速效果顯著。這項技術已被整合至Llama.cpp和ExecuTorch等AI框架，進一步提升Meta Llama 3和Phi-3等關鍵AI模型的效能，使Edge AI裝置能夠在更低功耗的情境下執行複雜的AI計算。
過去，Cortex-M85處理器主要支援終端設備的輕量級AI應用，例如語音辨識或基本的影像分析。然而，隨著Edge AI應用範圍擴展，Arm此次推出的Cortex-A320提供更高的AI運算能力，適用於智能家居、自動化機械、邊緣監控等應用。
隨著AI應用的快速發展，企業與開發者正在尋找更高效、低功耗的解決方案，以支援邊緣運算需求。Arm的Edge AI解決方案，透過KleidiAI最佳化AI推理，並提供更強大的處理器架構，將有助於Edge AI裝置執行更複雜的AI模型，進一步推動IoT與智慧設備市場的發展。
Arm認為，隨著LLM、Agentic AI等技術逐步下放至邊緣設備，Arm的新一代Edge AI平台將成為各種應用場景的關鍵技術支柱。透過降低部署成本、提升運算效率、強化安全性，Arm正重新定義Edge AI的發展模式，讓AI算力真正落地於智慧設備與工業應用，推動物聯網產業邁向新階段。
（附圖：Arm提供）
