EP129：【Edge Computing & AIoT】RAG加上Cortex-A CPU，讓你養小龍蝦也沒有問題 Ft. Odin Shen 沈綸銘 Arm 解決方案首席架構師

本集必聽：
(00:00:00) 開場

(00:02:50) 本地端 RAG（檢索增強生成）核心優勢：資料留在設備／內網，不用上雲也能做到高隱私、低延遲

(00:06:40) 本地 LLM × RAG：不靠雲端 API 堆 token，回答更可溯源、更可靠，邊緣 AI 更不怕「亂講」

(00:14:00) Cortex-A / Cortex-X 的穩定效能：把檢索、前後處理等工作跑在本地，體驗更順、更穩，邊緣應用「養小龍蝦」也沒問題
 

Arm 教學內容 portal: https://learn.arm.com/
本集教學內容: 

1. https://learn.arm.com/learning-paths/laptops-and-desktops/dgx_spark_rag/ 
2. https://learn.arm.com/learning-paths/laptops-and-desktops/dgx_spark_voicechatbot/

相關 blog:

1. https://developer.arm.com/community/arm-community-blogs/b/ai-blog/posts/rethinking-the-role-of-cpus-in-ai-a-practical-rag-implementation-on-dgx-spark
2. https://developer.arm.com/community/arm-community-blogs/b/ai-blog/posts/rethinking-voice-ai-at-the-edge-a-practical-offline-pipeline-on-dgx-spark

 ------------------------------------------

IC之音行銷企劃

科技首都，幸福竹縣　AI領航，永續家園

3月17到20號

歡迎蒞臨台北南港展覽館2館「2026智慧城市展」看新竹縣如何以AI智慧治理

精準佈局交通、產業、教育、安全、環保，同時榮獲「智慧城市創新應用獎」

邀請您，親臨現場見證縣民高效幸福，共創智慧未來！

以上為新竹縣政府廣告

 ------------------------------------------
製作 | 李翊嘉

科技產業瞬息萬變，訊息有真有假、有輕有重， 我們如何在最短的時間內，掌握最重要的資訊？
DIGITIMES 與商周攜手推出聯合方案，帶你看懂商業，也看透科技，雙重專業視角
幫助你全方位掌握產業趨勢。了解「DIGITIMES 與商周聯購方案」：https://dgt.ms/app_subscribe