跳到正文

#邊緣端/裝置端

RSS
今日 3 則
11月13日週五
  1. Phoronix (Linux HW & Benchmarks)47

    Khronos 評估用於遠端解除安裝的高階 API

    The Khronos Group 成立探索小組,評估是否制定用於雲端與邊緣基礎設施的高階遠端解除安裝 API,目標是讓應用程式不必繫結特定連線層或通訊協定。 - 評估方向:可能的 API 將採用與通訊協定無關的介面,隱藏連線與傳輸的底層複雜度,並配合 Khronos 的 API 生態系及相關網路標準。

11月12日週四
  1. Dev.to Top Tech57

    Mindscend Notes 如何在不擴大提示詞的情況下為裝置端筆記助理加入聊天記憶

    Mindscend Notes 透過改寫追問的搜尋查詢,讓裝置端筆記助理找回相關內容,無須把聊天記錄加入模型提示詞。 - 檢索流程:頁面切分為約 700 字元的段落,結合 BM25、EmbeddingGemma 段落與頁面向量,再以 reciprocal rank fusion 排序;最佳 3 個頁面各取最佳 2 個段落送入模型。

11月11日週三
  1. Hacker News (official RSS)66

    ThingStudio 用流程圖在微控制器上編寫 MicroPython 程式

    微控制器程式常把許多工作塞進同一個主迴圈,新增工作後也可能互相拖慢。ThingStudio 讓使用者用流程圖安排按鈕、感測器和網路訊息等事件,再把流程轉成 MicroPython 程式送到電路板上;部署完成後,拔掉連線線,程式也能繼續執行。它會檢查接腳是否存在,以及不同節點的設定有沒有衝突,發現問題就會在部署前停下來。ThingStudio 目前仍是測試版,適合有微控制器或 Node-RED 使用經驗的人試用。

  2. NVIDIA Newsroom Press Releases45

    AI 如何協助回收業者從混合廢棄物中回收再利用材料

    NVIDIA Inception 計畫中的新創公司運用視覺 AI 與機器人,從混合回收物中辨識並分揀可回收材料,協助減少材料進入掩埋場。 - AIRECO:這家臺灣新創在臺南迴收廠的試驗線使用 NVIDIA Jetson Orin NX 執行推論並控制機械手臂,測試線辨識準確率超過 95%。

  3. PyTorch76

    PyTorch 推出 ExecuTorch 的 WebGPU 後端,讓模型可在瀏覽器 GPU 上執行,並在分頁本機處理提示詞、照片與音訊。 - 匯出與支援環境:透過 torch.export 匯出一次,同一份 .pte 檔可在 Chrome、Safari 等支援 WebGPU 的瀏覽器執行。

    推薦理由:ExecuTorch WebGPU 將模型部署到瀏覽器本機執行,並以同一份 .pte 檔支援多種模型,呈現網頁端推論與裝置端微調的實作方式。

  4. Hacker News (official RSS)41

    Show HN:研究者用自己的血糖資料訓練 15 種預測模型

    血糖會隨時間變化,研究者想知道能不能用自己的資料預測接下來的血糖。他用自己的資料和公開資料測試 15 種模型,其中自己做的 T1DMAI 是小型 Transformer,會預測未來 2 小時的血糖;再用少量真實資料微調後,在自己的資料測試中,60 分鐘預測的分數接近表現最好的 XGBoost。可是換到公開資料時,結果就不一樣,也有模型很難抓到低血糖。這些測試目前只適合研究和教學,模型沒有經過臨床驗證,不能拿來決定用藥或治療。

  5. Google Developers Blog82

    Google AI Edge Gallery 加入裝置端語音辨識與文字轉語音功能

    Google於 2026 年 11 月 10 日宣佈,Google AI Edge Gallery 與相關開發工具加入裝置端語音辨識(ASR)和文字轉語音(TTS),可在離線情境下提供語音互動。

    推薦理由:文章整理 Android 與跨平臺語音方案的模型、延遲及整合方式,方便開發者依裝置與部署需求比較選擇。

  6. PyTorch Blog83

    ExecuTorch 推出 WebGPU 後端,讓 PyTorch 模型在瀏覽器中以 GPU 推論

    ExecuTorch 推出 WebGPU 後端,讓 PyTorch 模型可匯出為 .pte 檔,並在支援 WebGPU 的瀏覽器中以 GPU 執行,資料留在使用者裝置上。

    推薦理由:文章比較 WebGPU 與 ExecuTorch CPU 路徑在同一臺 Apple M1 Pro 上的推論速度,並說明模型如何以同一個 .pte 檔在瀏覽器本機執行。

11月10日週二
  1. Dev.to Top Tech37

    輕量級 AI 助理執行環境為何重要

    輕量級、具沙箱隔離的 AI 助理執行環境,能讓AI 助理在接觸電子郵件、程式碼或個人資料時,更容易限制許可權並部署在邊緣裝置上。 - 安全與許可權:執行環境應預設鎖定檔案系統與 Shell,僅允許明確列入白名單的操作;不可逆操作可採提案者與核准者分工,並保留AI 助理無法修改的紀錄。

  2. ServeTheHome (STH Enterprise HW)76

    Google 推出 TPU 8tx 與 TPU 8i Max,分別強化機密運算與記憶體頻寬

    Google 擴充第八代 TPU 系列,推出 TPU 8tx 與 TPU 8i Max,分別面向機密運算與大型上下文推論工作負載。 - TPU 8tx:採用與 TPU 8t 相同的晶片,搭配第 5 代 AMD EPYC「Turin」主機處理器,並以機密運算保護使用中的資料。

    推薦理由:TPU 8tx 與 TPU 8i Max 分別針對機密運算和大上下文推論,文中比較兩者的主機配置、互連拓撲與記憶體頻寬差異。

11月9日週一