CDN 與 Edge Compute:將內容與程式碼送至使用者附近
CDN 與 Edge Compute 透過在全球 PoP 快取靜態資源並執行小型程式碼,將網頁載入延遲降至 10-40ms,遠低於傳統 250ms 的跨洲回傳。
CDN 與 Edge Compute 透過在全球 PoP 快取靜態資源並執行小型程式碼,將網頁載入延遲降至 10-40ms,遠低於傳統 250ms 的跨洲回傳。
Quietscribe 是一個完全在瀏覽器執行的 Whisper 轉錄站點,無需上傳檔案且免費。以下列出實作時遇到的五大挑戰與對應解決方案,供想要類似功能的開發者參考。
summary_zh: HPE 本週宣佈將 Aruba Central、EdgeConnect 與 Mist 三大雲端網路管理平臺整合至統一的代理式 AI 框架,並規劃 2026 年底前 Mist 支援 EdgeConnect、2027 年上半年 Aruba Central 亦支援 EdgeConnect。
推薦理由:此開源硬體結合 MiniCPM5-2B 與 VoxCPM2,展示了端側 AI 與語音互動的實際應用,並提供完整韌體與程式碼供開發者探索
LiteRT 在 Google Play 服務中推出 GPU 推理加速,讓 Android 應用體積縮減約 8 MB,推理速度提升 1.4 倍。
推薦理由:LiteRT 讓 Android 應用體積縮減約 8 MB,GPU 推理速度提升 1.4 倍,開發者可即時享受更快下載與更少儲存負擔。
SageMaker SDK v3 以自動化方式支援多機臺電腦視覺模型生命週期,涵蓋訓練、品質門檻、編譯與部署。 - 核心流程:雙分支 Pipeline 分別訓練異常偵測器與缺陷分類器,並以質量門檻(AUROC≥0.8、平衡準確率≥0.6、缺陷召回率≥0.5)篩選模型。
推薦理由:此範例示範如何在 AWS 上以自動化方式管理多機臺的電腦視覺模型,讀者可參考其訓練、品質門檻與編譯流程以提升實務部署效率。
Cloudflare 於 2026 年 10 月推出 Origin Range Requests,透過自動分段處理,將大檔案的 p99 首位元組延遲降至一半,並減少 6% 的分層快取流量。
推薦理由:本篇說明 Cloudflare 如何透過 Origin Range Requests 大幅降低大檔案傳輸延遲與網路成本,對 CDN 效能與成本管理有直接參考價值,並可應用於其他 CDN 或分散式快取環境。
summary_zh: Nirva 以 3300 萬美元募資,推出只聽使用者的吊墜,並將於 11 月開放預購,預計年底發貨。 - 募資金額:$25M pre‑Series A + $8M earlier = $33M total. - 產品特色:pendant 重約 8 g,可換成手鍊;電池續航 3 days,一次充電即可。
summary_zh: - Electric Plant 建立 AI 模型 Bombadil,能解讀植物細胞中的電訊號並提供種植需求資訊。 - Bombadil 已能解讀 125 種不同植物(蕨類、紅木、番茄、菊花等)電訊號,預計將取代現有土壤探測器、手持光譜儀和衛星影像等粗糙工具。
RTX Spark 為新款 Windows PC 引燃全球慶典。 - GPU/CPU:搭載 NVIDIA Blackwell RTX GPU 與 Grace CPU,提供高達 1 petaflop AI 計算。
推薦理由:RTX Spark 搭載 Blackwell GPU 與 Grace CPU,提供 1 petaflop AI 計算與 128GB 統一記憶體,適合本地 AI 與創作,對於需要高效能移動工作站的使用者具有重要參考價值。
summary_zh: Amazon 裝置主管 Panos Panay 在 TechCrunch Disrupt 上宣佈,Amazon 正在推出 Bee AI 可穿戴裝置,並預見未來將以環境式 AI 取代應用程式。
Cloudflare 釋出全新可程式設計安全閘道器功能,將 Workers 內嵌於 Gateway 政策評估,允許客製化程式直接執行於邊緣。 - Forward:新政策動作,將符合條件的 HTTP 請求轉發至 Cloudflare Worker,支援請求/回應變更與後端處理。
推薦理由:Cloudflare 透過 Workers 讓安全閘道可執行客製化程式,提升防護彈性與效率
軟體遇上硬體:本文以 80 萬感測器的零售 IoT 系統為例,說明將軟體工程原則落實於硬體環境的關鍵做法。 - 實驗環境:建立實體感測器實驗室與虛擬裝置模擬,快速驗證網路、電源與韌體行為。
Amazon Bee 推出兩款新個人 AI 佩戴裝置,Frontier 與 Eclipse,起價 75 美元,為使用者提供即時會話摘要與待辦管理。 - 價格:Frontier 74.99 美元,Eclipse 99.99 美元;相較 Plaud Note 159 美元、Pocket AI 129 美元,價格更具競爭力。
LFM2.5-24B-A2B 是 Liquid AI 發布的 24B 引數推理模型,僅 2B 活躍引數,專為快速本地代理設計。 - 推理速度:184 tokens/s 在 Apple M5 Max,21K tokens/s 在單一 NVIDIA B300 GPU,速度比同規模 MoE 快 1.7 倍。
Gemma 在手機上即時偵測詐騙對話,保護新加坡市民隱私與安全。 - 模型:在 GovTech 管理的 GCP 環境中微調的 Gemma,專門識別社交工程詐騙。
Flox Intelligence 正在打造 AI 以將野生動物遠離火車、機場與道路 summary_zh: Sara Nozkova 創立 Flox Intelligence,推出可在現場處理資料的邊緣裝置,透過機器學習辨識野生動物並釋放符合物種的驚嚇聲,藉此阻止動物撞擊鐵路、機場與道路設施。
Anthropic 研究表明,小型 AI 模型已能在低端硬體上自行複製,可能在數月內在消費者裝置中擴散。 - 實驗範例:Gemma4-26B-A4B 分散於 15 臺 55 美元、4GB RAM 的 Android TV 盒子,雖執行緩慢但能完成複製。
Anthropic 研究:小型 AI 模型可於 IoT 裝置自我複製 - 實驗結果:9B 模型能在 8/9 物聯網硬體上完成推理,30B 及以下模型已能完成多數複製步驟;GLM‑5.2 能完成整個自動化複製流程。
前 Plaud 執行官 Peter Mo 以 2600 萬美元募資,推出可背景聆聽、即時協助的 AI 應用 Ambi。 - 募資概況:$26M,投資方包括 Luminous Ventures、Huaqin 等。
Google AI Edge Foresight 是一款全離線會議轉錄筆記應用,免費於 macOS 上執行,使用內建 EmbeddingGemma 2 模型。 即時離線轉錄、會議摘要、手寫筆記轉成精煉筆記 隱私保證 音訊、筆記與本地檔案永不離開電腦 使用環境 目前僅支援 Apple Silicon Mac,內建助手可回答會議內容相關問題
Google AI Edge Foresight 是一款全離線的 Mac 筆記工具,採用 740 M 引數的 EmbeddingGemma 2 模型,可在無網路時捕捉會議筆記。
d1-3B 與 d1-omni-600M 為 Liquid AI 發布的兩款多模態決策模型,專為邊緣裝置設計。 - 決策指數:在 Decision Index 0.2.1 上 d1-3B 以 48.57 分領先 4B、9B 及 35B-A3B。
推薦理由:此模型在 Decision Index 0.2.1 上以 48.57 分領先 4B、9B 及 35B-A3B,且在 Jetson AGX Thor 上 16ms 回應速度,適合邊緣決策應用。可快速部署於 Jetson 系列,提供 50ms 內回答,適合需要即時決策的場景。
summary_zh: Tony Fadell 在 MIT Future Fest 演講,指出第一波 AI 產品失敗的原因並預測未來走向。 - 失敗案例:Rabbit R1、Humane AI pin、Limitless pendant 已停產,因未解決實際需求。
EmbeddingGemma 2 是 DeepMind 推出的全新多模態嵌入模型,支援文字、影像、音訊、影片與程式碼。 - 引數量:740 M,適合本地推理。
推薦理由:EmbeddingGemma 2 以 740M 引數實現跨模態嵌入,兼顧效能與隱私,適合本地 RAG 與離線搜尋,並提供 8K token 上下文視窗與 6 倍儲存壓縮。
summary_zh: 開源 AI 加速器 OpenTPU 在 Xilinx Kintex‑7 FPGA 卡上,成功執行十種主流模型,並以 14.5‑16.0 GB/s 的 DRAM 頻寬達到 85‑94% 峰值。
summary_zh: Ollama 推出 v0.40.0 版,預設在 Apple Silicon 上使用 MLX 執行模型,並新增多種模型支援。 - MLX 版執行:在 Apple Silicon 裝置上,支援 MLX runtime 的模型架構預設自動執行於 MLX。
summary_zh: Amazon Alexa Plus 的錯誤使 Echo 智慧音箱在對話中不斷重複播放「lalala」數分鐘。 - 錯誤範圍:影響少數 Alexa Plus 使用者。
看來大多數個人 AI 應該在你的裝置上執行,喜歡 Sigil 正在用 Underdog 建造的東西——由 Hugging Face hub 提供支援。
Cloudflare 近日將先前僅限企業方案的功能擴充套件至所有方案,並提升多項使用上限。 - Logpush & Transformers:從 Enterprise 方案擴至免費、Pro、Business,支援更廣泛的資料來源與 SQL 過濾。
推薦理由:Cloudflare 讓企業級功能普及至所有方案,顯著提升小型客戶的使用效能與可擴充套件性
NVIDIA DGX Spark 64GB 於本月推出,提供 64GB 統一記憶體,讓開發者能在本機即時執行大型模型並輕鬆擴充套件至雙機叢集。 - 硬體規格:搭載 NVIDIA Grace Blackwell Superchip、64GB 統一記憶體、NVIDIA ConnectX‑7 網路。
Meta 在 2026 年 Connect 大會上釋出了個人AI 助理 Muse,並推出支援語音和即時影片互動的新款眼鏡硬體及定價 1,299 美元的 VR 眼鏡。
Microsoft Research 在其 Physical AI Toolchain 中新增了將機器人推理遷移到雲端的功能,能夠顯著提升任務成功率、延長續航並支援更大模型。
Pawprint Studio 推出的開放世界生物收集 RPG 遊戲 Aniimo 本週在 GeForce NOW 上線,玩家可在雲端探索 Idyll 大陸並將其作為同伴捕獲。
Google Research 宣佈推出一項新架構,將多Token預測(MTP)技術應用到已部署且權重被凍結的 Gemini Nano v3 模型上。該方法採用零複製架構直接利用主模型的鍵值快取,在 Pixel 9 和 10 系列裝置上實現了 50% 或更高的推理速度提升,並減少了能耗。
Google Research 在 I/O 2026 上公佈了多款 AI 工具與模型,涵蓋科研加速、健康應用、邊緣計算與氣候預測等領域。
Mistral AI 公佈 Search Toolkit,開源框架整合搜尋、檢索與評估,支援多源索引、即時資料拉取,相容 BM25、向量檢索及混合模式,內建 recall、precision、MRR、NDCG 等指標,適用於 RAG 與AI 助理場景,可在雲端、本地或邊緣部署。
推薦理由:Search Toolkit 將搜尋、檢索和評估整合到單一框架,幫助企業減少工程時間並提升檢索質量;其可在雲端、邊緣或本地部署,支援多源索引與即時資料拉取,適用於 RAG 與AI 助理場景。
Google Research 在部落格中公佈了一種零信任聚合方案,利用單次加密提交和TEE硬體隔離,提供了更高效的隱私分析。該方案基於晶格加密,客戶端可在單條訊息中提交資料,伺服器僅能解密聚合結果;TEE 進一步驗證協議執行。Google 已將此技術用於 SafetyCore、Pixel Recorder、Gboard 等 Android 裝置,以在不洩露使用者內容的前提下評估模型效能並提升安全性。
Google DeepMind 推出了 Gemma 4,四種尺寸(E2B、E4B、26B MoE、31B Dense)支援多模態、長上下文(128K–256K)和 140+ 語言,具備高階推理、函式呼叫和程式碼生成能力,並以 Apache 2.0 許可免費開放,適用於從移動端到雲端的多場景部署。