跳到正文

#端側

RSS
今日 1 則
今天10月1日週四
9月24日週四
  1. Microsoft Research69

    將推理遷移到雲端提升物理 AI 機器人效能

    Microsoft Research 在其 Physical AI Toolchain 中新增了將機器人推理遷移到雲端的功能,能夠顯著提升任務成功率、延長續航並支援更大模型。

    推薦理由:文章展示了將機器人推理遷移到雲端可顯著提升任務成功率和續航,幫助讀者評估分散式推理方案對工業機器人的影響。

9月17日週四
6月27日週六
  1. Google Research65

    Google Research:利用凍結的多Token預測技術在 Pixel 裝置上加速 Gemini Nano 模型

    Google Research 宣佈推出一項新架構,將多Token預測(MTP)技術應用到已部署且權重被凍結的 Gemini Nano v3 模型上。該方法採用零複製架構直接利用主模型的鍵值快取,在 Pixel 9 和 10 系列裝置上實現了 50% 或更高的推理速度提升,並減少了能耗。

    推薦理由:谷歌研究團隊通過在已凍結的 Gemini Nano 模型上應用多Token預測架構,在不增加記憶體冗餘的前提下顯著提升了端側裝置的推理速度與能效。

5月29日週五
  1. Google Research69

    Google Research 在 I/O 2026 上開啟新發現時代

    Google Research 在 I/O 2026 上公佈了多款 AI 工具與模型,涵蓋科研加速、健康應用、邊緣計算與氣候預測等領域。

    推薦理由:Google Research 在 I/O 2026 上公佈多款 AI 工具與模型,展示了從科研到產品的快速落地與實際影響,凸顯代理式編碼與多模態推理在科學與日常應用中的變革潛力,併為全球科研社群提供了可擴充套件的實驗平臺。

5月28日週四
  1. Mistral AI74

    推出 Search Toolkit 搜尋工具包

    Mistral AI 公佈 Search Toolkit,開源框架整合搜尋、檢索與評估,支援多源索引、即時資料拉取,相容 BM25、向量檢索及混合模式,內建 recall、precision、MRR、NDCG 等指標,適用於 RAG 與智慧體場景,可在雲端、本地或邊緣部署。

    推薦理由:Search Toolkit 將搜尋、檢索和評估整合到單一框架,幫助企業減少工程時間並提升檢索質量;其可在雲端、邊緣或本地部署,支援多源索引與即時資料拉取,適用於 RAG 與智慧體場景。

  2. Google Research59

    零信任聚合實現私有分析

    Google Research 在部落格中公佈了一種零信任聚合方案,利用單次加密提交和TEE硬體隔離,提供了更高效的隱私分析。該方案基於晶格加密,客戶端可在單條訊息中提交資料,伺服器僅能解密聚合結果;TEE 進一步驗證協議執行。Google 已將此技術用於 SafetyCore、Pixel Recorder、Gboard 等 Android 裝置,以在不洩露使用者內容的前提下評估模型效能並提升安全性。

4月3日週五
  1. Google DeepMind69

    Gemma 4 釋出:最強開源模型

    Google DeepMind 推出了 Gemma 4,四種尺寸(E2B、E4B、26B MoE、31B Dense)支援多模態、長上下文(128K–256K)和 140+ 語言,具備高階推理、函式呼叫和程式碼生成能力,並以 Apache 2.0 許可免費開放,適用於從移動端到雲端的多場景部署。

    推薦理由:Gemma 4 以高效引數利用率和多模態能力,成為最強開源模型之一,支援從移動端到雲端的多場景部署,並提供 128K–256K 上下文視窗和 140+ 語言支援,兼具函式呼叫和結構化 JSON 輸出,滿足多行業需求。

3月17日週一
  1. Mistral AI65

    Mistral AI 釋出 Mistral Small 3.1 模型

    Mistral AI 宣佈推出 Mistral Small 3.1,這是一款在其體量級別表現出色的開源模型。該模型帶來改進的文本效能、多模態理解以及高達 128k tokens 的上下文視窗,並以 Apache 2.0 許可證開源。

    推薦理由:原文給出了開源模型的新版本效能與多維度升級,讀者可以據此評估其在端側和多模態任務中的應用潛力。