跳到正文

#論文/研究

RSS
今日 8 則
8月20日週四
  1. LMSYS Org Blog56

    Mooncake 整合進 Miles,加快 AI 訓練資料交接

    大型語言模型做強化學習時,產生回答的工作和訓練工作分開執行,零碎的資料要在兩邊傳送,可能讓訓練端等資料。Mooncake 整合進 Miles 後,會把多種格式的資料整理成較大的資料塊傳送,再依原本的格式重建;使用者仍透過 Miles 原有的介面交接資料。這次測試中,Mooncake 的遠端 GET 比 Ray 快約 10–14 倍,PUT 快約 1.2–1.6 倍。這些數字只反映資料傳送與重建,不代表整體訓練速度也提高相同比例;作者也表示,接下來會用更多模型和工作負載驗證。

8月19日週三
  1. Hugging Face Blog65

    AI 助理究竟需要多少記憶容量:ALTK-Evolve 評測與劑量校準方法

    Hugging Face 團隊釋出研究探討如何為 AI 助理配置自蒸餾記憶,評估了從 30B 到前沿模型的 8 款模型在 AppWorld 基準上的表現。研究發現AI 助理記憶效果取決於模型能力層級:強模型適合注入完整記憶,較弱模型適合精選檢索,而已飽和模型則無明顯增益。精選檢索能在僅增加 5% token 的情況下使 gpt-oss-120b 任務完成度提升 16.1 個百分點。

8月17日週一
  1. Embrace The Red (AI Security)78

    恢復加密 LLM 推理痕跡

    本文說明如何透過將加密的 LLM 推理痕跡重放到另一個相容模型,並使用 jailbreak 讓模型揭露內部推理,進而復原原始推理文本。 - 技術原理:將一個模型產生的加密推理 blob 送回同一供應商的另一模型,該模型可被誘導回傳解碼後的推理內容。

    推薦理由:本文揭示可透過重放加密推理痕跡,從另一模型中復原內部推理,提醒使用者注意共享加密 blob 可能洩露敏感資訊。

8月14日週五
8月13日週四
  1. Hugging Face Blog74

    Hugging Face 部落格:復現 2,200 篇 ICML 論文的經驗與發現

    Hugging Face 舉辦了一場使用編碼AI 助理逐條復現 ICML 2026 論文的駭客松,1,221 名參與者在 19 天內釋出了 6,816 份日誌並嘗試復現了 2,226 篇論文。

    推薦理由:文章公佈了大規模AI 助理復現學術論文的成果與發現,讀者可以從中瞭解自動化復現對檢驗科研質量的實際效果與侷限。

8月12日週三
  1. Google Research63

    空書架還是丟了鑰匙?研究稱檢索是大語言模型引數化真實性的瓶頸

    Google Research 介紹了知識 profiling 行為框架和 WikiProfile 基準,用以衡量大語言模型的編碼與檢索能力。研究表明,在 Gemini 3 和 GPT-5 等前沿大模型中,95% 至 98% 的事實已被編碼,但模型仍無法直接檢索其中 26% 至 34% 的事實。這說明事實性錯誤主要源於知識無法可靠呼叫的檢索失敗,而非知識未被編碼的儲存缺失。

  2. Google Research89

    Google Research 推出 AMIE (Video) 即時影片臨床問診系統

    Google Research 推出了 AMIE 的即時影片配置版本 AMIE (Video),能夠基於 Gemini 和 Project Astra 進行同步臨床影片問診,感知非引導性的臨床非語言線索並進行即時診斷推理。

    推薦理由:這項研究展示了多模態醫療AI在影片問診中的專家級表現,為遠端醫療系統的架構設計提供了實證參考。

8月11日週二
  1. LMSYS Org Blog59

    SGLang 提出 Unified Radix Cache,讓混合模型共用一棵快取樹

    混合模型會用不同規則重用對話資料,硬塞進同一種快取邊界,可能浪費可重用資料,也可能用到不該重用的內容。SGLang 的 Unified Radix Cache 用一棵樹記錄共同的文字字首,再由不同元件各自判斷哪些資料可以重用,也能讓快取資料放在 GPU、主機記憶體或外部記憶體層。多輪對話測試中,外部記憶體層讓 DeepSeek-V4-Flash 的快取命中率接近 98%,Inkling-Small 達到 96.8%;另一組程式修復測試中,新的快取設定比一般 LRU 設定少了 2.9% 到 16.6% 的首字延遲。不過,這些比較同時改了快取實作與淘汰方式,不能單獨歸因於工作階段管理。

8月10日週一
8月7日週五
8月4日週二
  1. Embrace The Red (AI Security)64

    LLM 盜竊案:利用 LiteLLM 竊取流量、金鑰並注入工具呼叫

    本研究展示了 LiteLLM AI 閘道被攻擊者利用後,可竊取 LLM API 金鑰、擷取流量並注入惡意工具呼叫。 - 攻擊流程:攻擊者以合法的 LiteLLM 管理功能,改寫 api_base 與 use_litellm_proxy,將流量重新導向惡意代理;透過自訂 hook 取得被竊 API 金鑰並在攻擊者代理上重新設定模型。

8月3日週一
8月1日週六
7月31日週五
  1. Embrace The Red (AI Security)86

    CVE‑2026‑5674:PipeWire 透過音訊服務實現 Linux 沙箱逃逸

    PipeWire 的音訊相容層缺陷使得 Flatpak 及其他使用 PulseAudio socket 的容器能夠在 Linux 上實現沙箱逃逸,導致完全使用者層級的程式執行。

    推薦理由:此漏洞揭示 Flatpak 透過 PipeWire 的沙箱逃逸機制,凸顯音訊服務在 Linux 系統安全中的關鍵風險;對開發者與系統管理員提供即時防護與修補指引,並強調在部署音訊應用時應加強 socket 與模組許可權設定。

7月30日週四
7月29日週三
  1. Amazon Science64

    Amazon Science 發布 PatientAgentBench,評估面向患者的醫療 AI 助理

    Amazon Science 發布 PatientAgentBench,這套可重現、經臨床醫師驗證的基準,評估面向患者的醫療 AI 助理能否在多輪對話中維護安全、遵循臨床流程並完成患者目標。

    推薦理由:PatientAgentBench 將多輪病歷對話、分診與照護流程納入評估,研究結果指出例行請求也可能藏有臨床風險。

  2. Berkeley AI Research77

    從 CUDA 到 MLX:K-Search 如何將數十年 GPU 核心最佳化知識帶到 Apple Silicon

    K-Search 透過結合 CUDA 核心最佳化知識與 MLX 翻譯層,成功將 NVIDIA GPU 的高效實作自動轉換至 Apple Silicon,達到接近專家水平的效能。

    推薦理由:本研究展示如何將 CUDA 核心最佳化知識自動轉移至 Apple Silicon,為跨平臺 GPU 核心開發提供可落地方法。

  3. Together AI Official Blog73

    ThunderAgent:高達 2 倍速度的代理式推理,提升大規模合成資料生成效能

    ThunderAgent 是一套針對代理式推理的程式級排程系統,透過將每個代理工作流程抽象為可排程程式,解決 KV cache 抖動問題。\n- 效能提升:單節點吞吐率提升至 2.5 倍,平均延遲下降 10 倍;8 節點叢集加速 2.4 倍,近線性擴充套件。

    推薦理由:本文提出程式級排程策略,消除 KV 快取抖動,單節點吞吐提升 2.5 倍,8 節點叢集加速 2.4 倍,對大規模代理式資料生成具有實際價值。

7月28日週二
  1. Redwood Research Blog81

    Redwood Research 提出不可信建議協議:透過極短字數限制顯著提升弱模型效能

    Redwood Research 團隊提出「不可信建議」(untrusted advice)協議,讓高能力但不可信的 Claude Sonnet 4.6 透過極窄的資訊通道向受信任的執行模型(如 Gemini 3.1 Flash Lite 與 gpt-oss-120b)提供簡短提示。

    推薦理由:研究顯示透過資訊瓶頸限制高風險模型的提示長度,能在大幅降低安全風險的同時恢復多數效能差距。

7月27日週一
7月26日週日
7月23日週四
  1. Google Research60

    SymptomAI:面向日常症狀評估的對話式AI 助理研究

    Google Research 介紹了 SymptomAI,這是一種用於日常症狀評估的對話式 AI 助理,並在 13917 名參與者的全國規模研究中評估了其鑑別診斷效能。研究發現,由AI 助理主動引導提問的策略顯著優於無引導的基線,且其生成的鑑別診斷結果在臨床專家盲測中的準確率表現良好。此外,研究還發現 SymptomAI 的診斷結果與參與者 Fitbit 可穿戴裝置的生物訊號變化趨勢相吻合。

  2. Google Research70

    讓量子計算機從錯誤中學習

    Google Research 在其 Willow 超導處理器上演示了利用強化學習實現量子計算機持續校準的方法,顯著降低了邏輯錯誤率。實驗中,RL 訓練將錯誤率降低 3.5 倍,最終邏輯錯誤率低至每千個糾錯週期不到一次,並在數百量子位元的模擬中驗證了可擴充套件性。該方法將量子錯誤檢測事件作為主動學習訊號,展示了可持續計算的新範式。

7月21日週二
7月20日週一
7月16日週四
  1. Embrace The Red (AI Security)73

    研究展示間接提示注入如何透過 macOS Terminal 導致 DNS 資料外洩

    研究者以概念驗證示範,惡意試算表內容可誘使 AI CLI 輸出 ANSI 控制碼,讓 macOS Terminal 發出含有資料的 DNS 請求。 - 攻擊方式:AI 工具讀取試算表中的惡意內容,取得前幾列的姓名並輸出終端機控制序列;Terminal 將序列解讀為 DNS 請求,造成資料外洩。

    推薦理由:文章串起間接提示注入、終端機 ANSI 控制碼與 DNS 外洩的攻擊鏈,並整理修補後 CLI 開發者可採取的輸出編碼措施。

  2. Google Research62

    揭示擴散模型創造力的奧秘

    Google Research 通過數學分析解釋了擴散模型的創造力來源,指出正則化導致的分數平滑使模型在去噪過程中產生插值,從而生成新穎影像。文章以一維示例說明分數平滑如何軟化梯度,並通過實驗驗證權重衰減對其影響;在多維情形下,分數平滑幫助模型在資料流形上平衡質量與新穎性。作者已公開實驗程式碼。

7月15日週三
7月11日週六