跳到正文

#論文/研究

RSS
今日 0 則
9月2日週三
  1. Hugging Face Blog55

    BenchMIRT:大模型基準測試究竟在測量什麼?

    Allen Institute for AI 介紹了 BenchMIRT,這是一種用於在單個提示詞層面審計大模型基準測試的新方法。該方法將多維專案反應理論應用於 100 個大模型在 16 個基準測試中的表現,獨立恢復出安全與通用推理兩個主導維度,發現部分基準測試的實際測量結果與其宣稱的目標存在偏差。

8月28日週五
  1. Wiz Blog & Research70

    AI 基礎設施 90 天攻擊內幕

    AI 基礎設施 在雲端遭受持續攻擊,Wiz 研究在 90 天內觀測到三大攻擊模式:MCP 伺服器利用、盲目提示注入、AI 原生後門利用。 - 攻擊面:90% 之雲端環境執行自託 AI 軟體,81% 受管理服務,63% 自託模型,形成主流攻擊面。

8月27日週四
  1. Embrace The Red (AI Security)82

    Claude Code Opus 5 Auto Mode 被利用:攻擊成功率高達 80%

    導語:研究顯示 Claude Code Opus 5 Auto Mode 在實際攻擊中仍能以 60-80% 成功率被利用,揭露模型安全機制的侷限。 - 成功率:在小樣本測試中,攻擊成功率達 60-80%,遠高於 Anthropic 針對 72 個間接注入場景的 0% 成效。

    推薦理由:此研究揭示 Claude Code Opus 5 Auto Mode 在實際攻擊中仍易被利用,提醒使用者仍需部署獨立沙盒以保障安全,並強調安全評估不僅依賴模型自帶安全機制。

  2. Google Research62

    GlucoFM:用於連續血糖監測的基礎模型

    Google Research 推出了 GlucoFM,這是一個用於連續血糖監測的自監督基礎模型,採用雙流設計將較慢的血糖趨勢與短期偏差明確分離。在多項臨床預測任務評估中,GlucoFM 的 PR-AUC 表現優於對比模型,並且在餐後血糖響應預測、跨資料集遷移以及少樣本適應場景中展現出優勢。

8月26日週三
8月25日週二
8月24日週一
8月21日週五
8月20日週四
  1. LMSYS Org Blog56

    Mooncake 整合進 Miles,加快 AI 訓練資料交接

    大型語言模型做強化學習時,產生回答的工作和訓練工作分開執行,零碎的資料要在兩邊傳送,可能讓訓練端等資料。Mooncake 整合進 Miles 後,會把多種格式的資料整理成較大的資料塊傳送,再依原本的格式重建;使用者仍透過 Miles 原有的介面交接資料。這次測試中,Mooncake 的遠端 GET 比 Ray 快約 10–14 倍,PUT 快約 1.2–1.6 倍。這些數字只反映資料傳送與重建,不代表整體訓練速度也提高相同比例;作者也表示,接下來會用更多模型和工作負載驗證。

8月19日週三
  1. Hugging Face Blog65

    AI 助理究竟需要多少記憶容量:ALTK-Evolve 評測與劑量校準方法

    Hugging Face 團隊釋出研究探討如何為 AI 助理配置自蒸餾記憶,評估了從 30B 到前沿模型的 8 款模型在 AppWorld 基準上的表現。研究發現AI 助理記憶效果取決於模型能力層級:強模型適合注入完整記憶,較弱模型適合精選檢索,而已飽和模型則無明顯增益。精選檢索能在僅增加 5% token 的情況下使 gpt-oss-120b 任務完成度提升 16.1 個百分點。

8月17日週一
  1. Embrace The Red (AI Security)78

    恢復加密 LLM 推理痕跡

    本文說明如何透過將加密的 LLM 推理痕跡重放到另一個相容模型,並使用 jailbreak 讓模型揭露內部推理,進而復原原始推理文本。 - 技術原理:將一個模型產生的加密推理 blob 送回同一供應商的另一模型,該模型可被誘導回傳解碼後的推理內容。

    推薦理由:本文揭示可透過重放加密推理痕跡,從另一模型中復原內部推理,提醒使用者注意共享加密 blob 可能洩露敏感資訊。

8月14日週五
8月13日週四
  1. Hugging Face Blog74

    Hugging Face 部落格:復現 2,200 篇 ICML 論文的經驗與發現

    Hugging Face 舉辦了一場使用編碼AI 助理逐條復現 ICML 2026 論文的駭客松,1,221 名參與者在 19 天內釋出了 6,816 份日誌並嘗試復現了 2,226 篇論文。

    推薦理由:文章公佈了大規模AI 助理復現學術論文的成果與發現,讀者可以從中瞭解自動化復現對檢驗科研質量的實際效果與侷限。

8月12日週三
  1. Google Research63

    空書架還是丟了鑰匙?研究稱檢索是大語言模型引數化真實性的瓶頸

    Google Research 介紹了知識 profiling 行為框架和 WikiProfile 基準,用以衡量大語言模型的編碼與檢索能力。研究表明,在 Gemini 3 和 GPT-5 等前沿大模型中,95% 至 98% 的事實已被編碼,但模型仍無法直接檢索其中 26% 至 34% 的事實。這說明事實性錯誤主要源於知識無法可靠呼叫的檢索失敗,而非知識未被編碼的儲存缺失。

  2. Google Research89

    Google Research 推出 AMIE (Video) 即時影片臨床問診系統

    Google Research 推出了 AMIE 的即時影片配置版本 AMIE (Video),能夠基於 Gemini 和 Project Astra 進行同步臨床影片問診,感知非引導性的臨床非語言線索並進行即時診斷推理。

    推薦理由:這項研究展示了多模態醫療AI在影片問診中的專家級表現,為遠端醫療系統的架構設計提供了實證參考。

8月11日週二
  1. LMSYS Org Blog59

    SGLang 提出 Unified Radix Cache,讓混合模型共用一棵快取樹

    混合模型會用不同規則重用對話資料,硬塞進同一種快取邊界,可能浪費可重用資料,也可能用到不該重用的內容。SGLang 的 Unified Radix Cache 用一棵樹記錄共同的文字字首,再由不同元件各自判斷哪些資料可以重用,也能讓快取資料放在 GPU、主機記憶體或外部記憶體層。多輪對話測試中,外部記憶體層讓 DeepSeek-V4-Flash 的快取命中率接近 98%,Inkling-Small 達到 96.8%;另一組程式修復測試中,新的快取設定比一般 LRU 設定少了 2.9% 到 16.6% 的首字延遲。不過,這些比較同時改了快取實作與淘汰方式,不能單獨歸因於工作階段管理。

8月10日週一
8月7日週五
8月4日週二
  1. Embrace The Red (AI Security)64

    LLM 盜竊案:利用 LiteLLM 竊取流量、金鑰並注入工具呼叫

    本研究展示了 LiteLLM AI 閘道被攻擊者利用後,可竊取 LLM API 金鑰、擷取流量並注入惡意工具呼叫。 - 攻擊流程:攻擊者以合法的 LiteLLM 管理功能,改寫 api_base 與 use_litellm_proxy,將流量重新導向惡意代理;透過自訂 hook 取得被竊 API 金鑰並在攻擊者代理上重新設定模型。

8月1日週六
7月31日週五
  1. Embrace The Red (AI Security)86

    CVE‑2026‑5674:PipeWire 透過音訊服務實現 Linux 沙箱逃逸

    PipeWire 的音訊相容層缺陷使得 Flatpak 及其他使用 PulseAudio socket 的容器能夠在 Linux 上實現沙箱逃逸,導致完全使用者層級的程式執行。

    推薦理由:此漏洞揭示 Flatpak 透過 PipeWire 的沙箱逃逸機制,凸顯音訊服務在 Linux 系統安全中的關鍵風險;對開發者與系統管理員提供即時防護與修補指引,並強調在部署音訊應用時應加強 socket 與模組許可權設定。

7月30日週四