#RAG
RSS 訂閱#RAG
RSS
elvis@omarsar0品質評分5151
Dev.to Top Tech品質評分6565 DeepStress 研究發現,搜尋式 AI 助理遇到不可信資料仍常給出答案
搜尋式 AI 助理引用的資料愈不可靠,回答卻不一定會變得保守。DeepStress 研究把錯誤訊息刻意加入檢索到的檔案,再觀察 AI 助理會不會拒絕回答;即使檔案被標成完全不可信,受測系統在許多情況下仍給出明確答案。以 Search-R1 為例,資料可信度從高到低時,答對率仍約在 78% 到 80% 之間,拒答情況也沒有明顯變化。研究只測試人工製造的資料錯誤,還不能確定真實使用時是否也會如此;作者建議安全流程在證據太不可信時要求 AI 助理停止作答。
MarkTechPost品質評分7474 Stanford 研究團隊開源 Memorilla,讓凍結的 Qwen3-8B 用 16 個記憶 token 讀取整批檔案
檔案越多,全部塞進大型語言模型的上下文就越慢;只找相似段落,也可能漏掉有用線索。Stanford 研究團隊開源 Memorilla,先把檔案整理成記憶,再讓凍結的 Qwen3-8B 每次讀取 16 個記憶 token。在 FactKG 測試中,它得到 84.33%,高於把全部檔案放進上下文的 80.43%,使用的檔案 token 少了 108 倍。研究團隊公佈的 8 項基準測試平均分是 49.68;但在 PubMedQA,Memorilla 得分 59.00%,低於 LLMLingua-2 的 69.00%。快速開始需要一張 80 GB GPU。
Hacker News (official RSS)品質評分4646 **title_zh:**
Memorilla:LLM 的隱式語義記憶 summary_zh: Memorilla 是一套為凍結 LLM 設計的記憶系統,能以 16 個記憶 token 將整個檔案集合的資訊編碼並輸入 LLM,從而在多項基準測試中取得最佳表現。
Dev.to Top Tech品質評分6262 k=1 檢索近似最佳:AMD 研究對編譯式測試的預測
導語:k=1 檢索 近似最佳,AMD 研究顯示對於小型模型而言,僅需一條檢索結果即可達到高效表現。 - 研究發現:對小型學生模型,k=1 檢索足以達到近乎最佳效果,額外檢索會降低效能。
Dev.to Top Tech品質評分7676 Node 中 Late Chunking:完整檔案嵌入後再切分提升 RAG 效能
本文探討 Node 環境下的 Late Chunking 技術,透過先完整嵌入檔案再切分,提升 RAG 系統對關鍵詞的召回率。 - 核心方法:先用 Transformers.js 以 ONNX 版 Jina-embeddings-v2-small-en 進行整檔案前向傳遞,然後按句子或語意切分,對 token 向量做平均池化,得到每段的向量。
Dev.to Top Tech品質評分5757 六大 LLM 在 387 個實際建築問題上表現:檢索輔助與否的差異
本研究測試六大 LLM 在 387 個實際建築問題上的回答準確率,並比較檢索輔助前後的差距。 - 基準結果:單獨模型平均正確率約 19%,加入檢索後提升至 90%。
Dev.to Top Tech品質評分7171 檢索不再是安全邊界:RAG 管線的語料汙染與未回答問題評估
本文針對 RAG 管線進行實驗,證明檢索層不構成安全邊界,植入語料與未回答問題均能導致偽造回應。 - 攻擊成功率:12 個手寫攻擊中,80.6% 成功將植入主張載入答案。
Dev.to Top Tech品質評分6565 前沿生成式 AI 模型中的單輪與多輪互動
摘要:這篇研究比較了前沿生成式 AI 模型在單輪與多輪互動下的狀態、成本、可靠性與安全性差異,並提出量化評估框架與實務建議。 - 成本與延遲:多輪對話的輸入 token 隨對話次數呈二次方增長,除非使用快取、摘要或外部記憶,否則費用與延遲顯著上升。
Dev.to Top Tech品質評分7070 錯誤但真實:在 2,000 屬性圖譜上評估 Intent‑first Cypher 生成(Ontographia 第三篇)
Ontographia 在 2,000 屬性圖譜上實驗,驗證 Intent‑first 架構可顯著提升查詢準確度並降低成本。 1. 靜態驗證失效 內部錯誤仍被接受,導致無聲錯誤。
Apple Machine Learning Research品質評分7171 先計畫還是先檢索?工具發現架構的規模研究
Apple 研究團隊針對工具發現架構進行大規模實驗,發現「先計畫再檢索」在多工具情境下優於「先檢索再計畫」,而「先檢索再計畫」在單工具情境中更有效。 - 研究範圍:ToolBench 46,984 個 API,50 個分類,單工具(G1)、跨類別多工具(G2)、跨類別多工具(G3)三種查詢子集。
Amazon Science品質評分6565 LLM 判斷者一致時,是否值得信任?
本研究提出利用 Ising 模型調整 LLM 判斷者之間的依賴關係,提升聚合準確度 9%–14%。 - 任務範疇:評估檢索增強生成系統中的相關性、毒性與摘要品質,共三個二分類任務。
Together AI Official Blog品質評分7070 計畫、分割、征服:弱模型如何在長上下文任務中表現卓越
Divide & Conquer 框架讓弱 LLM 在長上下文任務中可與 GPT‑4o 相媲美。 - 核心實驗:在 ICLR 2026 研究中,Llama‑3‑70B、Qwen‑72B 透過規劃、分工與聚合,在長文本檢索、問答、摘要等任務上,表現超越 GPT‑4o 單次處理。