跳到正文

#RAG

RSS
今日 0 則
11月22日週日
  1. elvis51

    要做出好用的 RAG 系統,光靠人設計的方法是否足夠?AutoRAGBench 用九項開發任務測試 AI 助理:不提供起始程式碼或做法,讓它在六小時內分析資料、建立流程,再根據實驗結果調整。GPT-6.1 Sol 搭配 Codex CLI 平均得 56.1 分;每項任務都採用已發表最佳方法組成的人類基準,平均為 44.4 分。若從人類設計的系統開始改良,AI 助理在七項任務中平均增加 16.6 分。論文也比較九種 AI 助理設定,並追蹤它們在六小時內如何逐步開發。

11月17日週二
  1. Dev.to Top Tech65

    DeepStress 研究發現,搜尋式 AI 助理遇到不可信資料仍常給出答案

    搜尋式 AI 助理引用的資料愈不可靠,回答卻不一定會變得保守。DeepStress 研究把錯誤訊息刻意加入檢索到的檔案,再觀察 AI 助理會不會拒絕回答;即使檔案被標成完全不可信,受測系統在許多情況下仍給出明確答案。以 Search-R1 為例,資料可信度從高到低時,答對率仍約在 78% 到 80% 之間,拒答情況也沒有明顯變化。研究只測試人工製造的資料錯誤,還不能確定真實使用時是否也會如此;作者建議安全流程在證據太不可信時要求 AI 助理停止作答。

11月14日週六
  1. MarkTechPost74

    Stanford 研究團隊開源 Memorilla,讓凍結的 Qwen3-8B 用 16 個記憶 token 讀取整批檔案

    檔案越多,全部塞進大型語言模型的上下文就越慢;只找相似段落,也可能漏掉有用線索。Stanford 研究團隊開源 Memorilla,先把檔案整理成記憶,再讓凍結的 Qwen3-8B 每次讀取 16 個記憶 token。在 FactKG 測試中,它得到 84.33%,高於把全部檔案放進上下文的 80.43%,使用的檔案 token 少了 108 倍。研究團隊公佈的 8 項基準測試平均分是 49.68;但在 PubMedQA,Memorilla 得分 59.00%,低於 LLMLingua-2 的 69.00%。快速開始需要一張 80 GB GPU。

11月10日週二
11月7日週六
  1. Hacker News (official RSS)46

    **title_zh:**

    Memorilla:LLM 的隱式語義記憶 summary_zh: Memorilla 是一套為凍結 LLM 設計的記憶系統,能以 16 個記憶 token 將整個檔案集合的資訊編碼並輸入 LLM,從而在多項基準測試中取得最佳表現。

11月6日週五
11月4日週三
11月3日週二
11月2日週一
  1. Dev.to Top Tech65

    前沿生成式 AI 模型中的單輪與多輪互動

    摘要:這篇研究比較了前沿生成式 AI 模型在單輪與多輪互動下的狀態、成本、可靠性與安全性差異,並提出量化評估框架與實務建議。 - 成本與延遲:多輪對話的輸入 token 隨對話次數呈二次方增長,除非使用快取、摘要或外部記憶,否則費用與延遲顯著上升。

11月1日週日
10月15日週四
  1. Apple Machine Learning Research71

    先計畫還是先檢索?工具發現架構的規模研究

    Apple 研究團隊針對工具發現架構進行大規模實驗,發現「先計畫再檢索」在多工具情境下優於「先檢索再計畫」,而「先檢索再計畫」在單工具情境中更有效。 - 研究範圍:ToolBench 46,984 個 API,50 個分類,單工具(G1)、跨類別多工具(G2)、跨類別多工具(G3)三種查詢子集。

8月27日週四
3月26日週四