跳到正文

#RAG

RSS
今日 9 則
11月12日週四
  1. Dev.to Top Tech46

    開發者更新紀錄檢索:新鮮度、租戶隔離與引用控管

    開發者更新紀錄追蹤器應以向量檢索處理可長期索引的內容、以網路檢索補足最新發布的變更,並透過租戶範圍的檢索契約控管資料隔離與引用。 - 安全與引用:檢索結果應包含租戶 ID、檔案 ID、來源 URL、發布時間、文字片段與分數;回傳後仍須檢查租戶 ID,並依需求確認時間範圍。

  2. Dev.to Top Tech68

    Python 電商 PDF 圖說檢索教學:以圖片為中心切分並管理版本新鮮度

    文章示範如何為電商 PDF 建立以圖片為中心的圖說檢索紀錄,並透過檔案修訂版管理,避免舊型錄資料出現在一般搜尋結果中。 - 紀錄設計:每筆紀錄包含檔案識別碼、修訂版、頁碼、圖片識別碼、擷取圖說與範圍受限的周邊文字;SKU 或地區等欄位僅在來源實際提供時加入。

  3. Dev.to Top Tech53

    多租戶 SaaS 說明中心的檢索架構:設計可替換的分頁機制

    文章提出多租戶 SaaS 說明中心的分階段檢索架構,將租戶篩選、資料新鮮度與穩定遊標納入應用程式自有契約,讓分頁結果可追溯並降低切換搜尋供應商的影響。 - 檢索流程:先以詞彙搜尋探索,再查詢限定租戶的向量集合;由應用程式負責合併、去重與分頁邊界,並限制每次請求最多 2 頁。

11月11日週三
  1. Dev.to Top Tech60

    Ember 如何處理 AI 記憶與 RAG 的刪除、收據兩難

    Ember 提出一套 AI 記憶與 RAG 資料刪除方法,目標是在移除指定使用者資料時,保留其他人的來源收據並驗證刪除結果。 - 收據驗證:將檔案拆成葉節點,以每個葉節點各自產生的 128-bit 隨機 nonce 建立 Merkle 樹;刪除時移除指定葉節點的文字與 nonce,保留雜湊,讓其他人的收據仍可離線驗證。

  2. Dev.to Top Tech46

    電商商品搜尋檢索架構:以 Go 新鮮度時間窗控管有限更新

    電商商品搜尋應採用分階段檢索,為不同資料類別設定新鮮度時間窗,並讓每筆結果都能追溯到商品來源,避免價格、庫存與商品描述更新不同步時產生難以解釋的結果。 - 檢索與追溯:先從符合新鮮度契約的集合中檢索,設定逾時、結果上限與重試預算;回應附上商品 ID、來源 URL、集合及觀察到的版本,供人員還原結果。

  3. Dev.to Top Tech43

    LLM 評測為何失真?如何真正評估 LLM

    文章指出,LLM 基準測試未必能反映 AI 系統在實際部署中的表現,並主張評估時應重視系統設計與可靠性,而非只追逐基準分數。 - AI 助理的判準:AI 助理應能依目標決定下一步、處理失敗並判斷何時完成;若只能按指示執行每個步驟,就只是聊天介面。

  4. Dev.to Top Tech39

    房地產物件探索的引用追溯:分階段檢索架構

    這篇實作指南主張以分階段檢索架構支援房地產物件探索,讓回答中的每項主張都能追溯至特定物件、檔案修訂版本與頁面或段落位置。 - 架構設計:將檔案識別、候選物件檢索與引用呈現分開負責;先定義檢索單位、篩選條件與資料新鮮度要求,再選擇資料庫或向量服務。

  5. Dev.to Top Tech57

    內部工程檔案 RAG 檢索架構教學:許可權規則與可追溯上下文

    文章提出以分階段檢索、明確集合與有界查詢,確保內部工程檔案的回答能追溯至使用者有權檢視的來源。\n\n- 許可權控制:先解析呼叫者可存取的集合,再於候選生成時套用檔案層級條件,並將授權決策記錄在追蹤資料中;許可權撤銷時,須在所有可能回傳該檔案的集合中刪除或標記墓碑。

  6. Dev.to Top Tech36

    以三道範圍界線設計重視隱私的個人知識檢索快取

    重視隱私的個人知識管理系統可透過分階段檢索與範圍感知快取,降低重複搜尋成本,同時避免許可權變更後沿用不該存取的候選內容。 - 檢索流程:將檔案切分並保留來源脈絡,再從明確指定的集合與篩選條件中擷取候選專案,最後依當前問題重新排序;快取第二階段的候選 ID,並將重排序、答案生成與來源引用分開追蹤。

  7. Dev.to Top Tech56

    如何處理 AI 系統中的 PII?

    AI 系統應先減少收集與傳送的 PII,再以遮蔽或權杖化處理敏感資料,並涵蓋提示詞、日誌、儲存及刪除流程。 - 資料處理:確認每個欄位是否為功能所需;傳送使用者資料前,檢視服務提供者的資料保留與訓練條款。

  8. elvis44

    記憶是目前 AI 助理面臨的最大未解問題之一。 Graphon 能將公司的檔案、電子郵件、圖片和影片整合成一個圖譜,不需要手工建立綱要,因此新增資料不會使其失效。 在 LoCoMo 上,Graphon 只用 7.9K tokens 的上下文就達到 94% 準確率,高於讓前沿模型取得完整歷史紀錄的結果。它在 ATM-Bench 上也排名第 1;該基準測試多年來的真實電子郵件、照片和影片。

11月10日週二
  1. Dev.to Top Tech68

    Spring AI RAG 範例:使用 PgVector 建立原始碼索引

    Spring AI RAG 範例示範如何以 PgVector 為相依套件原始碼建立向量索引,並讓聊天使用者端根據檢索結果回答問題及提供檔案引用。 - 索引與去重:Gradle 下載相依套件的 source JAR;索引器以確定性 ID、檔案校驗碼與 JdbcTemplate 預先查詢,略過未變更的檔案,並透過 PgVector upsert 更新資料。

  2. Dev.to Top Tech67

    如何增量更新 RAG 索引而不丟失舊索引

    Project Pavilion 分享在 Qdrant 與 .NET 9 上增量更新 RAG 索引的方法,讓檢索在更新期間使用完整的舊版本或新版本。 - 發布流程:先解析、切分並寫入新版本的向量,驗證檔案身分、文字、向量與中繼資料後,再以單一持久化操作切換目前版本;若儲存引擎不支援原子切換,可使用別名或檢索先讀取的獨立清單。