跳到正文

#RAG

RSS
今日 9 則
11月13日週五
  1. Dev.to Top Tech65

    Amit Rampurkar:為 Agent 提供互動紀錄,比禁止重複的提示詞規則更有效

    Amit Rampurkar 分享 Pawtonomy 的實作經驗:為每位角色檢索近期互動紀錄並依時間衰減,比在提示詞中禁止重複更能減少重複發言。 記憶與檢索:角色行動前會取得自己的近期紀錄,以及互動物件的歷史;舊紀錄權重會隨時間降低。作者表示,重複率在一週內大幅下降。 衰減的作用:不衰減的完整歷史會讓角色延續過時的敵意;衰減則讓角色能逐漸淡忘舊互動。 系統規模與費用:運作 285 天後,系統有 92 位角色,月費為 92 美元。

  2. Dev.to Top Tech61

    醫療預約檢索排序與可引用答案的實作指南

    醫療預約助理應先依政策、診所範圍與時間有效性篩選證據,再排序並產生附有可追溯引用的回答;若沒有合格來源,就應要求澄清。 資料與排序:將檔案版本、生效區間、來源型別與理由碼附在候選資料上;作者示範以詞彙、語意、新鮮度與權威性訊號排序,並設定政策符合與引用就緒兩道門檻。 檢索與測試:可先以混合搜尋取回 30 筆候選,套用政策篩選後,再重排剩餘的 8 至 12 筆。測試應涵蓋過期政策、錯誤診所範圍、引用頁面與段落,以及診所時區的時間邊界。 部署與隱私:建議先以影子模式執行 兩週,比較引用有效性與篩選違規;預設不記錄原始病患問題,並在語意檢索未改善標註資料集的召回率時,保留較簡單的全文檢索路徑。

  3. Dev.to Top Tech64

    醫療預約助理如何在 RAG 檢索架構中隔離租戶

    醫療預約助理應在語意檢索前套用租戶授權範圍,並將跨租戶資料外洩列為發布阻擋條件。作者建議從共用索引搭配強制租戶條件開始,再依評估結果調整隔離方式。 - 索引取捨:共用索引維運成本較低,但篩選條件失效時影響範圍較大;分割槽集合可限制查詢範圍,獨立索引則適用於法規或合約要求實體隔離的情境。

  4. Dev.to Top Tech61

    夜間重建為何讓 Embedding 成本暴增?用內容雜湊閘門排查與改善

    夜間重建會重新嵌入未變更的課程頁面區塊;文章示範在向量供應商呼叫前加入內容雜湊比對,只處理新增或變更的區塊,以減少重複工作。 - 比對方式:對輸入 Embedding 模型前的正規化文字計算 SHA-256,將雜湊與向量中繼資料一同儲存;文字相同且管線版本相同時跳過嵌入。

  5. Dev.to Top Tech35

    健康照護旅遊行程規劃器的檢索架構:以 Go 快取控制索引成本

    健康照護旅遊規劃產品應採用明確的資料集合、設有界限的檢索查詢與可追溯的來源脈絡,並依新鮮度、篩選條件及快取單位定義快取契約,再重用檢索結果。 - 架構建議:先將各來源的刊登資料正規化為明確集合,再透過篩選條件與結果上限進行檢索;快取鍵應納入版本化契約、索引世代與檢索政策版本。

  6. Dev.to Top Tech46

    保險理賠檔案檢索架構:以版本管理確保引用正確

    保險理賠收件系統應採用分階段檢索,並將每份檔案版本化儲存,避免助理引用已被替換的保單表單,且能追溯每次回答所依據的檔案版本與檢索紀錄。 - 檢索設計:依理賠案件、管轄區、檔案狀態與事故日期篩選候選內容,再以有限的 top-k 結果進行重排;每筆命中都應連同原文片段和版本中繼資料交給生成流程。

  7. Dev.to Top Tech58

    合約審查工作區如何設計三層檢索復原與儲存帳本

    合約審查工作區可用可重播的證據帳本管理檢索復原,將來源修訂版、檢索收據與可替換的索引素材分層儲存。三者分別支援權威性、稽核與重播,以及快速恢復服務。 - 復原流程:每次請求固定使用來源修訂清單,選擇與修訂版及授權政策相符的已驗證索引;若沒有相符版本,暫停提供衍生搜尋結果,改由審查者直接檢視合約並重建索引。

  8. Dev.to Top Tech48

    開發者變更紀錄追蹤器的檢索架構建置指南:排名訊號

    開發者可為變更紀錄追蹤器建立分階段檢索架構,依明確訊號排序候選結果,並保留來源脈絡,確保答案中的每項主張都能追溯至變更紀錄。 - 排名訊號:結合精確名稱與版本字串的詞彙匹配、改寫描述的語意相似度、產品支援版本範圍內的新鮮度,以及來源權威性;文中示範權重為 0.40、0.30、0.20、0.10。

  9. Dev.to Top Tech59

    金融科技客服知識庫的 Python 檢索架構:中繼資料篩選與分段

    金融科技客服知識庫可先依租戶、產品、地區與檔案有效期限等條件篩選資料,再進行向量檢索,以避免相似內容跨地區或版本誤用。\n\n- 中繼資料與分段:每個區塊保留租戶、產品、語系、有效日期、來源與修訂資訊;優先依標題和步驟切分,並將標題路徑存入中繼資料。

  10. Dev.to Top Tech63

    商品搜尋如何以中繼資料篩選建立可靠的檢索契約

    商品搜尋應先依確定性的資格規則篩選商品,再進行語意檢索,讓結果是否符合租戶、市場、生命週期與庫存條件都能追溯。 - 實作方式:將商品整理為文字與型別欄位,記錄政策版本,只把符合資格的商品 ID 傳入詞彙或向量搜尋;檢索與重新排序只處理通過篩選的候選專案。

  11. OpenRouter Announcements72

    RAG 重排教學:如何用 Reranker 修正錯誤檢索

    OpenRouter 說明如何在 RAG 向量搜尋後加入 Reranker,重新排序候選檔案,讓較可能包含答案的片段優先送入 LLM。

    推薦理由:文章以 274 題合成資料比較檢索與重排結果,並提供成本、延遲及候選資料,可作為設計自有 RAG 評測的參考。

  12. Dev.to Top Tech38

    金融研究儀錶板的語意檢索:結構設計與重新排序

    金融研究儀錶板應採分階段語意檢索設計,明確指定資料集合、限制查詢範圍,並保留可追溯的來源脈絡,讓重新排序元件可替換,也更容易診斷逾時原因。 - 資料結構與流程:以檔案段落、註腳或財報逐字稿區段作為檢索單位,保留 document_id、chunk_id、發布日期、來源 URL、股票代號、申報型別與資料基準時間。

  13. Dev.to Top Tech43

    保險理賠檢索架構:為可替換的 RAG 設定 Node.js 延遲預算

    保險理賠受理助理應把檢索設計成有明確延遲上限、可觀測且可替換的分階段流程,透過檢索契約保留來源脈絡,避免更換向量服務商時重寫理賠邏輯。 - 檢索與延遲控制:契約應明定檢索單位、必要中繼資料篩選條件、索引新鮮度、查詢期限,以及超時時要回傳較少但附有引用的候選資料,或拒絕回答。

  14. Dev.to Top Tech61

    如何為內部工程檔案建立先檢查新鮮度、再套用許可權的 Python 檢索流程

    文章示範如何為內部工程檔案建立 Python 檢索流程,先確認候選文字符合最新來源版本,再套用存取規則,才組裝送往模型的脈絡。 - 版本與切分:以標題和操作程式等語意邊界切分檔案,為每個區塊保留穩定識別碼與版本資訊;來源更新時保留舊版本並標記為過時。

  15. Dev.to Top Tech35

    電商產品檢索:以分階段索引與有界更新視窗設計搜尋架構

    文章主張電商搜尋應採用分階段檢索架構,明確管理產品所屬集合、查詢範圍與結果來源,並依業務需求設定更新視窗。 - 架構不變條件:每筆資料須明確歸入集合,保留租戶與存取控制中繼資料,為查詢設定結果上限、逾時與重試策略,並讓檢索內容可追溯至來源網址或檔案識別碼。

  16. Dev.to Top Tech68

    AI 助理許可權教學:存取控制、驗證與資料列層級安全

    文章說明如何讓代表使用者執行工作的 AI 助理沿用使用者身分,並由資料庫或 API 執行存取控制,避免只靠提示詞限制資料存取。 - Postgres RLS:以使用者 ID 設定資料列政策,並在驗證 JWT 後於交易範圍設定身分;連線不應使用預設可略過 RLS 的資料表擁有者或超級使用者角色。

  17. AWS Machine Learning Blog70

    如何使用 coding agent 將 Amazon Bedrock 知識庫遷移至 Managed Knowledge Base

    AWS 說明如何使用 Agent Toolkit for AWS 中的遷移指南,協助將 Amazon Bedrock 客戶管理知識庫遷移至 Managed Knowledge Base,並在切換流量前驗證檢索結果。

    推薦理由:文章將知識庫遷移拆成唯讀盤點、逐項審查計畫與核准後建置,並說明如何平行驗證檢索結果,提供可參照的遷移流程。

11月12日週四
  1. Dev.to Top Tech47

    CTO 將 LLM 原型轉入正式環境的檢查清單

    LLM 原型只有在完整應用程式能可靠交付結果、保護敏感資訊、處理故障,並符合明確的效能與成本限制時,才具備正式環境所需的條件。 - 評估範圍:CTO 與工程主管應檢視 12 個面向,包括架構、資料、模型評估、檢索品質、安全性、整合、可靠性、效能、可觀測性、部署、營運成本與責任歸屬;每個面向都需要可衡量的驗收標準、可重複執行的測試,以及明確的工程負責人。

  2. Dev.to Top Tech58

    用 Python 指令碼檢查 RAG 檔案切分是否截斷句子

    作者提供一支 Python 指令碼,檢查 RAG 檔案切分是否造成句子中斷、標題遺失或 chunk 過小,並以範例比較固定字元切分與依標題切分的結果。 - 範例結果:固定切分把「舊 API 金鑰輪替後仍可使用 24 小時」拆散在不同 chunk;依標題切分則將輪替段落與標題路徑保留在同一 chunk。