跳到正文

#RAG

RSS
今日 10 則
11月10日週二
  1. AWS What's New71

    Amazon ElastiCache 無伺服器新增向量、全文、混合與聚合搜尋

    即時搜尋常得在速度和找得完整之間取捨,資料更新後也可能要等一段時間才能搜到。適用於 Valkey 的 Amazon ElastiCache 無伺服器新增向量、全文、混合和聚合搜尋,可在同一個查詢中組合不同搜尋方式,也能調整向量搜尋的召回率。AWS 表示,搜尋延遲可低至微秒級,向量搜尋召回率最高達 99%,寫入的更新最快也能在微秒級後查到。這項功能適合流量難預測、又要求快速回應的應用,也可用於商品搜尋、推薦和 RAG。

    推薦理由:ElastiCache 無伺服器把多種搜尋整合在同一個查詢中,並讓寫入的資料很快就能被搜尋,適合瞭解即時搜尋的延遲與召回率取捨。

  2. Dev.to Top Tech42

    旅遊行程規劃如何以分階段檢索契約控管延遲與索引成本

    旅遊行程規劃系統可用具明確集合、查詢上限與來源脈絡的分階段檢索,並為各階段設定延遲目標,同時評估相關性與索引工作量。 - 延遲與追蹤:將使用者可見期限拆分為檢索、重排序、生成與回應預留時間;文中示範的初始預算為檢索 120 ms、重排序 80 ms,但這些是待追蹤資料驗證的假設,並非基準測試或服務商效能宣稱。

  3. Dev.to Top Tech48

    多租戶 SaaS 說明中心的增量索引:三階段檢索契約

    增量索引架構將多租戶 SaaS 說明中心的索引、檢索與引用拆成三個明確契約,透過集合隔離、有界查詢和可追溯來源,降低過期內容與租戶資料混用造成的錯誤。 - 索引與隔離:每個租戶使用獨立集合名稱空間;每份檔案修訂版保留穩定來源 ID,並為區塊記錄修訂版或內容雜湊。

  4. Dev.to Top Tech57

    LLM 如何造成資安漏洞,以及如何預防

    LLM 可能透過產生不安全程式碼,或在產品整合中被不安全地使用而造成漏洞;文章分別整理這兩類風險與防護方式。 - 程式碼生成風險:常見問題包括缺少授權檢查、不安全預設值、虛構相依套件、只測試正常流程,以及程式碼增加使審查更難涵蓋安全細節。

  5. Dev.to Top Tech61

    房產目錄向量搜尋:如何設定 Top K、相似度門檻與引用留存

    文章說明如何為房產目錄的向量搜尋校準候選數與相似度門檻,並以引用證據是否支援結果作為驗收依據。 - 校準方式:先用標註評估資料集檢查相關段落是否進入候選池、是否通過門檻,以及引用是否支援主張;文中以 10、20、40 作為示例候選數,並非建議的正式預設值。

  6. Dev.to Top Tech59

    Node.js 旅遊行程規劃的檢索契約與延遲上限

    文章示範如何在 Node.js 旅遊行程規劃器中,以分階段檢索、明確的資料集合與延遲上限控制查詢成本,並追蹤答案引用的來源。 - 檢索流程:先從地點資料找候選專案,再按需查詢營業時間、來源段落或交通異動等證據,最後生成答案;各階段分別設定時間預算。

11月9日週一
  1. Dev.to Top Tech64

    ML 基礎設施是什麼?從資料管線到 AI 助理執行框架的完整解說

    ML 基礎設施涵蓋模型周邊的資料、訓練、部署與監控系統,讓模型能持續更新、可靠地服務使用者,並控制執行成本。 - 資料與訓練:資料蒐集、清理、標註與版本管理支援模型訓練;評估閘門可避免表現未改善的新模型上線,監控則用來偵測資料或預測結果隨時間漂移。

  2. Dev.to Top Tech56

    如何將課堂投影片轉成 AI 教學助理

    文章示範如何整理課程資料,建立以檢索為基礎的 AI 教學助理,並說明部署後的測試方式與常見限制。 - 資料整理:將內容合併為課程筆記、解題範例和課程規範三份檔案;支援 PDF、Word、Markdown 與純文字,每份檔案需小於 20 MB。

  3. Dev.to Top Tech42

    開源 AI 助理記憶架構分析:向量、Graph 與 SQL 的實務取捨

    開源 AI 助理採用的向量、SQL 與 Graph 記憶架構各有取捨,會影響查詢、錯誤處理、稽核與系統整合方式。 - 向量記憶:查詢快速、適合原型開發,但檢索結果難以追溯;文章指出 TinyMemory 的 MemoryStore.search 在本機 10k 筆資料下每次查詢約 10–40ms,寫入中斷也可能造成無法察覺的索引損毀。

  4. Dev.to Top Tech46

    如何將課堂投影片轉化為 AI 教學助理

    作者以 TransWeb 示範免寫程式工作流程,將課程資料整理成檢索式 AI 教學助理,協助回答學生對公式、範例與課程規定的重複提問。 - 設定方式:先整理成課程筆記、解題範例與課程規範 3 份檔案;支援 PDF、Word、Markdown 和純文字,每份須小於 20 MB。

  5. Dev.to Top Tech54

    如何評估 LLM 生成回答的品質與準確性

    這篇面試回答整理如何建立可重複的評估流程,分別檢查檢索、回答生成與AI 助理記憶,避免只用單一準確率判斷品質。 - 評估資料:建立具代表性的查詢集、參考答案或評分規準,以及預期來源段落或記憶專案;納入過時資訊、記憶衝突和應拒答問題。

  6. Dev.to Top Tech48

    什麼是 Agentic RAG?

    Agentic RAG 讓模型控制檢索流程,依據已取得的結果決定是否再次搜尋,藉此處理需要串連多段證據的多跳問題。 - 與固定流程的差異:固定 RAG 流程通常檢索一次後就生成答案;Agentic RAG 則可由模型選擇搜尋內容、發出多個查詢,並根據結果決定是否繼續檢索。

  7. Dev.to Top Tech76

    RAG 生產問題與解決方案

    RAG 系統在實際運營中會遇到多種「無錯誤但結果不正確」的問題,本文以九個典型場景說明原因與對策。- 文件更新時的向量重建:使用檔案 ID 與內容雜湊,只重建變更部分,將重建成本從數千向量降至單篇檔案級別。