跳到正文

#RAG

RSS
今日 9 則
11月9日週一
11月8日週日
  1. Dev.to Top Tech48

    **title_zh:**

    RAG診斷步驟:為何 AI 在來源中忽略品牌? summary_zh: AI 在 RAG 系統中忽略品牌,導致搜尋結果缺失品牌資訊。本文以 FunkyMEDIA 為示例,提供逐步診斷流程以找出問題根源。

11月7日週六
  1. Dev.to Top Tech45

    我打造的 AI 奶奶能記住每位騙徒

    summary_zh: 我打造了一個名為 ScamSathi 的 AI 奶奶,能記住每位騙徒的細節,從而在電話詐騙中持續追蹤並揭露其身份。 - 核心功能:ScamSathi 使用 Llama on Groq,搭配 Hindsight 記憶層,能在每次通話前回憶前 28 次對話,檢查 alias、機關聲稱等是否矛盾。

  2. Hacker News (official RSS)46

    **title_zh:**

    Memorilla:LLM 的隱式語義記憶 summary_zh: Memorilla 是一套為凍結 LLM 設計的記憶系統,能以 16 個記憶 token 將整個檔案集合的資訊編碼並輸入 LLM,從而在多項基準測試中取得最佳表現。

11月6日週五
  1. Dev.to Top Tech68

    提示工程框架實務者手冊

    提示工程框架 本手冊提供結構化的提示工程方法,協助實務者將原型快速轉為可上線的系統,並強調驗證、回溯與模組化設計。• 核心框架分為結構框架、推理技術與系統模式,涵蓋 RTF、CoT、CoVe 等多種組合。

  2. NVIDIA Newsroom Press Releases72

    NVIDIA 全棧設計提升每位元效能,破解 AI 記憶體挑戰

    導語 NVIDIA 透過全棧設計,將 GPU、CPU、網路、儲存與軟體協同,提升 AI 記憶體效能,並顯著降低每位元成本。 • HBM 進化 HBM3e、HBM4 已被納入加速計算堆疊,HBM 容量每 GPU 以 3% 之增長。

    推薦理由:本文闡述 NVIDIA 全棧設計如何提升 AI 記憶體效能,並說明多層記憶體協同可顯著降低成本,並促進成本效益。

11月5日週四
  1. Dev.to Top Tech60

    五場對話教你如何為 LLM 取得正確上下文

    本篇以五場對話為例,闡述如何將向量檢索、圖形關係、記憶層與重點化策略結合,提升 LLM 的上下文準確度與成本效能。 - 向量檢索 + 圖形關係(GraphRAG):Neo4j 以向量先找候選,再加圖關係與 metadata 過濾,減少 hallucination。