跳到正文

#RAG

RSS
今日 6 則
11月17日週二
  1. Dev.to Top Tech58

    如何避免 PDF 表格註腳在 RAG 中套錯資料列

    PDF 表格裡的數字都擷取正確,AI 仍可能把註腳套到錯的資料列,讓答案多出原文沒有的條件。作者用兩列相同數值、但只有一列有註腳的例子,說明如何把註腳連到正確的儲存格,並分開檢查擷取結果、檢索到的內容和最後回答。如果註腳對應位置不明,就保留標記並交由人工檢查,別默默套用到整張表。

  2. Dev.to Top Tech36

    SynapCores 把模型、資料庫和 AI 助理需要的功能放進同一個服務

    用 Ollama 在自己的電腦跑模型很方便,但要讓模型查自家檔案,常得再裝向量資料庫、接上其他工具,還要想辦法讓同事安全使用。SynapCores 把模型推論和資料庫放在同一個服務,也提供 Ollama API;每次呼叫都要帶金鑰,還能設定金鑰可讀哪些資料。像客服資料寫著 Orbit Pro 可在購買後 45 天內申請退款,模型就能根據資料回答期限,並附上答案來源;也能用一段 SQL 替資料列寫摘要。只想在終端機跑模型的人用 Ollama 就很合適;需要模型直接處理資料的人,則可考慮 SynapCores。

  3. Dev.to Top Tech64

    PostgreSQL 全文搜尋為什麼找不到「paid」?作者示範補上動詞變化

    用「paying invoices」搜尋時,PostgreSQL 全文搜尋可能找不到寫著「Invoices must be paid within thirty days」的段落。原因是英文詞幹處理會把 paying 轉成 pay,卻不會把不規則動詞 paid 也轉成 pay;而搜尋會要求每個詞都符合,少一個就找不到。作者示範用小型詞形對照表,把 pay 和 paid 等形式用「或」連起來,再和其他搜尋詞搭配。三字母片段相似度能幫忙找錯字,但較長的段落會拉低分數;若檔案和問題用的是不同意思的詞,則可搭配向量搜尋。

  4. Dev.to Top Tech41

    AI 專案從原型走向正式上線的 5 個工程重點

    AI 示範作品看起來很順,真的上線後,卻可能遇到資料不完整、回答錯誤、API 故障,或 AI 助理做了不該做的事。文章整理 5 個工程重點:先限制 AI 助理能用的工具和許可權;分開檢查 RAG 找到的資料與最後答案是否正確;從開發一開始就做好資安;讓工程師也懂資料、系統和實際工作流程;定期檢查工具是否重複,並讓系統方便維護和調整。文中提到,30 個主要醫療體系中,43% 的主管表示正在試用或測試 AI 助理,只有 3% 表示已用在正式工作流程。做出能運作的示範只是第一步,系統遇到問題時仍能可靠運作,才算準備好上線。

  5. Dev.to Top Tech79

    AI 助理的引用不能保證來源正確,使用圖形化 provenance 追蹤變更

    有時 AI 助理會顯示引用來源,但當原始檔案更新後,答案仍使用舊的資訊,導致內容不再正確。作者指出,引用只說明支援關係,卻不記錄檔案的版本與取得時機。文章提出以 W3C PROV 為基礎的圖形化 provenance 模型,將每個來源的修訂、分訂、分塊、檢索與產生答案的關聯全部儲存,並在檔案變更時自動標記相關答案為過時,要求重新產生或撤回。這樣的設計可以讓系統在來源改版或刪除時即時更新回應,避免使用過時或錯誤的資訊。

    推薦理由:說明僅憑引用無法保證答案來源,建議以圖形化 provenance 記錄追蹤檔案版本與關聯,並提供具體的關係模型與驗證流程,協助系統在來源變更時即時更新答案。

  6. Dev.to Top Tech65

    DeepStress 研究發現,搜尋式 AI 助理遇到不可信資料仍常給出答案

    搜尋式 AI 助理引用的資料愈不可靠,回答卻不一定會變得保守。DeepStress 研究把錯誤訊息刻意加入檢索到的檔案,再觀察 AI 助理會不會拒絕回答;即使檔案被標成完全不可信,受測系統在許多情況下仍給出明確答案。以 Search-R1 為例,資料可信度從高到低時,答對率仍約在 78% 到 80% 之間,拒答情況也沒有明顯變化。研究只測試人工製造的資料錯誤,還不能確定真實使用時是否也會如此;作者建議安全流程在證據太不可信時要求 AI 助理停止作答。

  7. Dev.to Top Tech67

    Postgres 如何為電商商品檢索保留可追查的稽核紀錄

    如果商品搜尋回答出錯,只看答案或一般程式紀錄,可能查不出當時用了哪些資料和規則。作者建議用 Postgres 儲存精簡的稽核紀錄,記下檢索時的資料版本、政策版本、候選資料和最後引用的專案,並用唯一事件 ID 避免重試時重複寫入。紀錄可儲存查詢指紋和資料版本,不必預設保留原始問題與商品內容;需要重查時,也要依當時的資料版本還原,不能拿現在的商品資料代替。作者提醒,留存多久、誰能檢視,以及資料到期後無法還原的界線,都應納入設計。

  8. Dev.to Top Tech62

    Harmonic RAG 教你先找出資料衝突,再決定答案該引用哪一份

    RAG 同時找到兩份說法相反的資料時,AI 助理可能把兩邊混在一起,或偏向語氣比較肯定的那份。Harmonic RAG 的做法是先檢查資料是否真的衝突,再看日期、地點、發布者和內容範圍等線索,決定哪份資料較適合回答問題。若線索還不夠,它最多再找三次相關資料;最後仍分不出高下,就應說明各份資料和判斷理由,而不是假裝已有確定答案。

  9. Dev.to Top Tech54

    如何估算 RAG 審查成本,並確認 AI 助理引用的資料版本

    用 RAG 檢查客服程式變更時,只算檔案索引的費用,容易漏掉每次審查還要花的模型輸入與輸出成本;找到相似資料,也不代表引用的規定真的適用。文章建議分開估算檔案嵌入、審查內容和結果長度的 token 數,再用有標記答案的案例比較漏掉問題、缺乏根據的發現和處理時間。每筆發現都應記下所用的檔案版本與段落,並確認引用內容確實送進模型;格式正確的 JSON 仍不代表判斷正確。文中也提醒,批次索引、重排資料和不同模型都要按同一套案例檢查,不能只看費率或輸出格式。

  10. Dev.to Top Tech61

    如何檢查 RAG 助理會不會把無權檢視的檔案交給使用者

    RAG 助理就算找對資料、回答正確,也可能把使用者無權檢視的內容交出去。作者用兩位員工和三份檔案設計練習,建議先確認提問者身分與公司範圍,再只把有權讀取的檔案交給模型;許可權不能等到答案寫好後才檢查。還要檢查快取、後續追問、引用預覽和除錯紀錄,避免私人內容繞過搜尋限制再次出現。練習時可用不同使用者、不同公司和撤銷許可權等情境,確認系統會擋下不該提供的資料。

  11. AWS Machine Learning Blog76

    AWS 示範如何用 Amazon Bedrock 建立會記住使用者的 AI 助理

    企業 AI 助理要回答員工問題,常得記住先前對話,又要確保每個人只看到有權閱讀的檔案。AWS 示範用 Amazon Bedrock Managed Knowledge Base 搭配 AgentCore memory,讓服務儲存對話、整理使用者提過的資料,並在回答時找出相關記憶與檔案。範例用 Cognito ID token 確認使用者身分,再用檔案存取清單和 IAM 條件限制資料範圍;例如員工先前提過辦公地點,之後詢問休假規定時,助理便能依這項記憶回答。記憶整理可能要等一段時間,若記憶讀取失敗,服務仍會根據可讀取的檔案回答。

    推薦理由:文章以員工助理示範如何把對話記憶、檔案許可權和使用者身分串在一起,並用 IAM 條件限制每位使用者能讀取的記憶。

  12. Dev.to Top Tech63

    Python 背景工作怎麼選?比較 FastAPI BackgroundTasks、RQ、ARQ 和 Celery

    把寄信、產生報表或處理檔案放在網頁請求裡,可能讓使用者等太久,也可能在服務重新啟動時弄丟工作。這篇指南比較 FastAPI BackgroundTasks、RQ、ARQ 和 Celery:短小又不怕遺失的工作可用 BackgroundTasks;需要把工作存起來交給另一個程式處理時,可依程式是否使用非同步選 RQ 或 ARQ;需要多個佇列、工作流程或排程時,再考慮 Celery。文章也提醒,工作要能安全重試,並留意佇列裡還有多少工作,避免重複處理或延誤重要任務。

  13. Dev.to Top Tech61

    cloro 教你計算 AI 搜尋答案中的品牌聲量

    品牌常想知道 AI 搜尋答案有沒有提到自己,但被提及和被引用是兩回事。cloro 說明,聲量佔比是某品牌被提及的答案數,除以追蹤名單中所有品牌的提及次數總和;另外也要一起看提及率和引用率。以 ChatGPT 的資料為例,SerpApi 的聲量佔比是 8.2%,提及率 33.5%,引用率只有 7.8%;cloro 的聲量佔比則是 0.3%,但引用率有 37.6%。作者建議固定追蹤的問題、搜尋引擎和品牌名單,並說明 cloro 自己也在比較名單中。

  14. Dev.to Top Tech58

    如何測試 RAG 能否正確找出金融業的重複紀錄

    金融業比對客戶或付款紀錄時,只找到文字相似的資料,可能把不同人誤認成同一人。作者說明,向量搜尋只能找出相近的候選資料,還需要回答步驟比較欄位、說明判斷並附上可查證的引用。文中用 60 筆測試資料示範如何分開檢查搜尋、判斷、引用和速度,也介紹用固定條件比較不同服務的方法。正式上線前,作者建議先以影子模式測試,再分批匯入,並準備好切回舊服務的方式。

  15. Dev.to Top Tech57

    房屋搜尋怎麼設計資料整理流程,避免成本增加和舊資料混入

    房屋搜尋如果把所有舊資料都留在索引裡,可能會重複顯示已修改的物件,也讓過期房源繼續出現。作者建議先決定每筆搜尋資料代表一個物件還是一段介紹,再把物件編號、篩選條件、可搜尋文字、資料來源和更新時間分開管理。資料有變動就更新,已移除就刪除;搜尋時限制候選筆數,並把查詢結果拿去和一小組已標記答案的問題比對。這樣能一起檢查房源是否符合條件、資料是否新鮮,也能估算搜尋和後續模型處理會用掉多少資源。

  16. Dev.to Top Tech71

    Postgres 多租戶向量搜尋如何篩選資料又找得到正確答案

    多個客戶共用向量搜尋時,內容看起來相似,不代表搜尋者有權看到;篩選條件太多,也可能把正確答案一起排除。文章建議每筆資料都帶有租戶識別,並由伺服器根據登入身分套用租戶範圍,再進行搜尋。產品、地區或檔案狀態等條件,只有在能排除不適用答案時才加入;如果結果太少,可以放寬這些相關性條件,但仍要保留租戶限制。作者也建議用實際問題比較答案命中率和搜尋時間,並追蹤空結果與備援搜尋,及早發現資料標記出錯。

  17. Dev.to Top Tech72

    用 PostgreSQL 做 RAG,作者分享搜尋方法與實測結果

    做 RAG 常要把資料另外存進向量資料庫,還得處理兩邊同步和備份。作者用 PostgreSQL 示範把文字、向量和關鍵字放在同一個資料庫,再合併向量搜尋與全文搜尋的結果;例如,搜尋引數名稱時能靠關鍵字找到內容,問法不同時也能用向量搜尋找意思相近的段落。作者在自己的測試環境中發現,100k 筆、1536 維的資料用 HNSW 索引,搜尋約需 3 到 6 毫秒,準確度會隨設定改變;這些數字來自合成資料,實際使用仍要用自己的查詢測量。

  18. AWS Machine Learning Blog57

    Novo Nordisk 如何用 Amazon Bedrock AgentCore 查詢製造檔案

    製藥流程檔案數量龐大,還得確認檔案是否核准、版本是否有效,以及內容適用哪個廠區、產品和裝置,人工查詢容易耗時,也可能漏掉重要關聯。Novo Nordisk 團隊與 AWS 合作打造 AI 助理,先用知識圖譜釐清問題範圍,再結合關鍵字與語意搜尋找出相關檔案,並附上來源;問題不夠清楚時,會先詢問使用者。若找不到合適資料,系統會說明限制,不自行補答案。團隊表示,部分過去要花數小時或數天的工作,現在可在幾分鐘內完成。

  19. ByteByteGo Newsletter (Alex Xu)65

    Instacart 如何用 LLM 讓商品搜尋更懂顧客想買什麼

    顧客搜尋商品時,常用的說法和商品目錄不一樣,少見或含糊的查詢也很難靠舊資料處理。Instacart 先用購買紀錄找出可能的商品類別,再讓 LLM 判斷查詢意思,並檢查結果是否符合商品目錄;系統也會改寫查詢、整理品牌和商品特徵,幫助搜尋找到合適商品。常見查詢的結果會先存起來,沒有現成結果時再交給微調過的小模型處理。Instacart 表示,這套做法讓查詢改寫涵蓋率超過 95%,而長尾查詢的平均捲動深度減少 6%。

    推薦理由:文章拆解 Instacart 如何把歷史搜尋、LLM 判讀與結果檢查接在一起,並用快取和小模型兼顧長尾查詢與回應速度。

  20. AWS Machine Learning Blog72

    Amazon Bedrock Managed Knowledge Base 如何用表格搜尋回答跨檔案問題

    只靠一般搜尋,很難從大型試算表算出完整結果,再套用另一份檔案裡的規則。Amazon Bedrock Managed Knowledge Base 的表格搜尋會找出相關 CSV 或 Excel 檔,在隔離且無法連網的環境中讀取整份表格、計算需要的數值,再搭配政策或備忘錄等檔案回答問題。文中的財務案例用預算規則、修訂備忘錄和損益表,找出哪些部門要撰寫差異說明;追蹤紀錄也會列出程式讀過的檔案。這種做法適合需要跨表格計算的問題,但會多花一個 AI 助理處理步驟;固定報表和大型資料分析仍適合交給商業智慧工具。

    推薦理由:文章用財務部門的預算案例,示範如何把表格計算和政策檔案放在一起查,並透過追蹤紀錄確認程式讀過哪些檔案。

  21. Dev.to Top Tech58

    DocsBot 的 RAG 聊天機器人為何會洩漏別家客戶資料?

    如果不同客戶的檔案都放在同一個搜尋區,普通提問也可能讓人看到別家的資料。作者用假資料示範 DocsBot 的問題:系統搜尋所有客戶檔案,再把找到的內容交給模型,因此登入 Acme Traders 的人問 Bluefin Foods 的價格時,會看到對方的機密價格、聯絡電話和 PixelKart 的內部成本。作者也示範修正方式:搜尋前先依登入帳號限制可查的檔案,並在回答送出前檢查引用的檔案是否有權檢視。這是本機實驗,不代表真實客戶資料曾遭外洩。

11月16日週一
  1. AWS Machine Learning Blog71

    Amazon Bedrock Managed Knowledge Base 教你為不同租戶調整回答

    不同地區的客戶和公司內部團隊可能共用同一批檔案,卻需要不同語言、格式和回答規則。這篇教學示範如何在 Amazon Bedrock Managed Knowledge Base 為每個租戶設定回答方式,並固定使用的設定版本,方便逐一更新和查明每次回答用了哪個版本。要注意的是,回答設定不會限制 AI 助理能讀哪些檔案;若要隔開各租戶的資料,還要用中繼資料篩選或分開知識庫,並由後端依登入身分選擇篩選條件。

    推薦理由:文章把回答風格設定與資料存取隔離分開處理,並示範如何用中繼資料篩選和版本固定管理各租戶的回答。

  2. Dev.to Top Tech62

    KolmoPDF 示範如何檢查 PDF 表格,避免檢索結果缺少脈絡

    PDF 表格裡的數字即使都抽對了,欄位標題或單位一旦遺失,搜尋結果仍可能讓人看錯。這份 KolmoPDF 教學示範如何把 PDF 轉成 Markdown 後,逐項對照原始頁面,確認標題、單位、註腳和跨頁資料都放對位置。整理成檢索資料時,也要把表格標題、欄位名稱和來源頁碼放進同一段,並用能在 PDF 中核對的問題檢查檢索結果。若來源內容不清楚,應交由人工確認;線上轉換也不保證每個儲存格或公式都正確。

  3. Dev.to Top Tech60

    如何在 .NET 用 miPDFlib 把 PDF 轉成適合 RAG 的 Markdown

    PDF 擷取文字時,常會把雙欄內容混在一起、拆散表格,還把頁首頁尾放進資料,讓 RAG 找到的段落不完整。作者介紹 miPDFlib,示範如何先分析 PDF 版面,再轉成保留標題和表格的 Markdown,並依標題切成段落,供後續搜尋與引用。作者測試的 42 篇 arXiv 論文中,欄位閱讀順序平均有 96.9% 符合 LaTeX 原稿順序;完整分析約每頁 5 ms。這套方法不含 OCR,掃描檔需先有文字層;版面太複雜時,結果也可能不完整。

  4. Dev.to Top Tech67

    作者測試 RAG 檢索器能否找到沒見過的新詞

    RAG 檢索器找到更多詞,不代表每次都找對意思;把不合語境的詞放進提示詞,模型也可能照著用。作者用 36 篇自製短文測試固定的檢索規則,其中 6 篇不該帶入任何詞彙。加入文字正規化和模糊比對後,檢索器找到 39 次必要詞彙中的 34 次,但也在 6 篇不需詞彙的短文中都帶入了錯誤詞義。較長的片語搜尋則找到原本短搜尋漏掉的 10 次詞彙。這些結果來自小型合成測試,作者提醒,還需要用真實文章檢查錯誤比對出現的情況。

  5. Dev.to Top Tech54

    Decodo 教你用 /map API 找出網站頁面,篩選檔案版本

    RAG 系統如果把網站上不同版本的檔案都收進去,AI 助理可能會引用舊內容。Decodo 的指南示範用 /map API 找出網站地圖和首頁連結,再用路徑規則留下需要的頁面;以 MCP 網站為例,361 個網址可篩成 2026-07-28 版的 57 個網址。接著可用 /scrape 讀取頁面,並定期比對網址清單,找出新增或移除的頁面,讓資料庫跟著更新。

  6. Dev.to Top Tech64

    私有 SaaS 如何測試瀏覽器直傳、簽名網址與租戶隱私

    檔案傳輸顯示完成,不代表它已安全可用;如果太早開始處理,可能把未驗證的檔案交給檔案解析流程。文章建議先建立上傳狀態,確認使用者許可權、檔案大小與型別,再核對儲存物件,通過後才接受並開始後續處理。一般私有檔案可由瀏覽器透過限時簽名許可權直傳;若必須在存入前檢查或轉換內容,則讓檔案串流經過伺服器。測試時也要涵蓋傳輸中斷、重複完成、租戶許可權錯誤和過期許可權,並為未完成的檔案設定清理方式。

  7. Dev.to Top Tech67

    Actian VectorAI DB 教學:7 項測試揭示語意快取為何會答錯

    語意快取會把相似問題的舊答案拿來重用,但命中率高,不代表答案一定適合新問題。這篇教學用 Actian VectorAI DB 做了 7 項測試:相似度門檻設為 0.80 時,命中率是 79.2%,其中 6.4% 的命中答錯;把門檻調到 0.83 後,錯誤率降到 4.8%,命中率也降到 70.1%。測試也發現,否定句、金額日期變動、不同租戶的資料和過期答案都可能造成錯誤。作者示範比對數字與日期、限制租戶和意圖範圍、排除過期資料等做法,並提醒這些結果來自受控測試,實際使用時應以自己的問題資料檢查錯誤率。

  8. Dev.to Top Tech48

    RAG 的引用、記憶和評測,為什麼不一定可靠?

    使用 RAG 的 AI 助理會先找資料再回答,但找到資料、附上引用,不代表答案真的有用到那些資料;研究發現,有些引用其實來自模型原本記得的內容。評測記憶也有類似問題:答對了可能只是猜中,不一定代表助理真的記得或用對資料。這週整理的研究還指出,記憶常卡在寫入時沒處理好矛盾,檔案解析出錯也會拖累後續搜尋。這些例子提醒我們,不能只看答案對不對或引用長什麼樣,還要確認助理是否真的根據可靠資料作答。

  9. Dev.to Top Tech62

    Tavily 和 Google 搜尋 API 怎麼選?比較速度、答對率和費用

    AI 助理找資料時,有時需要快速拿到可讀的網頁文字,有時則要知道 Google 搜尋結果的排序和額外資訊。這篇比較 Tavily、Google SERP API 和 Gemini Grounding with Google Search:測試中,Tavily 搜尋較快,也能回傳網頁文字;Google SERP API 在多步推理問題上答對較多,並可提供 AI Overview 等搜尋頁面內容。作者也提醒,測試每題只搜尋一次,若 AI 助理會再搜尋或讀取網頁,結果可能不同。文中作者所屬的 cloro 也販售其中一種 Google SERP API,並公開測試資料供查驗。

  10. Dev.to Top Tech49

    用 AWS 打造會自動更新資料的 AI 知識系統

    公司常有成千上萬份檔案,內容一直在新增、修改或刪除;如果每次都把全部資料重新整理進 AI 知識庫,既花時間也花錢。作者用 AWS 設計一套會追蹤檔案變動的流程:檔案放在 Amazon S3,系統收到變動通知後,只重新處理有變化的檔案,再更新 AI 搜尋資料。像是檔案被刪除時,也要同步從搜尋資料中移除,免得 AI 還拿舊內容回答。這讓知識庫更容易跟上最新資料,也提醒我們,AI 要答得可靠,除了模型,資料更新流程也很重要。

  11. Dev.to Top Tech66

    如何用 Python 檢查 RAG 引用的原文和數字是否正確

    RAG 回答附上來源,不代表引用的句子真的出現在檔案裡,尤其相似度很高時,錯誤數字也可能混過檢查。作者分享一段 Python 程式,先整理引號、大小寫和空白,再比對引用句;找不到完全相同的句子時,才用模糊比對,並另外核對數字。像檔案寫退款期限是 30 天,引用卻寫成 60 天,檢查就會擋下來。失敗時可讓模型修正一次,仍不通過就交給人工檢視。這只能確認引文確實存在,不能證明整個說法都正確。

  12. Dev.to Top Tech44

    Postgres 向量搜尋變慢時,先檢查回傳資料有沒有太大包

    向量搜尋在大量請求時變慢,不一定是搜尋索引出了問題;如果每筆結果都帶回完整文字,回傳內容會隨著搜尋筆數變多而膨脹。可以用同一批資料測試不同搜尋筆數,並比較只回傳編號和少量資料,或連完整文字一起回傳時的速度與資料量。像貨運紀錄的重複檢查,就能先取回符合條件的編號,再到 Postgres 查完整貨運資訊。 如果精簡回傳內容後速度改善,就先調整回傳方式;如果仍然很慢,再檢查篩選條件、索引、網路距離和搜尋服務。搜尋筆數也不能一味調低,否則可能漏掉相似但不完全相同的重複紀錄。

  13. Dev.to Top Tech51

    Node.js 如何兼顧私人資料與即時搜尋,並替答案附上引用來源

    個人知識管理工具要回答問題,常得在保護私人筆記和查詢最新資訊之間做選擇。作者建議把搜尋分成兩條路:穩定儲存的筆記走私人向量索引,只有明確需要新資訊時才查網路,兩種資料分開處理並各自標示來源。每份資料都要帶有存取標籤,服務先確認提問者能不能檢視,再把可用內容交給模型;沒有合格引用時,就不應生成答案。文章也說明如何記錄匯入、搜尋和引用各階段的結果,方便檢查許可權、過期資料和重複工作等問題。

  14. Dev.to Top Tech43

    餐廳選單查詢架構怎麼設計?用新資料和排序機制找出正確答案

    選單會隨時改價、售完或下架,只靠排序把相似內容排前面,可能還是會找到過期資料。這套做法先查最新來源,再從限定範圍找出少量候選資料,最後才重新排序;選單有變動時,也要更新內容,刪掉已下架的紀錄,並留下來源和時間,讓人能查出答案從哪裡來。 例如,午餐特餐若已售完,15 分鐘一次的網頁檢查可以發現變動,之後再用完整比對確認哪些資料該刪除。這樣 AI 助理回答菜色、價格或供應情況時,才能指出依據哪份選單,也比較不會把舊資訊當成正確答案。

  15. Dev.to Top Tech71

    Yuvraj 示範如何打造 RAG AI 助理,搜尋並閱讀紐西蘭稅法

    只靠大型語言模型記憶回答稅務問題,可能找不到正確法規;只搜尋一次,也可能讓答案變差。Yuvraj 用 TypeScript 和 Vercel AI SDK,帶讀者打造會搜尋、閱讀紐西蘭稅法資料的 AI 助理,並用同一組問題比較每次改動。作者的測試中,加入三種法規資料工具後,分數從 0.582 升到 0.729,答錯得很有把握的答案從 5 個降到 0 個;每題中位成本則從 $0.023 增至 $0.047。文中也提醒要限制工具呼叫次數、時間和花費,並把工具回傳內容當資料看待。

  16. Dev.to Top Tech71

    Marketplace Telemetry 教你排查 Node.js 部署後的向量資料集合錯誤

    Node.js 部署後若找不到向量資料集合,搜尋可能出錯,也可能把故障誤當成「沒有符合商品」。文章建議讓讀取與寫入共用同一套集合命名方式,並在服務接收搜尋流量或開始大量匯入前,先確認目標集合存在;檢查失敗就先擋住部署。記錄環境、版本和集合名稱等不含憑證的資訊,也能幫忙找出是哪個環節指向不同位置。匯入完成後,還要確認資料數量和引用來源,再決定是否啟用新集合。

  17. Dev.to Top Tech64

    如何替物流報告設計直傳與保留流程

    物流報告上傳到一半遇到斷線,或報告已過期卻還留在儲存空間,都可能讓客戶看到錯誤資料。作者建議先由 Python 服務建立並確認報告紀錄,再讓瀏覽器直接把檔案傳到物件儲存;小檔案可用單次 PUT,大檔案可用分段上傳,若需要表單政策則可用 POST。上傳完成後,系統還要檢查檔案才讓它進入 RAG 流程,並依保留期限安排刪除。這樣即使上傳中斷,也能找回原本的報告紀錄,避免重複建立或讓未驗證的檔案被客戶看到。

  18. Dev.to Top Tech67

    如何用限時簽名網址保護私有檔案,並確實清除逾期資料

    把檔案上傳到私有儲存空間後,若只靠簽名網址和儲存空間的清理功能,可能會漏掉已撤銷許可權的檔案,或留下搜尋索引中的文字和向量資料。作者建議由應用程式先確認使用者許可權,再發出短時間有效的上傳或下載網址;資料庫則記錄檔案擁有者、存放區域、狀態和刪除期限。期限一到,背景工作除了刪除檔案,也要安排清除索引、快取等副本並留下紀錄。這樣才能追查檔案是否真的清乾淨,也避免過期或已撤銷的檔案繼續被下載。

  19. Dev.to Top Tech62

    Ocean Coldiron 說明如何在醫療資料上線前評估 RAG 系統

    RAG 系統答得流暢,不代表找對資料或真的可靠;在醫療資料裡,錯把兩筆紀錄拼在一起,或回答本該拒答的問題,都可能帶來風險。Ocean Coldiron 建議先整理一組會更新的測試問題,涵蓋該回答、該拒答,以及必須附上來源的情況,再分開檢查系統找對資料沒有、回答有沒有忠於資料。每次更動提示詞、模型或搜尋方式後,也要重跑舊問題,看看原本正確的拒答和引用是否被弄壞。紀錄應保留找到的資料片段和工具呼叫過程,但不要存病人資料或憑證;可能影響實際處置的答案,仍應由人員檢查。