跳到正文

#RAG

RSS
今日 9 則
11月16日週一
  1. Dev.to Top Tech64

    如何替物流報告設計直傳與保留流程

    物流報告上傳到一半遇到斷線,或報告已過期卻還留在儲存空間,都可能讓客戶看到錯誤資料。作者建議先由 Python 服務建立並確認報告紀錄,再讓瀏覽器直接把檔案傳到物件儲存;小檔案可用單次 PUT,大檔案可用分段上傳,若需要表單政策則可用 POST。上傳完成後,系統還要檢查檔案才讓它進入 RAG 流程,並依保留期限安排刪除。這樣即使上傳中斷,也能找回原本的報告紀錄,避免重複建立或讓未驗證的檔案被客戶看到。

  2. Dev.to Top Tech67

    如何用限時簽名網址保護私有檔案,並確實清除逾期資料

    把檔案上傳到私有儲存空間後,若只靠簽名網址和儲存空間的清理功能,可能會漏掉已撤銷許可權的檔案,或留下搜尋索引中的文字和向量資料。作者建議由應用程式先確認使用者許可權,再發出短時間有效的上傳或下載網址;資料庫則記錄檔案擁有者、存放區域、狀態和刪除期限。期限一到,背景工作除了刪除檔案,也要安排清除索引、快取等副本並留下紀錄。這樣才能追查檔案是否真的清乾淨,也避免過期或已撤銷的檔案繼續被下載。

  3. Dev.to Top Tech62

    Ocean Coldiron 說明如何在醫療資料上線前評估 RAG 系統

    RAG 系統答得流暢,不代表找對資料或真的可靠;在醫療資料裡,錯把兩筆紀錄拼在一起,或回答本該拒答的問題,都可能帶來風險。Ocean Coldiron 建議先整理一組會更新的測試問題,涵蓋該回答、該拒答,以及必須附上來源的情況,再分開檢查系統找對資料沒有、回答有沒有忠於資料。每次更動提示詞、模型或搜尋方式後,也要重跑舊問題,看看原本正確的拒答和引用是否被弄壞。紀錄應保留找到的資料片段和工具呼叫過程,但不要存病人資料或憑證;可能影響實際處置的答案,仍應由人員檢查。

  4. Dev.to Top Tech60

    如何用夜間排程更新 PDF 向量索引,避免引用到舊版本

    PDF 換了新版,向量索引若只加進新內容,AI 助理還是可能引用舊版。這篇教學用夜間排程檢查哪些 PDF 有變動,先刪除該檔案的舊向量,再加入新版內容;所有檔案都處理成功後,才更新記錄上次完成位置的時間標記。若刪除成功但加入新版失敗,時間標記會留在原處,讓下次排程能重試。文章也說明要記錄掃描區間、變動檔案數和完成狀態,並測試舊版內容是否已無法被找回。

  5. Dev.to Top Tech41

    Node.js 房屋搜尋架構怎麼選:用 4 個訊號排出可靠結果

    搜尋房屋時,資料可能已經過期,或把不合需求的房子排在前面;只要網頁有回應,不代表結果就可靠。作者建議同時用兩種找資料的方式:即時網路搜尋能查到最新房源,但結果可能每次不同;整理後存進向量索引的資料比較容易檢查和重現,更新則得自己負責。排名時要看資料新不新、是否符合需求、來源證據是否清楚,以及房源還能不能租。像搜尋診所附近、符合無障礙需求的房子,可以用即時結果確認房源狀態,再用索引資料查診所規定;記下每項資訊來自哪裡,出錯時就比較容易查明原因。

  6. Dev.to Top Tech68

    11ty 網站如何用 llms-full.txt 打造只根據網站內容回答的 AI 助理

    網站訪客常問價格、服務物件和預約方式,但一般聊天機器人可能答錯或編出不存在的連結。作者替一間心理健康診所網站做了 Zapytaj PSYCHE,讓 AI 助理每次回答前讀取網站自己產生的 llms-full.txt;網站資料更新後,知識檔也會一起更新。程式會檢查回答中的連結是否真的存在,並限制每個訪客和全站的提問次數,也不儲存問題內容。作者也分享,整份知識檔每次都送給 Gemini,免費額度很快用完,因此改用設有支出上限的付費方案。

  7. Dev.to Top Tech69

    如何用穩定的區塊 ID 排查向量搜尋重複結果

    向量搜尋出現重複內容時,原因可能是資料寫入重複、切分方式改變,或新舊頁面版本同時留在索引裡,處理方法也不一樣。作者建議先替每個頁面版本建立固定識別,再用版本和區塊位置產生區塊 ID,並以 upsert 重試寫入,讓相同頁面不會每重試一次就多存一份。記錄每次工作的 ID、頁面版本和寫入結果,也能追查問題來自哪次匯入。若要換新版本,先確認新資料寫入,再切換目前可搜尋的版本,最後清除舊資料;搜尋時去重只能暫時減少重複提醒,無法降低索引佔用。

  8. Dev.to Top Tech53

    如何打造醫療預約助理的資料查詢架構,並處理服務故障

    醫療預約助理查不到資料時,若拿過期的看診時段回答,病人可能會依錯誤資訊行動。作者建議先訂清楚每種回答需要多新的資料和哪些證據:診所營業時間與預約時段要查即時來源,已核准的看診準備說明則可從索引檔案查詢。來源逾時時,可以在規則允許下改用附有來源的快取政策;若是預約時段等必須最新的資訊,就要請病人稍後確認或轉交處理。文章也示範如何設定逾時、有限重試、保留上一版索引,以及在更新出錯時切回已驗證版本。

  9. Dev.to Top Tech58

    新聞監測服務如何限制檢索查詢並保留來源?

    新聞監測系統有時會找不到最新訊息,或回答後無法查證來源;只在最後檢查答案,往往看不出問題卡在哪一步。作者建議把流程分成收集新聞、切分內容、建立索引和查詢四步,並讓應用程式統一管理租戶許可權、查詢筆數上限和來源資料。文章用 topK 不超過 20 作為範例政策,也提醒這個數字要用自己的新聞資料測試。每次查詢都要帶上許可權範圍,結果則附上來源網址或檔案編號;這樣能檢查資料是否及時進入索引,也能避免把別的租戶不能看的內容交出去。作者還示範如何用相同測試比較不同服務,並指出遇到 429 時應依 Retry-After 等待再重試。

  10. Dev.to Top Tech76

    Tavily、Exa 和 Brave 的搜尋 API 基準怎麼看?

    挑搜尋 API 時,分數看起來很接近,但各家基準測試的題目和測法可能不同,不能直接拿排名互相比。文章整理 Openbenchmarks、AIMultiple 和 Artificial Analysis 三個第三方測試,說明它們有的每題只搜尋一次,有的讓 AI 助理反覆搜尋,也比較公開題目與評分資料的程度。作者另公開一套比較 6 種 API 的測試,涵蓋 3 組題目;不同 API 在不同題目中各有高低。作者也說明這套測試由販售其中一種 API 的 cloro 執行,並提醒讀者檢視測試者是否也賣表內產品、搜尋模式與題目數量,以及答案能否查核。

    推薦理由:各榜單使用的題目、搜尋次數與評分方式不同,文中並列這些差異,也提醒讀者留意作者自營 API 基準的利益關係。

  11. Dev.to Top Tech66

    GigBid 實測:簡單的預算門檻比複雜檢索更能改善投標判斷

    做自由接案投標的 AI 助理,可能把證據找得更準,卻仍接下不值得做的工作。作者打造 GigBid,測試後發現,把職缺拆成多個條件來搜尋,表現反而不如直接搜尋整篇職缺;加上重新排序後,檢索排名指標才有所改善。真正大幅減少錯誤的是一條簡單規則:預算低於接案者的最低報價就跳過,測試中的投標判斷 F1 從 0.89 升到 0.98。作者也提醒,改善檢索沒有明確提高模擬客戶的回覆或僱用率;測試資料和樣本有限,結果仍不能代表真實市場。

  12. Dev.to Top Tech56

    Miktam Bible 如何在手機上用經文回答問題

    手機上的 AI 功能常把問題送到雲端處理;Miktam Bible 則讓語言模型直接在手機運作。使用者提問後,App 會先從離線聖經資料中找出 10 節相關經文,再把經文和問題交給模型回答,回答裡的經文出處也能點開檢視。模型尚未下載或載入失敗時,App 會直接顯示相關經文。這套功能不用伺服器或 API,也不記錄問題;作者表示,手機開啟飛航模式時仍可使用。目前搜尋只靠文字比對,之後才計畫加入向量搜尋。

11月15日週日
  1. Dev.to Top Tech71

    Brave Search API 和 Tavily 怎麼選?RAG 搜尋比較

    替 RAG 找資料時,搜尋結果可能答不出需要多步查證的問題,也可能等得太久或花費超出預期。作者用 2,182 題比較 Brave Search API 和 Tavily:每題只搜尋一次時,Brave 在多步問題上答對較多,搜尋中位數也較快;但它回答的題目中,Tavily 的正確率稍高。兩者每月搜尋量達 100,000 次時,每千次搜尋都是 $5;較低用量時,Brave 的單次搜尋費較低。若需要同一次請求就取得網頁文字和文字答案,或想用不用綁卡的免費額度,Tavily 較合適。這項比較由販售其中一種 API 的團隊發布,測試資料與設定也公開了。

  2. Dev.to Top Tech41

    AI 沒有網路也能回答?認識在裝置上執行的 AI

    AI 沒有網路時還能回答,是因為模型檔案放在自己的電腦或手機上,由裝置裡的晶片負責運算;但它沒辦法自己查到最新訊息,除非你提供資料或讓應用程式連上可查詢的工具。文章用 llama.cpp 說明這個做法:模型讀取檔案、把提示詞轉成模型看得懂的格式,再一步步產生回答。像是小型模型的檔案約 0.91 GB,連同其他記憶體需求估計約 1.33 GB。這些數字只是估算,還沒有用真正的模型測量;在裝置上執行能不靠遠端模型服務,但速度和記憶體需求會受模型大小與硬體影響。

  3. Dev.to Top Tech62

    RAG 和微調怎麼選?用退款助理範例找出問題

    AI 助理答錯時,問題可能是找不到最新資料,也可能是沒有照指定格式回答,兩種狀況需要不同做法。文章用虛構的退款助理說明:政策更新時,要整理並搜尋新檔案,再確認系統找到正確版本;格式反覆出錯時,先試清楚的提示詞和輸出設定,仍有明確問題再用合適例子測試微調。作者也提醒,微調不會自動提供最新政策或確認使用者有沒有許可權。把資料問題和回答方式分開測試,才能選出符合需求的簡單做法。

  4. Dev.to Top Tech49

    金融研究儀錶板如何更新 PDF 資料,又不用整批重做索引

    金融研究儀錶板有時已收到新版財報 PDF,回答卻還引用舊資料,讓人難以發現內容過期。文章建議把 PDF 切成帶有版本、頁碼和固定 ID 的資料小段,只更新有變動的部分;再分別記錄檔案收到、資料寫入和查詢找到的最新版本,找出卡住的步驟。比如,某份檔案新版已收到,查詢結果卻仍是舊版,就只重做這份檔案,不必整個資料夾全部重建。這能減少不必要的工作,也讓過期引用更容易被發現;但團隊得確實記好每份檔案目前使用的版本。

  5. Dev.to Top Tech48

    Node.js 法律合約審查:用清楚的資料標記,讓搜尋出錯時能找回原因

    法律合約審查如果只知道搜尋「成功了」,卻不知道查的是哪批資料、誰有權檢視,或答案來自哪份合約,重試也很難查明問題。文章建議先把新資料放進候選索引,確認搜尋結果找得到需要的條文、沒有混入不該看的資料後,再切換給審查工作區使用;每筆結果也要保留檔案編號或來源網址,以及所用的索引版本。Node.js 程式可透過一個小介面連線不同搜尋服務,減少更換服務時要改動的地方。這樣遇到漏掉條文或資料更新出錯時,比較能追到是哪份檔案、哪批資料出了問題,也能在需要時切回舊索引。

  6. Dev.to Top Tech41

    Vibe-Finance 如何用多個 AI 助理分析投資,並說明判斷理由

    只問一個大型語言模型「這支股票值得買嗎?」可能得到帶有偏見或錯誤數字的答案,也看不出風險從哪裡來。Vibe-Finance 把工作分給幾個 AI 助理:一個看股價和交易量,一個查公司的監管檔案,另一個檢查投資風險;如果看法不同,系統會讓它們互相質問,再整理成結果。像是股價看起來正要上漲,但公司檔案顯示獲利空間縮小,系統就會降低信心並說明理由。這種做法讓投資分析比較容易追查,不必只相信一個模型給的答案。

  7. Dev.to Top Tech43

    旅遊行程規劃工具如何管好資料來源,避免用錯或過期資訊

    旅遊行程規劃工具會從不同來源找交通和其他資訊;如果資料來源沒管好,行程看起來合理,內容卻可能來自不該使用的來源,或早已過期。作者建議把收集資料、搜尋資料和標示來源分成不同步驟,先訂清楚能用哪些資料、一次最多找多少筆、資料要多新,以及答案要留下哪些來源線索,再挑搜尋工具。 例如,查到一筆交通資訊時,系統要能說明它來自哪個資料來源、是否夠新,以及最後有沒有保留在答案的來源紀錄。團隊可選擇用 Infrai 把網路搜尋和資料庫搜尋放在同一個 REST 介面,也可以直接用 Elasticsearch、Pinecone 或 Weaviate,取得較多工具本身的控制能力。重點是出問題時能看出是哪個步驟出了錯,並還原先前的設定。

  8. Dev.to Top Tech52

    醫療預約 AI 助理如何避免查到別家診所的資料

    醫療預約 AI 助理如果查到別家診所的政策,就算答案看起來相關,也可能給病人錯誤資訊。作者整理一套檢索流程:先確認登入者能使用哪個資料集合,再限制查詢範圍和時間,並檢查每筆結果的診所程式碼與來源資料。只有通過檢查的內容才能交給模型回答;找不到合適來源時,就停止回答或轉交處理。文章也用兩家診所的相似取消政策,示範如何檢查查詢結果、確認舊政策已刪除,並在重新整理資料出錯時切回上一次確認過的版本。

  9. Dev.to Top Tech52

    如何用 Infrai、Pinecone、Qdrant 和 Weaviate 檢查法律檔案檢索的租戶隔離

    法律檔案檢索如果把別的租戶資料送進回答,就可能洩漏合約內容。作者建議先把檔案分到明確的集合,查詢時限制租戶與存取許可權,並讓每段找到的內容附上來源網址或檔案編號,方便人工檢查。接著用相同的合約資料和測試問題比較 Infrai、Pinecone、Qdrant 與 Weaviate;只要出現跨租戶資料,或找不到來源,就先淘汰,再比較檢索是否準確、資料更新是否及時,以及整合工作量。文章也提醒,Infrai 的公開 API 說明能減少串接摸索,但不能取代隔離測試。

  10. Dev.to Top Tech39

    HushGPT 是什麼?用 Python 和 Flask 打造可自行架設的 AI 工作空間

    開發者想把 AI 聊天、檔案處理、圖片分析、語音互動和資料搜尋放進同一個地方,卻得面對模型、檔案和耗時工作各自不同的處理方式。HushGPT 是用 Python 和 Flask 打造的開源 AI 工作空間,可以自行架設,也能搭配 Hugging Face 模型或選用 Ollama 在本機執行模型;像是處理檔案或圖片這類較花時間的工作,還能放到背景執行並檢視狀態。它也能儲存聊天紀錄、搜尋相關資料,或透過網路補充資訊。不過,自行架設不代表資料一定不會傳出去:使用外部服務或網路搜尋時,資料可能會送到其他服務,因此仍要留意設定和安全。

  11. Dev.to Top Tech55

    個人知識管理工具如何設計快取與資料檢索,避免引用過期內容

    個人知識管理工具若使用快取,可能省下檢索時間,卻把已經過期的網頁內容當成最新資料。作者建議快取檢索結果和來源資訊,不要預設儲存模型生成的答案或私人筆記,並記下檔案版本、查詢條件和可接受的資料新鮮度。檔案更新時,依集合與版本清除相關快取;測試時也要分別檢查快取過期、失效和服務逾時。作者曾遇過命中率看起來很高,實際上卻藏著索引更新落後的情況,因此建議把資料新鮮度和索引工作佇列也放進監控,讓答案能追溯到實際使用的來源。

  12. Dev.to Top Tech58

    如何讓餐廳選單 AI 助理不引用已刪除的品項

    餐廳刪掉選單品項後,AI 助理若還查到舊資料,可能會答錯過敏原資訊。作者建議把不同餐廳、選單版本和規範檔案分開查詢,限制每次搜尋範圍,並在回答中保留來源網址或檔案識別碼。資料更新時,也要從搜尋資料庫移除舊紀錄,不能只期待模型自己忽略它。可以先查詢一道菜,再刪除該品項並重新整理資料,確認舊檔案識別碼已不會出現在搜尋結果;找不到目前有效的選單時,助理就應坦白說無法確認。

  13. Dev.to Top Tech47

    法律合約審查怎麼找對條文?用 Infrai 設計可追查的語意搜尋

    搜尋法律合約時,如果切段切錯,可能漏掉例外條件;如果許可權沒設好,也可能把別家商家的資料找出來。作者用 Infrai 設計分階段搜尋:先選對商家的合約資料,再用有限範圍的搜尋搭配許可權篩選,最後把找到的條文位置和來源連結一起交給 AI 助理。例如有人問「供應商在哪些情況下可以終止合約?」,系統應能指出原合約中的確切條文,讓律師直接檢視。這種做法比較費工,但能追查答案從哪裡來,也更容易找出問題是出在切段、許可權篩選還是排序。

  14. Dev.to Top Tech76

    法律合約審查工作區如何安全快取檢索結果?11 個設計做法

    法律合約審查會反覆搜尋相同條款,但檔案或許可權一變,舊結果就可能不再適用,甚至把別的案件資料帶進來。作者整理 11 個快取做法,建議把檢索結果和生成的答案分開儲存,並讓快取鍵記下檔案版本、許可權範圍和檢索設定;檔案更新或許可權變更時,就讓舊結果失效。像是兩位審查者問同一句話,只要能看的檔案不同,系統就不能共用同一筆結果。文章也提醒,快取命中率高不代表內容正確,還要確認來源和引用仍有效,並依案件規則刪除儲存的合約內容。

    推薦理由:文章把檢索與答案快取分開處理,並說明如何用版本、許可權和檔案變更事件降低法律檔案過期或跨案件誤用的風險。

  15. Dev.to Top Tech36

    Pinecone 和 Weaviate 怎麼選?RAG 應用的向量資料庫比較

    RAG 應用要先找出相關資料,才能請大型語言模型回答;如果找錯或漏掉資料,答案也可能不完整或不準確。Pinecone 會代為管理資料庫,讓開發團隊少花時間照顧伺服器;Weaviate 可選雲端服務或自行架設,也能同時依照意思和關鍵字找資料。像客服 AI 助理要回答產品問題時,Weaviate 可以找出意思相近的說明,也能比對產品名稱等特定字詞。該選哪一個,要看需要怎麼搜尋、團隊想管理多少裝置,以及預算;兩者的費用都得依實際使用情況評估。

  16. Dev.to Top Tech71

    如何確認旅遊行程搜尋已真正刪除資料

    旅遊行程刪除後,舊內容可能還留在搜尋索引或快取裡,讓已關閉的景點資訊或私人預訂備註再次出現。作者建議先在原始資料中標記刪除,再讓查詢流程擋下舊版本,並逐步清除搜尋索引和快取。清理還沒完成時,每次搜尋都要回頭確認資料是否仍可讀;測試時也要用原詞和不同說法查詢,確認被刪除的內容沒有送進 AI 生成答案。這能讓團隊檢查刪除是否真的生效,也看出清理延遲。

  17. Dev.to Top Tech58

    Context engineering 是什麼?如何替大型語言模型安排需要的資訊

    AI 助理回答錯誤時,問題有時不是提示詞寫得不好,而是回答當下缺少需要的資料。文章把替大型語言模型安排資訊的做法稱為 context engineering,整理成四種方法:把資料存到上下文視窗外、挑出當下用得上的內容、縮短資料,以及把複雜工作拆給多次呼叫處理。例如,AI 助理有很多工具時,可以先挑出目前可能用到的幾個,再交給模型選擇。文章也提醒,單次分類或簡單問答未必需要這套做法;多輪工作、需要記住進度或使用工具時,安排好資訊來源與用量才更有幫助。

  18. Dev.to Top Tech50

    旅遊行程規劃工具如何管理檔案版本,找出新舊資料

    旅遊行程裡有些資料變得很快,像火車班次;有些則得留著舊紀錄,方便查清楚以前推薦過什麼。作者把做法分成兩路:固定的目的地資料放進會保留版本的搜尋索引,最新訊息則另外查;回答問題時,再依需求搭配兩邊的資料。 例如,火車班次從每天都有改成週二停駛,系統就新增一個版本,並把舊版標成不再使用。回答時要附上實際採用的版本和資料來源;如果引用的內容已經過期,就應拒絕使用。這樣能保留查核紀錄,減少新舊資訊混在一起、害旅客拿到錯誤行程的機會。

  19. Dev.to Top Tech52

    如何用 RAG 找房源,並避免重複或過期的刊登資料

    找房系統可能把同一間房當成兩筆,也可能把舊租金或已過期的空房資訊當成最新答案。作者建議先用文字相似度找出可能相關的房源,再依發布來源和房源編號確認哪些資料其實是同一筆,最後檢查資料新不新。若來源編號不完整,就比對地址、房號和房屋條件;遇到難以確認的情況,交由人工檢查。作者也提醒,資料晚到不代表內容比較新,系統應保留每次收到的版本,並記錄合併或排除原因,讓人能查清楚房源為何出現在搜尋結果裡。

  20. Dev.to Top Tech58

    Knowhere 推出漸進式 PDF 處理,讓 AI 助理不用等整份檔案完成就能查資料

    大型 PDF 處理很久時,使用者往往得等整份檔案完成,才能查其中一頁。Knowhere 新增漸進式處理模式,先讓檔案可讀、可搜尋,再整理目錄和章節,並在背景繼續補上細節;AI 助理查到特定章節時,也會優先處理相關內容。這適合需要邊上傳、邊查檔案的互動工具;若是批次處理、希望全部完成後才開放檔案,仍可使用完整處理模式。

  21. Dev.to Top Tech62

    候選人搜尋的 5 種檢索架構:減少重複資料

    招募搜尋如果把同一份候選人資料重複匯入,搜尋結果就可能被相似內容塞滿,也讓人難以看出資料從哪裡來。作者整理 5 種檢索架構,並建議先按清楚的界線分組,再用包含租戶、檔案和版本資訊的固定來源鍵,讓重試寫入時更新原資料,而不是多出一份。查詢也要設上限;遇到暫時流量限制時再等待重試,超時則保留部分結果和來源,交由人員檢查。這些做法能讓重複資料在排序前合併,也方便招募人員追查搜尋結果。

  22. Dev.to Top Tech63

    如何替客服 RAG 設定資料篩選,並保留引用來源

    客服 AI 助理如果把不同商店或不同許可權的檔案混在一起搜尋,可能會拿錯退貨規則,還說不清答案從哪裡來。文章用電商客服舉例,建議每段資料都保留商店、存取許可權、地區、檔案版本和來源網址;查詢時先限制商店與許可權,再從符合條件的資料中挑選內容,回答也只能引用找得到來源的資料。範例還提醒團隊測試跨商店誤配、舊版檔案和沒有可靠答案等情況;若找不到合適資料,就不要讓模型自行猜政策,應轉回一般客服流程。

  23. Dev.to Top Tech52

    如何讓產品更新紀錄查得準,也控制搜尋成本

    產品更新紀錄如果查到過期內容,工程師可能找不到需要的修補資訊,搜尋也會花更多成本。作者建議把資料分成近期發布、歷史發布和營運通知,再分階段找資料:先用關鍵字或向量搜尋找出有限候選,再依元件、發布時間和檔案狀態篩選,最後才做排序。每筆結果都保留檔案編號、來源網址和修改版本;來源更新或刪除內容時,也要同步更新索引。這樣比較容易查出答案為何過期,並用實際問題檢查搜尋品質。

  24. The New Stack55

    AI 助理接上網路搜尋後,為什麼仍要做好資料排序

    AI 助理查到新資料後,還得判斷哪些內容可信、適用,而且有許可權提供給使用者。文章用客服問題舉例:網路上有新版變更紀錄和論壇解法,公司內部卻留著過時說明與不能外傳的工程紀錄。若只把搜尋結果交給模型,舊資料可能排在前面,受限內容也可能進入回答。作者建議在檢索時一併考慮關鍵字、語意、版本、資料新舊、來源和許可權,再挑出少量相關內容給模型;也要用真實問題測試檢索結果,並按照 AI 助理實際會發出的查詢量測試速度與負載。

  25. Dev.to Top Tech56

    如何設計客戶支援搜尋,避免不同客戶看到不該看的檔案

    客戶支援搜尋如果只找出相關檔案,卻沒先確認使用者有沒有許可權,就可能把別的客戶資料或內部文章放進答案。作者建議先訂好檢索規則,要求每份資料和每次查詢都帶有租戶、產品、可見範圍與語言等資訊,再限定搜尋範圍和結果數量。可以把兩個客戶內容相同的檔案放在一起測試,確認甲客戶永遠搜不到乙客戶的檔案,也要檢查公開使用者看不到內部文章。搜尋時先在正確的資料集合中找少量候選,再重新排序;記錄每個階段找到或排除哪些資料,出錯時才容易查明原因。

11月14日週六
  1. Dev.to Top Tech69

    PDF RAG 如何保留頁碼,讓引用指向正確位置

    RAG 找到正確句子,引用卻可能指到錯頁,常見原因是先把 PDF 文字接在一起,切成片段後才補頁碼。文章示範在切分前替每段文字記下頁碼和區塊編號,再把這些來源資料帶進片段;若一句話跨越第 4、5 頁,引用就能同時列出兩頁。遇到同一頁的多個文字區塊,還要記下座標系統與頁面旋轉方式。測試時也應確認引用是否指向真正支撐答案的文字;若欄位順序錯亂,則要回頭修正文字擷取流程。

  2. Dev.to Top Tech57

    Postgres 搭配 pgvector,避免 RAG 助理引用已刪除檔案

    檔案刪除後,如果向量資料庫裡還留著舊內容,RAG 助理就可能把過期資料提供給使用者。文章示範用 Postgres 和 pgvector 同時儲存檔案與向量,讓檔案刪除時,相關段落和向量也會一起刪除;查詢時則用一個 SQL 查詢套用相似度、檔案狀態和租戶許可權。作者也說明,可用背景工作重新切分檔案並產生向量,避免慢速處理卡住資料更新;如果找不到夠相近的內容,就不提供結果,減少助理憑空回答。文章提醒,資料量達到數十億個向量或每秒數千次查詢時,專用向量資料庫才可能更合適。

  3. Dev.to Top Tech60

    如何找出 PDF 掃描頁,並只對需要的頁面做 OCR

    把 PDF 文字送進搜尋或 RAG 流程時,有些頁面其實只有文字圖片,抽取後幾乎沒有內容,系統卻不會報錯。這篇教學用每頁抽出的字數找出掃描頁,再只對空白頁做 OCR;一般 PDF 保留原本的文字,避免辨識多添錯誤。作者也說明,清楚的印刷文字通常能辨識得不錯,但表格數字可能讀錯,低信心結果應交給人檢查;手寫字和光線不佳的斜拍照片則不適合用 Tesseract 處理。