跳到正文

#RAG

RSS
今日 5 則
5月28日週四
  1. Mistral AI74

    推出 Search Toolkit 搜尋工具包

    Mistral AI 公佈 Search Toolkit,開源框架整合搜尋、檢索與評估,支援多源索引、即時資料拉取,相容 BM25、向量檢索及混合模式,內建 recall、precision、MRR、NDCG 等指標,適用於 RAG 與AI 助理場景,可在雲端、本地或邊緣部署。

    推薦理由:Search Toolkit 將搜尋、檢索和評估整合到單一框架,幫助企業減少工程時間並提升檢索質量;其可在雲端、邊緣或本地部署,支援多源索引與即時資料拉取,適用於 RAG 與AI 助理場景。

5月16日週六
  1. Google DeepMind54

    Co-Scientist 在衰老研究中開闢新路徑

    Calico Life Sciences 利用 DeepMind 的 Co-Scientist 工具,生成並驗證了關於 ISR 通過代謝調控的新假設,實驗結果揭示了 ISR 在衰老與疾病中的重要作用。該工具幫助研究人員篩選高質量假設並最佳化實驗設計,推動了衰老生物學研究的進展。

3月26日週四
5月28日週三
  1. Mistral AI61

    Mistral AI 釋出首個程式碼專用嵌入模型 Codestral Embed

    Mistral AI 釋出首個專為程式碼最佳化的嵌入模型 Codestral Embed,在真實程式碼資料的檢索任務中表現優於多個市場同類模型。該模型支援多維度與多種精度輸出,可在檢索質量與儲存成本之間進行靈活權衡。Codestral Embed 已在 API 上線,定價為每百萬 token 0.15 美元,同時提供批次 API 折扣及本地部署支援。

4月9日週三
7月25日週四
  1. Chip Huyen (AI Engineering)74

    打造生成式 AI 平臺:核心元件與設計模式

    生成式 AI 平臺 的建構流程被分為多個階段,從簡單的模型呼叫到完整的觀測與安全機制,內容涵蓋 RAG、代理、路由、快取與寫入動作。 - 核心元件 包括 模型 API、上下文構建、Guardrails、Model Router、Gateway、Cache、複雜邏輯、寫入動作、觀測。

    推薦理由:此篇深入拆解生成式 AI 平臺的核心元件與設計模式,對想打造可擴充、可觀測的系統的工程師極具參考價值。

7月7日週日
4月8日週一
10月13日週五
  1. Ollama Blog72

    利用瀏覽器端技術打造 LLM 驅動的網頁應用

    Mistral 7B 透過 Ollama 在瀏覽器端實現本地 LLM,搭配 LangChain、Voy 與 Transformers.js 完成 RAG 網頁應用。

    推薦理由:本文示範如何利用瀏覽器端本地模型構建 RAG 應用,提供可直接套用於前端開發的實作範例,並說明如何透過 Ollama 與 LangChain 連結本地 LLM,降低成本與提升隱私。

8月16日週三