推薦理由:七款模型涵蓋不同規模與稀疏啟用配置,並提供私有測試分數、延遲及機率校準資料,可比較其決策能力與部署取捨。
#RAG
RSS 訂閱#RAG
RSS
ModelScope@ModelScope2022精選品質評分6868
Dev.to Top Tech品質評分6565 Mercury 2.5 1,000+ tokens/sec 時代:高速 LLM 如何改變代理與 RAG 設計
Mercury 2.5 以每秒 1,178 tokens 的輸出速度成為排行榜第二,顯示高速 LLM 正在重塑代理與 RAG 的流程。 - 速度:1,178 tokens/s,遠超傳統自回歸模型,降低每個 token 的解碼延遲。
The Decoder品質評分7373 Deepseek V4.1 Flash 1017 在代理任務上擊敗更大競爭者,同時大幅降低單任務成本
Deepseek V4.1 Flash 1017 已於本週發布,主打代理與編碼任務,並以低於 $0.20 的成本完成 77% 的 DeepSWE 基準。
Hugging Face Blog精選品質評分7272 Granite Switch 4.1:一端點整合聊天、決策與語音功能
Granite Switch 4.1 透過整合決策、語音與聊天功能,提供單一端點多工能力。 - Granite‑Switch‑4.1‑8B / 30B:內建 Decision aLoRA、Guardian aLoRA 及 Granite‑Speech‑5.0‑Turbo‑CTC(OpenASR 榜首 ASR),可即時切換對話、決策與轉錄。
推薦理由:Granite Switch 4.1 透過整合決策、語音與聊天功能,提供單一端點多工能力,讀者可評估其在實務流程中的效益。
hackernews100品質評分6969 Aleph Alpha 推出 Kolibri:開源多語言 LLM 支援德語與英語
Kolibri 是 Aleph Alpha 於 2026 年 10 月 3 日發布的開源多語言 LLM,擁有 78.1 B 引數,單個 token 只活躍約 3.46 B,支援德語與英語,並可在 1 M token 上下文中執行。
Hugging Face Blog品質評分6565 開源 AstaBrief:Asta 平臺的快速報告生成模型
AstaBrief 是一款 8B 引數的開源報告生成模型,能在 Asta 平臺以 51.1 秒完成報告,速度比思考模式快 3.5 倍。 - 核心功能:一次性生成完整引用報告,省去逐段生成。
Vercel Blog品質評分6161 Voyage Rerank 3 與 Rerank 3 Lite 於 AI Gateway 上可使用
Voyage Rerank 3 與 Voyage Rerank 3 Lite 現已可在 Vercel 的 AI Gateway 直接使用,兩者皆支援 32K token 的查詢-檔案對,並可依需求調整準確度或效能。
Mistral AI品質評分6161 Mistral AI 釋出首個程式碼專用嵌入模型 Codestral Embed
Mistral AI 釋出首個專為程式碼最佳化的嵌入模型 Codestral Embed,在真實程式碼資料的檢索任務中表現優於多個市場同類模型。該模型支援多維度與多種精度輸出,可在檢索質量與儲存成本之間進行靈活權衡。Codestral Embed 已在 API 上線,定價為每百萬 token 0.15 美元,同時提供批次 API 折扣及本地部署支援。