Mistral AI 釋出開源語音理解模型 Voxtral
Mistral AI 釋出了開源語音理解模型 Voxtral,包含面向生產的 24B 規格與面向端側的 3B 規格,均採用 Apache 2.0 協議開源。該系列模型支援 32k 上下文、長達 30 至 40 分鐘的音訊處理、內建問答與摘要、多語言處理及函式呼叫功能,並在多項語音轉寫和理解基準測試中表現優異。
推薦理由:該模型提供了兩種尺寸並開源,讀者可以根據自身算力條件選擇合適的版本進行本地部署或呼叫 API。
新模型的釋出、開源與迭代:大模型廠商的旗艦更新、開源權重放出、效能與價格變化的第一時間記錄。
Mistral AI 釋出了開源語音理解模型 Voxtral,包含面向生產的 24B 規格與面向端側的 3B 規格,均採用 Apache 2.0 協議開源。該系列模型支援 32k 上下文、長達 30 至 40 分鐘的音訊處理、內建問答與摘要、多語言處理及函式呼叫功能,並在多項語音轉寫和理解基準測試中表現優異。
推薦理由:該模型提供了兩種尺寸並開源,讀者可以根據自身算力條件選擇合適的版本進行本地部署或呼叫 API。
Mistral AI 釋出首個推理模型 Magistral,推出開源的 Magistral Small(24B)和企業級 Magistral Medium 兩個版本。
推薦理由:原文給出了兩個版本的具體效能指標與開放渠道,讀者可以據此評估其在真實業務和推理任務中的表現。
Devstral 是 Mistral AI 與 All Hands AI 合作推出的面向軟體工程的AI 助理 LLM,已在 SWE-Bench Verified 上取得 46.8% 的得分。
推薦理由:Devstral 在 SWE-Bench Verified 上顯著領先開源模型,並可在單張 RTX 4090 上本地部署,適合企業私有程式碼庫。
Mistral AI 宣佈推出 Mistral Medium 3 模型,在編碼和多模態理解等專業用例中具備前沿級效能,同時顯著降低了成本。該模型支援混合部署或本地部署、自定義後訓練及企業工具整合,API 定價為每百萬 token 輸入 0.4 美元、輸出 2 美元,現已在 Mistral La Plateforme 和 Amazon Sagemaker 等平臺上線。
推薦理由:官方公佈了該新模型的具體基準表現和定價,讀者可以據此評估其在企業級應用中的價效比。
Mistral AI 推出 Mistral OCR 光學字元識別 API,能夠高精度解析複雜文件中的文本、影像、表格和數學公式。該模型原生支援多語言與多模態,已在 Le Chat 中作為預設文件理解模型上線,並在 la Plateforme 提供 API,定價為每美元 1000 頁。
推薦理由:該模型在多項複雜文件基準測試中表現突出,為文件理解與檢索增強生成系統提供了新的高精度處理方案。
Gemma 2 是 Google 推出的新一代大語言模型,提供 2B、9B、27B 三種規模。 - 核心特性:27B 版本在多項基準測試中,效能超越同類規模兩倍以上,展現出高效能與最佳化架構。
推薦理由:Gemma 2 以三種規模提供,27B 版本效能超越同類兩倍規模模型,讀者可評估其高效架構對開發效能的影響。
DBRX 是一款 132B 引數的 MoE LLM,經 12T tokens 訓練後,效能已超越 GPT-3.5。 - 模型規格 132B 引數、4-of-16 MoE、RoPE 位置編碼、LION 最佳化器、LayerNorm 取代 RMSNorm。
推薦理由:DBRX 132B 引數 MoE LLM 以 12T tokens 訓練,效能超越 GPT-3.5,展示了 MoE 與資料品質對 LLM 成效的關鍵作用。