Mistral AI 釋出 Mistral Small 3.1 模型
Mistral AI 宣佈推出 Mistral Small 3.1,這是一款在其體量級別表現出色的開源模型。該模型帶來改進的文本效能、多模態理解以及高達 128k tokens 的上下文視窗,並以 Apache 2.0 許可證開源。
Mistral AI 宣佈推出 Mistral Small 3.1,這是一款在其體量級別表現出色的開源模型。該模型帶來改進的文本效能、多模態理解以及高達 128k tokens 的上下文視窗,並以 Apache 2.0 許可證開源。
Mistral AI 推出 Mistral OCR 光學字元識別 API,能夠高精度解析複雜文件中的文本、影像、表格和數學公式。該模型原生支援多語言與多模態,已在 Le Chat 中作為預設文件理解模型上線,並在 la Plateforme 提供 API,定價為每美元 1000 頁。
推薦理由:該模型在多項複雜文件基準測試中表現突出,為文件理解與檢索增強生成系統提供了新的高精度處理方案。
Mistral Small 3 正式發布,提供 24B 引數、低延遲且可在單 RTX 4090 上執行。 - 效能:與 Llama 3.3 70B、Qwen 32B 相比,速度 3 倍以上;MMLU 準確率 81%,每秒 150 tokens。
Meta Llama 3.2 現已透過 Ollama 可本地執行,提供 1B、3B、11B、90B 四個版本。 - 1B、3B:純文字模型,專為手機或邊緣裝置最佳化,可即時處理訊息或行事曆摘要,並保留隱私。 - 11B、90B:視覺模型,支援檔案、圖表、圖片說明等影像推論。 - 所有模型皆為開源,使用者可自行下載 Ollama 並直接執行。
Gemma 2 是 Google 推出的新一代大語言模型,提供 2B、9B、27B 三種規模。 - 核心特性:27B 版本在多項基準測試中,效能超越同類規模兩倍以上,展現出高效能與最佳化架構。
推薦理由:Gemma 2 以三種規模提供,27B 版本效能超越同類兩倍規模模型,讀者可評估其高效架構對開發效能的影響。
DBRX 是一款 132B 引數的 MoE LLM,經 12T tokens 訓練後,效能已超越 GPT-3.5。 - 模型規格 132B 引數、4-of-16 MoE、RoPE 位置編碼、LION 最佳化器、LayerNorm 取代 RMSNorm。
推薦理由:DBRX 132B 引數 MoE LLM 以 12T tokens 訓練,效能超越 GPT-3.5,展示了 MoE 與資料品質對 LLM 成效的關鍵作用。
InternVL-Chat-V1.1 採用類似 LLaVA 的架構,並探索提高影像解析度、強化 OCR 能力及改善中文對話支援。 架構與規格:包含 ViT、MLP projector 與 LLM;解析度提高至 448x448。