跳到正文

千問 Qwen

阿里千問 Qwen 系列的開源釋出與迭代:從旗艦模型到端側小模型的全譜系動態。

最新精選

第 41–60 條 · 共 61 條
8月23日週日
  1. Recode China AI85

    Unitree 爆款上市、Nvidia 晶片獲北京綠燈與大廠 AI 投注

    Unitree 在上海科創板上市首日股價暴漲 629%,市值逼近 $66 B,但隨後兩個交易日即跌落近 $10 B。 - Unitree IPO:創造中國機器人市值新高,創辦人王興興淨值飆升約 $18 B。

    推薦理由:Unitree IPO 亮相證明中國機器人產業已成百億市值新星,Nvidia 晶片出口政策變動則揭示中美技術競賽新動態。

8月21日週五
  1. vLLM Official Blog68

    IsoExec:統一執行消除 SkyRL 訓練與推理不一致

    IsoExec:一種跨框架的統一執行抽象,消除 RL 訓練與推理之間的數值不一致。 - 核心機制:執行契約與統一模型,確保浮點四捨五入、kernel、batch 形狀等在訓練與回放引擎中保持一致。

    推薦理由:IsoExec 以統一執行契約消除 RL 訓練與推理不一致,提升演算法可重現性與除錯效率。

8月17日週一
  1. Import AI78

    Import AI 469:DiG-bench 文字遊戲、Faraday AI 科學家與 Zuckerberg 技術悲觀主義

    DiG-bench 透過 70 款文字遊戲測試 AI 的自發發現能力,成為衡量創造力與探索性的基準。 - DiG-bench:由 70 款自包含文字遊戲組成,測試 AI 在未知規則環境中的探索與學習,模型 Opus 5、Fable 5、GPT‑5.5 在 Tier 6–7 取得突破。

    推薦理由:DiG-bench 透過 70 款文字遊戲測試 AI 的自發發現能力,提供衡量創造力與探索性的新基準,以此為基礎,研究者可評估模型在真實環境中的發現能力。

8月11日週二
  1. SGLang Releases82

    SGLang 發布 v0.5.17 版本

    SGLang 正式發布 v0.5.17 版本,匯集 194 位貢獻者的 582 項 PR,全面升級推理與平行化效能: - 新模型日支援。

    推薦理由:新版本帶來多項新模型支援與底層平行化最佳化,開發者可參考其升級日誌評估效能提升與架構調整。

8月7日週五
  1. vLLM Official Blog65

    vLLM 推出高效 Decode Context Parallelism,支援長上下文工作負載

    vLLM 推出高效的 Decode Context Parallelism(DCP),針對長上下文推理提供 KV cache 的序列分片。 - 核心效能:在 8×B200 GPU 上使用 Kimi K2.6,DCP 在 512 個併發請求時達到 6,091 tok/s/GPU,遠超基線 1,863 tok/s/GPU。

    推薦理由:本文透過實驗證明,Decode Context Parallelism 能顯著提升長上下文推理的併發度與吞吐量,對處理大規模程式碼或對話歷史的 Agent 服務具有實務參考價值。

8月6日週四
  1. vLLM Official Blog77

    vLLM 在 Qwen3.5 上達成每 GPU 25K 總 TPS

    vLLM 透過社群貢獻的最佳化核心與異構快取設計,讓 Qwen3.5 在 GB200 NVL72 系統上每 GPU 總 TPS 超過 25,000。

    推薦理由:本文提供可實踐的最佳實踐與配置,藉助 vLLM 社群貢獻的最佳化核心與異構快取設計,幫助開發者在 Qwen3.5 上達成 25K TPS/GPU 的高效推理,並可快速複製至自家環境。

7月26日週日
  1. Berkeley AI Research68

    教導 LLM 更新信念以提升長期互動效率

    ABBEL 是一套透過自然語言信念狀態與評分,將長期互動的記憶壓縮,並在協同編碼與多目標問答等環境中顯著提升效能與訓練效率。 - 核心概念:將互動歷史抽象為「信念」(belief),並以自編碼方式評分,確保關鍵資訊被保留。

    推薦理由:ABBEL 透過信念更新與評分,將長期互動的記憶壓縮,顯著縮減訓練步驟並提升協同編碼效能

7月25日週六
  1. SGLang Releases64

    SGLang v0.5.16 釋出 DSpark 及 Inkling 多模態支援

    SGLang v0.5.16 釋出 DSpark 及 Inkling 多模態支援,並最佳化多項推理效能與模型管理。 - DSpark:自信度驅動的 speculative decoding,單位 5 accept length 在 DeepSeek‑V4‑Pro 上達 383.7 tok/s,TP8 on B300 5.0 tok/s。

    推薦理由:此版本新增 DSpark 及 Inkling 支援,可提升推理效能與多模態擴充性,對開發者最佳化部署流程有實際幫助。

7月6日週一
  1. Import AI69

    Import AI 464:Fable 寫 GPU 核心、AI 自動化與類比運算

    Fable 5 在 KernelBench‑Mega 上以 18.71 倍加速完成 GPU 核心生成,顯示 AI 系統在核心設計上的自動化潛力。 - GPU 核心速度:相較於 PyTorch 基準,Fable 取得 18.71 倍提升;Claude Opus 4.8 14.4 倍;GLM‑5.2 11.14 倍;GPT‑5.5 4.34 倍。

    推薦理由:Fable 5 在 KernelBench‑Mega 上實現 18.71 倍加速,展示 AI 自動化寫 GPU 核心的潛力。

6月30日週二
  1. Together AI Official Blog77

    Together AI 於 ICML 2026:全棧前沿研究

    Together AI 在 ICML 2026 展示了九篇跨層研究,從代理到 GPU 核心,涵蓋模型、演算法、系統與硬體最佳化。 - 代理層:DSGym 1,000+ 任務、10+ 領域;ThunderAgent 3.6× 推理吞吐量、3.9× RL 迭代速度提升。

    推薦理由:Nine ICML 2026 論文涵蓋從代理到 GPU 核心的全棧研究,讀者可洞悉跨層最佳化的實際效能與落地策略,並展示多層協同效益與實際部署案例。

6月25日週四
  1. Google Research63

    Google Research:思考以檢索:推理如何解鎖大語言模型中的引數化知識

    Google Research 探討了大語言模型中推理如何解鎖引數化知識,通過控制實驗揭示了計算緩衝區效應和事實啟動兩大機制。研究表明,即使面對簡單的單跳問題,啟用推理也能幫助模型召回原本難以觸及的正確答案。不過,推理階段產生的中途幻覺會顯著降低最終答案的正確率。

    推薦理由:研究揭示了推理如何解鎖大語言模型的引數化知識,並指出了中間事實對準確率的關鍵影響。

6月19日週五
  1. Modal Engineering Blog62

    Modal 推出 Qwen 3.5 397B-A17B 的 DFlash Speculator,實現 5-20% 推理速度提升

    Modal 推出基於 DFlash 架構的 Qwen 3.5 397B-A17B speculator,並在 SGLang 推理引擎上實現 5–20% 的速度提升。

    推薦理由:本篇說明 Qwen 3.5 397B-A17B 的 DFlash speculator 如何實現 5-20% 的速度提升,並提供在 B200 節點上 1000 tok/s 的實驗資料,對於追求高吞吐量的推理工作具有參考價值。

5月14日週四
  1. Together AI Official Blog79

    Violin:開源影片翻譯工具突破語言障礙

    Violin 是一款完全開源的影片翻譯工具,透過 Together API 整合 Whisper V3、DeepSeek V4 Pro 與 Cartesia 的 Sonic 3,完成從語音辨識、翻譯到語音合成的全流程。

    推薦理由:Violin 以開源方式提供多語言影片翻譯,並內建多模態對話助手,使用者可即時查詢影片內容並調整語音風格,讓全球觀眾可即時接觸內容。

3月26日週四
  1. Together AI Official Blog70

    計畫、分割、征服:弱模型如何在長上下文任務中表現卓越

    Divide & Conquer 框架讓弱 LLM 在長上下文任務中可與 GPT‑4o 相媲美。 - 核心實驗:在 ICLR 2026 研究中,Llama‑3‑70B、Qwen‑72B 透過規劃、分工與聚合,在長文本檢索、問答、摘要等任務上,表現超越 GPT‑4o 單次處理。

    推薦理由:本文提出的「分而治之」框架,證明弱模型在長文本任務上可匹敵 GPT‑4o,對於需要大上下文處理的實務工程師提供可行的成本與效能最佳化思路。

3月18日週三
  1. Together AI Official Blog73

    Together AI 擴充微調服務,新增工具呼叫、推理與視覺支援

    Together AI 推出新版微調服務,新增工具呼叫、推理與視覺語言模型支援,並提升至 100B+ 引數模型的高效微調。 - 工具呼叫:提供結構化驗證、全流程支援,適用 Qwen、Moonshot AI、Z.AI。

    推薦理由:此更新提升工具呼叫、推理與視覺功能,讓團隊可每日迭代、成本降低 2–3 倍、準確率提升至 87%,並支援 100B+ 引數模型與 100GB 資料集的高效微調,並提供預估成本與 ETA 以利實驗規劃,並可在多模態任務中使用 Vision‑Language 模型微調。

2月25日週三
  1. Ahead of AI (Sebastian Raschka)64

    A Dream of Spring for Open-Weight LLMs:盤點 2026 年初 10 款開源大模型架構

    本文深度解析 2026 年 1 月至 2 月 期間發布的 10 款主要開源權重模型,涵蓋架構相似性、注意力機制與效率最佳化: - Arcee AI Trinity Large:採用 400B 引數的 Mixture-of-Experts(MoE)架構,結合滑動視窗注意力(SWA)與 QK-Norm 穩定訓練。

    推薦理由:原文系統梳理近期十款開源模型的架構演進與效能差異,讀者可透過對比了解新型混合注意力的設計趨勢。

10月16日週四
10月14日週二
  1. Ollama Blog71

    Qwen3‑VL:Qwen 系列最強視覺語言模型正式上線

    Qwen3‑VL 是 Qwen 系列最新視覺語言模型,已在 Ollama 雲端上線,提供 256K 原生上下文、3D 空間推理與多語言 OCR 等功能。

    推薦理由:Qwen3-VL 擁有 256K 原生上下文與多語言 OCR,讓開發者能在單一模型中完成影像、文本與 3D 空間推理,提升跨模態工作流程效率。

9月6日週六
  1. Ahead of AI (Sebastian Raschka)71

    從零實作 Qwen3:深入理解與實作

    本文以純 PyTorch 程式碼示篋 Qwen3 從零實作,帶領讀者瞭解其 Dense 與 Mixture‑of‑Experts 架構,並提供可直接套用於實驗與專案的程式碼基礎。

    推薦理由:本篇提供 Qwen3 從零實作,讓讀者掌握模型結構與可擴充的程式碼基礎,利於自行實驗與專案開發,並可直接套用於多種語言模型任務。

5月28日週三
  1. Ollama Blog64

    Ollama 新增即時串流工具呼叫功能

    Ollama 於 2025 年 5 月 28 日發布即時串流工具呼叫功能,讓聊天應用可同步顯示內容並即時執行工具。 - 支援模型:Qwen3、Qwen2.5、Qwen2.5-coder、Llama3.1、Llama4 等已訓練工具使用的模型。

    推薦理由:Ollama 透過即時串流工具呼叫,提升聊天應用的互動性與開發效率,並透過改進的解析器確保工具呼叫可靠性。