重點導讀
vLLM 以 1M‑token 上下文視窗突破傳統限制,適用於長編碼、3D 創作與研究。
- 核心特性:1M‑token 上下文視窗,支援多 GPU 即時部署。
- 評測表現:在 Terminal‑Bench 4.0 上以 Claude Code harness 得分 65.7%。
- 可用性:Day‑0 服務,無需額外配置即可上線。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
v
vLLM Project (@vllm_project)@vllm_project
·12 小時前
lands in vLLM on day 0! A 1M-token context window for long coding sessions, 3D creation and research. It scores 65.7% on Terminal-Bench 4.0 with the Claude Code harness. Give Kimi the long task. vLLM brings Day-0 serving across GPUs and
推文來源 · X (Twitter)在 X 參與討論
來源: vLLM Project (@vllm_project) (x.com)
在 X 查看推文