Together AI宣佈8億美元C輪融資,推動開源AI轉型
Together AI 宣佈完成 8 億美元 C 期融資,並承諾 500 MW 計算資源,以加速開源 AI 的商業化。 - 融資金額:$800 M,投資者包括 Aramco Ventures、NVIDIA、Salesforce Ventures 等超過 20 家機構。
推薦理由:投資800M推動開源AI商業化,顯示產業對可擴充套件、低成本模型的需求日益增長,並為企業提供6-20倍成本優勢。
Together AI 宣佈完成 8 億美元 C 期融資,並承諾 500 MW 計算資源,以加速開源 AI 的商業化。 - 融資金額:$800 M,投資者包括 Aramco Ventures、NVIDIA、Salesforce Ventures 等超過 20 家機構。
推薦理由:投資800M推動開源AI商業化,顯示產業對可擴充套件、低成本模型的需求日益增長,並為企業提供6-20倍成本優勢。
IBM Research 釋出了 ScarfBench,一個用於評估 AI 代理在企業 Java 框架遷移任務中的基準。該基準包含 34 個應用、102 個框架實現、204 個遷移任務,約 151K 行程式碼。
Every Eval Ever 與 Hugging Face Community Evals 達成互通,通過推出的轉換工具支援將評估結果同步至 Hugging Face 模型頁面並自動關聯完整記錄。該工具包含格式轉換、衝突審計與本地預覽功能,目前已支援 MMLU-Pro、GPQA、HLE 和 GSM8K 等官方基準。
DiScoFormer 是一款基於 Transformer 架構的新型模型,只需單次前向傳播即可同時估計分佈的密度與得分且無需重新訓練。在 100 維測試中,它將得分誤差降低約 6.5 倍,密度誤差降低超過 37 倍。該模型以高斯混合模型進行訓練,能夠適應分佈外輸入並在多個領域中複用。
Gemma 4 在 Apple Silicon 上透過多 token 預測,速度提升近 90%。 - 速度提升:在 Aider polyglot benchmark 上,Gemma 4 12B (nvfp4) 在 M5 Max 上平均提升 90%。
OpenRouter 盤點了 2026 年 6 月最具代表性的四大開源權重模型,分析其效能、成本與實際應用場景。
| Trail of Bits 以「Patch the Planet」計畫,將 GPT-5.5-Cyber 應用於 19 個開源專案,產生 64 個 Pull Request、51 個 Issue,已合併 37 個修補,並新增測試、CI、供應鏈工具。
語音生成要先處理參考音訊,再逐步產生語音,最後解碼成聲音;把這些工作塞進同一個模型流程,容易遇到速度和記憶體管理問題。MOSI、OpenMOSS Team 與 SGLang-Omni Team 把 MOSS-TTS Local Transformer v1.5 拆成音訊前處理、文字轉語音生成和聲音解碼三個階段,支援邊生成邊輸出音訊。作者也測試了重用參考音訊、加快短音訊解碼等做法;在 SeedTTS 英文測試中,非串流平均每秒處理 5.976 個請求,串流則為 2.909 個,兩種模式的 WER 分別是 1.75% 和 2.14%。這些數字來自特定測試設定,文章也說不同最佳化測試的結果不能直接相加。
推薦理由:文章拆解語音生成服務的三個階段,並以快取、CUDA Graph 與記憶體配置的測試結果,呈現各項調整如何影響速度與串流表現。
大型語言模型一次只生成一個 token,推論速度可能因此受限;一般草稿模型也要逐個產生候選內容。Z Lab、Modal 和 SGLang 團隊推出 DFlash 草稿模型,並將它整合進 SGLang 的 Spec V2 引擎。DFlash 一次平行草擬一整段內容,還會把目標模型整理好的上下文資訊送進草稿模型,幫助它提出較容易被接受的內容。在 Qwen 3.5 397B-A17B、HumanEval、請求並行數為 1 的測試中,DFlash 的吞吐量超過基準模型 4.3 倍,也比原生 MTP 高 1.5 倍。
推薦理由:文章比較 DFlash 與 EAGLE-3 的草稿速度、接受長度和端到端速度,並說明 KV 注入與平行草稿各自帶來的影響。
Deno 2.8.3 版本更新 - 核心功能:CLI 新增 --env-file、DENO_TLS_CA_STORE 建議、watch 模式、config globs、SubtleCrypto.supports()、ML-DSA JWK 等。
FlashAttention-4 針對推理工作負載進行多項最佳化,提升大型語言模型的效能。 - FP8 支援:新增 8-bit 浮點輸入,吞吐率相較 bf16 基準提升至 1.16 倍。
Ollama 的 MLX 引擎經過更新,在 Apple Silicon 上達到前所未有的效能與品質。 - 效能提升:輸出速度提升 20%,首 token 時間更快。
LMSYS Fellowship Program 選出首位獲選者 Will Lin,提供最高 $50,000,協助支付學費和相關費用。Will Lin 是 UC San Diego 的博士生,帶領開源專案 FastVideo,讓影片生成更快,也支援後續訓練;這個專案已累積超過 3.7k 個 GitHub 星星,並整合為 NVIDIA Dynamo 的後端。這項獎助計畫希望讓博士生有更多時間投入開源 AI 專案,也支援推動 AI 研究與開發的人才。
Ollama 0.30 正式發布,新增 GGUF 相容與多 GPU 效能最佳化。 - 效能提升:NVIDIA GPU 上加速至 20%,測試以 Gemma 4 26B + Q4_K_M 量化。
Multigres v0.1 Alpha 釋出後,開發者可在 Kubernetes 上即時部署 Postgres 高可用與連線池,並啟用自動失效轉移與備份編排。
語音 AI 助理得在文字還沒說完時就開始回話,還要維持聲音和說話情緒一致。Boson AI 與 SGLang-Omni 團隊宣佈,Higgs Audio v3 TTS 已能透過 SGLang-Omni 即時生成語音;文字一邊送進來,系統就能一邊合成音訊,使用者也能用文字標籤調整情緒、語氣、速度、音高和音效。模型支援 100 種語言,並可用一小段參考錄音跨語言模仿聲音。文章也分享服務速度測試,以及 SGLang-Omni 如何把語音生成拆成多個階段來排程和傳遞資料。
推薦理由:文章比較多階段語音生成與一般模型服務的差異,並說明 SGLang-Omni 如何分段排程、串流傳音訊及管理 GPU 記憶體。
開源模型訓練工具 Axolotl 發布 v0.17.0,新增多種訓練能力並修正多模態損失遮罩。 - 分散式訓練:加入透過 DeepSeek 的 DeepEP 執行 MoE Expert Parallelism,已在 2×A100、4×A100、8×H100 上驗證。
強化學習:基礎設施瓶頸與 Modal Dojo 解決方案 - 核心問題:RL 後訓練需要三大獨立基礎設施,包含可擴充套件的訓練引擎、近光速推論引擎以及可並行執行的環境沙盒;多節點擴充套件時權重同步成瓶頸。
Google Research 在 I/O 2026 上公佈了多款 AI 工具與模型,涵蓋科研加速、健康應用、邊緣計算與氣候預測等領域。
OpenJarvis 是一個開源框架,允許在本地硬體上構建個人 AI 助理,並可選擇性連線 Ollama 進行雲端處理。 - 框架定位:本地優先,雲端為可選擇,減少雲端依賴。
Supabase 現已成為官方 ChatGPT 應用,使用者可在對話中直接管理資料庫、執行 SQL、調整 schema、部署 Edge Function 及排除問題。
推薦理由:Supabase 透過 ChatGPT 讓資料庫管理更直覺,執行 SQL、調整 schema、部署 edge function,提升開發效率。
Supabase 取消 Git 需求,直接在 Dashboard 建立資料庫分支,讓原型開發更迅速。 - 功能:在 Dashboard 內直接建立分支,無需 Git,並可使用 SQL Editor 或 Table Editor 進行變更。
推薦理由:Supabase 取消 Git 需求,直接在 Dashboard 建立資料庫分支,讓原型開發更迅速。
SGLang v0.5.10 新增的 CUDA IPC Pool Handle Cache 能讓多模態推理吞吐率提升 16%,平均延遲下降 10%。
Google Research 長期通過開源軟體、開放訪問資料集及全球夥伴關係推動科學創新,其開源工具和資料已賦能全球逾 25 萬名研究人員與開發者。在基因組學領域,其深度學習工具已處理 250 萬個體的基因組;在醫療健康領域,Health AI Developer Foundations 旗下的 MedGemma 等模型下載量已超 480 萬次。
Diffusers 0.38.0 釋出多項新功能,擴充影像、音訊與文本生成管線,並最佳化核心庫效能。
推薦理由:Diffusers 0.38.0 釋出多樣化的影像、音訊生成管線與核心效能最佳化,開發者可直接整合至現有工作流程。
Together AI 與 Adaption 共同推出 Adaptive Data 與 Together Fine‑Tuning 的整合,讓使用者可在 Adaptive Data 上最佳化資料後直接進行高效微調與部署。
summary_zh: - AE Studio 透過 Modal 平臺,將大語言模型(LLM)訓練成能在 Lean 語言中證明數學定理的 AI,並比較 GRPO 與 Evolution Strategies (ES) 兩種強化學習更新規則。
Supabase 於 2026 年 4 月 28 日推出 OSSCAR Index,為開源專案提供以成長速度為基準的季度排名。 - 核心特性 以星數、貢獻者與下載量為三大指標,採用 L² 正規化計算成長分數。
Python 3.15.0a8、3.14.4 與 3.13.13 於 2026 年 4 月正式發布。
Google DeepMind 推出了 Gemma 4,四種尺寸(E2B、E4B、26B MoE、31B Dense)支援多模態、長上下文(128K–256K)和 140+ 語言,具備高階推理、函式呼叫和程式碼生成能力,並以 Apache 2.0 許可免費開放,適用於從移動端到雲端的多場景部署。
| FlashAttention 於 2022 Memorial Day 週末由 Dan Fu、Tri Dao 等人發表,透過對 GPU 記憶體移動與計算模式的精準最佳化,達成 2–3 倍 的速度提升,成為 AI kernel 研究的基石。
Aurora 是一個基於 RL 的框架,能在實際推理流中持續學習並自動更新 speculator,將靜態的推理加速轉變為動態的自我最佳化迴圈。
推薦理由:Aurora 透過 RL 於實際推理流中自動調整,實現 1.25 倍速度提升與成本降低,提供可落地的即時最佳化方法。
Rust 1.94.1 正式發布,修復了多項安全漏洞並改進了 WebAssembly 及 Windows 檔案系統支援。 - 安全性修復:解決 CVE-2026-33055 與 CVE-2026-33056,消除 wasm32-wasip1-threads 及 std::os::windows::fs::OpenOptionsExt 的漏洞。
Supabase 在 2025‑2026 年遭遇三起區域網路封鎖,本文分享其原因、處理流程與預防措施。 - 原因: - UAE:單一專案違法播放,導致 TDRA 封鎖 .supabase.co。
Google Research 推出了 TurboQuant 壓縮演算法及相關演算法 Quantized Johnson-Lindenstrauss 和 PolarQuant,用於解決向量量化中的記憶體開銷問題。實驗表明,TurboQuant 在長文本基準測試中能夠將 KV 快取記憶體大小減少至少 6 倍且不損失模型準確率,並在 H100 GPU 上實現了顯著的計算加速。
Mistral AI 釋出 4B 引數量的語音生成模型 Voxtral TTS,支援 9 種語言的高質量語音合成與低延遲流式傳輸。該模型具備上下文理解、說話人建模及零樣本跨語言語音適應能力,已通過 API、Mistral Studio 和 Hugging Face 開放。
推薦理由:原文公佈了架構細節和零樣本跨語言能力,讀者可以據此評估它在即時語音工作流中的表現。
Python 3.15 JIT 於 3.15 alpha 版已達 11‑12% (macOS AArch64) 與 5‑6% (x86_64 Linux) 的速度提升,提前一年/數月完成目標。
Mistral AI 釋出了 Mistral Small 4,這是一款統一推理、多模態與編碼功能的模型,採用 119B 引數、256k 上下文視窗,支援可配置推理強度,提供 40% 的延遲降低和 3 倍的吞吐量提升。該模型採用 Apache 2.0 許可,支援 vLLM、llama.cpp、SGLang 等開源框架,並已加入 NVIDIA Nemotron 聯盟。
推薦理由:Mistral Small 4 將推理、多模態與編碼功能統一,提供可配置推理強度和高效推理,幫助使用者在單一模型中完成多種任務。
Mistral 與 NVIDIA 於 2026 年 3 月 16 日宣佈成為 NVIDIA Nemotron Coalition 創始成員,將共同推動前沿開放模型的研發。
推薦理由:Mistral 與 NVIDIA 合作推動開放前沿模型,為開發者提供可擴充套件、可自訂的基礎模型,促進 AI 生態快速成長。
Leanstral 是 Mistral AI 推出的首款專為 Lean 4 設計的開原始碼代理,採用 6B 活躍引數,支援在 Mistral Vibe 中零設定使用,並提供免費 API 端點。