跳到正文

#開源生態

RSS
今日 0 則
7月1日週三
  1. Together AI Official Blog82

    Together AI宣佈8億美元C輪融資,推動開源AI轉型

    Together AI 宣佈完成 8 億美元 C 期融資,並承諾 500 MW 計算資源,以加速開源 AI 的商業化。 - 融資金額:$800 M,投資者包括 Aramco Ventures、NVIDIA、Salesforce Ventures 等超過 20 家機構。

    推薦理由:投資800M推動開源AI商業化,顯示產業對可擴充套件、低成本模型的需求日益增長,並為企業提供6-20倍成本優勢。

6月30日週二
  1. Hugging Face Blog31

    DiScoFormer:兼顧任意分佈下密度與得分估計的 Transformer 模型

    DiScoFormer 是一款基於 Transformer 架構的新型模型,只需單次前向傳播即可同時估計分佈的密度與得分且無需重新訓練。在 100 維測試中,它將得分誤差降低約 6.5 倍,密度誤差降低超過 37 倍。該模型以高斯混合模型進行訓練,能夠適應分佈外輸入並在多個領域中複用。

6月29日週一
6月27日週六
6月23日週二
6月17日週三
  1. LMSYS Org Blog66

    SGLang-Omni 開始支援 MOSS-TTS Local Transformer v1.5 語音生成

    語音生成要先處理參考音訊,再逐步產生語音,最後解碼成聲音;把這些工作塞進同一個模型流程,容易遇到速度和記憶體管理問題。MOSI、OpenMOSS Team 與 SGLang-Omni Team 把 MOSS-TTS Local Transformer v1.5 拆成音訊前處理、文字轉語音生成和聲音解碼三個階段,支援邊生成邊輸出音訊。作者也測試了重用參考音訊、加快短音訊解碼等做法;在 SeedTTS 英文測試中,非串流平均每秒處理 5.976 個請求,串流則為 2.909 個,兩種模式的 WER 分別是 1.75% 和 2.14%。這些數字來自特定測試設定,文章也說不同最佳化測試的結果不能直接相加。

    推薦理由:文章拆解語音生成服務的三個階段,並以快取、CUDA Graph 與記憶體配置的測試結果,呈現各項調整如何影響速度與串流表現。

6月15日週一
  1. LMSYS Org Blog75

    DFlash 和 SGLang Spec V2 加快 Qwen 3.5 397B-A17B 推論

    大型語言模型一次只生成一個 token,推論速度可能因此受限;一般草稿模型也要逐個產生候選內容。Z Lab、Modal 和 SGLang 團隊推出 DFlash 草稿模型,並將它整合進 SGLang 的 Spec V2 引擎。DFlash 一次平行草擬一整段內容,還會把目標模型整理好的上下文資訊送進草稿模型,幫助它提出較容易被接受的內容。在 Qwen 3.5 397B-A17B、HumanEval、請求並行數為 1 的測試中,DFlash 的吞吐量超過基準模型 4.3 倍,也比原生 MTP 高 1.5 倍。

    推薦理由:文章比較 DFlash 與 EAGLE-3 的草稿速度、接受長度和端到端速度,並說明 KV 注入與平行草稿各自帶來的影響。

6月11日週四
6月8日週一
  1. LMSYS Org Blog39

    LMSYS Fellowship Program 公佈首位獲選者 Will Lin

    LMSYS Fellowship Program 選出首位獲選者 Will Lin,提供最高 $50,000,協助支付學費和相關費用。Will Lin 是 UC San Diego 的博士生,帶領開源專案 FastVideo,讓影片生成更快,也支援後續訓練;這個專案已累積超過 3.7k 個 GitHub 星星,並整合為 NVIDIA Dynamo 的後端。這項獎助計畫希望讓博士生有更多時間投入開源 AI 專案,也支援推動 AI 研究與開發的人才。

6月5日週五
6月4日週四
  1. LMSYS Org Blog71

    SGLang-Omni 開始支援 Higgs Audio v3 TTS 即時語音生成

    語音 AI 助理得在文字還沒說完時就開始回話,還要維持聲音和說話情緒一致。Boson AI 與 SGLang-Omni 團隊宣佈,Higgs Audio v3 TTS 已能透過 SGLang-Omni 即時生成語音;文字一邊送進來,系統就能一邊合成音訊,使用者也能用文字標籤調整情緒、語氣、速度、音高和音效。模型支援 100 種語言,並可用一小段參考錄音跨語言模仿聲音。文章也分享服務速度測試,以及 SGLang-Omni 如何把語音生成拆成多個階段來排程和傳遞資料。

    推薦理由:文章比較多階段語音生成與一般模型服務的差異,並說明 SGLang-Omni 如何分段排程、串流傳音訊及管理 GPU 記憶體。

6月3日週三
6月1日週一
5月29日週五
5月28日週四
5月8日週五
5月4日週一
  1. Supabase Blog82

    Supabase 取消 Git 需求,分支功能成為預設

    Supabase 取消 Git 需求,直接在 Dashboard 建立資料庫分支,讓原型開發更迅速。 - 功能:在 Dashboard 內直接建立分支,無需 Git,並可使用 SQL Editor 或 Table Editor 進行變更。

    推薦理由:Supabase 取消 Git 需求,直接在 Dashboard 建立資料庫分支,讓原型開發更迅速。

5月2日週六
  1. Google Research14

    通過全球夥伴關係與開放資源Catalyzing scientific impact

    Google Research 長期通過開源軟體、開放訪問資料集及全球夥伴關係推動科學創新,其開源工具和資料已賦能全球逾 25 萬名研究人員與開發者。在基因組學領域,其深度學習工具已處理 250 萬個體的基因組;在醫療健康領域,Health AI Developer Foundations 旗下的 MedGemma 等模型下載量已超 480 萬次。

5月1日週五
4月30日週四
4月29日週三
4月7日週二
4月3日週五
  1. Google DeepMind69

    Gemma 4 釋出:最強開源模型

    Google DeepMind 推出了 Gemma 4,四種尺寸(E2B、E4B、26B MoE、31B Dense)支援多模態、長上下文(128K–256K)和 140+ 語言,具備高階推理、函式呼叫和程式碼生成能力,並以 Apache 2.0 許可免費開放,適用於從移動端到雲端的多場景部署。

4月1日週三
3月31日週二
3月26日週四
  1. Rust Compiler Releases64

    Rust 1.94.1 正式發布

    Rust 1.94.1 正式發布,修復了多項安全漏洞並改進了 WebAssembly 及 Windows 檔案系統支援。 - 安全性修復:解決 CVE-2026-33055 與 CVE-2026-33056,消除 wasm32-wasip1-threads 及 std::os::windows::fs::OpenOptionsExt 的漏洞。

3月25日週三
  1. Google Research60

    Google Research 推出 TurboQuant:通過極低壓縮實現 AI 效率革新

    Google Research 推出了 TurboQuant 壓縮演算法及相關演算法 Quantized Johnson-Lindenstrauss 和 PolarQuant,用於解決向量量化中的記憶體開銷問題。實驗表明,TurboQuant 在長文本基準測試中能夠將 KV 快取記憶體大小減少至少 6 倍且不損失模型準確率,並在 H100 GPU 上實現了顯著的計算加速。

3月24日週二
  1. Mistral AI75

    Mistral AI 釋出 Voxtral TTS 語音生成模型

    Mistral AI 釋出 4B 引數量的語音生成模型 Voxtral TTS,支援 9 種語言的高質量語音合成與低延遲流式傳輸。該模型具備上下文理解、說話人建模及零樣本跨語言語音適應能力,已通過 API、Mistral Studio 和 Hugging Face 開放。

    推薦理由:原文公佈了架構細節和零樣本跨語言能力,讀者可以據此評估它在即時語音工作流中的表現。

3月23日週一
3月17日週二
  1. Mistral AI84

    釋出 Mistral Small 4

    Mistral AI 釋出了 Mistral Small 4,這是一款統一推理、多模態與編碼功能的模型,採用 119B 引數、256k 上下文視窗,支援可配置推理強度,提供 40% 的延遲降低和 3 倍的吞吐量提升。該模型採用 Apache 2.0 許可,支援 vLLM、llama.cpp、SGLang 等開源框架,並已加入 NVIDIA Nemotron 聯盟。

    推薦理由:Mistral Small 4 將推理、多模態與編碼功能統一,提供可配置推理強度和高效推理,幫助使用者在單一模型中完成多種任務。