#開源生態
RSS 訂閱#開源生態
RSS
Linus ✦ Ekenstam 🔜 Shenzhen@LinusEkenstam品質評分4848
Dev.to Top Tech品質評分4949 DaisyRose-27B 如何只靠強化學習訓練 AI 程式設計助理,取代 SFT
許多 AI 程式設計助理靠範例學寫程式,遇到終端機裡複雜的執行錯誤時,可能就不會處理。RadixArk 和 Eigent AI 訓練了 DaisyRose-27B,讓它在沙盒裡實際執行指令、觀察結果、找出錯誤再修改;訓練過程不使用 SFT 或知識蒸餾。舉例來說,它能檢視錯誤訊息和程式執行紀錄,試著修正解法。文章列出的 Terminal Bench 4.1 成績,從基礎模型的 5.6% 提升到 12.0%。這顯示讓模型從實際操作結果中學習,可能有助於它處理程式問題。
Dev.to Top Tech品質評分7070 Duo v1 評測:為什麼建議從 distill-quant 權重開始
想測試能邊聽人說話、邊生成影音的 Duo v1,得先準備多 GPU 伺服器,也要確認權重授權是否適用。作者比較了四組權重,建議實驗時先用 47.0 GB 的 distill-quant;它還依賴 153.5 GB 的 causal base,兩者都要下載。論文的參考串流設定使用一臺配有八張 GPU 的伺服器,沒有提供單張消費級顯示卡的支援。作者列出的每段延遲是 330 到 650 ms,但這不是使用者看到第一個畫面的完整等待時間。程式碼採 Apache-2.0,權重則使用另一種授權,排除歐盟、英國、南韓和美國;商用前應先讀清楚授權條款。
ModelScope@ModelScope2022品質評分5858
hackernews100精選品質評分8686 Inkling 2 Mini 發布,可在筆電上執行的開放權重模型
模型要處理需要多步推理的工作,常得花更多時間或寫下更多推理內容。Inkling 2 Mini 會把模型中間的部分重複運算三次,作者表示,這讓它能用較少的 token 處理程式開發等任務;模型總引數為 26.4B,記憶體佔用約 20GB,也能在筆電上離線執行。它在多項同尺寸開放權重模型的程式與搜尋測試中表現突出,權重已公開;不過,多輪聊天和需要遵守許多限制的指令仍是弱項。作者也測試了重複運算對推理內容監看的影響,初步結果沒有顯示監看能力明顯變差。
推薦理由:Inkling 2 Mini以反覆運算的架構提升推理能力,文中也比較了它在程式任務、長篇推理與監看能力上的表現。
aihot精選品質評分8181 Thinking Machines Lab 發布可在筆電執行的開源權重模型 Inkling 2 Mini
想在筆電上跑 AI 模型,常會遇到模型太大、速度不夠快的問題。Thinking Machines Lab 發布開源權重模型 Inkling 2 Mini,讓模型的中間層對每個 token 重複運算三次,增加推理計算;模型總引數量為 26.4B,記憶體約需 20GB,官方表示可在記憶體至少 32GB 的 Mac 上執行。原文列出多項程式開發與工具使用測試,也說明模型在多輪對話和大量指令限制的測試中較弱。迴圈設計還會讓更多推理留在模型內部,原文的初步測試沒有看到監控能力隨迴圈增加而明顯下降。
推薦理由:迴圈架構讓模型在每個 token 上多做幾輪運算,原文也交代本機硬體門檻與推理監控實驗,可用來理解這種設計的取捨。
Unsloth AI@UnslothAI精選品質評分6060推薦理由:Inkling 2 Mini 可在 16GB RAM 的裝置上執行,貼文也列出它在 DeepSWE v1.1 的成績,呈現小型模型的執行門檻與表現。
MarkTechPost品質評分6868 RadixArk 推出 DaisyRose-27B,主打強化學習訓練的程式開發模型
RadixArk 推出開放權重模型 DaisyRose-27B,從 Qwen3.8-27B 接續訓練,只用強化學習,沒有使用監督式微調或知識蒸餾。它主要用來處理程式開發任務,支援文字和圖片輸入,採 Apache 2.0 授權。RadixArk 回報,Terminal Bench 4.1 的 pass@1 從基礎模型的 5.6 升到 12.0;另外六項公佈的基準也都高於基礎模型。不過,這些分數都是 RadixArk 自行回報,且在 HLE 的進步只有 0.4。模型提供多種精度版本,部分版本可在一張 GPU 上執行。
Hugging Face Blog精選品質評分8484 Hugging Face 示範為 Qwen3.8-27B 訓練 AI 助理工具專用介面卡
通用模型搭配不同 AI 助理工具時,可能會多花時間和 token,解程式問題的表現也不夠好。Hugging Face 團隊把強化學習直接放進 pi、Hermes Agent 和 OpenCode 這三種工具中,分別為 Qwen3.8-27B 訓練介面卡,也把三者合併成一個版本。測試顯示,各自的專用版本在對應工具和程式開發基準上都優於原模型,完成任務時也少用工具;合併版本則能在三種工具中使用。這套流程與訓練資料也公開,讓其他人能照著調整自己的模型和任務。
推薦理由:這套流程把強化學習放進實際使用的 AI 助理工具中,並比較專用與合併介面卡的成效,可供重現與評估程式開發任務。
ModelScope@ModelScope2022精選品質評分8383推薦理由:WeMM-Video 把影片畫面、對話與環境聲音放在同一條時間線理解,報告也比較了不同規模模型在多項影音基準上的表現。
aihot精選品質評分7575 騰訊混元開放 Hy4 權重,公佈多模態模型規格與安全評估
騰訊混元發布 Hy4 開放權重,這是一款原生多模態的 MoE 模型,總引數為 770B、啟用引數為 49B,上下文長度為 1M。團隊也發布 Hy4 System Card,內含安全評估報告,並提供 GitHub、Hugging Face 和 GGUF 權重下載連結。團隊將於本週五太平洋時間上午 8–10 點,在 r/LocalLLaMA 舉行直播 AMA,回答大家對 Hy 模型的提問。
推薦理由:Hy4 開放權重並附上安全評估報告,文中也列出模型規模與上下文長度,方便了解這次發布提供的資源。
aihot精選品質評分7373 騰訊混元 Hy4 正式開源,並發布 System Card
想試用或自行部署 Hy4 的人,需要先找到模型下載方式,也要了解相關安全評估。騰訊混元宣佈 Hy4 正式開源,可從 GitHub、Hugging Face、ModelScope 和 GitCode 下載部署,並同步發布 Hy4 的安全評估卡片 System Card。官方也表示,混元 LLM 模型已全部開源,未來會持續更新並開源。
推薦理由:Hy4 開源與安全評估卡片同步發布,讓讀者能直接取得模型,也能檢視官方提供的安全評估內容。
Tom’s Hardware AI & Computing精選品質評分7676 三張二手 Nvidia V100 跑 Qwen 3.6 35B,長上下文仍有每秒 72.7 個 token
想在家用電腦跑大型語言模型,買新顯示卡可能很花錢。這篇評測用三張二手 Nvidia V100 組成總價 $1,042 的主機,測試 Qwen 3.6 35B;在 4K 上下文時,每秒約產生 100 個 token,到了 128K 仍有 72.7 個。作為比較,三張 P100 在相同條件下只有 40.2 個,V100 每次測試的 GPU 耗電也約是 P100 的一半。作者提醒,各臺裝置使用的執行工具不同,因此比較數字只能大致參考。
推薦理由:這組測試比較不同退役 GPU 在長上下文下的速度與耗電,也列出自組成本,可用來評估舊卡能否應付本機模型推論。
ModelScope@ModelScope2022精選品質評分6666推薦理由:DaisyRose-27B 在多項終端機與程式開發評測中優於基礎模型,呈現強化學習後訓練對長時間任務的影響。
Dev.to Top Tech品質評分7070 ja-doc-classify-v1 幫日文商業檔案分類,沒把握時就不猜
公司檔案常混在一起,後續工具不一定知道該怎麼處理。Japan Open Data Lab 推出 ja-doc-classify-v1,先把日文商業檔案分成 8 個領域,再在有把握時從 43 種檔案型別中挑選;沒把握就只回報領域。它也會標出可能高度敏感的檔案,讓人優先檢查,但這個標記不是保密判定。兩組各 200 份人工撰寫檔案的測試中,領域分類在未棄答的結果上準確率為 0.989;檔案型別則為 0.82–0.87。合約、委任狀和身分確認臺帳容易分錯,作者提醒重要判斷仍要交由人員或後續規則處理。
SenseTime@SenseTime_AI品質評分4444
NVIDIA AI@NVIDIAAI品質評分4848Hacker News (official RSS)品質評分6464 RadixArk 推出 DaisyRose-27B,Terminal-Bench 4.1 通過率升至 12%
模型處理需要連續操作好幾步的終端工作時,常會在中途出錯。RadixArk 推出 DaisyRose-27B,從 Qwen3.8-27B 出發,用 1,200 個精挑的長任務進行強化學習;任務會串起多個問題,要求模型逐步推理、安排計畫並執行。團隊表示,這讓模型在 Terminal-Bench 4.1 的 pass@1 通過率從 5.6% 提升到 12.0%。他們也公開 BF16、FP8 和 NVFP4 版本,供大家試用與延伸開發。
Rohan Paul@rohanpaul_ai精選品質評分7070推薦理由:Rumble-2-Flash 主打在手機上處理口音、多人重疊說話和街道噪音,可看出小型開放模型在語音辨識上的應用方向。
Hugging Face Blog精選品質評分6464 Hugging Face 開源 0.5B 語音辨識模型 Rumble-2-Flash
語音辨識模型常要用很大的模型,才能處理多種語言和吵雜的電話錄音。Hugging Face 開源了 Rumble-2-Flash,這個 0.5B 模型支援 40 多種語言,也能自動判斷語言;它還能設定數字要寫成數字或文字,以及是否保留填充詞和重複內容。在一項 302 小時、涵蓋 14 種英語口音的客服電話測試中,它的錯誤率是 7.86%,接近 30B 的 Nemotron 3.5 Transcribe。模型可透過 Transformers、vLLM 和 Hugging Face API 使用。
推薦理由:Rumble-2-Flash 在多語言辨識與電話語音測試中,和大上許多的模型比較成績,呈現小型語音模型的實用範圍。
elvis@omarsar0品質評分5858
Rohan Paul@rohanpaul_ai品質評分5353
Dev.to Top Tech精選品質評分8383 Mistral Large 4 正式推出,開放權重供下載
Mistral Large 4 已從預覽版轉為正式版,並開放模型權重下載;不過,各家測試它寫程式的結果差距不小。Mistral 表示,它在 Terminal-Bench 4.0 得到 41%,比預覽版高 13 個百分點,輸出 token 也少了 30%;獨立測試則約為 23% 到 25%,文章提醒這些差異可能來自測試工具和設定不同。另一項較有把握的優點是完成任務所用 token 變少,測得的單次任務成本也從 $5.54 降到 $2.06。API 價格已下調;Large 3 和 Medium 3.5 預計於 2027 年 4 月 30 日停止服務,使用者需要安排遷移。
推薦理由:不同評測環境得出的程式任務分數差距很大,文中也比較了輸出量與單次任務成本,能幫助讀者判斷該怎麼看這些數字。
Dev.to Top Tech品質評分4141 千問 Qwen3-235B-A22B:大規模 open-weight 模型如何兼顧能力與推論成本
大型模型很有本事,但要讓它回答問題,也得花不少運算資源。千問 Qwen3-235B-A22B 總共有 235B 個引數,每次處理 token 時只啟用其中 22B,並從 128 個專家模組中挑出 8 個來運算。這樣設計是想用較少的運算,保留大型模型的能力;但它仍需要大量硬體資源,不能當成一般 22B 模型來看。 這個模型支援 119 種語言,原生上下文視窗有 262,144 tokens,還能延伸到約 1,000,000 tokens,適合處理長檔案或程式碼專案。它採用 Apache 2.0 授權,方便商業使用、修改和再散佈。不過,支援的語言多、能讀的內容長,不代表回答一定可靠;團隊仍要用自己的資料測試品質,並規劃好要讀哪些檔案、怎麼找資料,以及需要多少運算資源。
hackernews100精選品質評分7979 Dettato 推出音訊轉 MIDI 模型,引數量為 20M
把音樂錄音轉成 MIDI,模型大小和訓練資料都會影響使用方式。作者推出開源模型 Dettato,表示它有 20M 引數,在文中列出的公開基準上,分數高於 MuScriptor 1.3B,也略高於 Mirelo A2M v1.1 Pro。訓練資料使用合成樂器錄音與 URMP 資料集中的 Creative Commons 獨奏樂器錄音,沒有使用受著作權保護的錄音。作者也提醒,模型不擅長正確分開樂器,而且輸出的是節拍對齊的演奏 MIDI,不是可直接演奏的樂譜。
推薦理由:Dettato 用 20M 引數在文中列出的公開基準取得較高分數,也交代了不使用受著作權保護錄音訓練的做法。
The Decoder精選品質評分7777 Alibaba 發布 Qwen4-Max,以較低成本挑戰 Opus 5.5、GPT-6 和 Kimi K3.1 Pro
長時間工作和大量資料會讓 AI 模型花更多時間與費用,Alibaba 推出 Qwen4-Max,主打用較少 token 處理長內容和專業任務。它能直接看圖片,並提供一百萬 token 的上下文視窗;在 Alibaba 的 Work360 測試中,平均每項任務成本從 $4.43 降到 $1.67,分數也從 47.74 升到 52.69。外部評測結果不一:它在長時間 AI 助理任務表現突出,但在部分考試和程式開發測試落後競品。新功能 Live Delivery 會先交出可用的初版,讓使用者途中介入調整。Qwen4-Max 已可透過 QwenCloud 等服務使用,Alibaba 表示之後會開放較小型 Qwen4 模型。
推薦理由:Qwen4-Max 在自家工作任務中以較少 token 降低成本,外部評測表現則有高有低,可看出效率與不同能力之間的取捨。
The New Stack精選品質評分7777 阿里巴巴推出 Qwen4-Max,模型權重目前只能透過線上服務使用
想使用 Qwen4-Max 的開發者,目前得透過線上服務或第三方 API,阿里巴巴還沒有宣佈提供這款模型的下載權重。這款新模型可處理文字和圖片,支援 1M-token 上下文視窗;阿里巴巴表示,它在自家工作任務測試中比前代少用 24% 到 35% 的 token,平均任務成本從 $4.43 降到 $1.67。外部評測則給它 43 分,在 81 款模型中排名第 38。阿里巴巴表示,較小型的 Qwen4 模型會開放權重,但尚未公佈型號和時間。
推薦理由:Qwen4-Max 沒有公佈可下載權重,文章也對照阿里巴巴自家與外部評測,呈現模型表現、使用成本和開放方式的差異。
Dev.to Top Tech品質評分5050 Open Vision Banana 如何把擴散模型變成多用途視覺引擎
做辨識工作的團隊常得為不同任務各自準備模型,還可能花上好幾週收集資料、訓練模型。Open Vision Banana(OVB)把偵測物件、估計深度等工作交給同一個擴散模型處理:使用者用文字說明要找什麼,模型就產生標出目標的結果。文中的例子用它找出倉庫照片裡的棧板和堆高機,不必另外微調模型;在一組有限資料的測試中,辨識表現也接近專門訓練的模型。這種做法能省下不少開發時間,但結果仍會受到提示詞寫法影響。
Hacker News (official RSS)品質評分7474 Unsloth 更新 Qwen3.8-27B 量化模型,並提供本機執行指南
大型 AI 模型常需要很多記憶體,直接在一般電腦上執行不容易。Unsloth 更新了 Qwen3.8-27B 的多種量化版本,並提供在本機執行的指南;作者表示,新版 Dynamic V3.1 在大小相近時,多數基準的準確度提高 5-10%。指南也說明,4-bit 版本約需 16-19GB 記憶體,並介紹如何用 Unsloth Desktop 或 llama.cpp 執行。若使用 NVFP4 版本,則需要 Blackwell GPU,並透過 vLLM 執行。
Runway@runwayml品質評分5656
ModelScope@ModelScope2022品質評分5353
aihot精選品質評分8787 Edge0 開源 Edge0-145B 與 Edge0-120B,推出統一推理框架
Edge0 開源 Edge0-145B、Edge0-120B,並發布統一推理框架與部署工具;公司稱 Edge0-145B 可在相容筆記型電腦上本機執行。
推薦理由:原文列出 Edge0-145B 的基準分數、記憶體與解碼速度,並說明部分基線資料為估算,便於評估其端側部署表現與比較範圍。
Dev.to Top Tech品質評分4444 Darwin-180B-RSI 在 SuperCLUE 11 月數學與科學推理評測奪開源模型第一
B-draft 的開放權重大型語言模型 Darwin-180B-RSI 在 SuperCLUE 11 月數學與科學推理評測獲得 73.68 分,排名開源模型第一、整體第二;其引數規模約為 1,800 億,約為同場 Kimi-K3.1-Pro(63.16 分、2.8 兆引數)的 1/16。
Dev.to Top Tech品質評分5555 Darwin-180B-RSI 如何以 180B 引數在數理與科學推理評測中超越 2.8T 模型
Darwin-180B-RSI 在 SuperCLUE 2026 年 11 月的數理與科學推理評測中取得 73.68 分,文章說明其強項合併與模型級遞迴自我改進方法,並比較模型規模與推論成本。
Dev.to Top Tech精選品質評分7676 Thinking Machines Lab 開放 Inkling 2 Small 權重,採用 Apache 2.0 授權
Thinking Machines Lab 已在 Hugging Face 以 Apache 2.0 授權發布 Inkling 2 Small 完整權重,開放下載、檢視、微調、自行部署與商用再散佈。
推薦理由:Apache 2.0 授權讓商用、微調與再散佈成為可能;約 500GB 至 800GB 的 GPU 記憶體需求,也說明自行部署的硬體門檻。
vLLM Official Blog精選品質評分8585 vLLM 如何在 Vera Rubin NVL72 上提升 DeepSeek-V4.1-Flash 推論效能
vLLM 說明如何在 Vera Rubin NVL72 上部署 DeepSeek-V4.1-Flash,並透過核心最佳化與機架級記憶體池提升服務吞吐量與延遲表現。
推薦理由:文章拆解 Vera Rubin NVL72 上的核心最佳化,並以 AgentX 資料呈現吞吐量、延遲與快取命中率的變化,可供評估大規模模型服務的部署取捨。
Thinking Machines@thinkymachines品質評分5252Hugging Face Blog精選品質評分8282 Granite 4.1 3B 與 8B 推出 LLMON 實驗預覽模型
Granite 4.1 3B 與 8B 推出 LLMON 實驗預覽模型,透過專用標記將指令、資料與要求分開表示,並以執行區塊指定彼此關係。 - 提示注入測試:在 OPI 基準上,LLMON 相較測試中的最佳前沿模型多避免 47% 的攻擊,相較最佳開源模型多避免 95%;在 ASB 與 StruQ 也觀察到類似趨勢。
推薦理由:文章說明 LLMON 如何以明確的指令與資料分隔降低靜態間接提示注入成功率,並交代基準測試範圍與尚在改進的自適應攻擊。
Artificial Analysis@ArtificialAnlys品質評分4040
Dev.to Top Tech精選品質評分7878 NVIDIA 發布 GR00T 2 開放式機器人模型與 Isaac Lab 3.0
NVIDIA 發布 GR00T 2 開放式機器人模型與 Isaac Lab 3.0,聚焦以模擬訓練機器人執行精細操作任務。 - GR00T 2:NVIDIA 表示,模型在 50 項評估任務中,有 40 項至少成功完成一次;每項任務提供 1 次示範時,平均成功率為 71%,提供 5 次時升至 95%。
推薦理由:報導列出模擬基準、訓練效率與早期測試案例,並交代資料來自 NVIDIA 或合作方的模擬評估,可據此辨認成果的適用範圍。