跳到正文

#Hugging Face

RSS
今日 0 則
11月21日週六
  1. The Decoder77

    Thinking Machines 推出 Inkling 2 Mini,讓模型多想幾步也少寫文字

    有些模型得寫出更多文字才能多做推理,Thinking Machines 推出的開放模型 Inkling 2 Mini,改用重複運算部分層的方式,在不多生成文字的情況下延長內部推理。它能處理文字和圖片,並可在記憶體至少 32 GB 的 Mac 上本機執行。Artificial Analysis 的 Intelligence Index 給它 20 分,與 Qwen3.8 27B 同分;Thinking Machines 表示,它在程式開發測試中也有不錯的表現。

    推薦理由:Inkling 2 Mini 透過重複運算部分層來延長內部推理,文章也比較了它在程式測試、速度與成本上的表現。

  2. Dev.to Top Tech64

    Vidraft_lab 發布 POCKET-27B-Pi,24GB 顯示卡可跑的程式開發模型

    程式開發用的 AI 助理得在限時內反覆讀檔、執行指令和檢視結果,模型回覆慢,能嘗試的步驟就會變少。Vidraft_lab 公開 POCKET-27B-Pi,Q4_K_M 版本檔案為 16.5GB,作者表示可用一張 24GB 顯示卡執行。在 Terminal-Bench 2.1 的共同 48 項測試中,它解出 28 項;原始 Qwen3.8-27B 解出 19 項,53.8GB 的原精度 pi 模型解出 21 項。另一組 50 項測試中,POCKET-27B-Pi 每項任務的步數中位數是 15 步,原始權重版本是 36.5 步。這些結果來自作者的測試條件,團隊若要比較其他模型,需使用相同的任務和限時。

  3. Hugging Face Blog83

    Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,主打本機使用

    本機執行大型模型時,模型大小、回答速度和能力常得互相取捨。Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,這款模型能讀文字和圖片,支援 1M-token 上下文視窗;它讓 12 層模型重複運作三次,用較少的實體層數完成更多運算。文章展示了它在本機寫程式、重畫《星夜》和製作分帳網站的成果,也說明如何透過 transformers、llama.cpp 和 MLX 執行。作者表示,它在 48 項基準中的 32 項領先文中列出的其他模型;這些結果來自 Hugging Face 的測試。

    推薦理由:文章以架構說明和實作展示呈現 Inkling 2 Mini 的本機使用方式,也比較它在多項基準上的表現,能看出模型設計與實際應用之間的連結。

  4. Rohan Paul68

    機器人模型通常得先配合特定手臂調整,才能照指令做事。Perceptron AI 在 Hugging Face 上推出 36B 引數的機器人模型版本,每個版本都已針對特定機械手臂微調。使用者下載符合自己手臂的版本後,就能用一般文字下指令,也可以再依自己的工作需求微調。

    推薦理由:這次發布把模型預先調整到不同機械手臂,使用者可下載相符版本,再依自己的任務繼續微調。

11月20日週五
  1. MarkTechPost78

    NVIDIA 推出 Nemotron-Labs-Sigma,包含 14 個連續擴散語言模型檢查點

    文字生成模型通常一步步預測文字,Nemotron-Labs-Sigma 則用連續擴散的方式生成文字。NVIDIA 推出 3B 和 8B 兩種大小、共 14 個開放權重檢查點,包含基礎、指令、精簡步數和自我推測版本。NVIDIA 自行評測中,Sigma-8B 基礎版在六項測試平均為 71.16,略高於 NLD-8B 的 70.22;自我推測版在指定測試環境下,平均速度比自回歸解碼快 3.46 倍。模型需要支援 bfloat16 的 NVIDIA GPU,基礎版上下文長度為 4,096 個 token。

    推薦理由:Sigma 把文字生成放進連續的向量空間,文章也比較了它與離散擴散及自回歸模型的評測結果,呈現新做法的表現差異。

  2. Hugging Face Blog84

    Hugging Face 示範為 Qwen3.8-27B 訓練 AI 助理工具專用介面卡

    通用模型搭配不同 AI 助理工具時,可能會多花時間和 token,解程式問題的表現也不夠好。Hugging Face 團隊把強化學習直接放進 pi、Hermes Agent 和 OpenCode 這三種工具中,分別為 Qwen3.8-27B 訓練介面卡,也把三者合併成一個版本。測試顯示,各自的專用版本在對應工具和程式開發基準上都優於原模型,完成任務時也少用工具;合併版本則能在三種工具中使用。這套流程與訓練資料也公開,讓其他人能照著調整自己的模型和任務。

    推薦理由:這套流程把強化學習放進實際使用的 AI 助理工具中,並比較專用與合併介面卡的成效,可供重現與評估程式開發任務。

11月19日週四
  1. The Decoder72

    OCR 模型辨識書頁文字的成本降到每百萬頁 $130 以下

    把掃描書籍和舊檔案轉成文字,現在花費少了很多。Daniel van Strien 用同一張 GPU 比較了 8 個免費 OCR 模型:最舊的模型每處理 1,000 頁約花 51 美分,最新的 LightOnOCR-3-0.8B 不到 10 美分,依資料種類不同,每百萬頁的 GPU 租用費約為 $65 到 $130。最新模型讀書頁的準確度至少和最舊模型一樣;不過有些模型會在空白頁編出文字,或重複同一段內容。調整頁面大小、讓工作分配更平均和使用較快的 GPU,也能省下不少費用。

  2. Dev.to Top Tech60

    Japan Open Data Lab 推出 ja-address-ner-v1,辨識日文地址並避免猜錯行政區程式碼

    日文地址可能寫得不完整,也可能有同名地區;猜錯行政區程式碼,會讓後續資料出問題。Japan Open Data Lab 推出 ja-address-ner-v1,先從文字找出地址並拆成不同部分,再用字典查詢行政區程式碼。無法唯一判定時,工具會回報「未能判定」,不硬猜。在 5,000 筆合成測試資料中,地址辨識的 span F1 為 0.9983;4,814 筆地址中沒有錯誤指派程式碼,但有些可判定的案例會被拒絕。測試資料都是合成地址,作者提醒,真實地址的表現會較低;使用者還要依公開資料自行建立字典。

  3. Dev.to Top Tech51

    RadixArk 發布 DaisyRose-27B,讓 Qwen3.8-27B 的程式測試分數翻倍

    訓練大型語言模型常要花很多資源,RadixArk 改用免費的 Qwen3.8-27B 做進一步訓練,推出 DaisyRose-27B。團隊花 18 天,用 1,200 個挑選過的任務訓練模型;在 Terminal-Bench 4.1 的測試中,通過率從 5.6% 升到 12.0%。RadixArk 表示,模型在它測試的其他基準也都勝過原版 Qwen。DaisyRose-27B 可免費使用和修改,不過 12.0% 代表它仍會失敗大多數測試任務,而且這些結果來自 RadixArk 自行測試。

  4. Dev.to Top Tech73

    Japan Open Data Lab 推出可在本機偵測日文個資的 ja-pii-ner-v1

    把日文客服訊息或檔案送到雲端去除個資,原始文字也會先離開自己的裝置。Japan Open Data Lab 推出 ja-pii-ner-v1,可透過 ONNX 和 Transformers.js 在瀏覽器或本機 CPU 偵測 18 種個資,再由使用者決定如何遮蔽;模型每份檔案約需 224 毫秒。測試使用的都是合成資料,10,001 份檔案的 F1 為 0.9770,另有 2,068 份不含個資的檔案未出現誤報。組織名稱和特殊格式的密碼較容易漏掉,駕照與護照也沒有公開測試結果,因此這些數字不能代表真實檔案上的完整表現。

  5. Hacker News (official RSS)64

    RadixArk 推出 DaisyRose-27B,Terminal-Bench 4.1 通過率升至 12%

    模型處理需要連續操作好幾步的終端工作時,常會在中途出錯。RadixArk 推出 DaisyRose-27B,從 Qwen3.8-27B 出發,用 1,200 個精挑的長任務進行強化學習;任務會串起多個問題,要求模型逐步推理、安排計畫並執行。團隊表示,這讓模型在 Terminal-Bench 4.1 的 pass@1 通過率從 5.6% 提升到 12.0%。他們也公開 BF16、FP8 和 NVFP4 版本,供大家試用與延伸開發。

  6. Hugging Face Blog61

    RadixArk 發布 DaisyRose-27B,Terminal-Bench 4.1 成績提升

    訓練 AI 助理處理需要長時間、多步驟完成的工作,往往要準備大量任務,也得投入不少 GPU 資源。RadixArk 發布首款模型 DaisyRose-27B,以 Qwen3.8-27B 為基礎,使用 1,200 項整理過的任務進行強化學習訓練。和原始模型相比,它在文中列出的各項基準都拿到較高分;Terminal-Bench 4.1 的 pass@1 從 5.6% 提升到 12.0%。RadixArk 也表示,自家訓練後端比可比的開源訓練器少用 57% GPU 時間。

    推薦理由:DaisyRose-27B 與 Qwen3.8-27B 的多項基準成績可供對照,其中 Terminal-Bench 4.1 的 pass@1 從 5.6% 提升到 12.0%。

  7. MarkTechPost51

    Hugging Face 推出 Qwen3.8-27B 的 pi 程式開發 LoRA

    用大型語言模型寫程式時,模型可能得花很多回合才能完成任務。Hugging Face 的 harness-hub 團隊推出一款為 pi 程式開發工具調整的 LoRA,讓 Qwen3.8-27B 在不開啟思考模式時,也能更有效率地處理程式任務。在 SWE-bench Pro 的測試中,通過率從 39.2% 提高到 64.7%;兩個模型都答對的任務裡,中位數回合數則從 59 回合降到 23 回合。團隊表示,它的準確率接近基礎模型開啟思考模式時的表現,使用的 token 約少 4.5 倍。不過,這些是團隊自行回報的結果,測試使用 pi,題目數也不多。

11月18日週三
  1. Hugging Face Blog64

    Hugging Face 開源 0.5B 語音辨識模型 Rumble-2-Flash

    語音辨識模型常要用很大的模型,才能處理多種語言和吵雜的電話錄音。Hugging Face 開源了 Rumble-2-Flash,這個 0.5B 模型支援 40 多種語言,也能自動判斷語言;它還能設定數字要寫成數字或文字,以及是否保留填充詞和重複內容。在一項 302 小時、涵蓋 14 種英語口音的客服電話測試中,它的錯誤率是 7.86%,接近 30B 的 Nemotron 3.5 Transcribe。模型可透過 Transformers、vLLM 和 Hugging Face API 使用。

    推薦理由:Rumble-2-Flash 在多語言辨識與電話語音測試中,和大上許多的模型比較成績,呈現小型語音模型的實用範圍。

  2. Dev.to Top Tech58

    VIDRAFT 的 Darwin-180B 在 Hugging Face 官方排行榜拿下 12 項第一

    模型在排行榜上的名次常被拿來比較,但只看第一名數量,可能看不出它參加了哪些專案。VIDRAFT 盤點 Hugging Face 標有「benchmark:official」的公開資料,截至 2026 年 11 月 17 日,Darwin-180B 參加了 57 個排行榜中的 15 個,15 項都進入前三名,其中 12 項拿下第一。成績涵蓋科學、數學、檔案辨識與法律等領域;部分第一名是多人並列。它沒有參加另外 42 個排行榜,因此這些成績只反映已參賽專案的表現,不能代表所有領域。

11月14日週六
  1. Rohan Paul71

    大型模型通常需要很多 GPU 記憶體,也要花不少時間訓練。Thinking Machines Lab 開源了 594B 引數的 Inkling 2 Small,採用 4-bit 前向運算訓練;這讓預訓練時間縮短 8%、RL 時間縮短 20%,效率約損失 2%。執行模型時,NVFP4 至少需要 500GB GPU 記憶體,MXFP8 至少需要 800GB;後者在評測上只高出約 1–2 個百分點。團隊也說,訓練從預訓練到最後一次 RL rollout 都維持相同數值設定,因此釋出的 4-bit 模型不需要另外校準。

    推薦理由:這次發布交代了 4-bit 訓練節省的時間與效率代價,也比較 NVFP4 和 MXFP8 的記憶體需求及評測差距。

11月13日週五
  1. Dev.to Top Tech52

    Kronos 如何以 K 線資料預測價格與成交量

    Kronos 是以金融 K 線資料訓練的開源基礎模型,可預測價格與成交量,並提供 BTC/USDT 未來 24 小時的即時示範。 運作方式:專用 tokenizer 先將 OHLCV K 線資料轉為階層式離散 token,再由自回歸 Transformer 預測未來數值;訓練資料來自 45+ 個交易所。 模型與限制:Kronos-mini 有 4.1 million 個引數與 2,048 的上下文長度;Kronos-small 有 24.7 million 個引數,Kronos-base 有 102.3 million 個引數,兩者上下文長度皆為 512。Kronos-large 有 499.2 million 個引數,但未開源。 使用與風險:專案提供預訓練模型、批次預測與微調範例;文章提醒 Kronos 是研究模型,預測不是買賣建議,回測範例也不是可直接用於實際交易的系統。

  2. Hugging Face Blog82

    Granite 4.1 3B 與 8B 推出 LLMON 實驗預覽模型

    Granite 4.1 3B 與 8B 推出 LLMON 實驗預覽模型,透過專用標記將指令、資料與要求分開表示,並以執行區塊指定彼此關係。 - 提示注入測試:在 OPI 基準上,LLMON 相較測試中的最佳前沿模型多避免 47% 的攻擊,相較最佳開源模型多避免 95%;在 ASB 與 StruQ 也觀察到類似趨勢。

    推薦理由:文章說明 LLMON 如何以明確的指令與資料分隔降低靜態間接提示注入成功率,並交代基準測試範圍與尚在改進的自適應攻擊。

11月11日週三
11月10日週二
11月9日週一
11月8日週日
  1. Dev.to Top Tech82

    VIDRAFT 公開 Darwin-180B-RSI-R3 推理模型權重

    VIDRAFT 公開 Darwin-180B-RSI-R3 的模型權重;這款以遞迴自我改進訓練的 180B MoE 模型,在 SuperCLUE 2026 年 11 月數學與科學推理評測中得分 73.68,排名開放權重模型第一、整體第二。

    推薦理由:Darwin-180B-RSI-R3 在數學與科學推理評測中的分數高於基礎模型,並提供公開權重;文中也呈現其長上下文與指令遵循的弱項。

11月7日週六
11月6日週五