跳到正文

#Hugging Face

RSS
今日 1 則
今天11月23日週一
  1. Dev.to Top Tech80

    OpenRouter 移除 125 個零資料保留端點,並下架三家推論供應商

    零資料保留(ZDR)標示不一定代表請求經過的每家公司都不會留存資料。Dragos 在約兩百萬次提示詞中放入假的追蹤資料,表示有些被取走的請求帶有 ZDR 標示;OpenRouter 則說,調查沒有發現 OpenRouter 本身遭到入侵,並已下架三家供應商、移除 125 個端點的 ZDR 資格,也通知可能受影響的客戶。文章整理了 Novita、Phala 和 Together AI 各自公告的事件與處理方式,並提醒使用者檢查隱私設定、確認請求會送到哪些端點;Novita 和 Phala 也建議更換曾放進受影響請求的密碼或金鑰。

    推薦理由:這篇文章把研究者的測試、平臺回應與三家供應商公告分開整理,能看出零資料保留標示涵蓋到哪一段請求路徑。

11月22日週日
  1. Dev.to Top Tech57

    Dev.to 整理多家公司 AI 助理職缺,示範如何用 AI 助理搜尋

    想找 AI 助理相關工作,光靠逐一檢視公司徵才頁面很花時間。作者從 OpenJob 公開索引抽出 5,107 個職稱,以關鍵字找出 76 個相關職缺,其中 42 個是在最近 60 天刊出的;Cloudflare、Stripe、Scale AI、Reddit 和 Hugging Face 等公司都有職缺。文章也示範用 AI 助理讀取索引,或透過 MCP 搜尋職缺。這些數字只代表索引裡的資料,不等於公司目前仍在招募。

  2. Dev.to Top Tech62

    VIDRAFT 如何重現黎曼猜想的 Lean 形式化證明

    數學證明就算寫成電腦能檢查的形式,也需要確認檔案能否完整編譯,以及最後的定理依賴哪些假設。VIDRAFT 下載並重新編譯一份以 Lean 撰寫的黎曼猜想證明,共檢查 175,187 個檔案,沒有編譯錯誤;Lean 核心也顯示,定理只依賴 Lean 和 Mathlib 的三個標準公理,沒有使用 sorry 或額外公理。作者另做了一個互動工具,用數值計算展示 Weil 二次型在五個真正的 L 函式與三個仿造例子上的正負差異。這些計算展示了相關性質,形式化證明則由 Lean 編譯與檢查。

11月21日週六
  1. Hugging Face Transformers Releases66

    Hugging Face Transformers v5.24.0 加入多種模型支援並調整快取名稱

    要在 Transformers 裡使用新模型,或讓不同模型共用一套程式,開發者常得處理各自不同的介面。v5.24.0 加入 Inkling 2 Mini、Apertus 1.5、Dory 和 Omnilingual ASR 等模型支援,也把原本依模型而異的 past_key_values 和 cache_params 統一改叫 cache;舊名稱目前仍可使用,但會出現棄用提醒。這次更新也修正了文字串流在中文、日文和韓文內容中可能漏空格或變慢的問題。

    推薦理由:Transformers v5.24.0 一次加入多種模型支援,也統一了快取名稱;更新內容能幫開發者掌握新模型接入與舊程式需要調整的地方。

  2. Dev.to Top Tech62

    MegaBit Trajectories 公開 66 段 Python AI 助理實際工作紀錄

    訓練 AI 助理的資料如果只留下正確答案,模型就看不到工作中常遇到的錯誤和重試。作者公開 MegaBit Trajectories,收錄 66 段 Python 程式專案的完整工作紀錄,包括工具指令、錯誤訊息、測試失敗和後續修正;每段紀錄最後的測試都通過,也附有檢查工具,讓使用者確認下載的資料是否完整。作者也列出和其他公開資料集比較後的限制:這份資料的專案數較少,最長的錯誤重試過程也較短,目前尚未公佈訓練成果。

  3. The Decoder77

    Thinking Machines 推出 Inkling 2 Mini,讓模型多想幾步也少寫文字

    有些模型得寫出更多文字才能多做推理,Thinking Machines 推出的開放模型 Inkling 2 Mini,改用重複運算部分層的方式,在不多生成文字的情況下延長內部推理。它能處理文字和圖片,並可在記憶體至少 32 GB 的 Mac 上本機執行。Artificial Analysis 的 Intelligence Index 給它 20 分,與 Qwen3.8 27B 同分;Thinking Machines 表示,它在程式開發測試中也有不錯的表現。

    推薦理由:Inkling 2 Mini 透過重複運算部分層來延長內部推理,文章也比較了它在程式測試、速度與成本上的表現。

  4. Dev.to Top Tech49

    為什麼位元答對率變高,算出的總和還是錯?

    電腦加法時,前一位留下的進位會影響下一位。這個實驗比較同一個神經網路的兩種演算法:一種會把前一步的狀態帶到下一步,另一種每算一位就把狀態清空。算 1 + 15 時,保留狀態的版本答對 16;清空狀態的版本卻算成 14。把數字補上很多前面的零後,清空狀態的版本雖然答對更多位元,整個答案仍是錯的。 在整理的 64,856 個案例中,保留狀態的版本全部答對;清空狀態的版本只答對 6,290 題。這說明位元答對率可能被大量容易答對的零拉高,不能代表整個算式正確。研究結果只適用於這次測試的網路和案例,也提醒我們,實際計算仍應使用精確的整數運算。

  5. Dev.to Top Tech64

    Vidraft_lab 發布 POCKET-27B-Pi,24GB 顯示卡可跑的程式開發模型

    程式開發用的 AI 助理得在限時內反覆讀檔、執行指令和檢視結果,模型回覆慢,能嘗試的步驟就會變少。Vidraft_lab 公開 POCKET-27B-Pi,Q4_K_M 版本檔案為 16.5GB,作者表示可用一張 24GB 顯示卡執行。在 Terminal-Bench 2.1 的共同 48 項測試中,它解出 28 項;原始 Qwen3.8-27B 解出 19 項,53.8GB 的原精度 pi 模型解出 21 項。另一組 50 項測試中,POCKET-27B-Pi 每項任務的步數中位數是 15 步,原始權重版本是 36.5 步。這些結果來自作者的測試條件,團隊若要比較其他模型,需使用相同的任務和限時。

  6. Hugging Face Blog83

    Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,主打本機使用

    本機執行大型模型時,模型大小、回答速度和能力常得互相取捨。Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,這款模型能讀文字和圖片,支援 1M-token 上下文視窗;它讓 12 層模型重複運作三次,用較少的實體層數完成更多運算。文章展示了它在本機寫程式、重畫《星夜》和製作分帳網站的成果,也說明如何透過 transformers、llama.cpp 和 MLX 執行。作者表示,它在 48 項基準中的 32 項領先文中列出的其他模型;這些結果來自 Hugging Face 的測試。

    推薦理由:文章以架構說明和實作展示呈現 Inkling 2 Mini 的本機使用方式,也比較它在多項基準上的表現,能看出模型設計與實際應用之間的連結。

  7. Dev.to Top Tech55

    115 個開源 PR 合併後,作者整理出維護者看重的貢獻方式

    開源專案的程式碼就算能修好問題,也不一定會被維護者合併。作者整理自己用 superhuman 提交的 115 個 PR 和審查留言,發現關鍵常在程式碼以外:先確認專案接受外部貢獻、沒有人已在處理同一問題,並照專案慣用的格式寫說明、附上測試。送出後也要盡快回覆審查意見;有時維護者會接手最後的修改,合併修正並保留貢獻者署名。這些經驗顯示,AI 助理參與寫程式時,也得遵守開源社群原有的合作方式。

  8. Thomas Wolf59

    一般 CDN 擅長把許多小檔案送給各地使用者,但下載 AI 模型時,常是少數大型檔案被大量機器抓取,舊的做法就不太合用。Hugging Face 表示,他們從今年夏天起自建 CDN,每月傳送近 1 exabyte,實際流量約為每秒 420 GB、每秒 80,000 次請求。新的快取設計是為大型檔案、發布日流量暴增,以及多個熱門模型和大型資料集同時下載而打造,團隊也做了即時流量地圖。

  9. Rohan Paul68

    機器人模型通常得先配合特定手臂調整,才能照指令做事。Perceptron AI 在 Hugging Face 上推出 36B 引數的機器人模型版本,每個版本都已針對特定機械手臂微調。使用者下載符合自己手臂的版本後,就能用一般文字下指令,也可以再依自己的工作需求微調。

    推薦理由:這次發布把模型預先調整到不同機械手臂,使用者可下載相符版本,再依自己的任務繼續微調。

11月20日週五
  1. Dev.to Top Tech54

    如何測試 AI 助理處理金錢對話的表現?

    談到債務、帳戶受限或詐騙求助時,AI 助理若把猜測說成事實,可能讓人更慌,也可能答應了其實沒做到的事。作者分享幾種測試情境,例如確認助理會不會亂猜帳戶何時解鎖、聲稱已停止簡訊聯絡卻沒有真的更新系統,以及遇到急迫求助時是否知道該交給真人處理。作者也提供免費預覽資料集,包含情境說明和 4 個完整案例。這些案例是虛構素材,不是評測基準;做得好或不好,都不能單獨代表模型是否適合正式使用。

  2. MarkTechPost78

    NVIDIA 推出 Nemotron-Labs-Sigma,包含 14 個連續擴散語言模型檢查點

    文字生成模型通常一步步預測文字,Nemotron-Labs-Sigma 則用連續擴散的方式生成文字。NVIDIA 推出 3B 和 8B 兩種大小、共 14 個開放權重檢查點,包含基礎、指令、精簡步數和自我推測版本。NVIDIA 自行評測中,Sigma-8B 基礎版在六項測試平均為 71.16,略高於 NLD-8B 的 70.22;自我推測版在指定測試環境下,平均速度比自回歸解碼快 3.46 倍。模型需要支援 bfloat16 的 NVIDIA GPU,基礎版上下文長度為 4,096 個 token。

    推薦理由:Sigma 把文字生成放進連續的向量空間,文章也比較了它與離散擴散及自回歸模型的評測結果,呈現新做法的表現差異。

  3. Dev.to Top Tech73

    Qwen3-4B 裝置端教學:32K 上下文的 KV cache 比 Q4_K_M 權重更吃記憶體

    在手機或筆電上跑長篇對話時,模型檔案大小不一定是最吃記憶體的部分。這篇以 Qwen3-4B 說明,Q4_K_M 權重檔是 2.50 GB,但 32K 上下文搭配 f16 KV cache 需要 4.50 GiB;改用 q8_0 或 q4_0,cache 用量會降到 2.39 GiB 或 1.27 GiB。作者也教人從模型設定估算每個 token 的用量,再依產品實際允許的最長上下文挑選 cache 格式,並用固定提示詞比較結果、在目標裝置量測記憶體。量化 cache 會近似原值,是否合用仍要實際測試。

  4. Dev.to Top Tech35

    Darwin 在 Hugging Face 的 17 項排名都進前三,拿下 12 個第一

    Hugging Face 的排名會隨著新結果加入而改變,所以光看第一名有幾個,還要留意領先多少。作者在 11 月 20 日重新查詢公開資料,發現 VIDRAFT 的模型參加了 17 項排名,每項都在前三名,其中 12 項排名第一;11 月 17 日時,則是參加 15 項、拿下 12 個第一。 計算時,遇到同分第一會讓並列的模型都算第一。例如 AIME 2026 有兩個模型同得 100 分,因此兩邊都列為第一。各項排名的領先幅度也不同:MDPBench 只領先 0.05 分,LEXam 則領先 16.53 分。這些名次和分數可能隨新結果變動,因此比較排名時,也要看清楚資料日期和同分的演算法。

  5. Dev.to Top Tech64

    Sumama-Jameel 公開 66 段真實程式開發過程,讓 AI 助理學會從錯誤中修正

    只看最後寫好的程式碼,AI 助理學不到遇到錯誤後怎麼繼續。Sumama-Jameel 整理出 66 段實際執行的程式開發過程:AI 助理在 Docker 沙盒裡處理真實專案任務,使用工具、碰到錯誤再修正,工具輸出和失敗紀錄都保留下來。每段資料都會檢查專案測試,也能在自己的電腦上重新驗證。作者公開與四份大型資料集的比較,並說明這份資料在規模和部分指標上落後;用它訓練的小型模型有一項分數從 43% 升到 80%,其他分數則退步。

  6. Hugging Face Blog84

    Hugging Face 示範為 Qwen3.8-27B 訓練 AI 助理工具專用介面卡

    通用模型搭配不同 AI 助理工具時,可能會多花時間和 token,解程式問題的表現也不夠好。Hugging Face 團隊把強化學習直接放進 pi、Hermes Agent 和 OpenCode 這三種工具中,分別為 Qwen3.8-27B 訓練介面卡,也把三者合併成一個版本。測試顯示,各自的專用版本在對應工具和程式開發基準上都優於原模型,完成任務時也少用工具;合併版本則能在三種工具中使用。這套流程與訓練資料也公開,讓其他人能照著調整自己的模型和任務。

    推薦理由:這套流程把強化學習放進實際使用的 AI 助理工具中,並比較專用與合併介面卡的成效,可供重現與評估程式開發任務。

  7. Dev.to Top Tech64

    Accelerate 訓練只用到一張 GPU?教你找出設定問題

    租用多張 GPU 訓練時,工作可能看起來正常,實際上卻只用到一張,其他 GPU 閒著,讓訓練變慢,也白白增加費用。原因可能是 Accelerate 設定檔中的 num_processes 設成 1;它會照設定啟動程式,不會自動用上所有 GPU。作者建議先用 nvidia-smi 檢視 GPU 數量,再檢查設定檔,也可以在啟動時用 --num_processes 指定數量。ComputeFence 目前會提醒找不到設定檔,但還不會檢查設定的程式數是否和 GPU 數量相符;有些工作本來就會刻意少用 GPU,仍要依實際需求判斷。

  8. Together AI65

    GPU 叢集從雲端物件儲存讀取資料時,下載速度可能拖慢工作。Together AI 推出免費的儲存加速器,會把 S3 相容儲存空間和 Hugging Face 的資料快取到叢集的 NVMe。每個叢集只需從來源下載一次,之後暖讀取速度最高可達 3.4 GB/s,約比跨雲端下載快 20 倍;原文也表示不用修改程式碼。

    推薦理由:原文提供了暖讀取速度與跨雲端下載的比較,可用來瞭解快取對 GPU 叢集讀取資料速度的影響。

  9. The New Stack76

    AAIF 技術長談 AI 助理工具為何還會持續變動

    不同 AI 助理要一起工作時,常會遇到工具格式不合、工作紀錄接不上,還可能被綁在同一家模型廠商。AAIF 技術長 Manik Surtani 受訪時談到,Anthropic 的 Agent Skills、OpenAI 的 Open Responses、Hugging Face 的 OpenEnv 和 OpenSandbox 加入 AAIF,讓這些專案能在中立治理下發展。Agent Skills 可讓不同支援格式的 AI 助理共用任務指示;Open Responses 則提供應用程式和語言模型交換請求與結果的共同規格。Surtani 認為,AI 助理的工具與工作方式還在變,團隊可用標準介面或代理程式降低對單一模型廠商的依賴,也應設法讓工作背景能在不同 AI 助理之間接續。

    推薦理由:AAIF 負責人談到代理工具加入中立治理後的變化,也說明記憶移轉與模型相容仍是開發團隊需要面對的問題。

11月19日週四
  1. Y Combinator58

    前沿 AI 進步很快,政府該不該出手放慢發展,成了這場辯論的核心問題。曾在 Anthropic 和 OpenAI 做研究的 Jacob Coxon,與經濟學家 Robin Hanson 各自說明看法,談到 AI 可能帶來的風險、工作自動化,以及政府該如何訂規則。兩人也討論用責任制度取代部分管制、監管算力的影響,以及 AI 實驗室是否需要類似 FAA 的監管機構。這場對談呈現了減速與監管主張背後不同的考量。

  2. Dev.to Top Tech42

    LLM 評測從看模型怎麼回答,走向檢查 AI 助理實際做了什麼

    只看模型說得好不好,可能看不出它真的動手時會不會做出危險選擇,也看不出它的判斷有沒有根據。這週介紹的 ViKernel Scanner 讓 20 個開放權重模型使用模擬工具,檢查它們實際嘗試做的事;20 個模型都沒通過安全檢查。另一項研究則提出讓 AI 評審先找證據再下判斷。這些做法提醒大家,評估 AI 助理時,除了看回答,也要檢查它做了什麼、根據什麼做決定。

  3. The Decoder72

    OCR 模型辨識書頁文字的成本降到每百萬頁 $130 以下

    把掃描書籍和舊檔案轉成文字,現在花費少了很多。Daniel van Strien 用同一張 GPU 比較了 8 個免費 OCR 模型:最舊的模型每處理 1,000 頁約花 51 美分,最新的 LightOnOCR-3-0.8B 不到 10 美分,依資料種類不同,每百萬頁的 GPU 租用費約為 $65 到 $130。最新模型讀書頁的準確度至少和最舊模型一樣;不過有些模型會在空白頁編出文字,或重複同一段內容。調整頁面大小、讓工作分配更平均和使用較快的 GPU,也能省下不少費用。

  4. Dev.to Top Tech60

    Japan Open Data Lab 推出 ja-address-ner-v1,辨識日文地址並避免猜錯行政區程式碼

    日文地址可能寫得不完整,也可能有同名地區;猜錯行政區程式碼,會讓後續資料出問題。Japan Open Data Lab 推出 ja-address-ner-v1,先從文字找出地址並拆成不同部分,再用字典查詢行政區程式碼。無法唯一判定時,工具會回報「未能判定」,不硬猜。在 5,000 筆合成測試資料中,地址辨識的 span F1 為 0.9983;4,814 筆地址中沒有錯誤指派程式碼,但有些可判定的案例會被拒絕。測試資料都是合成地址,作者提醒,真實地址的表現會較低;使用者還要依公開資料自行建立字典。

  5. Dev.to Top Tech51

    RadixArk 發布 DaisyRose-27B,讓 Qwen3.8-27B 的程式測試分數翻倍

    訓練大型語言模型常要花很多資源,RadixArk 改用免費的 Qwen3.8-27B 做進一步訓練,推出 DaisyRose-27B。團隊花 18 天,用 1,200 個挑選過的任務訓練模型;在 Terminal-Bench 4.1 的測試中,通過率從 5.6% 升到 12.0%。RadixArk 表示,模型在它測試的其他基準也都勝過原版 Qwen。DaisyRose-27B 可免費使用和修改,不過 12.0% 代表它仍會失敗大多數測試任務,而且這些結果來自 RadixArk 自行測試。

  6. Dev.to Top Tech73

    Japan Open Data Lab 推出可在本機偵測日文個資的 ja-pii-ner-v1

    把日文客服訊息或檔案送到雲端去除個資,原始文字也會先離開自己的裝置。Japan Open Data Lab 推出 ja-pii-ner-v1,可透過 ONNX 和 Transformers.js 在瀏覽器或本機 CPU 偵測 18 種個資,再由使用者決定如何遮蔽;模型每份檔案約需 224 毫秒。測試使用的都是合成資料,10,001 份檔案的 F1 為 0.9770,另有 2,068 份不含個資的檔案未出現誤報。組織名稱和特殊格式的密碼較容易漏掉,駕照與護照也沒有公開測試結果,因此這些數字不能代表真實檔案上的完整表現。

  7. Dev.to Top Tech54

    Smart Online Tools 如何打造 80 多種免上傳檔案的瀏覽器工具

    想合併 PDF、辨識圖片文字或翻譯內容,又不想把檔案傳到別人的伺服器,該怎麼做?Smart Online Tools 作者分享了打造 80 多種免費瀏覽器工具的方式,讓 PDF、圖片和 AI 處理都在使用者的裝置上完成。AI 工具會在使用者點選後才下載需要的模型,並把模型留在瀏覽器快取中;例如語音轉文字模型約 80 MB,圖片替代文字模型約 250–450 MB。作者也把運算移到背景工作執行緒,避免頁面卡住,並提醒使用者小型模型的準確度可能不如大型雲端服務。

  8. Dev.to Top Tech53

    AI 每日整理:NVIDIA 營收創高,OpenAI 用 GPT-6 Astra 探索物理難題

    這份整理收錄了多則 AI 產業、產品和研究訊息。NVIDIA 公佈單季營收 1158 億美元,OpenAI 則分享研究人員如何與 GPT-6 Astra 合作,提出標準模型晶格定義的候選方案;這仍是候選結果,部分問題尚未解決。其他訊息包括 Claude Code Projects 增加進度通知、影片世界模型在 FlipTest 測試中表現不佳,以及 Gemini Robotics 2.5 在 Franka FR3 Duo 雙臂機器人上原生運作。

  9. Dev.to Top Tech46

    Zero-Server AI 如何在瀏覽器裡用 WebGPU 跑大型語言模型和搜尋資料

    用雲端 AI 助理時,每次提問都可能增加費用,私人的檔案也得傳到外部伺服器。Zero-Server AI 把模型和資料搜尋搬到使用者的瀏覽器,利用電腦裡的 GPU 處理工作;檔案可以留在本機,網路中斷時也能使用。像找出筆記中和問題最相關的段落,再交給模型整理答案,就能在瀏覽器裡完成。 這種做法不需要每次提問都付模型使用費,也能減少私人資料外傳。文章提到,小型模型在 Apple Silicon 電腦上每秒約可產生 90 個 token;不過能處理多大的模型,仍要看使用者的電腦效能。

  10. Hacker News (official RSS)64

    RadixArk 推出 DaisyRose-27B,Terminal-Bench 4.1 通過率升至 12%

    模型處理需要連續操作好幾步的終端工作時,常會在中途出錯。RadixArk 推出 DaisyRose-27B,從 Qwen3.8-27B 出發,用 1,200 個精挑的長任務進行強化學習;任務會串起多個問題,要求模型逐步推理、安排計畫並執行。團隊表示,這讓模型在 Terminal-Bench 4.1 的 pass@1 通過率從 5.6% 提升到 12.0%。他們也公開 BF16、FP8 和 NVFP4 版本,供大家試用與延伸開發。

  11. Hugging Face Blog61

    RadixArk 發布 DaisyRose-27B,Terminal-Bench 4.1 成績提升

    訓練 AI 助理處理需要長時間、多步驟完成的工作,往往要準備大量任務,也得投入不少 GPU 資源。RadixArk 發布首款模型 DaisyRose-27B,以 Qwen3.8-27B 為基礎,使用 1,200 項整理過的任務進行強化學習訓練。和原始模型相比,它在文中列出的各項基準都拿到較高分;Terminal-Bench 4.1 的 pass@1 從 5.6% 提升到 12.0%。RadixArk 也表示,自家訓練後端比可比的開源訓練器少用 57% GPU 時間。

    推薦理由:DaisyRose-27B 與 Qwen3.8-27B 的多項基準成績可供對照,其中 Terminal-Bench 4.1 的 pass@1 從 5.6% 提升到 12.0%。

  12. Hugging Face Blog62

    Hugging Face 團隊用 272 次微調紀錄預測 GPU 工作時間

    共享 GPU 叢集很難排工作:微調任務若提早或延後結束,都會影響其他工作,單靠運算量公式也常估不準。Hugging Face 團隊整理 272 次實際監督式微調紀錄,用工作設定和模型資料訓練 CatBoost,預測任務從取得 GPU 到完成所需的時間。交叉驗證中,平均誤差約 1.71 小時;工作時間在 60 小時以內時,誤差通常較小,超過 60 小時的少數任務則較難預測。這套模型使用 H200 資料訓練,不能直接當成其他 GPU 的時間估算。

    推薦理由:文章比較公式估算與機器學習預測,呈現評估和檢查點設定如何影響 GPU 工作時間,也指出長時間任務的誤差較大。

  13. Hugging Face Blog78

    作者用 Transformers 在 32 GB Mac 上執行 180B MoE 模型

    大型 MoE 模型的專家權重很佔空間,往往放不進一般筆電的記憶體。作者替 Transformers 加上串流載入方式,只從 SSD 讀取模型當下挑中的專家,並用有限大小的快取保留常用部分;其他權重和 n-gram 資料也分別處理,讓 Qwen3.8-Flash-Next 能在 32 GB 的 Mac 上執行。經過調整後,短文字生成速度是每秒 13.9 個 token,和 Strata 的每秒 14.8 個接近。作者也指出,剩下的速度差距主要和 Python 與 GPU 之間的等待有關。

    推薦理由:作者比較多種 MoE 推論引擎,並實測如何只載入當下用到的專家,讓大型模型在 32 GB Mac 上運作。

  14. MarkTechPost51

    Hugging Face 推出 Qwen3.8-27B 的 pi 程式開發 LoRA

    用大型語言模型寫程式時,模型可能得花很多回合才能完成任務。Hugging Face 的 harness-hub 團隊推出一款為 pi 程式開發工具調整的 LoRA,讓 Qwen3.8-27B 在不開啟思考模式時,也能更有效率地處理程式任務。在 SWE-bench Pro 的測試中,通過率從 39.2% 提高到 64.7%;兩個模型都答對的任務裡,中位數回合數則從 59 回合降到 23 回合。團隊表示,它的準確率接近基礎模型開啟思考模式時的表現,使用的 token 約少 4.5 倍。不過,這些是團隊自行回報的結果,測試使用 pi,題目數也不多。

11月18日週三
  1. Hugging Face Blog64

    Hugging Face 開源 0.5B 語音辨識模型 Rumble-2-Flash

    語音辨識模型常要用很大的模型,才能處理多種語言和吵雜的電話錄音。Hugging Face 開源了 Rumble-2-Flash,這個 0.5B 模型支援 40 多種語言,也能自動判斷語言;它還能設定數字要寫成數字或文字,以及是否保留填充詞和重複內容。在一項 302 小時、涵蓋 14 種英語口音的客服電話測試中,它的錯誤率是 7.86%,接近 30B 的 Nemotron 3.5 Transcribe。模型可透過 Transformers、vLLM 和 Hugging Face API 使用。

    推薦理由:Rumble-2-Flash 在多語言辨識與電話語音測試中,和大上許多的模型比較成績,呈現小型語音模型的實用範圍。

  2. The Decoder79

    Hugging Face 改用 OpenRouter 分派模型請求,可選最快或最便宜的供應商

    開發者使用語言模型時,常要自己挑供應商,也可能遇到服務中斷。Hugging Face 現在透過 OpenRouter 分派模型請求,預設會依價格、速度和可靠度挑選供應商,遇到中斷時也會自動改用其他供應商;原有程式碼不必修改。開發者可用「:fastest」選吞吐量最高的供應商、用「:cheapest」選價格最低的供應商,也能直接指定供應商。OpenRouter 表示,採用新路由後,容量錯誤減少 46%,首個 token 出現時間改善 16.9%,吞吐量增加 16.3%。Hugging Face 會代為處理帳單,語言模型供應商的自備 API 金鑰不再適用,但圖片和影片服務仍可使用。

    推薦理由:Hugging Face 改由 OpenRouter 按價格、速度與可靠度分派模型請求,文中也提供切換供應商的方式與效能變化,能看出路由調整對開發者使用體驗的影響。

  3. Dev.to Top Tech60

    用 Python 重算 Hugging Face 榜單,檢查 Darwin 拿下 12 項第一

    AI 模型的排行榜會隨新成績變動,遇到同分時,排名也可能因計算方式不同而改變。作者用 Python 查詢 Hugging Face 的公開資料,重算各組織的第一名、前三名和參賽數,核對 Darwin 拿下 12 項第一、參加的 15 項評測都進前三名。文章也示範把同分視為並列第一;若直接照用 API 提供的名次,AIME 2026 的並列結果就會漏算。

  4. The New Stack69

    Hugging Face 改用 OpenRouter 路由語言模型請求

    Hugging Face 原本要靠自己的系統,把語言模型請求交給不同服務商;如果選中的服務商出問題,請求就會失敗。現在 Hugging Face 接上 OpenRouter,遇到服務商過載或沒有回應時,可以改送給其他服務商並重試。這項整合已涵蓋 38 家 AI 研究機構的 160 個模型,開發者也能比較價格、速度和近期可用情況,或設定優先省錢、優先快速回覆。請求費用改由 Hugging Face 收取,開發者不能再透過 Hugging Face 使用自己的第三方服務商 API 金鑰;圖片、影片和音訊生成則仍使用原有系統。