跳到正文

#Hugging Face

RSS
今日 0 則
10月22日週四
  1. NVIDIA Blog84

    NVIDIA Cosmos 開啟新工具,協助訓練、評估與部署世界模型

    NVIDIA Cosmos 於近日推出一系列新工具與藍圖,旨在加速世界模型的訓練、評估與部署。 - Cosmos Data Factory:提供多模態、跨感官資料標註、增強與評估的雲端原型,支援自動駕駛、工業檢測等多種場景。

    推薦理由:NVIDIA Cosmos 透過新工具與藍圖,讓企業可快速生成多模態訓練資料,並大幅縮短自動駕駛測試週期。

  2. AWS Machine Learning Blog72

    使用 torchtitan 在 AWS Trainium 上訓練 Qwen3

    Qwen3 可在 AWS Trainium 上透過 torchtitan 執行訓練,本文提供三種配置方式與完整指令。 - 三種配置:使用 Transformers v5、torchtitan 原生 Qwen3、以及 NKI Mixture‑of‑Experts kernels。

    推薦理由:提供完整步驟,示範如何在 AWS Trainium 上使用 torchtitan 執行 Qwen3 訓練,對於工程師具有實務參考價值。

  3. PyTorch Blog77

    TorchTitan 更新:支援新 SOTA 模型、擴充套件大規模訓練效能與 TitanRL 功能

    TorchTitan 以 PyTorch 原生實現,提供 SOTA 模型支援與大規模訓練效能,讓研究者與產業可在同一框架下快速落地。 - 新模型支援:Muse Spark Open、Muse Glimmer、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3、DeepSeek-V4 全訓練堆疊整合,並可透過 5D 並行化調整硬體。

    推薦理由:TorchTitan 以 PyTorch 原生實現,提供 SOTA 模型支援與大規模訓練效能,讓研究者與產業可在同一框架下快速落地。

  4. Hugging Face Blog82

    NVIDIA Kumo Relational 零訓練即時預測,超越傳統監督式機器學習

    Kumo Relational 是一個預訓練關係型基礎模型,能在不需要任務特定訓練的情況下,直接對企業資料庫進行一次前向推論,預測流失、需求或詐騙等結果。

    推薦理由:Kumo Relational 以零訓練即時預測,顯示基礎模型可直接取代傳統 XGBoost,對企業資料科學流程帶來顯著效率提升,並提供可即時部署的開源框架。

  5. Hugging Face Blog88

    VocabX:成本加權詞彙最佳化能將單域 LLM 推理成本降低 77%

    VocabX 是一種成本加權詞彙最佳化方法,針對單域 LLM 在實際應用中可將推理成本降低 77%。 - 模型:以 Qwen3-4B 為基礎,維持 4B 引數,未改變模型權重。

    推薦理由:VocabX 透過成本加權詞彙最佳化,實驗證明可將推理成本降低 77%,同時提升評分 15%,並保持原始模型精度。

10月21日週三
  1. Hugging Face Blog80

    發布 SimReady Central:機器人與 AI 工廠的開源 3D 資產庫

    導語:SimReady Central 是 Hugging Face 推出的開源 3D 資產庫,提供 2,000+ 具備碰撞、質量等物理屬性的 OpenUSD 模型,讓機器人與 AI 工廠開發者可直接構建模擬環境。

    推薦理由:SimReady Central 供 2,000+ 具備碰撞、質量屬性的 3D 資產,開發者可在 Hugging Face 構建 AI 工廠與機器人模擬,省去手動新增屬性的繁瑣。

  2. AWS Machine Learning Blog76

    微調 GPT‑OSS‑20B 於 Amazon SageMaker HyperPod 上的多語言推理

    本文示範如何在 Amazon SageMaker HyperPod 上使用 SFT 與 GRPO 微調 GPT‑OSS‑20B,使其在多語言推理任務中的推理語言正確率從 22% 提升至 100%,並在答案語言上提升至 70%。

    推薦理由:本篇示範如何在 SageMaker HyperPod 上使用 SFT 與 GRPO 微調 GPT-OSS-20B,並揭示兩種技術的適用場景,對想要提升多語言推理模型的實務團隊具有參考價值。

  3. Hugging Face Blog82

    Hugging Face 推出 TorchTPU:PyTorch 原生支援 TPU

    TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層。 - 核心功能:新增 TPU 作為 PyTorch 後端,支援 eager 與 torch.compile,提供 Pallas kernels、分散式訓練。

    推薦理由:TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層,提升開發效率與推理速度。

  4. Hugging Face Blog80

    ALTK‑Evolve:學習式記憶在客戶服務基準上超越前沿模型

    ALTK‑Evolve 透過自動提取規則,將 GPT‑4.1 轉化為在 τ²‑bench 客戶服務基準上領先的代理,無需權重更新。 - 核心成效:零售領域 Pass^4 從 57.5% 提升至 67.5%,航空領域從 35.0% 提升至 45.0%;在整體排行榜上位居首位。

    推薦理由:本研究展示了透過自動提取規則而無需權重更新,將舊版 GPT‑4.1 轉化為領先客戶服務基準的能力,說明提示級記憶可顯著提升多模態代理。

10月20日週二
  1. Hugging Face Blog73

    AnyLanguageModel 1.0:一年後於 Apple 平臺推出本地模型功能

    AnyLanguageModel 1.0 於 Apple 平臺推出,提供單一 API 同時支援本地與雲端模型,降低實作複雜度。 - API 相容性:將 import FoundationModels 換成 import AnyLanguageModel,即可使用系統模型、llama.cpp、MLX、Core ML 等。

    推薦理由:AnyLanguageModel 1.0 讓開發者可在 Apple 平臺以單一 API 同時使用本地與雲端模型,降低實作複雜度。

  2. Hacker News (official RSS)47

    **title_zh:**

    Abliterated Models 如何讓你被攻擊 summary_zh: Abliterated Models 讓你被攻擊。 - 背後機制:通過「abliteration」將模型中拒絕回答的權重減去,讓模型在安全調校時會回答本應拒絕的請求。

  3. Hugging Face Transformers Releases39

    Hugging Face Transformers v5.20.2 修補版本發布

    Hugging Face Transformers 發布 v5.20.2 修補版本,修正 generate 的 prepare_inputs_for_generation 過程中部分輸入可能失去原始型別的問題,避免多模態模型因此出錯。 其他修正:包含修正 bfloat16 搭配 expert parallelism、且 ep_size < fsdp_size 時的零專家梯度問題;宣告僅回報文字的 VLM 輸入模態;以及避免 eager_mask 中的 host-to-device 複製。

10月19日週一
10月17日週六
10月16日週五
  1. AWS Machine Learning Blog74

    Reflection Beam:AWS 推出可開源權重的 Agentic Coding 模型

    Reflection Beam 是一款 501B 引數、23B 活躍引數的開源權重模型,針對 Agentic Coding 與多步驟工作流程設計。 - 核心規格:501B 總引數、23B 活躍引數,效能可達 1M token 上下文長度;提供 BF16、FP8、NVFP4 三種檢查點格式。

    推薦理由:Reflection Beam 提供 501B 引數、23B 活躍引數的開源權重模型,開發者可在 SageMaker JumpStart 或 HyperPod 直接部署,支援多步驟程式編寫、工具呼叫與中間結果處理,為 agentic coding 提供完整堆疊,並可透過 SGLang 或 vLLM 進行自訂執行時引數調整,滿足不同硬體與效能需求。

  2. Hugging Face Blog74

    2.8 兆 token 印度語言預訓練與開放資料生成管線

    本研究釋出一份 2.8 兆 token 的 Indic 語料庫與可重複使用的 GPU 加速資料生成管線,並說明其在 Nemotron 3.5 Super VL 上的效能提升。

    推薦理由:提供了可複製的 2.8 兆 token 語料與 GPU 加速生成流程,可幫助研究者構建更強的印度語言模型,並展示其在多項 Indic 評測中的顯著提升。

  3. Hugging Face Blog72

    Granite Switch 4.1:一端點整合聊天、決策與語音功能

    Granite Switch 4.1 透過整合決策、語音與聊天功能,提供單一端點多工能力。 - Granite‑Switch‑4.1‑8B / 30B:內建 Decision aLoRA、Guardian aLoRA 及 Granite‑Speech‑5.0‑Turbo‑CTC(OpenASR 榜首 ASR),可即時切換對話、決策與轉錄。

    推薦理由:Granite Switch 4.1 透過整合決策、語音與聊天功能,提供單一端點多工能力,讀者可評估其在實務流程中的效益。

  4. Hugging Face Transformers Releases92

    Transformers v5.20.0 釋出多模態模型與分散式加速功能

    Transformers 5.20.0 釋出,新增多模態模型並加強分散式推理與量化支援。 - Muse Spark Open:Meta 816B 引數,1,048,576 token 上下文,支援文字、影像、音訊、影片輸入,專為代理編碼任務設計,提供 BF16 / NVFP4 檢查點。

    推薦理由:新版本提供多模態模型與高效分散式支援,開發者可直接整合至現有工作流程,並享受改進的量化與推理加速。

10月15日週四
  1. Hugging Face Blog77

    Apertus 1.5 釋出跨模態、四倍長上下文與思考模式新功能

    Apertus 1.5 於 2026 年 7 月 24 日在 Hugging Face 以 Apache 2.0 授權釋出,新增跨模態理解、四倍長上下文、思考模式及工具使用最佳化。

    推薦理由:Apertus 1.5 以四倍上下文、跨模態能力及思考模式提升推理與工具使用,讀者可評估其在多模態任務與長文本推理中的應用潛力。