跳到正文

#Hugging Face

RSS
今日 3 則
10月22日週四
  1. Hugging Face Blog82

    NVIDIA Kumo Relational 零訓練即時預測,超越傳統監督式機器學習

    Kumo Relational 是一個預訓練關係型基礎模型,能在不需要任務特定訓練的情況下,直接對企業資料庫進行一次前向推論,預測流失、需求或詐騙等結果。

    推薦理由:Kumo Relational 以零訓練即時預測,顯示基礎模型可直接取代傳統 XGBoost,對企業資料科學流程帶來顯著效率提升,並提供可即時部署的開源框架。

  2. Hugging Face Blog88

    VocabX:成本加權詞彙最佳化能將單域 LLM 推理成本降低 77%

    VocabX 是一種成本加權詞彙最佳化方法,針對單域 LLM 在實際應用中可將推理成本降低 77%。 - 模型:以 Qwen3-4B 為基礎,維持 4B 引數,未改變模型權重。

    推薦理由:VocabX 透過成本加權詞彙最佳化,實驗證明可將推理成本降低 77%,同時提升評分 15%,並保持原始模型精度。

10月21日週三
  1. Hugging Face Blog80

    發布 SimReady Central:機器人與 AI 工廠的開源 3D 資產庫

    導語:SimReady Central 是 Hugging Face 推出的開源 3D 資產庫,提供 2,000+ 具備碰撞、質量等物理屬性的 OpenUSD 模型,讓機器人與 AI 工廠開發者可直接構建模擬環境。

    推薦理由:SimReady Central 供 2,000+ 具備碰撞、質量屬性的 3D 資產,開發者可在 Hugging Face 構建 AI 工廠與機器人模擬,省去手動新增屬性的繁瑣。

  2. Thom Wolf (@Thom_Wolf)70

    Hugging Face 在其 Speech‑to‑Speech 程式碼庫中加入 Fish Audio 的 Drama‑3 模型,實現完全開源的語音克隆與即時語氣變化功能。 模型:Drama‑3 由 Fish Audio 開發。 功能:允許使用者以語音控制說話者的語氣(低語、笑、嘆息、擔憂等)。 開源:程式碼與模型已在 Hugging Face 上公開,並提供 PR 與安裝說明。 使用方式:只需呼叫 Speech‑to‑Speech API 並傳入目標語音,即可得到克隆語音。

  3. AWS Machine Learning Blog76

    微調 GPT‑OSS‑20B 於 Amazon SageMaker HyperPod 上的多語言推理

    本文示範如何在 Amazon SageMaker HyperPod 上使用 SFT 與 GRPO 微調 GPT‑OSS‑20B,使其在多語言推理任務中的推理語言正確率從 22% 提升至 100%,並在答案語言上提升至 70%。

    推薦理由:本篇示範如何在 SageMaker HyperPod 上使用 SFT 與 GRPO 微調 GPT-OSS-20B,並揭示兩種技術的適用場景,對想要提升多語言推理模型的實務團隊具有參考價值。

  4. Hugging Face Blog82

    Hugging Face 推出 TorchTPU:PyTorch 原生支援 TPU

    TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層。 - 核心功能:新增 TPU 作為 PyTorch 後端,支援 eager 與 torch.compile,提供 Pallas kernels、分散式訓練。

    推薦理由:TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層,提升開發效率與推理速度。

  5. Hugging Face Blog80

    ALTK‑Evolve:學習式記憶在客戶服務基準上超越前沿模型

    ALTK‑Evolve 透過自動提取規則,將 GPT‑4.1 轉化為在 τ²‑bench 客戶服務基準上領先的代理,無需權重更新。 - 核心成效:零售領域 Pass^4 從 57.5% 提升至 67.5%,航空領域從 35.0% 提升至 45.0%;在整體排行榜上位居首位。

    推薦理由:本研究展示了透過自動提取規則而無需權重更新,將舊版 GPT‑4.1 轉化為領先客戶服務基準的能力,說明提示級記憶可顯著提升多模態代理。

10月20日週二
  1. Hugging Face Blog73

    AnyLanguageModel 1.0:一年後於 Apple 平臺推出本地模型功能

    AnyLanguageModel 1.0 於 Apple 平臺推出,提供單一 API 同時支援本地與雲端模型,降低實作複雜度。 - API 相容性:將 import FoundationModels 換成 import AnyLanguageModel,即可使用系統模型、llama.cpp、MLX、Core ML 等。

    推薦理由:AnyLanguageModel 1.0 讓開發者可在 Apple 平臺以單一 API 同時使用本地與雲端模型,降低實作複雜度。

  2. Thom Wolf (@Thom_Wolf)82

    DeepInfer 全面開源,成為 DeepSeek‑V4.1‑Flash 的推理核心,提供高吞吐量與低延遲。 核心特性:內部推理框架,支援大規模部署,吞吐量提升、延遲降低。 對社群的影響:公開生產堆疊,降低計算成本與能源使用,促進 AI 更易於使用。 可用性:已在 Hugging Face 上發布,開發者可即時使用。

    推薦理由:開源的 DeepInfer 可幫助開發者降低推理成本與能源消耗,提升大模型部署效率。

  3. Hacker News (official RSS)47

    **title_zh:**

    Abliterated Models 如何讓你被攻擊 summary_zh: Abliterated Models 讓你被攻擊。 - 背後機制:通過「abliteration」將模型中拒絕回答的權重減去,讓模型在安全調校時會回答本應拒絕的請求。

  4. Hugging Face Transformers Releases39

    Hugging Face Transformers v5.20.2 修補版本發布

    Hugging Face Transformers 發布 v5.20.2 修補版本,修正 generate 的 prepare_inputs_for_generation 過程中部分輸入可能失去原始型別的問題,避免多模態模型因此出錯。 其他修正:包含修正 bfloat16 搭配 expert parallelism、且 ep_size < fsdp_size 時的零專家梯度問題;宣告僅回報文字的 VLM 輸入模態;以及避免 eager_mask 中的 host-to-device 複製。

10月19日週一
  1. Thom Wolf (@Thom_Wolf)73

    Meta、NVIDIA、Alibaba、DeepSeek、Moonshot、Mistral 等 30+ 實驗室共分享近 10 億美元訓練算力於 Hugging Face Hub,免費供下載。 算力總量:近 $1B 美元的訓練算力已上傳至 Hugging Face Hub。 免費下載:所有模型與資料集皆可在 Hugging Face Hub 直接下載,無需付費。 社群影響:此舉凸顯開源社群在 AI 訓練資源共享與成本透明化方面的進步。

10月18日週日
10月17日週六
10月16日週五
  1. AWS Machine Learning Blog74

    Reflection Beam:AWS 推出可開源權重的 Agentic Coding 模型

    Reflection Beam 是一款 501B 引數、23B 活躍引數的開源權重模型,針對 Agentic Coding 與多步驟工作流程設計。 - 核心規格:501B 總引數、23B 活躍引數,效能可達 1M token 上下文長度;提供 BF16、FP8、NVFP4 三種檢查點格式。

    推薦理由:Reflection Beam 提供 501B 引數、23B 活躍引數的開源權重模型,開發者可在 SageMaker JumpStart 或 HyperPod 直接部署,支援多步驟程式編寫、工具呼叫與中間結果處理,為 agentic coding 提供完整堆疊,並可透過 SGLang 或 vLLM 進行自訂執行時引數調整,滿足不同硬體與效能需求。

  2. Hugging Face Blog74

    2.8 兆 token 印度語言預訓練與開放資料生成管線

    本研究釋出一份 2.8 兆 token 的 Indic 語料庫與可重複使用的 GPU 加速資料生成管線,並說明其在 Nemotron 3.5 Super VL 上的效能提升。

    推薦理由:提供了可複製的 2.8 兆 token 語料與 GPU 加速生成流程,可幫助研究者構建更強的印度語言模型,並展示其在多項 Indic 評測中的顯著提升。

  3. Hugging Face Blog72

    Granite Switch 4.1:一端點整合聊天、決策與語音功能

    Granite Switch 4.1 透過整合決策、語音與聊天功能,提供單一端點多工能力。 - Granite‑Switch‑4.1‑8B / 30B:內建 Decision aLoRA、Guardian aLoRA 及 Granite‑Speech‑5.0‑Turbo‑CTC(OpenASR 榜首 ASR),可即時切換對話、決策與轉錄。

    推薦理由:Granite Switch 4.1 透過整合決策、語音與聊天功能,提供單一端點多工能力,讀者可評估其在實務流程中的效益。

  4. Hugging Face Transformers Releases92

    Transformers v5.20.0 釋出多模態模型與分散式加速功能

    Transformers 5.20.0 釋出,新增多模態模型並加強分散式推理與量化支援。 - Muse Spark Open:Meta 816B 引數,1,048,576 token 上下文,支援文字、影像、音訊、影片輸入,專為代理編碼任務設計,提供 BF16 / NVFP4 檢查點。

    推薦理由:新版本提供多模態模型與高效分散式支援,開發者可直接整合至現有工作流程,並享受改進的量化與推理加速。