跳到正文

#Meta

RSS
今日 0 則
10月20日週二
  1. Hacker News (official RSS)47

    **title_zh:**

    Abliterated Models 如何讓你被攻擊 summary_zh: Abliterated Models 讓你被攻擊。 - 背後機制:通過「abliteration」將模型中拒絕回答的權重減去,讓模型在安全調校時會回答本應拒絕的請求。

  2. LMSYS Org Blog88

    SGLang 推出 SGLang-TorchTPU,讓 PyTorch 推論服務也能跑在 TPU 上

    想把 AI 模型放到 TPU 上跑,開發者往往得另外處理硬體支援。RadixArk 的 SGLang 團隊與 Google、Meta 合作推出 SGLang-TorchTPU,讓 SGLang 能用 PyTorch 在 Google Cloud TPU 上提供模型服務,也支援多種開源模型和服務功能。文章列出已支援模型與功能,並說明有些專案仍在測試;Meta 已在正式環境使用這套服務。團隊也展示用 TPU 進行強化學習訓練的流程,但目前仍是預覽版,接下來會擴大型模型與訓練規模。

    推薦理由:SGLang-TorchTPU 把同一套 PyTorch 推論服務帶到 TPU,並列出實際支援的模型與功能,可瞭解它目前能處理哪些部署需求。

10月19日週一
10月18日週日
10月17日週六
  1. david888podcast80

    KVM 虛擬化封包穿透漏洞曝光,Meta 更新條款引發全網 AI 訓練爭議

    KVM 虛擬化封包穿透漏洞(CVE-2026-99999)被研究團隊攻破,導致宿主機與客機間資料外洩風險上升。 - CVE-2026-99999 允許攻擊者透過特製網路封包在 KVM 虛擬機器與宿主機之間實現逃逸,影響數百萬沙箱實例。

    推薦理由:本研究揭示 KVM 封包穿透漏洞的實際利用與防禦對策,對雲端安全與虛擬化環境具有重要啟示,提醒雲服務商加強沙箱隔離與漏洞修補。

10月16日週五
  1. vLLM Official Blog72

    vLLM 中 Kimi K3 高效最佳化:快速且負責任的推進

    vLLM 團隊利用代理協助開發,為 NVIDIA GB300 上的 Kimi K3 建構統一的 CuTe DSL 解碼路徑,實現 842 tokens/s 的解碼速率(比原版快 1.73 倍)並提升 P90 互動性至 403.2 tokens/s。

    推薦理由:本文說明如何利用代理開發加速 Kimi K3,並提供可複製的驗證流程,對想提升 GPU 端推理效能的工程師具有實務參考價值。

  2. Hugging Face Transformers Releases92

    Transformers v5.20.0 釋出多模態模型與分散式加速功能

    Transformers 5.20.0 釋出,新增多模態模型並加強分散式推理與量化支援。 - Muse Spark Open:Meta 816B 引數,1,048,576 token 上下文,支援文字、影像、音訊、影片輸入,專為代理編碼任務設計,提供 BF16 / NVFP4 檢查點。

    推薦理由:新版本提供多模態模型與高效分散式支援,開發者可直接整合至現有工作流程,並享受改進的量化與推理加速。

  3. Hugging Face Blog82

    Meta 發布 Muse Spark Open:開源權重多模態混合專家模型

    Meta 推出 Muse Spark Open,816B 引數的多模態混合專家模型,支援文字、影像、音訊與影片輸入,並具備程式設計與工具呼叫能力。 - 模型規模:總引數 816B,每個 token 活躍 42B,可使用 1M token 上下文視窗。

    推薦理由:Meta公佈的 Muse Spark Open 816B 引數模型,支援多模態程式設計與長上下文,對開發者可直接整合,並提供多種推理與工具呼叫介面。

10月15日週四
  1. Together AI Official Blog74

    Meta Muse Spark Open 模型在 Together AI 正式上線

    Meta Muse Spark Open 現已於 Together AI 正式上線,作為 Day 0 發表夥伴提供完整支援,專為長時間執行的AI 助理程式設計、電腦操作與多模態任務而設計。

    推薦理由:原文給出模型核心能力與價格,讀者可據此評估是否將其整合至現有的長上下文或AI 助理工作流程中。

  2. LMSYS Org Blog76

    SGLang 和 Miles 加入 Muse Spark Open 支援,並公佈多平臺效能測試

    大型多模態模型要在不同硬體上執行,常得處理長提示詞、圖片影片輸入和模型運算量大的問題。SGLang 和 Miles 加入 Muse Spark Open 支援,涵蓋推論、微調與多輪強化學習訓練;模型可讀取文字、圖片、影片和音訊,並支援 1M token 的上下文視窗。文章也列出 NVIDIA、AMD、Intel 和 TPU 平臺的支援進度,以及多組程式開發工作負載測試。在 8 張 B300 GPU 的 OpenHands 測試中,單一對話每位使用者每秒產生 543 個 token;128 個對話同時執行時,則為每位使用者每秒 61 個 token。這些數字來自特定硬體與測試設定,可用來瞭解不同工作量下的速度變化。

    推薦理由:文章整理 Muse Spark Open 在多種硬體上的支援方式與實測結果,並說明長提示詞和多輪程式開發工作如何影響推論速度。

10月14日週三
10月13日週二
10月12日週一
  1. NVIDIA Blog79

    OCP 全球峰會:在生態系統採用之際,NVIDIA 開放 Vera Rubin 架構協助全球擴充套件 AI 工廠

    NVIDIA 在 OCP 全球峰會上公佈了開放式 Vera Rubin 架構與多項開源標準,為 AI 工廠提供可擴充、節能的基礎設計。 - Vera Rubin MGX 1.2 版擴充了盲接液冷、5,000A 電源槽與 19 吋裝置支援,支援最高 250kW 的機架部署。

    推薦理由:NVIDIA 透過開放 Vera Rubin 架構與標準,為 AI 工廠提供可擴充、節能的基礎,讀者可瞭解如何整合此開源設計於自家部署。

10月10日週六
10月9日週五
10月8日週四
10月7日週三
  1. hackernews10056

    Meta Muse 早期釋出即暴露隱私與安全漏洞

    Meta Muse 於近期釋出,卻因多項隱私與安全缺陷而引發關注。 - 隱私問題:能窺探 Mac 使用者、存取私訊並忽略許可權。 - 安全漏洞:可透過偽裝成 Muse 代理取得 root 存取。 - 內部命名:Muse 在 Meta 內部稱為 Hatch。 - 影響:促使 Apple 更新 macOS 隱私設定以限制此類行為。

10月4日週日
10月3日週六