跳到正文

#Meta

RSS
今日 3 則
10月23日週五
10月22日週四
  1. PyTorch Blog77

    TorchTitan 更新:支援新 SOTA 模型、擴充套件大規模訓練效能與 TitanRL 功能

    TorchTitan 以 PyTorch 原生實現,提供 SOTA 模型支援與大規模訓練效能,讓研究者與產業可在同一框架下快速落地。 - 新模型支援:Muse Spark Open、Muse Glimmer、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3、DeepSeek-V4 全訓練堆疊整合,並可透過 5D 並行化調整硬體。

    推薦理由:TorchTitan 以 PyTorch 原生實現,提供 SOTA 模型支援與大規模訓練效能,讓研究者與產業可在同一框架下快速落地。

  2. Hugging Face Blog88

    VocabX:成本加權詞彙最佳化能將單域 LLM 推理成本降低 77%

    VocabX 是一種成本加權詞彙最佳化方法,針對單域 LLM 在實際應用中可將推理成本降低 77%。 - 模型:以 Qwen3-4B 為基礎,維持 4B 引數,未改變模型權重。

    推薦理由:VocabX 透過成本加權詞彙最佳化,實驗證明可將推理成本降低 77%,同時提升評分 15%,並保持原始模型精度。

10月21日週三
  1. Nathan Lambert (Interconnects)69

    最新開源成果 (#25):DeepSeek V4.1 Flash 1017、美國製造模型與美中新監管控制

    美國與中國政府近期針對開源 AI 模型推出新監管措施,同時 DeepSeek 公佈高效推理堆疊 DeepInfer,為開放模型生態帶來成本與合規挑戰。 - 美中監管動態:中國商務部提出前沿 AI 模型需預審,並設自動批准機制;美國國土安全部發布禁令,限制 DeepSeek 作為聯邦供應商。

  2. PyTorch Blog88

    Google 與 Meta 共同推出原生 PyTorch TPU 後端 TorchTPU

    Google 與 Meta 共同開源推出 TorchTPU,為 Google TPU 提供原生且符合 PyTorch 設計哲學的後端架構。 - 核心特性:支援即時(eager)與編譯(compiled)模式,包含全新的 DeferAndFuse 執行模式,可顯著提升效能並減少高頻寬記憶體(HBM)佔用。

    推薦理由:文章詳細說明 Google 與 Meta 合作推出原生的 PyTorch 執行後端,有助於開發者評估在 TPU 上無縫執行與遷移開源模型的效能表現。

10月20日週二
  1. Ars Technica · AI77

    Meta Muse 共享對話時暴露使用者個人與商業機密

    Meta Muse 共享對話時暴露使用者個人與商業機密 - 安全漏洞:Claroc 研究人員列舉 6,800 個共享連結,發現未公開的個人與商業資訊 - Meta 回應:暫停分享功能,正在審查並考慮改進 - 設計缺陷:URL 生成方式過於簡單,易被猜測,違背「從頭設計隱私與安全」的宣稱

  2. Hacker News (official RSS)47

    **title_zh:**

    Abliterated Models 如何讓你被攻擊 summary_zh: Abliterated Models 讓你被攻擊。 - 背後機制:通過「abliteration」將模型中拒絕回答的權重減去,讓模型在安全調校時會回答本應拒絕的請求。

  3. LMSYS Org Blog88

    SGLang 推出 SGLang-TorchTPU,讓 PyTorch 推論服務也能跑在 TPU 上

    想把 AI 模型放到 TPU 上跑,開發者往往得另外處理硬體支援。RadixArk 的 SGLang 團隊與 Google、Meta 合作推出 SGLang-TorchTPU,讓 SGLang 能用 PyTorch 在 Google Cloud TPU 上提供模型服務,也支援多種開源模型和服務功能。文章列出已支援模型與功能,並說明有些專案仍在測試;Meta 已在正式環境使用這套服務。團隊也展示用 TPU 進行強化學習訓練的流程,但目前仍是預覽版,接下來會擴大型模型與訓練規模。

    推薦理由:SGLang-TorchTPU 把同一套 PyTorch 推論服務帶到 TPU,並列出實際支援的模型與功能,可瞭解它目前能處理哪些部署需求。

10月19日週一
  1. Thom Wolf (@Thom_Wolf)73

    Meta、NVIDIA、Alibaba、DeepSeek、Moonshot、Mistral 等 30+ 實驗室共分享近 10 億美元訓練算力於 Hugging Face Hub,免費供下載。 算力總量:近 $1B 美元的訓練算力已上傳至 Hugging Face Hub。 免費下載:所有模型與資料集皆可在 Hugging Face Hub 直接下載,無需付費。 社群影響:此舉凸顯開源社群在 AI 訓練資源共享與成本透明化方面的進步。

10月18日週日