跳到正文

#程式開發

RSS
今日 0 則
10月21日週三
  1. Hugging Face Blog82

    Hugging Face 推出 TorchTPU:PyTorch 原生支援 TPU

    TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層。 - 核心功能:新增 TPU 作為 PyTorch 後端,支援 eager 與 torch.compile,提供 Pallas kernels、分散式訓練。

    推薦理由:TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層,提升開發效率與推理速度。

10月20日週二
  1. Hugging Face Blog73

    AnyLanguageModel 1.0:一年後於 Apple 平臺推出本地模型功能

    AnyLanguageModel 1.0 於 Apple 平臺推出,提供單一 API 同時支援本地與雲端模型,降低實作複雜度。 - API 相容性:將 import FoundationModels 換成 import AnyLanguageModel,即可使用系統模型、llama.cpp、MLX、Core ML 等。

    推薦理由:AnyLanguageModel 1.0 讓開發者可在 Apple 平臺以單一 API 同時使用本地與雲端模型,降低實作複雜度。

  2. GitHub Blog · AI & ML73

    在 VS Code 中繼續 GitHub Copilot 應用程式會話

    GitHub Copilot 允許在 VS Code 內直接開啟並繼續已在 Copilot 應用程式中建立的會話,讓開發者可在同一工作區進行差異檢視、手動編輯與本地測試,並將完成的變更推送至 Pull Request。

    推薦理由:本教程示範如何將 Copilot 會話無縫切換至 VS Code,並在編輯器中進行差異檢視、手動調整與本地測試,為開發者提供完整的工作流程。

10月19日週一
10月18日週日
  1. vLLM Releases86

    vLLM v0.32.0 正式發布:多項推理最佳化與多模態功能升級

    vLLM v0.32.0 正式發布,包含 814 次提交與 363 位貢獻者的新功能。 - 新增 /v1/systemone 端點,可處理結構化決策與分數查詢,並支援 Cloudflare/clef-omni、LiquidAI/d1-3B、DiffusionGemma 等模型。

    推薦理由:vLLM v0.32.0 引入多項高效推理最佳化與多模態支援,使用者可直接提升模型部署效能與功能擴充。

10月17日週六
10月16日週五
  1. AWS Machine Learning Blog74

    Reflection Beam:AWS 推出可開源權重的 Agentic Coding 模型

    Reflection Beam 是一款 501B 引數、23B 活躍引數的開源權重模型,針對 Agentic Coding 與多步驟工作流程設計。 - 核心規格:501B 總引數、23B 活躍引數,效能可達 1M token 上下文長度;提供 BF16、FP8、NVFP4 三種檢查點格式。

    推薦理由:Reflection Beam 提供 501B 引數、23B 活躍引數的開源權重模型,開發者可在 SageMaker JumpStart 或 HyperPod 直接部署,支援多步驟程式編寫、工具呼叫與中間結果處理,為 agentic coding 提供完整堆疊,並可透過 SGLang 或 vLLM 進行自訂執行時引數調整,滿足不同硬體與效能需求。

  2. Hugging Face Blog82

    Meta 發布 Muse Spark Open:開源權重多模態混合專家模型

    Meta 推出 Muse Spark Open,816B 引數的多模態混合專家模型,支援文字、影像、音訊與影片輸入,並具備程式設計與工具呼叫能力。 - 模型規模:總引數 816B,每個 token 活躍 42B,可使用 1M token 上下文視窗。

    推薦理由:Meta公佈的 Muse Spark Open 816B 引數模型,支援多模態程式設計與長上下文,對開發者可直接整合,並提供多種推理與工具呼叫介面。