跳到正文

#程式開發

RSS
今日 0 則
10月23日週五
  1. Amazon Science82

    Amazon 推出 TorchNeuron,讓 PyTorch 程式在 AWS Trainium 上執行

    Amazon 宣佈推出開源 PyTorch backend TorchNeuron,可將 PyTorch 程式轉換為能在 AWS Trainium 系統上執行的操作,既有程式通常只需少量或不需修改。

    推薦理由:文章說明 TorchNeuron 如何透過分層快取、adaptive eager 模式與分階段測試支援 PyTorch 在 Trainium 上執行,呈現其執行效率與相容性設計。

  2. AWS Machine Learning Blog76

    使用 Amazon SageMaker Training Session APIs,寫自己的訓練迴圈,無需管理 GPU

    Amazon SageMaker 推出 Training Session APIs,讓開發者可在本地寫自訂訓練迴圈,卻仍由雲端 GPU 執行,省去手動配置叢集。

    推薦理由:瞭解 Amazon SageMaker 新增的 Training Session APIs,可在本地編寫自訂訓練迴圈,同時享受雲端 GPU 管理與自動擴縮的便利。

10月22日週四
  1. AWS Machine Learning Blog72

    使用 torchtitan 在 AWS Trainium 上訓練 Qwen3

    Qwen3 可在 AWS Trainium 上透過 torchtitan 執行訓練,本文提供三種配置方式與完整指令。 - 三種配置:使用 Transformers v5、torchtitan 原生 Qwen3、以及 NKI Mixture‑of‑Experts kernels。

    推薦理由:提供完整步驟,示範如何在 AWS Trainium 上使用 torchtitan 執行 Qwen3 訓練,對於工程師具有實務參考價值。

10月21日週三
  1. Hacker News (official RSS)78

    Basis 推出 LLM 驗證的解譯器

    Basis 發布了利用 LLM 撰寫並在 Lean 中證明的解譯器,證明其行為與實際 RISC‑V 編譯後的程式完全一致。 - 驗證方法:LLM 先自動生成 WHILE 語言的形式語義,然後在 Lean 中證明該語義與編譯後的二進位在所有程式上相符,並以此推匯出四個工具(型別檢查器、程式邏輯、抽象解譯器、編譯器)。

  2. AWS Machine Learning Blog76

    微調 GPT‑OSS‑20B 於 Amazon SageMaker HyperPod 上的多語言推理

    本文示範如何在 Amazon SageMaker HyperPod 上使用 SFT 與 GRPO 微調 GPT‑OSS‑20B,使其在多語言推理任務中的推理語言正確率從 22% 提升至 100%,並在答案語言上提升至 70%。

    推薦理由:本篇示範如何在 SageMaker HyperPod 上使用 SFT 與 GRPO 微調 GPT-OSS-20B,並揭示兩種技術的適用場景,對想要提升多語言推理模型的實務團隊具有參考價值。

  3. GitHub Blog · AI & ML72

    三位 Java 大師使用 GitHub Copilot 提升生產力

    GitHub Copilot 讓三位 Java 大師在實際專案中提升開發效率,並分享了具體的使用技巧與最佳實踐。 - 實際案例:從 Hypersistence Optimizer 的功能開發、900 張投影片遷移、Tamboui UI 測試等多個專案證實 Copilot 可縮短開發時間。

    推薦理由:文章分享了三位 Java 專家實際使用 Copilot 的案例與實務建議,對開發者如何將 AI 工具落實於日常工作提供可操作的參考。