跳到正文

AI 程式開發

AI 寫程式碼的一切:編碼助手、Vibe Coding、程式碼模型評測與開發工作流變革。

562條精選相關主題Agent AI 助理Cursor教學與實務

最新精選

第 481–500 條 · 共 562 條
10月23日週五
  1. AWS Machine Learning Blog76

    使用 Amazon SageMaker Training Session APIs,寫自己的訓練迴圈,無需管理 GPU

    Amazon SageMaker 推出 Training Session APIs,讓開發者可在本地寫自訂訓練迴圈,卻仍由雲端 GPU 執行,省去手動配置叢集。

    推薦理由:瞭解 Amazon SageMaker 新增的 Training Session APIs,可在本地編寫自訂訓練迴圈,同時享受雲端 GPU 管理與自動擴縮的便利。

10月22日週四
  1. AWS Machine Learning Blog72

    使用 torchtitan 在 AWS Trainium 上訓練 Qwen3

    Qwen3 可在 AWS Trainium 上透過 torchtitan 執行訓練,本文提供三種配置方式與完整指令。 - 三種配置:使用 Transformers v5、torchtitan 原生 Qwen3、以及 NKI Mixture‑of‑Experts kernels。

    推薦理由:提供完整步驟,示範如何在 AWS Trainium 上使用 torchtitan 執行 Qwen3 訓練,對於工程師具有實務參考價值。

10月21日週三
  1. Hacker News (official RSS)83

    PHP2Shell:AI 發現 PHP 核心關鍵 RCE

    AI輔助研究團隊在 PHP 核心中發現多個高危 RCE 漏洞,並於 2026 年 10 月釋出修補程式,影響 70% 網站。 - 漏洞型別:記憶體安全缺陷,包含 use‑after‑free、資料洩漏與遠端程式碼執行,CVSS 9.2。

    推薦理由:AI輔助發現 PHP 核心關鍵 RCE,揭示長期隱蔽漏洞成即時威脅,讀者可評估 AI 在漏洞挖掘與修補中的實務價值。

  2. AWS Machine Learning Blog76

    微調 GPT‑OSS‑20B 於 Amazon SageMaker HyperPod 上的多語言推理

    本文示範如何在 Amazon SageMaker HyperPod 上使用 SFT 與 GRPO 微調 GPT‑OSS‑20B,使其在多語言推理任務中的推理語言正確率從 22% 提升至 100%,並在答案語言上提升至 70%。

    推薦理由:本篇示範如何在 SageMaker HyperPod 上使用 SFT 與 GRPO 微調 GPT-OSS-20B,並揭示兩種技術的適用場景,對想要提升多語言推理模型的實務團隊具有參考價值。

  3. GitHub Blog · AI & ML72

    三位 Java 大師使用 GitHub Copilot 提升生產力

    GitHub Copilot 讓三位 Java 大師在實際專案中提升開發效率,並分享了具體的使用技巧與最佳實踐。 - 實際案例:從 Hypersistence Optimizer 的功能開發、900 張投影片遷移、Tamboui UI 測試等多個專案證實 Copilot 可縮短開發時間。

    推薦理由:文章分享了三位 Java 專家實際使用 Copilot 的案例與實務建議,對開發者如何將 AI 工具落實於日常工作提供可操作的參考。

  4. Hugging Face Blog82

    Hugging Face 推出 TorchTPU:PyTorch 原生支援 TPU

    TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層。 - 核心功能:新增 TPU 作為 PyTorch 後端,支援 eager 與 torch.compile,提供 Pallas kernels、分散式訓練。

    推薦理由:TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層,提升開發效率與推理速度。

10月20日週二
  1. Hugging Face Blog73

    AnyLanguageModel 1.0:一年後於 Apple 平臺推出本地模型功能

    AnyLanguageModel 1.0 於 Apple 平臺推出,提供單一 API 同時支援本地與雲端模型,降低實作複雜度。 - API 相容性:將 import FoundationModels 換成 import AnyLanguageModel,即可使用系統模型、llama.cpp、MLX、Core ML 等。

    推薦理由:AnyLanguageModel 1.0 讓開發者可在 Apple 平臺以單一 API 同時使用本地與雲端模型,降低實作複雜度。

  2. GitHub Blog · AI & ML73

    在 VS Code 中繼續 GitHub Copilot 應用程式會話

    GitHub Copilot 允許在 VS Code 內直接開啟並繼續已在 Copilot 應用程式中建立的會話,讓開發者可在同一工作區進行差異檢視、手動編輯與本地測試,並將完成的變更推送至 Pull Request。

    推薦理由:本教程示範如何將 Copilot 會話無縫切換至 VS Code,並在編輯器中進行差異檢視、手動調整與本地測試,為開發者提供完整的工作流程。

10月18日週日
  1. vLLM Releases86

    vLLM v0.32.0 正式發布:多項推理最佳化與多模態功能升級

    vLLM v0.32.0 正式發布,包含 814 次提交與 363 位貢獻者的新功能。 - 新增 /v1/systemone 端點,可處理結構化決策與分數查詢,並支援 Cloudflare/clef-omni、LiquidAI/d1-3B、DiffusionGemma 等模型。

    推薦理由:vLLM v0.32.0 引入多項高效推理最佳化與多模態支援,使用者可直接提升模型部署效能與功能擴充。

10月16日週五
  1. AWS Machine Learning Blog74

    Reflection Beam:AWS 推出可開源權重的 Agentic Coding 模型

    Reflection Beam 是一款 501B 引數、23B 活躍引數的開源權重模型,針對 Agentic Coding 與多步驟工作流程設計。 - 核心規格:501B 總引數、23B 活躍引數,效能可達 1M token 上下文長度;提供 BF16、FP8、NVFP4 三種檢查點格式。

    推薦理由:Reflection Beam 提供 501B 引數、23B 活躍引數的開源權重模型,開發者可在 SageMaker JumpStart 或 HyperPod 直接部署,支援多步驟程式編寫、工具呼叫與中間結果處理,為 agentic coding 提供完整堆疊,並可透過 SGLang 或 vLLM 進行自訂執行時引數調整,滿足不同硬體與效能需求。

  2. Hugging Face Blog82

    Meta 發布 Muse Spark Open:開源權重多模態混合專家模型

    Meta 推出 Muse Spark Open,816B 引數的多模態混合專家模型,支援文字、影像、音訊與影片輸入,並具備程式設計與工具呼叫能力。 - 模型規模:總引數 816B,每個 token 活躍 42B,可使用 1M token 上下文視窗。

    推薦理由:Meta公佈的 Muse Spark Open 816B 引數模型,支援多模態程式設計與長上下文,對開發者可直接整合,並提供多種推理與工具呼叫介面。

  3. LMSYS Org Blog74

    SGLang 支援 Beam,公開部署方式與服務效能測試

    大型模型要用在長時間的程式開發任務,伺服器得處理很長的對話,也要讓 AI 助理快速接續工作。SGLang Team 說明 SGLang 如何支援 Reflection 的 Beam,並分享快取對話內容、加速生成和調整模型運算的做法。測試使用 4 張 NVIDIA GB300 顯示卡重播多輪程式開發對話;在 32 個對話同時進行時,每張顯示卡每秒處理 127.6K 個 token,每位使用者的中位速度為每秒 185.87 個 token。這些數字來自特定測試設定,可用來瞭解 SGLang 如何服務 Beam。

    推薦理由:文章整理 SGLang 支援 Beam 的部署與效能測試,並交代測試使用的硬體、工作負載和快取情況,方便評估結果適用的服務情境。

10月15日週四
  1. Hacker News (official RSS)83

    OpenCode 2.0 全新服務模式與 API 重新定義開發者與AI 助理互動

    OpenCode 2.0 以全新服務模式與豐富 API 重新定義開發者與AI 助理互動。 - 服務模式:單一背景程序自動啟動,TUI、網頁介面、桌面應用皆共用同一中央程序。

    推薦理由:OpenCode 2.0 以全新服務模式與豐富 API 重新定義開發者與AI 助理互動,讀者可快速評估其在工作流程中的實際效能。

  2. LMSYS Org Blog76

    SGLang 和 Miles 加入 Muse Spark Open 支援,並公佈多平臺效能測試

    大型多模態模型要在不同硬體上執行,常得處理長提示詞、圖片影片輸入和模型運算量大的問題。SGLang 和 Miles 加入 Muse Spark Open 支援,涵蓋推論、微調與多輪強化學習訓練;模型可讀取文字、圖片、影片和音訊,並支援 1M token 的上下文視窗。文章也列出 NVIDIA、AMD、Intel 和 TPU 平臺的支援進度,以及多組程式開發工作負載測試。在 8 張 B300 GPU 的 OpenHands 測試中,單一對話每位使用者每秒產生 543 個 token;128 個對話同時執行時,則為每位使用者每秒 61 個 token。這些數字來自特定硬體與測試設定,可用來瞭解不同工作量下的速度變化。

    推薦理由:文章整理 Muse Spark Open 在多種硬體上的支援方式與實測結果,並說明長提示詞和多輪程式開發工作如何影響推論速度。

10月13日週二
10月9日週五
  1. LMSYS Org Blog82

    SGLang 和 Miles 如何在 NVIDIA Vera Rubin 上加速模型推論與訓練

    新一代 GPU 換了硬體,原本的模型服務和訓練程式也得重新調整,才能把運算資源用得更好。SGLang 團隊在 NVIDIA Vera Rubin 上測試推論與訓練:他們調整注意力、專家模型和資料傳送等程式,讓 Kimi K3 在特定設定下跑得更快;例如,合併多個小步驟後,每次生成少了 276 次程式啟動,整體速度提升 5.9%。Miles 也能在這套硬體上進行強化學習訓練,包含讓 AI 助理在沙盒環境中解題。這些是初步測試,團隊接下來會擴大規模並繼續改善效能。

    推薦理由:這篇實測拆解 Vera Rubin 上的推論與訓練調整,並列出各項改動帶來的速度差異,可看出硬體資源如何影響 SGLang 的最佳化方向。

10月8日週四
  1. OpenAIDevs77

    Decisions API 已正式進入公測,允許開發者在近即時內為應用選擇最合適的模型、工具或行動。 速度提升:比 GPT‑6 Luna 透過 Responses API 的決策速度快 10 倍。 功能範圍:支援模型、工具與自訂動作的即時選擇,適用於自動化工作流程。 可用性:所有開發者皆可在公測階段使用,無需額外授權。

    推薦理由:Decisions API 讓開發者可即時選擇最佳模型、工具或動作,速度比 GPT‑6 Luna 快 10 倍,方便快速構建自動化決策流程。