跳到正文

#程式開發

RSS
今日 0 則
11月13日週五
  1. AWS Machine Learning Blog74

    如何以 Amazon Bedrock 和 LiteLLM 建置自助式 LLM 閘道

    AWS 說明如何以 LiteLLM、AWS Fargate 與 Amazon Bedrock Application Inference Profiles 建置自助式 LLM 閘道,讓開發者透過 OpenAI 相容 API 使用模型,並管理個別使用者的成本與用量。

    推薦理由:文章以數百名開發者的部署經驗,說明閘道在成本控管、長請求逾時與跨區配額上的設定取捨,並提供可操作的配置範例。

  2. Cognition76

    Gemini 4 Hydrogen 已在 Devin Desktop 與 Devin CLI 上線,並在評估真實世界工程任務品質與可合併性的 FrontierCode 2.0 基準中獲得 38.2%。 基準比較:成績略低於 GPT-6.1 Sol。 基準說明:FrontierCode 2.0 評估模型處理真實世界工程任務的品質與可合併性。 https://t.co/fiAMNd9oz8

    推薦理由:Gemini 4 Hydrogen 已可在 Devin Desktop 與 Devin CLI 使用,並提供 FrontierCode 2.0 的工程任務基準成績,可瞭解其在該測試中的相對表現。

  3. Vercel Blog76

    Vercel 教你如何測試 Agent 與其使用的軟體

    Vercel 說明如何用評測衡量 Agent 是否能正確完成使用者任務,並以咖啡訂單示範端到端評測的設計、執行與分析。 - 測試層級:依 LLM 呼叫次數分為確定性測試、單輪評測與端到端評測;若要檢查整個任務是否達成,端到端評測會在環境中執行完整流程,再驗證結果。

    推薦理由:文章以咖啡訂單示範如何設計端到端 Agent 評測,並說明成功率與 Pass^k 回答不同可靠性問題,協助團隊選擇合適指標。

  4. PyTorch Blog67

    Helion 為 Triton 核心加入編譯期啟發式設定,免自動調校提升效能

    PyTorch 宣佈 Helion 在 Triton 後端加入編譯期啟發式設定,分析核心的 IR 與資料流,自動選擇設定,免去自動調校即可提升多組測試的效能。

    推薦理由:Helion 在 H100 與 B200 上預設啟用編譯期啟發式設定;文中多組基準比較呈現其效能與完整自動調校之間的差距。

11月12日週四
  1. AWS What's New61

    Ornith-1.0-9B 和 Ornith-1.0-35B 開放在 Amazon SageMaker JumpStart 使用

    想讓 AI 助理協助寫程式,模型要能處理從安排工作到產生程式碼的整個流程。DeepReinforce AI 的 Ornith-1.0-9B 和 Ornith-1.0-35B 現已可在 Amazon SageMaker JumpStart 部署,兩者都用強化學習來改進工作安排和解題過程。9B 版有 256K token 上下文視窗,適合在單張 GPU 上執行;35B 版採用 MoE 架構,原文表示可部署在單張 24 GB 消費級 GPU 上。兩款模型以 MIT 授權發布,並在多項程式開發基準測試中表現突出。

  2. AWS What's New66

    DeepSeek-V4-Pro、DeepSeek-V4-Flash 和 DeepSeek-V4.1-Flash 登上 Amazon SageMaker JumpStart

    想在雲端使用大型模型時,團隊得依工作內容和運算成本挑選合適的模型。AWS 將 DeepSeek-V4-Pro、DeepSeek-V4-Flash 和 DeepSeek-V4.1-Flash 加入 Amazon SageMaker JumpStart,客戶可從模型目錄或使用 SageMaker Python SDK 部署。三款模型都支援 100 萬 token 上下文視窗;V4-Pro 面向複雜推理和高品質文字生成,V4-Flash 著重較低運算成本,V4.1-Flash 則支援多模態,並針對 AI 助理、程式開發和視覺工作調整 KV 快取用量。

    推薦理由:三款模型在啟用引數量、上下文視窗與多模態支援上各有差異,可用來比較推理、程式開發和視覺工作負載的部署選擇。

  3. FastAPI Releases41

    FastAPI 發布 0.162.5,修正取消工作時同步清理依賴的問題

    用 FastAPI 寫程式時,如果工作中途被取消,清理同步依賴的動作可能出錯;這次更新修正了這個問題。FastAPI 也有官方技能,能協助 AI 助理依照你安裝的版本使用新功能和建議寫法,可在專案中執行 uvx library-skills 安裝。另外,這個版本改用 pydantic-ai-slim[openai],取代 pydantic-ai 依賴。

  4. PyTorch61

    PyTorch 核心維護者 @ezyang 說明如何在大型訓練前用單張 GPU 測試分散式程式中的當機、GPU 記憶體不足與數值錯誤。 - 測試方法:以 fake process group 替代分散式通訊,檢查程式是否當機或發生 GPU 記憶體不足;也可使用 SPMD types 尋找數值錯誤,無須執行完整規模的分散式測試。

    推薦理由:內容說明如何用單張 GPU 檢查分散式訓練中的當機、記憶體不足與數值錯誤,呈現大型訓練前可先採用的測試方法。

  5. DuckDB Official Blog58

    DuckDB 如何支援不需資料庫伺服器的本機分析

    DuckDB 可在瀏覽器或使用者的電腦上執行分析查詢,讓 Flowmap City、SQLRooms 與 Foursquare Spatial Desktop 等應用在不連線遠端資料庫伺服器的情況下處理資料。 SQLRooms:開源 React 工具包,提供載入資料、撰寫 SQL、顯示表格與視覺化等元件,也支援 AI 助理;資料集可留在本機,資料庫結構與選取的查詢結果則可分享給 AI 服務商。 動態地圖切片:Spatial Desktop 使用 DuckDB 的 spatial extension,按需從本機資料集產生地圖切片,並依縮放層級簡化幾何資料;正式實作也會處理無效幾何、過小圖徵與切片快取。 其他應用:Cosmograph 以 DuckDB-Wasm 在背景載入資料及執行 SQL,支援探索包含數百萬條邊的圖形資料集。

  6. Node.js Releases68

    Node.js 22.23.5(Jod LTS)發布安全更新

    Node.js 22.23.5(Jod LTS)發布安全更新,修補 HTTP/2、TLS、HTTP、許可權與 zlib 等元件的多項問題。 - 漏洞嚴重程度:公告列出 High、Medium 與 Low 等級的修補專案,涵蓋串流處理、TLS 工作階段與 SNI、代理憑證錯誤訊息及檔案系統許可權等。

    推薦理由:Node.js 22.23.5 集中修補 HTTP/2、TLS、HTTP 與許可權處理問題,並標示各項嚴重程度,可掌握此次 LTS 安全更新的涵蓋範圍。

  7. Node.js Releases62

    Node.js 24.22.3 LTS 安全更新修補多項 HTTP/2 與 TLS 漏洞

    Node.js 24.22.3「Krypton」LTS 安全更新修補多項 HTTP/2、TLS 與其他元件問題,公告列出高、中、低不同嚴重程度的專案。 - 高嚴重程度:包含 HTTP/2 串流與緩衝區處理、TLS 工作階段恢復及 SNI 檢查等修正;另修補可遠端觸發的 TLS 伺服器崩潰問題(CVE-2026-126051)。

    推薦理由:Node.js 24.22.3 列出多項 HTTP/2 與 TLS 修補,並標示嚴重程度,可供維護者掌握此次更新涵蓋的風險範圍。

  8. Node.js Releases69

    Node.js 26.13.1 LTS 發布安全更新,修補 HTTP/2 與 TLS 漏洞

    Node.js 26.13.1「Lithium」LTS 安全版本修補多項 HTTP/2、TLS 與其他元件漏洞,並更新數個相依套件。 - 漏洞修補:公告列出多項高風險問題,包括 HTTP/2 串流與緩衝區處理、TLS 工作階段與 SNI 處理,以及可從遠端觸發的 TLS 伺服器當機;另有中、低風險修補。

    推薦理由:這次更新集中修補 HTTP/2 與 TLS 的多項高風險問題,也涵蓋中低風險缺陷,版本清單可協助維護者確認升級範圍。

11月11日週三
  1. Qwen38

    Qwen4 即將推出。 知識更深入、世界理解更豐富,程式設計與 AI 助理能力更強。 為實際工作打造,涵蓋複雜程式設計與知識工作、前端開發,以及專業軟體工作流程。 Qwen4-Max 現已在 Alibaba 的 Token Plan 開放預覽。你也可以透過 QwenWork、Qoder、Qwen APP 和 QwenStudio 搶先體驗新模型。 用實際問題考驗它,秀出你的成果。👀 Token Plan: https://t.co/LOB2Jdt3Sk

  2. OpenRouter Announcements64

    OpenRouter 教你排除 OpenAI 與 Claude API 的 429 速率限制錯誤

    OpenRouter 說明如何辨識 LLM API 的 429 速率限制來源,並以等待重設時間、切換備援模型及改由其他供應商提供服務三種方式處理。 - 等待重設時間:範例中的 60 筆請求使用預設重試時有 23 筆失敗;依 Retry-After 或 X-RateLimit-Reset 等待後,60 筆皆完成,Python 範例耗時 89 秒。

    推薦理由:文章以 60 筆請求的實測比較等待重設時間與模型備援,呈現完成率、耗時和成本差異,並說明各自適用的限流情境。