跳到正文

#產品更新

RSS
今日 1 則
9月17日週四
  1. Vercel Blog65

    Mem0 加入 Vercel Marketplace

    Mem0 現已成為 Vercel Marketplace 的原生整合,為 AI 代理與應用提供長期記憶。 - 功能:讓 AI 代理記住使用者偏好、事實與上下文,避免每次從頭開始。

9月16日週三
  1. NVIDIA Blog49

    NVIDIA 如何通過 DSX 最大化 AI 工廠產能:從兆瓦到 token

    NVIDIA 推出旨在最佳化 AI 工廠每兆瓦 token 吞吐量的技術套件 NVIDIA DSX,涵蓋動態功耗分配、網格協同排程及生命週期管理等功能。Lambda 的實測結果顯示,在固定電源預算下利用 NVIDIA DSX MaxLPS 執行叢集可提升 24% 的 token 吞吐量。該平臺通過智慧化排程與即時監控,有效釋放了傳統靜態配置下的閒置算力。

9月15日週二
  1. Vercel Blog53

    AI SDK harness 層現在支援原生訂閱驗證

    AI SDK harness 現在支援原生訂閱驗證,讓開發者可在不改寫程式碼的情況下切換不同 AI 代理。 - 認證模式:直接模式使用明確的提供者環境憑證,或在缺少時使用主機上的原生訂閱;自動模式在未設定 AI Gateway 憑證時亦同樣行為;ai-gateway 模式不讀取原生訂閱。

9月14日週一
  1. LangChain Blog76

    OpenWiki 讓 Credit Genie 以自動化方式保持檔案持續更新

    OpenWiki 讓 Credit Genie 以自動化方式保持檔案持續更新,提升開發效率與跨部門溝通。 - 自動化文件生成:OpenWiki 每日檢測提交變更,若有差異即產生 PR,並自動合併,確保文件始終與程式碼同步。

    推薦理由:OpenWiki 讓 Credit Genie 以自動化方式保持檔案更新,提升開發效率與跨部門溝通。透過每日自動拉取並產生 PR,開發團隊與 AI 代理可即時取得準確的系統知識,消除傳統手動維護的痛點。

9月11日週五
  1. Together AI Official Blog81

    Together AI 擴充 Fine‑Tuning 服務:新增多款模型、即時指標與更精細控制

    Together Fine‑Tuning 於 2026 年 9 月 11 日推出新版,支援更多開放權重模型、即時實驗追蹤、專家 LoRA 及早停功能,並降價 30–70%。

    推薦理由:此更新提供更完整的實驗追蹤與成本最佳化,讓使用者能即時調整訓練策略,並以更低成本部署多模型,同時支援專家 LoRA 及早停功能。

9月10日週四
  1. Cursor Official Blog78

    Cursor 推出 Projects,讓 AI 助理接手大型開發工作

    功能開發、程式碼遷移和日常維護常需要跨多個 PR 持續進行,單次對話很難接手整段工作。Cursor 推出 Projects,讓開發者透過協調 AI 助理安排工作,由其他 AI 助理分頭寫程式碼;每個 Project 會累積共用背景,也能在雲端執行、需要時切換到本地,並依 Slack 訊息、排程或 PR 狀態主動處理任務。Cursor 表示,主要使用 Projects 的內部使用者,合併 PR 的數量達原來六倍;這項功能目前進入 beta,正逐步開放給所有使用者。

    推薦理由:Projects 把多步驟開發工作交給協調 AI 助理分工,並累積共用背景,適合瞭解它如何支援功能開發、程式碼遷移與日常維護。

  2. Microsoft ONNX Runtime Releases38

    ONNX Runtime v1.29.1 發布

    ONNX Runtime v1.29.1 發布,此為基於 v1.29.0 的修補版本,主要新增群組查詢注意力機制(GroupQueryAttention)支援、KV 記憶體區塊佈局改善、外掛程式執行提供者(Execution Provider)效能工具更新,以及針對圖形與最佳化器的修正。

  3. Together AI Official Blog74

    推出 Together GPU 叢集可預約計算:相同算力,價格減半

    Together AI 推出可預約計算功能,讓 GPU 叢集以 50% 之低成本執行可中斷工作。 - 計費方式:子小時計費,單價為按需費用的 50%。

    推薦理由:預算敏感型工作負載可利用此功能以 50% 成本節省,並保持與標準節點相同的 GPU 基礎設施,支援 Ray Train 與 PyTorch Lightning。

  4. LMSYS Org Blog77

    SGLang 和 Miles 加入 DeepSeek-V4.1 首日支援

    部署 DeepSeek-V4.1 時,龐大的記憶體需求和複雜的運算流程會佔用硬體資源。SGLang 和 Miles 加入支援,讓 Engram 記憶表可放到主機記憶體,釋出 GPU 空間;也能只重算部分內容,減少前置處理時間。在測試中,主機記憶體配置讓 KV cache 容量增加 36%;有限重算則讓前置處理速度提升 1.56 倍或 1.37 倍。重算會帶來近似結果,部分功能也有限制,因此需要依工作需求選擇。

    推薦理由:文章比較 DeepSeek-V4.1 的記憶體配置與有限重算方法,並列出吞吐量、正確率和功能限制,方便評估部署取捨。