跳到正文

全部動態

RSS
今日 4 則
11月12日週四
  1. AWS What's New59

    Amazon FSx for Lustre 將智慧分層的最低吞吐能力與中繼資料 IOPS 降低 75%

    使用 Lustre 智慧分層時,從小型資料集起步的工作負載原本也要配置較高的最低效能。AWS 將 Amazon FSx for Lustre 智慧分層檔案系統的最低吞吐能力從 4000 MBps 降到 1000 MBps,最低中繼資料 IOPS 則從 6000 降到 1500,兩者都降低 75%。這讓高效能運算與機器學習工作負載能以較低的起步門檻使用智慧分層;新設定已在提供該儲存類別的所有 AWS 區域推出。

  2. AWS What's New52

    Amazon RDS for SQL Server 支援 M8id 和 R8id 執行個體

    資料庫處理暫存資料時,讀寫速度和備份大小都會受到儲存位置影響。Amazon RDS for SQL Server 現在支援 M8id 和 R8id 執行個體,建立或修改執行個體時,系統會自動把 tempdb 的資料和記錄檔放在本機 NVMe SSD,原本的資料庫資料和記錄檔則繼續放在 Amazon EBS。這能讓 tempdb 讀寫延遲低於使用 Amazon EBS,備份快照也不會包含這些暫存檔,因此佔用的免費備份空間較少。新執行個體已在多個 AWS 區域推出。

  3. AWS What's New47

    AWS Cloud WAN 支援透過 Direct Connect 使用 BGP 社群設定路由規則

    企業把辦公室和雲端網路接在一起時,常得手動設定流量要走哪條路,還要避免不同路線的規則互相打架。AWS Cloud WAN 現在能讀取 Direct Connect 連線上的 BGP 社群標籤,讓企業在自家網路標記路線用途,再用標籤篩選流量、指定優先路徑,或限制路線傳到哪些區域;設定好的標籤也能傳回本地路由器。舉例來說,可以用標籤分開正式服務流量和災難復原流量。這項功能已在同時提供 AWS Direct Connect 和 AWS Cloud WAN 的 AWS 區域推出,能減少手動複製規則的工作和設定錯誤。

  4. AWS What's New64

    AWS 為 Apache Flink 託管服務推出增強型快照

    更新 Apache Flink 應用程式時,如何保留目前的工作狀態,是部署和遷移時要處理的問題。AWS 為適用於 Apache Flink 的 Amazon 託管服務推出增強型快照,可用來啟動新版應用程式、匯入自行管理的 Flink 儲存點,也能匯出到 Amazon S3,再複製到其他區域供還原使用。這項功能支援 Apache Flink 1.20 及更新版本,快照備份依 GB/月計費。

  5. AWS What's New72

    AWS Glue 推出 Apache Spark 作業自動升級

    升級大量 Apache Spark 作業,常要逐一規劃和聯絡負責人。AWS Glue 新增自動升級功能,將作業版本設為「Auto」後,就能自動使用較新的執行環境。升級前會檢查作業是否相容,並先取得同意;升級後則比對原有的輸出架構、資料量、延遲和格式。若作業需要修改程式碼,可以先留在目前版本,AWS Glue 也會列出升級分析和建議修正方式。此功能已在所有 AWS 商業區域推出。

    推薦理由:AWS Glue 會先檢查作業能否適用新版本,再依原有輸出設定確認執行結果,讓大量 Spark 作業升級時有明確的檢查步驟。

  6. AWS What's New67

    AWS 把 DevOps AI 助理整合進 EC2 Image Builder,協助查錯和建立資源

    映像管線失敗時,手動檢視建置紀錄、比對錯誤訊息和調整設定很花時間。AWS 把 DevOps AI 助理整合進 EC2 Image Builder 控制台,可讀取建置紀錄、工作流程、元件和網路設定,協助找出原因並提出修正步驟;一次最多能診斷 50 條失敗管線,也能依照使用者描述填入經過服務驗證的資源設定,供人檢查後提交。這項功能在所有商用區域提供,也可透過 AWS Agent Toolkit 的 EC2 Image Builder 技能使用。

    推薦理由:EC2 Image Builder 可一次診斷最多 50 條失敗管線,也能依描述填入經驗證的資源設定,讓人瞭解這項整合如何減少手動查錯與反覆調整。

  7. Hugging Face Diffusers Releases72

    Hugging Face Diffusers 0.43.0 整合五種生成與模擬模型

    Hugging Face Diffusers 0.43.0 新增五種模組化模型整合,涵蓋影像生成與編輯、影音生成、語音驅動動畫及世界模擬。具體包括 MiniMax-H3-Image、Pika H3 Flex、P-H3-Image、Kandinsky S2V 1.0 和 PAN 2。

    推薦理由:Diffusers 0.43.0 將五種生成與模擬模型整合為模組化流程,並補上平行化、注意力後端及 LoRA 等工程改進,呈現其應用範圍與部署變化。

  8. AWS What's New78

    Amazon Bedrock AgentCore 新執行環境改為新建執行階段的預設版本

    AI 助理執行大型工作時需要更多運算資源,閒置時又可能持續佔用記憶體。AWS 現在讓 Amazon Bedrock AgentCore 新建的執行階段預設使用新一代環境:每個工作階段可擴充到 8 個 vCPU 和 32 GB 記憶體,閒置時會縮到零;工作階段會在隔離的 Firecracker microVM 中執行。以 2 GB 容器映像為例,P75 啟動時間從上一代的 29.7 秒降到 2 秒內;多輪 AI 助理每個工作階段的計費記憶體最多可減少 68%。既有執行階段要自行遷移,並可透過 platformVersion 選擇 V1 或 V2。

    推薦理由:新執行環境把啟動速度、資源上限與閒置時的記憶體費用放在一起說明,方便評估多輪 AI 助理工作負載的部署成本。

  9. llama.cpp Releases36

    llama.cpp b12311 改善模型下載搜尋、進度顯示與跨使用者端同步

    llama.cpp b12311 更新 Discover 搜尋介面與下載狀態處理,改善搜尋期間下載專案的呈現、進度更新,以及不同使用者端之間的同步。 - 下載進度與狀態:改為分別節流每個檔案的進度更新,並確保每個檔案的首次更新會傳送;使用者端要求暫停或取消時,伺服器會回報停止狀態,避免被介面顯示為下載失敗。

  10. Browser Use Releases39

    Browser Use 發布 1.0.3 候選版,修正命令列與瀏覽器操作問題

    Browser Use 的 1.0.3 候選版已推出,想試用的人要明確安裝 1.0.3rc1;一般安裝目前仍會取得 1.0.2。這版修正了幾種使用上的麻煩:例如對方關閉連線後,命令列工具能正常結束;找不到可連線的瀏覽器時,會自行啟動 Chromium;雲端工作取消後,下載的檔案也能在 10 秒內複製完成。新版也會逐一提醒哪些舊格式欄位被忽略,讓使用者更容易發現設定問題。

  11. OpenRouter Announcements72

    OpenRouter 分析自架 LLM 與 API 的成本損益平衡

    OpenRouter 比較自架開放權重模型與 API 的成本,說明 GPU 負載、模型吞吐量和 API 價格如何影響損益平衡。資料以 2026 年 10 月 8 日價格計算,並提供零資料保留與區域路由的隱私選項。

    推薦理由:文章以同一組 token 組成比較 GPU 租用與 API 費用,並納入流量負載和每位使用者速度,呈現成本損益平衡的計算方式。

  12. OpenRouter Announcements73

    OpenRouter 教你如何評測 LLM,並比較 10 個模型的合成任務結果

    OpenRouter 說明如何用符合應用輸入與輸出格式的任務評測 LLM,並比較正確率、費用與請求時間;文中也公佈 10 個模型在 60 項合成任務上的結果。

    推薦理由:文章以可重現的合成任務示範如何同時檢查正確率、輸出格式、成本與回應時間,也揭示公開排名與特定工作負載結果可能不一致。

  13. OpenRouter Announcements78

    OpenRouter 教學:如何阻止 AI 助理陷入無限迴圈

    OpenRouter 說明如何用四種護欄阻止 AI 助理因工具呼叫失敗而持續重試,降低單次執行與多個工作階段累積的費用。 - 六個模型的測試:啟用 doom-loop detection 後,18 次測試中有 16 次在兩次實際工具呼叫後結束;工具呼叫總數從 314 降至 64,支出從 $0.29 降至 $0.05。

    推薦理由:文章以六個模型的測試說明重試護欄如何減少工具呼叫與支出,並整理單次執行和 API 金鑰層級的控管方式。

  14. AWS Machine Learning Blog69

    Amazon Bedrock AgentCore 推出 Web Search API

    Amazon Bedrock AgentCore 推出 Web Search API,讓應用程式以單一 API 呼叫搜尋 Amazon 維護的網頁索引,取得排序結果與文字摘錄。

    推薦理由:文章比較 Web Search API 與 AgentCore Gateway 的適用情境,並列出篩選、許可權與私有連線設定,呈現直接整合網路搜尋的實作方式。

  15. AWS Machine Learning Blog76

    如何用反合一對形式化政策進行語意差異比對

    AWS 介紹如何用反合一比對形式化政策,將共通結構合併呈現,並把語意分歧標示為可審查的替代方案。 - 比對方式:引擎在 e-graph 中套用明確宣告的代數性質與領域改寫規則,忽略已涵蓋的表面差異;規則不足時,剩餘差異也可能只是尚未推導出的等價關係。

    推薦理由:文章以多種授權政策範例說明,如何用反合一定位形式化候選方案的語意分歧,並交由驗證、重播或人工審查處理。

  16. vLLM Official Blog70

    vLLM 團隊如何把 Qwen3-0.6B 在 TPU v7 上的 RL 訓練縮短到 56 秒

    小型模型計算量不大,但訓練時仍要等待資料傳送、工作排程和快取處理,整個流程可能因此變得很慢。Meta 團隊在 64-chip Google Cloud TPU v7 上,使用 vLLM、Tunix 和 MaxText 調整 Qwen3-0.6B 的 RL 訓練流程,讓每輪從產生回答到更新模型的時間,從約 100 分鐘降到最快 56 秒,並保留 8,192-token 的回答上限。文章也整理哪些調整有效、哪些沒有帶來明顯改善,並提供已合併到開源專案的設定與重現方式。

    推薦理由:文章拆解小型模型訓練中,主機排程、同步與快取如何拖慢整個流程,並以逐步最佳化的實測結果呈現各環節的影響。

  17. OpenAI News43

    ChatGPT Ads 透過 Aleph 擴大 44 個市場的購買管道

    品牌和廣告公司想在 ChatGPT 投放廣告,有時會希望用當地貨幣付款,也能找到當地團隊協助。現在,44 個市場的業者可以透過 OpenAI 的獨家轉售商 Aleph 簽約、付款並取得在地支援;他們也能繼續直接使用 Ads Manager,或透過原有的全球合作夥伴購買。這項改變只是多提供一種購買方式,不會影響廣告主把廣告投向 ChatGPT Ads 已開放的國家。OpenAI 表示,已有超過 10 萬名行銷人員在 ChatGPT 投放廣告。

  18. AWS What's New61

    Ornith-1.0-9B 和 Ornith-1.0-35B 開放在 Amazon SageMaker JumpStart 使用

    想讓 AI 助理協助寫程式,模型要能處理從安排工作到產生程式碼的整個流程。DeepReinforce AI 的 Ornith-1.0-9B 和 Ornith-1.0-35B 現已可在 Amazon SageMaker JumpStart 部署,兩者都用強化學習來改進工作安排和解題過程。9B 版有 256K token 上下文視窗,適合在單張 GPU 上執行;35B 版採用 MoE 架構,原文表示可部署在單張 24 GB 消費級 GPU 上。兩款模型以 MIT 授權發布,並在多項程式開發基準測試中表現突出。

  19. AWS What's New66

    DeepSeek-V4-Pro、DeepSeek-V4-Flash 和 DeepSeek-V4.1-Flash 登上 Amazon SageMaker JumpStart

    想在雲端使用大型模型時,團隊得依工作內容和運算成本挑選合適的模型。AWS 將 DeepSeek-V4-Pro、DeepSeek-V4-Flash 和 DeepSeek-V4.1-Flash 加入 Amazon SageMaker JumpStart,客戶可從模型目錄或使用 SageMaker Python SDK 部署。三款模型都支援 100 萬 token 上下文視窗;V4-Pro 面向複雜推理和高品質文字生成,V4-Flash 著重較低運算成本,V4.1-Flash 則支援多模態,並針對 AI 助理、程式開發和視覺工作調整 KV 快取用量。

    推薦理由:三款模型在啟用引數量、上下文視窗與多模態支援上各有差異,可用來比較推理、程式開發和視覺工作負載的部署選擇。

  20. AWS Machine Learning Blog50

    AWS 盤點 2026 年 10 月 AI 開發者新功能

    AWS 在 2026 年 10 月為 AI 開發者推出新模型與服務更新,涵蓋模型選擇、Agent 可用性、工作流程控制、結構化輸出及成本管理。 - 模型選擇:Claude Haiku 5.5適用於高流量、成本敏感的子 Agent 工作;Anthropic 表示,它在多數任務上的成本比 Claude Haiku 4.5低約 75%。