跳到正文

全部動態

RSS
今日 4 則
11月11日週三
  1. OpenRouter Announcements64

    OpenRouter 教你排除 OpenAI 與 Claude API 的 429 速率限制錯誤

    OpenRouter 說明如何辨識 LLM API 的 429 速率限制來源,並以等待重設時間、切換備援模型及改由其他供應商提供服務三種方式處理。 - 等待重設時間:範例中的 60 筆請求使用預設重試時有 23 筆失敗;依 Retry-After 或 X-RateLimit-Reset 等待後,60 筆皆完成,Python 範例耗時 89 秒。

    推薦理由:文章以 60 筆請求的實測比較等待重設時間與模型備援,呈現完成率、耗時和成本差異,並說明各自適用的限流情境。

  2. Microsoft Research73

    Microsoft Research 揭示 Lazarus:重程式設計休眠神經元以在 AI 助理植入後門

    Microsoft Research 揭示 Lazarus 後門技術,可重程式設計 LLM 中少於 10 個休眠神經元,讓 AI 助理在隱藏觸發條件出現時執行惡意命令,且不需重新訓練模型。

    推薦理由:研究說明少於 10 個休眠神經元如何在免訓練下植入後門,並指出模型權重來源與完整性是防禦此類攻擊的關鍵。

  3. Browser Use Releases44

    Browser Use 發布 1.0.2 候選版,新增 Chromium 操作方式並改善卡住時的錯誤提示

    想先試用 Browser Use 1.0.2 的人,要自己安裝候選版:pip install 'browser-use==1.0.2rc1';一般安裝目前仍會拿到 1.0.1。這個版本讓 --cli-mcp 在 Chrome 遠端除錯關閉時改用自己的 Chromium,也會告訴模型怎麼取得你的 Chrome。若網頁被 JavaScript 對話方塊卡住,操作會更快回報清楚錯誤,減少一直等待的情況。

  4. AWS What's New56

    AWS 自訂帳單檢視新增帳單管理處與帳單轉移資料

    合作夥伴或組織若要整理不同帳單群組和客戶的費用,過去得分別檢視各自的帳單檢視。AWS 現在讓自訂帳單檢視使用帳單管理處和帳單轉移檢視作為資料來源,也能搭配原有檢視、套用篩選條件,再於 Cost Explorer、AWS Budgets 和帳單與成本管理主控臺檢視。帳單群組檢視可合併各業務部門的成本;帳單轉移檢視和轉移成本展示檢視則分別呈現客戶轉給合作夥伴的費用,以及客戶看到的成本。自訂檢視也能透過 AWS Resource Access Manager 分享給其他帳戶。此功能已在所有 AWS 商業區域推出,無額外費用。

  5. PyTorch76

    PyTorch 推出 ExecuTorch 的 WebGPU 後端,讓模型可在瀏覽器 GPU 上執行,並在分頁本機處理提示詞、照片與音訊。 - 匯出與支援環境:透過 torch.export 匯出一次,同一份 .pte 檔可在 Chrome、Safari 等支援 WebGPU 的瀏覽器執行。

    推薦理由:ExecuTorch WebGPU 將模型部署到瀏覽器本機執行,並以同一份 .pte 檔支援多種模型,呈現網頁端推論與裝置端微調的實作方式。

  6. AWS Machine Learning Blog62

    Amazon Bedrock AgentCore 評估指南:比較內建、DeepEval 與 AutoEval 評估器

    AWS 說明如何在 Amazon Bedrock AgentCore Evaluations 中,依代理的業務成果選擇內建、DeepEval 與 AutoEval 評估器,檢查任務完成、工具使用、對話品質與安全等行為。

    推薦理由:文章以客服、研究與專業領域代理為例,說明如何從業務成果拆解可觀察行為,再選擇追蹤或工作階段層級的評估器。

  7. OpenAI Alignment Research Blog84

    OpenAI 研究模型生命週期中哪些因素影響 CoT 可監控性

    OpenAI 研究預訓練、模型架構、強化學習與模型生成資料如何影響思維鏈(CoT)可監控性,發現模型能力提升與 CoT 可控性增加可能使監控更困難。 - 預訓練與架構:較低的基礎模型困惑度與較強的無 CoT 能力相關;多數評測中,困惑度可解釋不同架構的表現,但部分多跳規劃與序列計算任務呈現架構差異。

    推薦理由:研究比較預訓練、架構、強化學習與模型生成資料對 CoT 可監控性的影響,呈現能力提升與監督難度之間的關聯及評估限制。

  8. Higgsfield AI 🧩66

    Seedream 5.5 已在 Higgsfield 上線,這款 ByteDance 影像模型在編輯時較能保留細節。 功能:支援原生 RGBA 輸出、畫素級區域性編輯,並改善光線、材質、膚色自然度與小字清晰度。 可用性:目前可在 Higgsfield 使用,美國即將開放。

    推薦理由:Seedream 5.5 已可在 Higgsfield 使用,原文列出區域性編輯、原生 RGBA 輸出與細節保留等變化,並說明美國即將開放。

  9. n8n Blog35

    每位自動化工程師都該掌握的微服務最佳實務

    微服務架構將應用程式拆分為各自負責特定功能、透過 API 溝通的服務;文章整理設計與維運微服務時降低連鎖故障、隔離問題的實務做法。 - 服務邊界:以明確的業務能力劃分服務,並透過領域驅動設計界定各自的業務規則、語言與資料;例如,訂單服務負責建立訂單與追蹤狀態,付款服務處理扣款與退款。

  10. Google AI Official Blog76

    Google 擴大 Gemini Intelligence 裝置支援並推出新功能

    Google 擴大 Gemini Intelligence 在 Android 裝置上的支援,並推出自訂小工具、裝置協助等新功能。 - 裝置與地區:motorola signature 27 將於美國開放預購;Pixel 10、Pixel 10 Pro XL 和 Pixel 10 Pro Fold 透過 Pixel Drop 取得最新功能。

    推薦理由:內容列出 Gemini Intelligence 擴充套件至不同裝置與地區的功能和入口,便於比較各項能力的適用情境。

  11. AWS What's New59

    Amazon EC2 G7 執行個體新增倫敦、孟買、雪梨與聖保羅區域

    需要 GPU 的 AI 推論、圖形處理或資料分析工作,能使用的雲端區域會影響部署安排。AWS 將搭載 NVIDIA RTX PRO 4500 Blackwell 伺服器版 GPU 的 Amazon EC2 G7 執行個體,新增至倫敦、孟買、雪梨和聖保羅區域。AWS 表示,與 G6 相比,G7 的 AI 推論效能最高提升 4.6 倍、圖形效能最高提升 2.1 倍;每個執行個體最多配備 8 個 GPU。客戶可選擇按需、競價或節省計畫方式使用。