跳到正文

全部動態

RSS
今日 4 則
11月13日週五
  1. Hugging Face Transformers Releases76

    Hugging Face Transformers 發布 v5.23.0,更新模型匯出與多模態支援

    模型要在不同執行環境使用,匯出、分享和重新載入往往得處理不同流程。Hugging Face Transformers v5.23.0 把這些步驟整合到 ExportedModel,支援 Dynamo、ONNX Runtime、OpenVINO 和 ExecuTorch;匯出的模型可以推送到 Hub,再由對應環境載入。這版也加入多個模型支援,修正視覺、音訊、快取和分散式運算問題。效能比較顯示,在列出的測試中,ONNX Runtime 和 OpenVINO 都比 eager PyTorch 快,但實際差異會依硬體和設定而變。

    推薦理由:這次更新把模型匯出、分享與載入整合成相近的操作方式,也列出不同執行環境的速度比較,可看出部署流程有哪些變化。

  2. DeepSeek66

    想在自己的應用程式裡加入 DeepSeek App 的功能,現在可以透過 DeepSeek API 使用搜尋、檔案、連結、安全和語音功能。開發者可以用幾個引數開啟內建功能,也能單獨呼叫 OCR、ASR 和 TTS,打造更多元的對話,或重現完整的 DeepSeek App。DeepSeek 也提供開源前端示範,支援匯入 DeepSeek 對話紀錄。

    推薦理由:DeepSeek 將 App 的搜尋、檔案與語音等功能開放給 API 使用,並提供可匯入對話紀錄的前端示範,方便了解整合方式。

  3. cloudflare blog71

    Cloudflare 推出支出管理,Workers 和 Durable Objects 可設定花費上限

    雲端用量突然增加,可能讓開發者收到超出預期的帳單;只有花費通知,無法阻止費用繼續增加。Cloudflare 推出測試版 Spend Management,讓隨用隨付的客戶為 Workers 和 Durable Objects 設定花費上限與提醒,達到上限時會自動暫停會產生費用的操作。使用者可以在儀錶板、cf CLI 或 REST API 管理限制,並檢視接近即時的費用和修改紀錄。暫停後可提高上限、停用限制,或等到下一個帳單週期恢復。Cloudflare 表示,之後會把支出限制擴充套件到更多產品。

    推薦理由:Cloudflare 說明支出計算與限制如何從用量彙整一路傳到全球節點,呈現成本控制在大型分散式平臺上的設計取捨。

  4. Hugging Face Blog64

    llama.cpp 與 ggml 發布 v1.0.0,讓 API 相容性變更更清楚

    使用 llama.cpp 和 ggml 的開發者越來越多,程式庫介面一旦改變,可能影響依賴它們的其他軟體。ggml-org 發布 llama.cpp 與 ggml 的 v1.0.0,並說明往後若公開 API 或 ABI 出現不相容變更,主版本號就會增加,讓開發者更容易看出升級可能帶來的影響。文章也列出主版本號、小版本號與修補版本各自適用的變更型別,並說明目前支援超過 150 種模型架構變體。

    推薦理由:llama.cpp 與 ggml 升至 v1.0.0 後,公開 API 的相容性變更會反映在主版本號,方便依賴這些程式庫的開發者掌握升級影響。

  5. Apple Newsroom82

    Apple 推出 HomeView,讓 Siri AI 在家中螢幕上回答問題並操作 App

    在家裡檢視行事曆、聯絡人和裝置狀態,常得在不同 App 之間切換。Apple 推出 HomeView,裝置可用臉部辨識最多六位使用者,顯示各自的訊息、FaceTime、行事曆、提醒事項和尋找內容;Siri AI 也能回答問題,或依螢幕上的內容採取行動。搭配支援 Apple Intelligence 的 iPhone 或 iPad,還能參考使用者的行事曆、訊息和其他 App 資訊,提供更個人化的回覆。HomeView 已在美國等七個市場開賣,價格為 $299(美國);Siri AI 目前僅支援英文,且 HomeView 尚未在歐盟販售。

    推薦理由:HomeView 結合臉部辨識與個人行事曆、訊息等內容,也能透過 Siri AI 回答問題並操作 App,呈現居家裝置與個人資訊整合的用法。

  6. PyTorch Core Releases42

    PyTorch FSDP 修正單一分片群組的梯度被重複縮小問題

    FSDP 遇到只有一個分片的群組時,會跳過資料交換,但仍要調整梯度大小。問題出在某些情況下,系統已把調整分成前後兩步,單一分片的處理又多做了一次,讓梯度縮得太小;例如原本應除以 4,結果變成除以 16。這會影響一般 FSDP 和 HSDP 的單一分片群組。這次修正只在前後兩步都沒有另外調整時,才由單一分片的處理來調整梯度。

  7. OpenBMB39

    現場攝影機拍到畫面後,通常還需要人檢視、整理,才能用來處理工作。CamThink 把 NeoEyes 邊緣攝影機、NG4500 AI Box 和 NeoMind 平臺接在一起:攝影機拍下照片後,會觸發 AI 助理,讓內建的 MiniCPM-V 4.7 1B 依照提示詞清點人數、找出安全違規、檢視垃圾桶裝了多少,或讀取儀表數字。結果會整理成資料,顯示在儀錶板,也能用來發出異常提醒或連線其他系統。照片和分析結果會留在現場網路內;辨識效果則會受提示詞、照片清晰度和模型能力影響,重要工作仍應由人確認。

  8. AWS What's New52

    AWS 在 GovCloud 的 Kiro 推出 Grok 4.7

    在需要長時間處理程式碼或知識工作的任務中,模型得持續專注並檢查自己的工作。AWS 現在讓 GovCloud(美國)區域的 Kiro IDE 和 CLI 使用 Grok 4.7;官方表示,和 Grok 4.6 相比,它在大型程式庫工作的規劃和修正錯誤上更可靠,也提供實驗性支援與 500K 上下文視窗。管理員可以控制組織成員能使用哪些模型;使用者更新並重新啟動 Kiro 後,就能從模型選單選取 Grok 4.7。

  9. shadcn35

    當我們開始著手設計「behavior」概念時,就想試著讓 AI 助理更擅長做好無障礙設計。我們花了很多心思,確保 UI SDK 的 behaviors 能妥善處理並驗證介面的無障礙設計。 因此,當你要求 AI 助理使用 UI SDK 建立介面時,就能預期它一開始便能做好無障礙設計,並採用最佳實務。 下方影片中的每個介面,第一次生成時都拿到這些分數。 我們為 AI 助理打造了 UI SDK。

  10. Cursor Official Blog79

    Cursor 說明安全事件經過,最多 5,000 人可能收到惡意 Claude Code 擴充套件

    Cursor 說明,一把遭竊的存取金鑰讓攻擊者取得部分歷史資料與憑證,並進一步入侵部分 SaaS 工具。外洩資料包含少量未遮蔽的憑證,API 憑證遭洩漏的客戶不到 0.01%;攻擊者也把未經 Anthropic 發布的 Claude Code 惡意版本放進 Cursor 擴充套件市集使用的快取。10 月 29 日曾要求特定快取版本的使用者,最多有 5,000 人可能收到惡意版本,包含 Anthropic.claude-code 2.1.312 和 2.1.313;單純移除擴充套件可能無法排除影響。Cursor 表示已下架版本、輪換憑證、重建市集並將推論流量移出 Fireworks,觀察到的最後一次攻擊活動發生在 11 月 1 日,且已遭攔截。

    推薦理由:說明外洩憑證如何一路造成資料遭取用與擴充套件遭竄改,也交代受影響範圍及 Cursor 已採取的處理措施。

  11. llama.cpp Releases82

    llama.cpp 發布 v1.0.0,新增模型支援並加強伺服器防護

    使用本機模型時,開發者會遇到模型格式、硬體和伺服器安全等不同問題。llama.cpp v1.0.0 更新了公開 API,加入 FP8 KV 快取、CPU 專家快取和外部資料分片載入,也支援 Kimi-K3.1-Pro、Ripple、xing4_0 等模型,以及語音和視覺輸入。伺服器部分修正了 DNS rebinding、CORS 和 SSRF 等安全問題,也新增語音生成 API;網頁介面則加入聊天分組和 Markdown 編輯器。這次更新涵蓋模型執行、伺服器和操作介面,並同步升級 ggml 至 v1.0.0。

    推薦理由:這次更新同時調整 llama.cpp 的公開 API、模型支援與伺服器防護,能看出這個工具如何擴充套件本機多模態應用並處理常見網路風險。

  12. n8n Blog61

    n8n 2.47.0 加入 API 請求限制,避免單一工作流程擋住其他團隊

    多個團隊共用一個 n8n 執行個體時,某個工作流程可能在短時間送出大量 API 請求,讓其他團隊也無法使用。n8n 2.47.0 起,管理員可為每個 API 金鑰設定請求上限,讀取和寫入也能分開限制;超過上限時,n8n 會回傳 429,並告訴使用者端何時可以重試。這項功能預設關閉,可從設定頁面、API 或自架環境的環境變數啟用。若工作流程要處理大量專案,可設定分批送出,避免一下子打出太多請求;搭配冪等金鑰,也能降低重試 POST 請求時重複執行的風險。

  13. Microsoft ONNX Runtime Releases75

    ONNX Runtime 1.32.0 加快大型模型啟動,新增 CPU 與 GPU 混合處理功能

    大型模型的計算圖很大時,ONNX Runtime 建立工作階段可能要等很久。1.32.0 改善了記憶體安排和計算圖整理方式,讓一個有 10 萬個節點、內容以常數為主的模型,啟動時間從超過 10 分鐘縮短到約 5 秒。新版也能把量化 MoE 模型的工作分配給 CPU 和 GPU,並加入 ONNX opset 28 支援。使用者升級時要留意,舊的 ACL 執行提供者已移除;CUDA 和 WebGPU 外掛也要搭配相符版本,以免運作錯誤或當機。

    推薦理由:新版把大型計算圖的啟動時間從超過 10 分鐘降到約 5 秒,也加入 CPU 與 GPU 混合處理量化 MoE 模型的功能,能看出它在大型模型部署上的改進。

  14. PyTorch Core Releases48

    PyTorch Inductor 加快 FakeTensor 資料更新,區域性修改最快快 54 倍

    PyTorch Inductor 原本每次更新 FakeTensor 資料時,都會掃描整張運算圖;如果只改了其中一小部分,連沒受影響的地方也得檢查,編譯就會花較多時間。這次新增的更新方式從已知的修改位置開始,只往受影響的地方檢查,資料沒有變化時就提早停下。測試中,對一張有 1,605 個節點的運算圖做 200 次區域性修改,更新時間從 25.4 秒降到 0.47 秒,快了 54 倍。結果顯示,若修改隻影響小範圍,就能少做很多不必要的檢查,讓更新更快。

  15. AWS What's New57

    AWS Systems Manager 用 Cloud Connector 集中管理 Google Cloud VM

    同時管理 AWS、Google Cloud 和其他環境的虛擬機器,過去常要在每個環境分別設定。AWS Systems Manager 的 Cloud Connector 現在支援 Google Cloud,可自動在 Google Cloud VM 大規模部署 SSM Agent。接上後,這些 VM 會和 EC2、本機伺服器及 Azure 資源一起出現在同一個管理畫面,團隊也能用同一套工作流程執行遠端連線、指令、修補和清查等工作,減少跨雲管理的繁瑣設定。

  16. AWS What's New55

    AWS Security Hub CSPM 支援用 AWS Organizations 集中管理安全設定

    大型組織要讓不同帳號和區域使用一致的安全設定並不容易,設定也可能逐漸走樣。AWS Security Hub CSPM 現在支援透過 AWS Organizations 宣告性策略,統一啟用服務、選擇安全標準與控制措施,也能指定套用到哪些帳號和區域,並讓新帳號建立時自動套用設定。AWS 提供遷移流程,可把現有的集中設定策略轉成宣告性策略;這項功能已在商業、AWS GovCloud(美國)和中國區域推出。

  17. AWS What's New65

    AWS Secrets Manager 支援把金鑰複製到其他帳戶

    如果主要 AWS 帳戶故障或遭入侵,存放在裡面的金鑰也可能無法使用。AWS Secrets Manager 現在能把金鑰同步複製到另一個 AWS 帳戶,主金鑰更新或輪換時,副本也會自動更新;副本使用自己的客戶管理 KMS 金鑰加密,不需要共用 KMS 金鑰或設定跨帳戶金鑰政策。團隊可以把副本放在專用的復原帳戶,需要時再將它升級成獨立金鑰。

    推薦理由:跨帳戶副本會隨主金鑰變更與輪換自動更新,並由副本帳戶自己的 KMS 金鑰加密,適合瞭解金鑰備援的管理方式。

  18. AWS What's New38

    Amazon Bedrock AgentCore 身分功能支援 OAuth 2.0 授權伺服器網址

    有些網站的 OAuth 2.0 授權伺服器沒有採用 OIDC,過去就無法和 Amazon Bedrock AgentCore 身分功能搭配使用。現在,設定 JWT 授權或自訂 OAuth 憑證提供者時,可以使用 OAuth 2.0 或 OIDC 的發現網址,讓 AgentCore 能找到授權伺服器需要的資料。這項功能已在所有提供 Amazon Bedrock AgentCore 的 AWS 區域推出,不需額外付費。

  19. AWS What's New56

    Amazon SageMaker 融通式合作開發工作室可依成員稱號自訂介面

    不同工作的人看到一樣的工具介面,可能會覺得混亂,也可能造成管理問題。Amazon SageMaker 融通式合作開發工作室現在讓網域管理員依成員的稱號設定可見工具,並把同一套版面套用到網域內所有專案,不必逐一調整。比如,SQL 分析師可以只看到查詢編輯器,機器學習工程師則可看到筆記本、訓練作業和模型端點。成員若直接開啟被隱藏的頁面,會看到拒絕存取的提示;有多個稱號的人則會看到各稱號設定工具的合併結果。

  20. AWS What's New52

    AWS Batch 在 Amazon EKS 新增容器安全設定

    在 Amazon EKS 上執行 AWS Batch 工作時,叢集的容器安全規範可能限制工作能使用的許可權與系統呼叫。AWS Batch 現在可在作業定義中設定 Linux capabilities、seccomp 設定檔和容器組層級的安全設定,例如 fsGroup。容器自己的設定會優先於容器組的預設值。這些設定可透過 AWS 管理主控臺、AWS CLI、AWS SDK 或 AWS CloudFormation 配置,適用於提供 AWS Batch 的所有 AWS 區域。

  21. AWS What's New36

    AWS Marketplace 讓賣家自行提交退款交易的增值稅折讓單

    以前,AWS Marketplace 賣家遇到已退款的交易時,如果需要補交增值稅折讓單,得聯絡 AWS 處理。現在,賣家可以到 AWS 合作夥伴中心,檢視符合資格的退款、挑選要列入折讓單的專案,再上傳 PDF 或適用的電子發票檔案,並追蹤處理進度;符合條件時,也能把多筆退款合併在一張折讓單裡。這項功能適用於歐盟部分成員國、挪威和英國的合格交易,也包含渠道合作夥伴專屬優惠,讓賣家能自行處理退款後的增值稅檔案。

  22. Databricks Blog73

    Apache Spark Real-Time Mode 是什麼?如何讓串流資料更快處理

    資料要等到下一批才開始處理時,串流工作可能得花上一秒以上才有結果。Apache Spark 的 Real-Time Mode 會在資料一到就持續處理,沿用原本的查詢程式,讓不帶狀態的工作達到個位數毫秒延遲;有狀態的工作則約為 140 毫秒 p99。使用時要替所有處理階段預留運算資源,並用專屬延遲指標監控。它支援 Kafka 等來源與多種運算,但不能直接寫入 Delta 表;若工作可以等幾秒或幾分鐘,成本較低的微批次處理會更合適。

    推薦理由:文章整理 Real-Time Mode 的啟用條件、支援範圍與監控方式,能幫助團隊判斷哪些串流工作適合改用毫秒級處理。

  23. Artificial Analysis64

    挑選 AI 模型協助找出並修補軟體漏洞時,除了看分數,也得考慮花費和輸出的長度。Artificial Analysis 評測 Tencent 的 Hy4,在自家 Cyber Index 得 58%,排名第 3;在測試 AI 助理找出並修補真實軟體漏洞的 CWE-Bench-AA 得 76%,排名第 1。每項任務成本是 $0.92,輸出 64k tokens。這些數字讓人能同時比較漏洞測試表現與成本,但只反映這篇評測採用的測試結果。

    推薦理由:Hy4 在漏洞修補測試中的表現、每項任務成本與輸出 token 數,可一併用來比較不同模型的能力和花費。

  24. OpenAI Codex Releases56

    OpenAI Codex 0.169.0 更新,新增終端側邊對話與 Cloud 操作

    OpenAI Codex 0.169.0 擴充終端工作區、任務搜尋與 Cloud 對話功能,並修正多項安全與操作問題。 終端功能:可在工作區開啟多個側邊對話分頁、搜尋較舊任務,並收合完整畫面逐字稿中的已完成活動;也能新增或編輯自訂模型提供者。 Cloud 對話:在 macOS 和 Linux 的選用 Cloud 連線中,可傳送圖片、選擇模型與推理強度,並封存或還原對話。 修正與檔案:codex exec 在不受信任目錄中仍會停用專案設定與 MCP 伺服器;另修正 Windows 沙箱、貼上圖片方向及中斷回合處理,並更新 Codex 與 ChatGPT 的設定檔案。

  25. Vercel Blog54

    Vercel AI Gateway 開放使用 Thinking Machines 的 Inkling 2 Small

    Thinking Machines 的多模態推理模型 Inkling 2 Small 已在 Vercel AI Gateway 上提供,可用於程式開發AI 助理、視覺理解與專業知識工作。 輸入與輸出:支援文字和影像輸入,並產生文字輸出;可處理較長的程式開發任務、使用工具蒐集資訊,再整理成檔案、試算表等成果。 視覺能力:可讀取影像中的文字、解讀圖表與資訊圖表、檢視介面;在視覺開發流程中,能根據截圖檢查程式碼產出並引導後續修改。 接入方式:模型名稱為 thinkingmachines/inkling-2-small。安裝最新版 Vercel CLI 並執行設定後,可在 Claude Code、Codex、Cursor 等程式開發AI 助理中選取該模型;詳情見 coding agents guide,也可在 model playground 試用。 AI Gateway 服務:提供統一 API、用量與成本追蹤、重試與故障轉移設定及效能最佳化;另有自訂報表、Zero Data Retention 支援、API 金鑰預算和路由規則。 費用:AI Gateway 依照供應商定價,不加價;推論不收平臺費,包含 Bring Your Own Key(BYOK)請求。

  26. ollama52

    需要 AI 助理看懂圖片、檔案或財務資料時,使用者會在意模型能處理哪些內容,以及資料是否會被保留。Ollama 宣佈可在 Ollama Cloud 使用 Thinking Machines 的 Inkling 2 Small,並表示不會保留資料。這款 594B 混合專家模型的上下文視窗為 1M,原文列出的用途包括 OCR、資訊圖表理解、視覺推理、透過 MCP 呼叫工具,以及分析財務試算表、申報檔案和其他檔案。