跳到正文

#產品更新

RSS
今日 1 則
11月17日週二
  1. NVIDIA Newsroom Press Releases65

    NVIDIA 發布 Rubin HPC GPU,加速科學與工程模擬

    科學家和工程師要比較更多材料、分子和設計時,需要大量模擬來測試想法,但運算速度會影響探索進度。NVIDIA 在 SC26 發布 Rubin HPC,這款 GPU 將用來加速科學、工程和資料分析工作。它有超過 50,000 個 CUDA 核心,並加快資料傳送和 GPU 之間的連線,讓核心能持續運算。Rubin HPC 預計於 2028 年推出。

    推薦理由:Rubin HPC 把資料搬移與運算能力一起擴充,能幫助理解科學模擬為何需要兩者配合,並加快研究人員測試想法的回饋流程。

  2. NVIDIA Newsroom Press Releases69

    NVIDIA 擴充 CUDA-X 函式庫,加速黑洞觀測與科學研究

    處理天文、核融合和生物研究的大量資料,常得花上很長時間,研究人員也可能要等實驗結束才能分析結果。NVIDIA 擴充 CUDA-X 函式庫,讓研究人員能更快處理資料,也能在模擬或實驗進行時檢視結果。例如,cuPhoton.xBeam 把黑洞觀測資料的分析時間從一個多月縮短到 8 分鐘;cuPotential 則讓分子模擬最多快 3 倍。這些工具也用在材料和細胞研究,幫助科學家處理更大的資料集、研究更複雜的系統。

    推薦理由:文章以黑洞觀測、核融合模擬、藥物探索與細胞分析為例,呈現 CUDA-X 函式庫如何縮短大型科學資料的處理時間。

  3. NVIDIA Newsroom Press Releases73

    NVIDIA 擴充 Slurm,讓超級電腦中心能管理量子處理器

    量子處理器要接進超級電腦中心,過去每換一種硬體或中心,就得重新處理軟體整合。NVIDIA 擴充 Slurm,讓量子處理器廠商能透過簡單的設定檔,使用 QRMI 和 QDMI 等介面整合硬體;中心則能把量子處理器加入既有的排程與資源管理流程。Slurm 26.11 預計本月稍晚推出。這讓科學家能透過熟悉的工作流程,安排量子處理器與傳統運算資源,執行量子和傳統電腦共同完成的研究。

    推薦理由:Slurm 加入量子處理器支援後,量子硬體廠商可重用整合方式,超級電腦中心也能沿用既有資源管理流程。

  4. NVIDIA Newsroom Press Releases58

    Lambda 用 NVIDIA Photonics 連線超過 10,000 張 GPU,提升 AI 工廠網路效率

    數千張 GPU 一起訓練 AI 模型時,網路如果太慢或中斷,整批工作都可能卡住。雲端服務商 Lambda 使用 NVIDIA Photonics 交換器,連線裝有 GB300 NVL72 的機櫃,整個 AI 工廠有超過 10,000 張 GPU。Lambda 的測試顯示,網路延遲在機櫃規模約降低 4%,在機群規模最多降低約 10%,耗電效率最高提升 5 倍、可靠度最高提升 15 倍。交換器採用液冷,也能在現場更換光源模組;如果雷射故障,就不必更換整個模組。

11月16日週一
  1. AWS Machine Learning Blog66

    Amazon Bedrock 開放權重模型支援明確提示詞快取

    每次請求都重送很長的背景資料,會增加處理時間和輸入費用。Amazon Bedrock 的開放權重模型現在支援明確提示詞快取,開發者可以標出要重複使用的內容,讓後續請求直接讀取快取;也能使用自動快取,或同時使用兩種方式。文章用產品手冊問答和 OpenCode 寫程式的例子,示範如何檢視快取讀取與寫入用量。把不常變的指示和參考資料放在前面,有助於重複使用;實際支援方式、最低長度和儲存時間則依模型而異。

    推薦理由:文章比較自動與手動標記快取字首的做法,並示範如何檢視讀寫用量,方便估算重複使用長提示詞時的費用與延遲變化。

  2. OpenAI News80

    OpenAI 擴充 ChatGPT for Healthcare,加入跨醫療系統操作與 20 多種外掛

    醫療團隊常要在電子病歷、院內規定、排程和保險網站之間找資料、搬檔案,花不少時間切換系統。OpenAI 為 ChatGPT for Healthcare 加入能讀取畫面、點選和輸入資料的 AI 助理,也改進臨床搜尋,並新增 20 多種醫療外掛。舉例來說,醫師可以請它檢視病歷,草擬 MRI 檢查單和給病人的回覆,再由醫師檢查;外掛也能協助查病人紀錄、安排聯絡和確認保險資格。使用受保護的健康資料時,機構還須採用符合 BAA 等條件的服務並設定好安全措施。

    推薦理由:醫療團隊常得在病歷、院內規範與保險系統間搬資料;這次更新把操作現有軟體、查詢醫學證據和串接醫療工具放進同一工作流程。

  3. OpenAI News78

    OpenAI 推出醫療用電腦操作 AI 助理,協助團隊處理跨系統工作

    醫療團隊常得在不同系統間搬資料,才能完成轉診、保險事前授權等工作。OpenAI 開放醫療用電腦操作 AI 助理,讓它能在現有軟體中點選和輸入資料,先整理病歷、草擬醫囑或申請內容,再交給醫師或行政人員審核。OpenAI 表示,在 325 項臨床任務中,99% 被評為安全;在行政工作基準測試中,GPT‑6 Astra 得分 94.3%,GPT‑6 Luna 得分 91.8%,每項任務成本低 98%,為 8.5 美分。醫療機構也能設定許可權、加入核准步驟並檢視操作紀錄。

    推薦理由:文章呈現臨床與行政工作中的安全性、實用度和成本資料,也說明醫療團隊如何讓 AI 助理處理跨系統流程並保留人工審核。

  4. Unsloth AI Releases72

    Unsloth Studio 推出 v0.1.918-beta,可讓模型操作電腦和連線創作工具

    模型要幫忙操作電腦或創作工具,得先看得到畫面,也要能和其他程式互動。Unsloth Studio 的 v0.1.918-beta 加入測試版電腦操作功能,支援 macOS、Windows 和 Linux;模型可檢視螢幕、控制滑鼠與鍵盤,但首次操作、切換應用程式和可能有風險的動作需要先核准,使用者也能隨時接手。更新也能透過 MCP 連線 Unity、Unreal Engine、Godot、Blender、Figma 和 Roblox,其中 Figma 只能讀取。此外,MiniMax-H3-Image 新增 GGUF、FP8、INT8 和 LoRA 訓練支援,長對話也能自動整理,減少舊訊息遺失。

    推薦理由:電腦操作功能可讓模型檢視畫面並控制滑鼠鍵盤,首次操作與可能有風險的動作都需先核准,呈現了這項功能的使用界線。

  5. Aravind Srinivas57

    做出能在瀏覽器玩的開放世界遊戲,通常得用遊戲引擎和現成素材。這款以 1986 年邁阿密為背景的賽車遊戲,是 Teammate 在 Fable 5.2 上用程式碼做出來的,沒有使用遊戲引擎、Three.js 或外部素材;畫面引擎、城市、車子、車庫、雨水和引擎聲也都由程式產生。遊戲約有 63,000 行 JavaScript、大小為 9 MB;影片則是 Teammate 在租用的雲端 GPU 上,以 1080p60 算繪。

  6. Rust Official Blog76

    Rust 編譯器在 nightly 預設啟用平行前端,讓部分程式編譯更快

    Rust 編譯器的前端原本一次只用一個執行緒處理程式檢查,編譯速度因此受限。Rust 團隊現在在 nightly 預設啟用平行前端,起初使用 2 個執行緒,想先找出問題,再評估何時能正式推出。測試中,部分 crate 使用 8 個執行緒時,編譯接近快 3 倍;但整個專案的測試只快約 15%,增量重編則平均快 3–5%。效果會依工作內容和可用的 CPU 核心數而不同。平行處理也可能讓錯誤訊息順序改變,少數情況下還會產生無法重現的二進位檔;使用者可調整執行緒數,或關閉這項功能。

    推薦理由:Rust 編譯器在單一 crate 的完整建置中,使用 8 個執行緒時,部分測試接近快 3 倍;整個專案的提升則較小,能看出平行編譯的效果會受工作量和 CPU 核心數影響。

  7. Google AI Official Blog80

    Google Maps 的 Ask Maps 新增旅遊行程規劃與預約搜尋功能

    假期出遊要排景點、查路況,還得安排各種待辦,常要在不同地方來回找資料。Google Maps 的 Ask Maps 新增多天行程規劃,可列出每天停靠地點,也能檢視即時路況、營業狀態、天氣、延誤和通行費;行程可以分享,或在電腦上匯出到 Google Docs。它也能搜尋附近店家的預約時段,並從收藏清單中找出有空位的地點。這些功能開始在 Android 和 iOS 推出;行程規劃與清單搜尋適用於 Ask Maps 開放的地區,路線提示和預約搜尋先在美國推出。

    推薦理由:Ask Maps 把行程規劃、路況查詢和預約搜尋放在同一個流程中,呈現它如何協助處理假期出遊與日常待辦。

  8. llama.cpp Releases45

    llama.cpp b12441 修正 WebGPU 多頭注意力遮罩計算

    llama.cpp 的 WebGPU 版在處理多個注意力頭各自使用遮罩時,會漏算遮罩對應的頭,讓結果出錯。這次更新修正遮罩位置的計算,也調整記憶體估算方式,避免部分 K、V 資料格式組合超出工作群組的儲存空間限制。使用多頭遮罩時,計算結果因此能更正確;更新也列出 macOS、Linux、Android 和 Windows 等平臺的建置版本。

  9. Tauri Framework Releases38

    tauri-bundler v2.10.5 修正 Windows 安裝與打包問題

    更新 tauri-bundler v2.10.5 後,Windows 安裝程式會在許可權不足、系統帳號或特定資料夾位置時顯示更清楚的錯誤,並修正程式簽章失敗,以及 MSI 更新時把使用者刪掉的桌面捷徑加回來的問題。這次也修好 NSIS 的波斯文和希伯來文顯示、Linux 和 macOS 重複下載工具,以及 RPM 套件無法處理 beta 版本等狀況,讓不同系統上的安裝與打包流程更順利。

  10. Tauri Framework Releases43

    Tauri 發布 v2.12.6,修正事件死結與多項視窗問題

    Tauri v2.12.6 修正了幾個可能讓桌面程式卡住或操作不順的問題。例如,開發者開啟 tracing 功能時,背景執行緒送出事件,可能和主執行緒同時處理事件或查詢網頁視窗,造成程式卡住;這次更新修正了這種死結。Linux 觸控視窗縮放、macOS 重新啟動程式時搶走目前視窗焦點,以及 Windows 找不到其他磁碟中的資源檔等問題,也都有修正。⊙

  11. vLLM Releases83

    vLLM 推出 0.34.0,新增 10 種模型並調整快取與執行器

    更新推論服務工具時,新功能可能讓原本的設定失效,也會改變模型能使用的 GPU 記憶體。vLLM 0.34.0 加入 10 種模型,並預設依暖機後實際空出的記憶體配置 KV cache;以 MiniMax-M3 在 H200 上為例,可容納的 token 從 433k 增至 672k,高並行時吞吐量也會提高,但部分模型每個 token 的生成延遲可能增加。這版也移除 Model Runner V1,只保留 V2,並把預設 block size 從 16 改為 64。升級前要檢查舊設定:例如通常不必再設定 gpu_memory_utilization,若要維持舊行為則可明確指定 block size 16。

    推薦理由:vLLM 0.34.0 同時調整 KV cache 預設與 GPU 執行器,並列出升級時可能打斷既有設定的變更,方便部署者評估更新影響。

  12. Guillermo Rauch52

    要預覽 X 貼文發出去後的樣子,通常得開瀏覽器截圖。Guillermo Rauch 推出 xeet,這個用 Rust 和 wasm 寫成的工具不必啟動瀏覽器、連網或讀取檔案,就能把貼文轉成 PNG;一般貼文約需 1 毫秒。它也會處理文字換行、從右到左的文字方向,以及不同語言和表情符號的字型。開發團隊用 Chrome 檢查大量排版規則,並讓自動流程追蹤 X 原本排版的變化,協助維持預覽結果的準確度。

  13. PyTorch Core Releases58

    PyTorch 修正 XNNPACK,讓 WebAssembly SIMD 建置能使用加速核心

    ExecuTorch 模型在 WebAssembly 啟用 SIMD 時,原本會因缺少 XNNPACK 對應的核心程式而無法完成連結;改用較慢的純量版本也會拖慢運算。這次修改讓啟用 SIMD 的建置納入 XNNPACK 的 SIMD 核心,並避免 pthreadpool 在 WebAssembly 使用不適用的 x86 指令。作者實測一個小型卷積網路,單執行緒每次執行從純量版本的 90.0 ms 降到 9.0 ms;未啟用 SIMD 的建置則不會多編譯這些程式。

  14. Browser Use Releases49

    Browser Use 1.0.6 改用 BU 4.0 作為預設模型

    Browser Use 1.0.6 把預設模型從 bu-fast 換成 BU 4.0,使用 Agent(task) 或 ChatBrowserUse() 時都會改用 bu-4.0。BU 4.0 的 token 費用是 bu-fast 的 15 倍:每 1M 輸入 token 要 $1.80、輸出 token 要 $9.00;文中一個簡短測試任務的費用,也從 $0.0014 變成 $0.022。簡單任務可指定 llm='bu-4.0-mini',困難任務可指定 llm='bu-4.0-pro';想維持原本模型和價格,則指定 llm='bu-fast'。

  15. PyTorch Core Releases55

    PyTorch 修正 Inductor 改寫運算後的資料錯誤

    PyTorch 的 Inductor 在改寫運算圖後,可能沿用舊的資料與排列資訊,讓後續運算出錯。這次修正會在每次改寫後更新相關資訊;如果結果無法安全接上,就不進行改寫。修正也處理了非連續輸入的集體運算問題:測試顯示,mm(a,b).t() 接著執行 all_reduce 時,修正前會算出錯誤結果,修正後則通過雙機測試。

  16. PyTorch Core Releases74

    PyTorch 用 Metal 改寫 MPS 的複數 FFT,部分資料形狀運算更快

    在 Apple 裝置上用 PyTorch 計算複數 FFT 時,原本的 MPSGraph 實作有些資料形狀跑得較慢。這項更新改用 Metal 核心處理複數轉複數的 FFT,並依資料長度選擇不同演算法;長度含有其他質數因子時,則改用 Bluestein 演算法。作者表示,新實作與 CPU 計算結果沒有數值差異。在 M5 Pro 的測試中,13 種基準資料形狀的中位速度提升 1.55 倍,143 種取自 Hugging Face 的資料形狀則提升 1.63 倍;個別形狀的速度變化不同。這次更新只涵蓋複數轉複數 FFT,rfft 和 irfft 暫時仍使用 MPSGraph。

    推薦理由:這次改寫涵蓋不同長度與質數因子的 FFT,並提供多種資料形狀的速度比較,可用來瞭解新實作在哪些情況下較有優勢。

  17. PyTorch Core Releases35

    PyTorch FlyDSL 新增 gfx950 的 fused matmul 與 reduce-scatter 原型

    這次更新在 FlyDSL 的選用版本中加入一種把矩陣運算和資料分散合在一起處理的原型。它使用 bf16 和加總方式,沿第 0 維分散資料,支援 TP 2、4、8,並限定用在 gfx950;運算時也會在同一個核心裡加總這個處理單位負責的資料區塊。這項功能需要 FlyDSL 和 gfx950 才能測試。

  18. llama.cpp Releases39

    llama.cpp 發布 b12420,支援 MiniMax-M3.1

    llama.cpp 的 b12420 加入對 MiniMax-M3.1 的支援,也列出 macOS、iOS、Linux、Android 和 Windows 等平臺的版本。像是 Linux 和 Windows 都有可搭配 CUDA 12、CUDA 13 或 Vulkan 使用的版本,部分平臺也提供 CPU 版本。這次更新讓使用者能在不同系統上使用 llama.cpp 執行 MiniMax-M3.1。

11月15日週日
  1. llama.cpp Releases66

    llama.cpp 加入 Inkling 2 文字與影像支援

    llama.cpp 原本還不能處理 Inkling 2,這次更新加入文字模型轉檔與推論,也支援影像模型轉檔和讀取圖片。量化權重會分批處理,避免轉檔時一次展開整層資料;測試中的合成權重解碼結果和 vLLM 一致,CPU 推論結果也符合發布說明列出的誤差範圍。不過,Inkling 2 的真實模型檔尚未完成轉檔測試。

    推薦理由:這次更新補上 Inkling 2 文字與影像支援,也說明量化權重分塊處理的記憶體需求與測試結果。

  2. PostgreSQL Official News57

    Datasentinel 2026.10 推出 AI Connector,讓 AI 助理協助排查 PostgreSQL 效能問題

    查 PostgreSQL 為什麼變慢,常得先翻監控資料,再自己找出原因。Datasentinel 2026.10 推出 AI Connector,能把收集到的效能指標交給團隊使用的 AI 助理分析,協助檢視慢查詢、鎖定情況、比較不同時段,並提出改善建議。它不會直接連上資料庫,使用者依原有許可權檢視資料;即時檢查採唯讀方式,執行計畫也只會估算、不會真的執行查詢。要留意的是,指標、SQL 文字、執行計畫和物件名稱會傳給所選的 AI 助理與大型語言模型。

  3. llama.cpp Releases44

    llama.cpp 發布 b12398,改善 RDNA3、RDNA4 顯示卡的提示詞處理

    llama.cpp 的 b12398 版本調整了 Vulkan 的 Flash Attention,讓 RDNA3 和 RDNA4 顯示卡處理提示詞時能減少記憶體使用,並修正多項問題,包括 NVIDIA 顯示卡可能卡住,以及稀疏 Flash Attention 使用 FP16 時的數值錯誤。這次更新也列出多種作業系統和硬體平臺的下載版本,方便使用者依自己的裝置選擇。