跳到正文

#產品更新

RSS
今日 1 則
11月19日週四
  1. LangChain Blog71

    LangSmith 推出 Tool Gateway,集中管理 AI 助理的工具許可權

    AI 助理開始在背景定時工作或回應事件時,團隊需要知道它能用哪些工具、代表誰操作,也要留下每次呼叫的紀錄。LangSmith 推出公測中的 Tool Gateway,讓 AI 助理透過同一個網址連線核准的工具,並可依使用者或助理身分套用憑證。管理者能限制工具使用、要求敏感操作先經人工確認,也能在 LangSmith 檢視工具、使用身分、結果和耗時等紀錄。這讓團隊更容易控管工具存取,並在需要時查明 AI 助理做過哪些操作。

    推薦理由:Tool Gateway 把工具許可權、使用者或助理身分與呼叫紀錄集中管理,呈現團隊如何讓背景執行的 AI 助理更容易接受管控與稽核。

  2. Unsloth AI Releases64

    Unsloth 更新 AMD NPU 支援,並加入影像與影片 LoRA 訓練

    在本機訓練和執行 AI 模型時,硬體支援、模型格式和等待時間常讓人卡關。Unsloth 這次更新讓轉換後的 Q4NX 模型能在 AMD NPU 上載入,也會標示每個模型能不能執行;此外,使用者可以訓練 LTX-2.5 和 MOSS-Image 的 LoRA,並在影片頁面載入 NVIDIA Cosmos3 的 FP8 模型。更新也加入聊天排程,讓排程任務的回覆直接出現在原本的聊天室。部分影像與訓練工作在特定硬體上每步最多快 42%,實際速度會依顯示卡和設定而異。

    推薦理由:這次更新把 AMD NPU、影像與影片模型訓練,以及聊天排程整合進 Unsloth,呈現本機 AI 工作流程涵蓋的範圍。

  3. PostgreSQL Official News81

    PostgreSQL 19 推出,資料整理時可不中斷讀寫

    資料表長期更新和刪除資料後,會累積用不到的空間;整理時又可能讓使用者暫時無法讀寫。PostgreSQL 19 新增 REPACK (CONCURRENTLY),可整理資料表並配合索引調整資料順序,同時讓讀寫繼續進行。這次更新也加入 pg_plan_advice,協助固定或測試查詢計畫;使用 WAIT FOR LSN,則可讓備用伺服器等到收到剛寫入的資料再回應查詢。此外,INSERT ... ON CONFLICT DO SELECT 可簡化「有就取出、沒有就新增」的操作。

    推薦理由:PostgreSQL 19 同時改善資料整理、查詢穩定性與跨伺服器讀取,可看出這次更新如何回應大型工作負載的管理需求。

  4. NVIDIA Blog45

    GeForce NOW 推出黑色星期五優惠,六個月會員首期省 30%

    想玩大作,卻不想先買遊戲主機或佔掉電腦空間?GeForce NOW 推出限時優惠:新會員和符合資格的升級會員,選 Performance 或 Ultimate 方案,第一個六個月期間可省 30%。服務也加入 Amazon Fire TV Stick HD、Fire TV Stick 4K Select 和 Fire TV Stick 4K(2026 model),接上相容的控制器,就能在電視上玩支援的遊戲;部分地區透過 Amazon 購買合資格方案,首月還可享 90% 折扣。 這週也有五款 Bethesda 遊戲加入 GOG 版本支援,包括 Indiana Jones and the Great Circle、Fallout 4、The Elder Scrolls V: Skyrim、DOOM 和 DOOM Eternal;已擁有這些 GOG 版本的會員,可以直接透過 GeForce NOW 遊玩,不必再買一次。整體來說,優惠讓玩家能用更多螢幕玩遊戲,也能用雲端串流省下下載和更新遊戲的時間。

  5. Databricks Blog38

    Databricks 推出 CustomerLake Conversions,讓廣告依照顧客價值投放

    同樣是一筆購買,有人可能會成為常客,有人只是趁打折買一次;只看廣告報表,品牌很難分辨哪種顧客更值得經營。Databricks 推出 CustomerLake Conversions,讓品牌把自己的購買紀錄、顧客價值等資料,用來挑選廣告受眾、傳送轉換訊號,也能把廣告成效帶回 Databricks 一起檢視。例如,零售商可以找出首次購買、而且預測可能再次回購的顧客,並把這些購買事件傳給廣告平臺。品牌能更清楚判斷哪些廣告帶來想要的顧客,也能自行決定分享哪些資料、分享給誰。

  6. OpenBMB51

    視障與低視力使用者出門時,可能需要協助看懂周遭環境或讀取文字。社群開發者 Rebel-Gloria 打造了 iPhone 和 iPad app PRTS,內建 MiniCPM-V 4.7 1B,可離線描述拍到的場景、朗讀招牌和檔案,也能用語音追問畫面中的細節。支援的裝置還可用另一套 LiDAR 系統提供口頭方向和節奏震動提示;部分線上功能與系統語音辨識則需要網路。

  7. PyTorch Core Releases48

    PyTorch ROCm TopK 調整 FlyDSL,讓不同列長共用同一個核心程式

    FlyDSL 原本會為每種列長各自編譯一份 TopK 程式,列越長,程式也越大,編譯時間和快取空間都跟著增加。這次改成執行時才傳入列長,讓不同列長共用程式,也減少重複展開迴圈所佔用的暫存器。以 MI350X 測試,66 種組合平均快約 1.09 倍;其中 fp16、K=1024、N=262144 的最佳結果快 1.60 倍。這讓程式編譯得更快、快取需求更少,大多數測試速度也有提升。

  8. LangChain Blog57

    LangSmith 推出 Data Annotation Queues,方便檢查紀錄並整理資料集

    大型語言模型應用一開始不一定有自己的資料集,想找出回答問題的地方也不容易。LangSmith 推出 Data Annotation Queues,讓團隊先從紀錄中挑出想檢查的案例,再標記答案好壞、加上分類,或整理進資料集。加入資料集前也能修改案例內容;暫時不想處理的案例可以移到佇列後面,完成檢查後則可標記為已完成。文章也介紹開源套件 langfree,可用來整理 LangSmith 紀錄中的 ChatOpenAI 執行資料,供微調和評估使用。

  9. LangChain Blog58

    LangChain 推出 LangSmith Alerts,及早發現 LLM 應用程式問題

    LLM 應用程式會用到模型服務、API 和資料庫等外部工具,服務變慢或回答品質變差時,可能影響使用者。LangChain 推出 LangSmith Alerts,可依錯誤數量與比率、平均延遲或平均回饋分數設定提醒,也能篩選特定模型、工具呼叫或執行型別,並選擇 5 或 15 分鐘的統計區間和提醒門檻。通知可接到 PagerDuty,或透過自訂 webhook 傳送到 Slack 等地方,讓團隊更快發現需要處理的狀況。

  10. llama.cpp Releases39

    llama.cpp b12533 修正 CUDA 大型輸出的位置計算錯誤

    llama.cpp 的 CUDA 矩陣運算在輸出非常大時,可能把寫入位置算錯,造成程式越界寫入並因非法記憶體存取中止。這次更新把相關位置計算改用能處理更大數值的 64 位元整數。舉例來說,詞彙表有 248320 個詞、輸出 16384 列時,結果會有 4.07e9 個元素,超過原本 32 位元整數能正確處理的範圍;修正後可避免這類位置計算錯誤。

  11. Replit ⠕36

    Replit 推出 Replit Missions,讓 AI 助理朝著使用者設定的目標工作,並由使用者設定預算和限制;工作進度看得見,完成結果還會交給另一個 AI 評審,依照使用者訂下的標準檢查。Replit 說,旗下 Agent 從 2024 年 9 月推出後,到 2025 年 9 月已能自主工作超過 200 分鐘。Missions 要把 AI 助理能獨立完成工作的範圍再往前推,讓人能掌握任務進度,也能檢查結果是否符合要求。

  12. Vercel Blog57

    Vercel 推出 Board,讓 AI 助理在共享佈告板協作

    多個 AI 助理一起處理工作時,任務討論和結果容易散在不同地方。Vercel 推出實驗中的 Board,讓 AI 助理和使用者在同一個討論串裡整理任務與結果,也能設定不同頻道可讀取的內容和可執行的操作。Board 可透過 Vercel Connect,和 Slack、GitHub 等工具雙向同步訊息;團隊也能使用自己的 AI 助理、執行環境和工具。Board 已開放所有方案使用,AI 助理可透過 Vercel CLI 或 JavaScript SDK 存取。

  13. Vercel Blog68

    Vercel 推出 Board,讓不同工具上的 AI 助理一起追蹤任務

    多個 AI 助理一起做專案時,任務、討論和進度容易散落在不同地方。Vercel 推出實驗性工具 Board,讓人和不同工具上的 AI 助理共用任務看板:AI 助理可以認領工作、回報進度、留下結果,也能把討論串和 Slack、GitHub 等工具雙向同步。團隊還能設定工作許可權、安排後續提醒,或讓新回覆自動喚醒 AI 助理。Vercel 表示,內部的 v0 軟體工廠目前用 Board 處理超過 50% 的 PR。

    推薦理由:多個 AI 助理分頭處理同一專案時,工作容易散落在不同工具;Vercel Board 把任務、討論與進度集中起來,並同步 Slack 或 GitHub。

  14. Pydantic AI Releases73

    Pydantic AI 發布 v2.71.0,新增 AI 助理工具管理功能

    AI 助理執行較長的工作時,可能會遇到工具太多、不知道能用多少資源,或還沒檢查完成就結束的問題。Pydantic AI v2.71.0 新增多種管理功能,例如設定規則允許、詢問或拒絕工具呼叫與 Shell 指令,也能回報剩餘預算,並在修改內容還沒驗證時要求 AI 助理先執行檢查。這次更新也加入 ToolBridge,讓工具清單維持固定,再透過搜尋和呼叫使用工具,方便管理大型或經常變動的工具集合。

    推薦理由:這次更新補上工具許可權、執行預算與完成檢查等能力,呈現 AI 助理在長時間執行任務時可用的管理方式。

  15. Guillermo Rauch42

    AI 助理要一起做事、交換訊息時,需要一個大家都能使用的地方。Guillermo Rauch 表示,他們打造了 Vercel Board,像是不用畫面的 Slack,也像以前的 IRC,讓 AI 助理透過 CLI 互相傳訊息。它不限定使用哪種模型、工具或主機平臺,只要帶上自己的 AI 助理就能使用。Rauch 認為,這能成為軟體工廠、自我改進的系統和科學研究的基礎:人只要先給一個起點,許多 AI 助理就能分散合作。

  16. Aravind Srinivas66

    把事件提醒、模型選擇和網址內容整理接程序式或 AI 助理,往往需要分別處理。Perplexity 表示,最近推出三種 API:Monitor 可設定事件提醒,Orchestrator 會依任務在前沿模型和開放權重模型之間安排路由,Context 則能批次把網址轉成可用內容。Perplexity 也表示,API 業務年增 4.3 倍,年營收規模已達九位數;這些 API 可用來把搜尋與內容處理接入其他工作流程。

    推薦理由:三種 API 分別處理事件提醒、模型路由與網址內容轉換,呈現 Perplexity 將搜尋能力延伸到不同 AI 助理工作流程的方向。

  17. Claude Code Releases61

    Claude Code 發布 v2.1.328,改善 Code Mode 與遠端工作階段

    Claude Code 在長時間工作、遠端連線和執行程式碼時,可能遇到工作中斷、資料遺失或操作卡住等問題。v2.1.328 加入 Opus 4.6 和 Sonnet 4.6 在多種雲端服務上的 auto mode,也修正 Code Mode、遠端工作階段和自架執行環境的多項問題。Code Mode 現在會顯示正在執行的指令和輸出,並改善技能與工作內容在恢復工作階段後的保留方式;長工作階段的記憶體使用和回應速度也有所改善。

    推薦理由:這次更新集中改善 Code Mode、遠端工作階段與自架執行環境,能從中瞭解 Claude Code 如何處理長時間工作和工具協作中的問題。

  18. PyTorch Core Releases41

    PyTorch FSDP2 新增方法,讓啟用解除安裝的程式排好資料複製順序

    使用 CPUOffloadPolicy 時,FSDP 會把引數從主記憶體搬到 GPU;如果另一段程式同時搬回啟用函式需要的資料,兩邊會搶同一條傳輸通道,引數可能因此晚到,後續工作也跟著延遲。PyTorch FSDP2 新增 get_all_gather_copy_in_stream(),讓程式等引數複製完成後再搬回啟用函式需要的資料,讓兩種工作能重疊進行。這個方法要等 FSDP 完成延遲初始化後才能呼叫;若改用目前的資料流處理引數複製,等待它就不會改變執行順序。

  19. PyTorch Core Releases39

    PyTorch ROCm Inductor 新增 CK 後端支援 3D 通道優先卷積

    PyTorch 的 CK 卷積後端原本只提供 2D 卷積選項,這次加入 3D 卷積的通道優先選項。不過,分組卷積目前不會交給 CK 處理,因為它傳入的通道數和 CK 預期的數字不同,可能讓結果悄悄出錯。這項修改已在 MI300X 上測試,測試結果通過;它補上了卷積支援,也避免分組卷積算錯。

  20. OpenAI News49

    住友生命如何靠主管帶頭,讓更多團隊開始使用 ChatGPT Enterprise

    住友生命的員工要整理資料、準備提案或撰寫分析用的程式碼,過去常得花不少時間。主管先帶頭使用 ChatGPT,總裁也鼓勵員工把它用在工作上,讓更多人願意嘗試。住友生命從 2023 年開始在工作中使用生成式 AI,2025 年讓約 100 到 150 人試用 ChatGPT Business,並於 2026 年 6 月改用 ChatGPT Enterprise。公司依照員工處理的資訊與連線的系統,決定使用許可權和方式;規劃團隊也會把相關聊天、檔案和指示整理在一起,協助準備提案。 住友生命估計,整體投資報酬率為 203%;每月使用 ChatGPT 至少 101 次的員工,估計為 524%。這些數字是根據員工回報省下的時間計算。公司也希望重新安排工作流程,讓 AI 分擔合適的工作,員工能把更多時間用來和客戶談話。

  21. AWS Machine Learning Blog66

    AWS 推出 SageMaker JumpStart Model Leaderboard,方便比較模型品質、速度與成本

    SageMaker JumpStart 有許多模型可選,但各處公佈的測試結果不一定能直接比較,也不容易看出實際執行成本。AWS 在 SageMaker Studio 推出 Model Leaderboard,讓人用相同測試方式比較 70 多個模型的品質、回應速度和預估費用。品質分數來自 BIG-Bench Hard、GPQA Diamond 和 MMLU-Pro;速度與費用則依不同部署設定測量,預估費用只計 SageMaker 執行個體成本。使用者可以先按授權和輸入輸出型別篩選,再挑符合工作需求的模型;AWS 也提醒,排行榜適合用來縮小選擇範圍,正式使用前仍要用自己的資料和提示詞測試。

    推薦理由:AWS 將模型品質、回應速度與執行成本放在同一套測試中比較,文中也說明如何依工作需求篩選,再用自己的資料確認模型表現。

  22. AWS Machine Learning Blog79

    Amazon SageMaker HyperPod 新增訓練故障檢查與工作復原功能

    大型 AI 訓練有時會卡住,或在硬體檢查通過後仍算出錯誤結果,白白佔用 GPU。AWS 為 Amazon SageMaker HyperPod 新增三項功能:MultiNodeTrainingValidation 會用固定訓練工作檢查 GPU 是否算出 NaN 或無限大的損失;Kubernetes 監控代理程式會整理故障涉及的節點、Pod 和工作;Slurm 的停滯工作偵測則能記錄問題,並依設定取消工作、讓它重新排隊。文中舉例,一項工作若卡住 15 分鐘便被偵測並重新排隊,估算成本可從約 $16,900 降至約 $530。這些檢查各自處理不同故障,設定時仍要留意規則是否正確,以及取消工作的條件。

    推薦理由:HyperPod 把訓練正確性、Kubernetes 故障和工作停滯分開監看,並說明各功能何時運作、如何回報及可能節省的 GPU 時間。

  23. ElevenLabs Official Blog71

    ElevenLabs 推出醫療版 ElevenAgents,協助處理病患與醫療團隊來電

    病患打電話預約或詢問資料時,若 AI 助理聽錯藥名、插話,或無法連上院方系統,事情就得重來。ElevenLabs 推出醫療版 ElevenAgents,搭配 Scribe v3 Live Medical 即時辨識醫療用語,也能接上預約、病歷和電話系統;遇到症狀問題或敏感資料,團隊可設定轉給真人處理。Cadence 使用這套服務聯絡慢性病患者後,聯絡到患者的中位時間從近兩小時降到 3.5 分鐘;患者接聽 AI 助理來電的比例也比接聽護理師來電高 47%。

    推薦理由:文章以醫療客服案例和轉錄測試結果,說明語音辨識、通話流程與人工轉接如何配合處理預約及病患來電。

  24. Databricks Blog74

    Databricks 推出 Genie Migrate,協助把工作搬到 Serverless

    把工作從 classic 搬到 Serverless,常得逐一處理設定、套件和程式碼問題,原本簡單的切換可能拖上好幾週。Databricks 推出 Beta 版 Genie Migrate for Serverless,會先掃描工作,標出哪些適合搬、哪些需要管理員處理,再把需要修改的地方列成差異畫面,讓人逐項審核後才套用。套用時會先複製工作,原本的工作保持不變,方便先跑一次確認;目前檢查只看設定和相依套件,不會實際執行工作。批次搬遷目前支援工作,筆記本支援尚未推出。

    推薦理由:Genie Migrate 把搬遷檢查與修改整理成可逐項審核的流程,也說明目前只做靜態檢查,適合評估匯入前的風險與人工作業。

  25. PyTorch Core Releases41

    PyTorch 新增 `aten::_grouped_mm.out`,讓 ExecuTorch 能順利儲存相關程式

    ExecuTorch 儲存匯出的程式前,會把每個運算改成能把結果寫進指定位置的形式;但 aten::_grouped_mm 原本沒有這種版本,因此遇到它就存不下來。這次 PyTorch 新增 aten::_grouped_mm.out,可以把分組矩陣運算的結果直接寫進 out。例如有些情況下,運算會先寫到暫存位置,再複製到 out;CPU、MPS 和 XPU 則會把結果分組寫進 out 的不同區段。這項修改補上原本缺少的功能,讓相關程式能配合 ExecuTorch 的儲存流程。

  26. Vercel Blog52

    Vercel 的 AI Gateway 開放免費網頁搜尋,eve 改用 Parallel

    AI 助理要搜尋網頁時,開發者可能得另外申請搜尋服務的 API key。Vercel 開放透過 AI Gateway 使用 Parallel fast mode,到 2027 年 1 月 31 日前免費,任何 AI Gateway 模型都能使用,不必另辦 Parallel API key。搜尋結果會附上網頁連結和簡短摘錄,也能依網站或發布日期篩選;eve 的 AI 助理則會在模型透過 AI Gateway 提供服務時,預設使用這項搜尋功能。免費優惠只適用 fast mode,其他模式仍按一般價格計費;預設也會啟用 Zero Data Retention。

  27. AWS Machine Learning Blog47

    Social Department 如何用影片脈絡和熱門話題,幫行銷人員找到適合的片段

    娛樂行銷人員常得在大量影片裡找出適合宣傳的片段,但光靠搜尋「咖啡杯」這類物件,找不到哪句臺詞值得分享、哪一幕適合做迷因,也不知道大家現在在聊什麼。Social Department 設計了 QuickSearch,讓使用者選擇想找的內容,系統就依照不同規則搜尋影片,或把最新熱門話題和片庫內容配對。像「迷因時刻」會挑出適合做迷因的畫面,並根據畫面產生文字;「熱門話題配對」則能找出和當下話題有關的舊劇片段。AI 先提出候選內容,團隊再確認;例如,程式會核對臺詞是否真的出現在劇本裡。這讓行銷人員更容易從片庫中找到值得使用的素材。

  28. AWS Machine Learning Blog76

    Amazon SageMaker AI 如何協助 Salesforce 跨區分流模型請求

    Salesforce 在多個地區替產品提供模型服務,但各地流量高峰不同,分開準備容量可能讓有些地區閒置、另一些地區卻不夠用。Amazon SageMaker AI 的跨區推論路由器能把多個地區和 AWS 帳戶裡已部署的端點放在同一條呼叫路徑上;本地端點出錯時,才把部分請求送到其他健康端點。Salesforce 可把必須留在原地區的請求固定在當地,也能從每次回應和 CloudWatch 檢視請求去了哪裡、原因是什麼。測試中,本地端點開始回傳錯誤後,流量逐步轉往另一地區,恢復後再慢慢切回。路由器使用既有容量,不會替端點部署模型或增加執行個體。

    推薦理由:Salesforce 的實測呈現路由如何在本地端點出錯後轉移流量,並在恢復後逐步切回,適合瞭解跨區備援的實際運作。

  29. Amazon Science68

    Amazon 推出 Isabelle AI 工具,讓 AI 助理撰寫並檢查數學證明

    AI 助理寫數學證明時,可能會編出看似合理卻錯誤的內容。Amazon Science 介紹 AutoCorrode 驗證套件中的 I/Q、I/R 和 Isabelle Assistant,讓 AI 助理能連線 Isabelle,邊寫證明邊確認內容是否正確;其中一種工具也能在使用者繼續工作的同時,讓 AI 助理在背景處理證明。文章用平方根 2 是無理數、連續合數和正弦函式定積分等例子,展示 Claude 產生的證明如何由 Isabelle 檢查。較難的問題仍需要人類思考,但 AI 助理能代做繁瑣步驟,也能在遇到困難時接受提示再繼續。

    推薦理由:文章以平方根、連續合數與定積分為例,說明 Isabelle 如何邊產生邊檢查證明,讓讀者看見 AI 輔助數學推理的做法。

  30. Vercel Blog43

    Vercel Drives 讀取檔案速度最高快 6 倍

    Vercel Drives 更新後,讀取檔案的速度最高提升 6 倍,改善的是資料第一次讀取時比較慢的情況。新的讀取方式會參考應用程式平常怎麼取用資料,先從長期儲存空間載入接下來可能用到的內容,減少程式等待時間。所有 Drives 都會自動更新,不用升級 SDK 或更改設定,讀取費用也維持不變。

  31. AWS Machine Learning Blog35

    AWS Quick 如何讓企業資料準備好,讓 AI 助理能開始推理與工作

    企業想讓 AI 助理回答問題、幫忙處理工作,得先確保資料可信,也要能從同一個地方找到需要的資訊。Financial Independence Group 把客戶、財務等表格資料,以及內部檔案整合到 AWS Quick,讓員工能直接查資料、取得分析,並用 AI 助理處理一連串工作。活動中,參加者還在 50 分鐘內做出 AWS Quick 應用程式,也用 AWS Quick Flows 把重複的資料工作串成自動流程。這些例子顯示,做好資料整理和管理,團隊就能更快把想法變成實用工具。