跳到正文

#產品更新

RSS
今日 1 則
11月18日週三
  1. LangChain Blog56

    LangSmith 新增追蹤資料許可權,讓團隊除錯時保護客戶資訊

    工程師需要檢視 AI 助理的工作紀錄來找問題,但紀錄裡可能有姓名、健康資料或付款資訊,不能讓所有人都看見。LangSmith 新增三種管理方式:限制誰能看使用者輸入和模型回覆、按團隊設定許可權,以及依追蹤紀錄中的客戶或使用者資料決定誰能檢視。工程師仍可檢查工具呼叫和速度等資訊,必要時也能只讓負責某位客戶的團隊檢視相關內容。這些功能已提供給 LangSmith Enterprise 方案。

  2. Apple Newsroom63

    Apple TV 本週末直播 F1 拉斯維加斯大獎賽

    想看 F1 賽事時,觀眾可能也想同時掌握不同車手畫面和賽道狀況。Apple TV 將直播拉斯維加斯大獎賽,賽事畫面可加入更多車手視角,也有前三名車手畫面、賽道追蹤資訊和車隊畫面。到現場的車迷可用 Apple Maps 查詢入口、接送區、飲水站、步行路線和道路封閉資訊,也能檢視賽道附近景點與粉絲活動。美國觀眾需訂閱 Apple TV,月費為 $14.99,新訂戶可免費試用七天。

    推薦理由:Apple TV 將提供賽車多視角直播,並搭配賽道資訊與週邊指南,讓觀眾能比較不同觀看方式與現場服務。

  3. Google AI Official Blog88

    Google 讓 Gemini 代辦電話預約、帳單分析和購物

    打電話預約、翻帳單找問題或比價購物,都得花時間自己處理。Google 更新 Gemini 的 Task 功能,讓它能依照指示使用連結的應用程式完成多步驟工作,例如同時打電話詢問預約、找出電費變高的原因,或把商品加進購物流程;有些步驟仍會交回給使用者完成。購買前,Gemini 設計上會先詢問確認,也能設定支出上限。這項更新正向美國、日本、韓國、加拿大、澳洲和印度的使用者免費推出,部分進階功能先在美國推出。

    推薦理由:Gemini 把打電話預約、整理帳單和購物等日常工作串在一起,也設有確認步驟與支出上限,能看出 AI 助理如何代辦多步驟任務。

  4. Google Developers Blog73

    Google 開源 ABFS,讓 Android 大型程式碼庫更快下載與建置

    Android 程式碼庫很大,下載原始碼和重新建置常要等很久,也讓開發者和 AI 助理難以快速開好多個工作區並平行測試。Google 做了開源工具 ABFS,先載入檔案清單,等建置真的需要某個檔案時才下載,並重用 CI 和開發者已經做好的建置結果。Google 表示,Android 原始碼下載時間從約 36 分鐘縮短到不到 8 秒,完整建置則從約 80 分鐘縮短到 2 分鐘多。ABFS 也能讓多個工作區共用快取;Google 正探索把它用在其他大型 Git 專案。

    推薦理由:ABFS 把大型 Git 專案的檔案按需載入,並重用 CI 與開發環境的建置結果,文中以 Android 實測呈現這套做法如何縮短等待時間。

  5. openrouter blog77

    OpenRouter 管理金鑰可限縮到單一工作區並設為唯讀

    管理金鑰若能操作整個組織,一旦外洩或被誤用,其他團隊的資料也可能受影響。OpenRouter 現在讓每把金鑰分別設定適用範圍和操作許可權:範圍可限於單一工作區或涵蓋整個組織,許可權則可設為唯讀或讀寫。唯讀金鑰能檢視範圍內的資料,但不能新增、修改或刪除;工作區管理員也能建立只管理自家工作區的金鑰。這讓報表和稽核工具可以讀取用量,團隊的自動化工具也能管理自己的 API 金鑰,同時降低誤用或外洩時影響其他工作區的風險。金鑰建立後不能再更改範圍或許可權,要調整就得建立新金鑰並刪除舊金鑰。

    推薦理由:OpenRouter 把管理金鑰的可用範圍和操作許可權拆開設定,讓團隊自動化與稽核工具只取得工作所需的許可權。

  6. AWS Machine Learning Blog43

    LoanPro 如何用 Amazon Bedrock 打造 AI 貸款服務助理

    貸款客服接到電話時,常得在好幾個畫面裡翻找付款紀錄、貸款餘額和客戶過去的問題,讓通話變久,也可能因為客服經驗不同而有不同處理方式。LoanPro 和 AWS、AllCloud 合作打造 AI 助理,能整理借款人的帳戶狀況、回答追問,並建議客服接下來可以採取的行動。舉例來說,客服開啟帳戶就能看到近期狀況摘要,不必自己逐筆拼湊資料;這套系統已在實際服務中使用。AllCloud 的案例資料顯示,客戶通話時間最多減少 15%。

  7. Replit Blog78

    Replit 推出 Missions,讓多個 AI 助理分工完成複雜任務

    團隊想完成大型專案,常會卡在人手和時間不夠。Replit 推出 Missions,使用者先說明目標、預算和哪些動作要先核准,接著由多個 AI 助理分工規劃、開發、測試和修改;完成進度與待核準事項都能檢視。Replit 用它打造自家的監控平臺 DataCat,花 2 天、預算上限 $3,000,完成儀錶板、警示和追蹤功能;測試時,平臺在 38 秒內找出刻意加入的資料庫錯誤。Replit 表示,DataCat 的自架版本也已開放原始碼。

    推薦理由:Missions 把多個 AI 助理分工執行、預算限制與人工核准放進同一流程,文中 DataCat 案例也呈現這套做法如何處理監控平臺建置與效能檢查。

  8. Databricks Blog56

    Databricks 在 Azure Government 開放新版平臺 Beta

    政府機關要使用新的資料與 AI 工具,常得同時滿足嚴格的安全與合規要求。Databricks 宣佈 Azure Government 上的新平臺進入 Beta,已提供 Unity Catalog、Databricks SQL 和無伺服器運算,並預設啟用加強監控、叢集自動更新與加密等防護;客戶資料只會存放和處理於美國政府雲端區域。FedRAMP Class D 與 DoW IL5 授權仍在申請中,預計於 2027 年初取得;Beta 目前僅供非正式環境使用,完整 AI 功能也還在規劃中。

  9. Databricks Blog58

    Databricks 和 LiveRamp 讓客戶在資料原處取得 RampID

    過去要把客戶資料比對成 RampID,團隊得先把個人資料送到外部服務,再等結果檔案回來,還要管理額外的資料副本。Databricks 和 LiveRamp 推出嵌入式身分比對服務:客戶把資料留在自己的雲端儲存空間,透過受治理的 Clean Room 執行比對,結果只寫回客戶能讀取的資料表,個人資料也會在輸出前移除。LiveRamp 看不到客戶的資料表或比對結果,但雙方都能檢視執行狀態與診斷紀錄。結果會保留 30 天,想長期使用就要自行複製儲存。

  10. Databricks Blog64

    Databricks 與 Google Cloud 打通 Unity Catalog,讓雙方能讀取同一份資料

    同一份資料放在不同雲端平臺時,常得複製一份才能分析,資料治理標籤也可能無法跟著移動。Databricks 與 Google Cloud 宣佈,使用者現在能透過 Unity Catalog 和 Google Cloud 的 Lakehouse 互相查詢同一份資料,不必複製;例如 Databricks 可以讀取 Google Cloud 管理的 Iceberg 資料表,BigQuery 也能讀取 Unity Catalog 管理的資料表。雙方也推動讓目錄分享標籤,像是資料屬於財務領域或含有個人資料等資訊,移到另一個目錄後仍能保留,方便治理資料並提供 AI 助理查詢所需的背景。

    推薦理由:Databricks 與 Google Cloud 讓同一份資料能跨平臺查詢,並分享治理標籤,呈現開放目錄如何減少重複管理。

  11. LMSYS Org Blog76

    SGLang Summit 發表 SGLang v1.0 與 Miles v0.2,擴大推論和訓練支援

    AI 模型越來越大,AI 助理也會累積大量工作紀錄,讓推論和訓練更難在不同硬體上順利進行。SGLang Summit 發表 SGLang v1.0,聚焦提升正式環境的效率與擴充能力;Miles v0.2 則支援 NVIDIA 和 AMD GPU、Google TPU,並將強化學習擴充套件到圖片、影片和音訊。大會也分享多個部署案例,例如 Meta 表示,改用 SGLang 後 GPU 用量減少超過 2 倍。這些更新與案例呈現了團隊如何把實際部署需求帶回開源工具的開發中。

    推薦理由:SGLang 與 Miles 的更新涵蓋推論和強化學習,也整理了不同硬體與實際部署的經驗,可看出開源工具如何回應現場需求。

  12. vLLM74

    看直播畫面時,AI 助理若要主動開口、回應內容並指出畫面中的物件,需要同時處理影片、對話和語音。vLLM Project 宣佈 vLLM-Omni 從第一天起支援 AURA 2.0,這款 9B 串流影片模型能判斷何時該說話、根據即時畫面和對話呼叫工具,並用方框標出正在討論的物件。vLLM-Omni 負責從語音辨識、影片理解到語音生成;在單一連線、使用兩張約 140 GB 加速器的設定下,首段回覆語音的中位延遲為 344 ms。原文也表示,AURA 2.0 在列出的四項基準比較中領先。

    推薦理由:vLLM-Omni 支援 AURA 2.0,並公佈單一連線設定下的首段語音延遲與四項基準比較,可瞭解這套視訊模型的互動方式與執行表現。

  13. Aravind Srinivas80

    處理複雜研究工作時,逐一交給不同模型可能花上不少時間。Perplexity 推出 Multiagent,可在 Computer 和 Teammates 中使用,開啟 Effort level 的切換選項後,讓 Fable 5.2 同時排程 Gemini 4 Carbon、GPT 6.1 Sol 和 Opus 5.5。官方表示,這適合財務研究、預測、預測市場,以及一起分析多份申報檔案;目前所有 Max 使用者都能在網頁版使用,手機版支援即將推出。

    推薦理由:Perplexity 讓 Fable 5.2 平行排程多個模型處理複雜任務,並列出財務研究與批次分析檔案等適用情境。

  14. NVIDIA Newsroom Press Releases79

    NVIDIA 推出 Nemotron for Science,讓 AI 助理協助規劃科學實驗

    研究人員要做科學實驗,得安排模擬、執行程式,再確認結果,過程常需要反覆操作。NVIDIA 推出 Nemotron for Science,結合 Nemotron 3.5 Super VL、化學資料集和生命科學與化學的訓練方法,研究人員可在自己的 DGX Spark、工作站或超級電腦上執行。在 Argonne National Laboratory,一個用這套工具打造的 AI 助理從一句提示詞開始,規劃並測試假設、挑選模擬,找出兩個新的結合位點。這讓研究人員能在自己的系統上使用模型與資料來協助研究。

    推薦理由:Nemotron for Science 可在研究者自己的系統上運作,並結合實驗規劃與模擬,文中案例呈現 AI 助理協助科學研究的方式。

11月17日週二
  1. Aravind Srinivas63

    想在瀏覽器裡探索馬裡亞納海溝,不一定要安裝遊戲。Perplexity 團隊成員用 Fable 5.2 製作了 HADAL,玩家從陽光照得到的珊瑚礁出發,搭上潛水艇一路往深處前進,沿途掃描 18 個發現。畫面中的地形、海帶、海洋生物、潛水艇和聲音都是生成出來的,作者也自行撰寫 WebGPU 畫面,不靠遊戲引擎或 Three.js。整個作品放在一個 373 KB 的 HTML 檔案裡。

    推薦理由:HADAL 把海溝探索做成瀏覽器裡可玩的體驗,並以自行撰寫的 WebGPU 畫面呈現;單一 HTML 檔僅 373 KB,具體展示了生成式工具如何產出完整互動場景。

  2. AMD60

    打造大規模 AI 算力需要 GPU 與相關基礎建設。AMD 恭喜 TensorWave 達成一項重要協議,將以 AMD Instinct MI455X GPU 為 OpenAI 提供算力;AMD 也表示 Helios 正在為大規模前沿 AI 打造基礎。原文沒有說明協議細節、部署時間或算力規模。

    推薦理由:這項協議點出 AMD Instinct MI455X GPU 將用於支援 OpenAI,也提到 Helios 在大規模前沿 AI 的基礎建設中扮演的角色。

  3. Unsloth AI Releases76

    Unsloth 0.1.919-beta 加入電腦操作,並更新模型選擇與圖片模型支援

    AI 助理要操作電腦或接上創作軟體,常得另外處理許可權和連線。Unsloth 0.1.919-beta 加入測試版電腦操作,讓本機視覺模型或已連線的服務檢視螢幕、控制滑鼠和鍵盤;第一次操作、切換應用程式和部分可能有風險的動作都要先核准,也能隨時接手。更新還能透過 MCP 連線 Unity、Unreal Engine、Godot、Blender 和 Roblox。MiniMax-H3-Image 新增多種硬體支援與 LoRA 訓練;原文表示,在 A100 80GB 上解碼 2048px 圖片從 2.82 秒縮短到 0.28 秒。

    推薦理由:這次更新把螢幕操作、創作軟體連線和本機圖片模型支援放進同一套工具,能看出 Unsloth 正擴大本機 AI 助理的使用範圍。

  4. Databricks Blog50

    Databricks Lakebase Postgres 如何靠快取,避免查詢直接讀取物件儲存

    一般人會擔心,Postgres 把資料放在物件儲存裡,查詢就得等很久。Lakebase Postgres 的做法是先找電腦裡的快取,找不到再問 pageserver;只有兩邊都沒有,才去物件儲存找資料。實際上,約 99.46% 的頁面讀取都由電腦本機快取處理,物件儲存平均每秒只收到約 39 次請求。比較少見的情況,是很久沒使用的資料庫剛醒來,或有人還原舊資料;第一次讀取可能較慢,資料放進快取後,後續讀取就會走較快的路徑。這讓 Lakebase Postgres 能把資料放在物件儲存,同時維持快速查詢。

  5. OpenBMB56

    替影片配上另一種語言的聲音,常得分別處理字幕、配音和時間對齊。社群開發者做了 VoxaDub,能先轉錄對話並對齊時間,再用 Hy-MT2 翻譯,接著以 VoxCPM2 參考各說話者的乾淨音訊來生成配音,並調整語句長度以配合畫面。完成後可把配音和原本的背景音合在一起,也能另外選擇唇形同步。模型設定完成後,配音可全程在本機執行;直播配音仍在實驗階段,時間調整有助於對齊,但不保證完全同步。

  6. PostgreSQL Official News48

    Navicat 推出 Navicat 18 for PostgreSQL,新增 AI 輔助編輯與資料遮罩

    管理 PostgreSQL 資料庫時,整理資料、修改查詢和保護敏感資料都可能很花時間。Navicat 推出 Navicat 18 for PostgreSQL,新增 AI 輔助功能,可幫資料欄位填入、翻譯或分析內容,也能協助設計資料表;SQL 編輯器則能找出語法問題,並幫忙整理查詢。新版本還能把真實資料換成看起來合理的假資料,供測試使用,也加入匯入 Parquet 檔案、批次修改資料和追蹤資料庫指令等功能。使用者可下載 14 天免費試用版。

  7. PostgreSQL Official News58

    Apache Cloudberry 2.2.0 更新至 PostgreSQL 14.10 核心

    大型分析資料庫要跟上 PostgreSQL 的修補,也得照顧不同作業系統和硬體平臺。Apache Cloudberry 2.2.0 把核心從 PostgreSQL 14.4 更新到 14.10,納入多項上游安全修補,並加入六種擴充功能與多項查詢改進。這個版本支援 Rocky Linux 8、9、10 和 Ubuntu 22.04、24.04,Ubuntu 20.04 則不再支援;安裝套件也支援 x86_64 和 ARM64。

  8. PyTorch Core Releases35

    Dynamo 修正單行函式與類別名稱作用域錯誤

    開發者發現 Dynamo 在處理只有一行的函式或類別時,會因為沒有「縮排結束」的標記,導致名稱快取沒被清除,後面的程式碼會被誤判成屬於前一個名稱(例如 def f(): 內的 return 1 被記成 E.f)。這次的修正在偵測到新行後,如果下一個重要符號不是縮排,就把那個名稱的作用域移除,同時保留原本的名稱本身,並正確忽略註解與空白行。開發團隊也加了回歸測試,確保單行函式、類別、疊加定義、裝飾器等情況都能正常運作。這樣一來,Dynamo 的程式分析就不會再因為單行定義而產生錯誤的名稱標記。

  9. llama.cpp Releases50

    llama.cpp 更新:解決 Muse Glimmer 視覺嵌入順序問題 (b12463)

    summary_zh: 很多人在用 llama.cpp 讓電腦看圖時,會發生「圖的編號排錯」的狀況,結果模型讀到的畫面資訊跟實際不符。開發者在這次的 b12463 版裡,修正了 Muse Glimmer 影像嵌入的順序問題(由 Claude 協助完成),讓影像轉成電腦可理解的編號時會正確排列。這個修正同時支援 macOS、Linux、Windows、Android 等多種作業系統,使用者不需要再擔心因平臺不同而出錯。換句話說,現在用 llama.cpp 進行視覺任務時,影像的處理結果會更可靠、更一致。 很多人在用 llama.cpp 讓電腦看圖時,會發生「圖的編號排錯」的狀況,結果模型讀到的畫面資訊跟實際不符。開發者在這次的 b12463 版裡,修正了 Muse Glimmer 影像嵌入的順序問題(由 Claude 協助完成),讓影像轉成電腦可理解的編號時會正確排列。這個修正同時支援 macOS、Linux、Windows、Android 等多種作業系統,使用者不需要再擔心因平臺不同而出錯。換句話說,現在用 llama.cpp 進行視覺任務時,影像的處理結果會更可靠、更一致。

  10. llama.cpp Releases42

    llama.cpp b12458 加入 YuE2-3B 支援並改善音訊生成

    llama.cpp 的 b12458 加入對 YuE2-3B 的支援,並調整音訊生成流程,包括加快速度、修正串流處理,還能從 API 控制 CFG。這次也修正多個伺服器工作槽同時處理請求時,可能拿到其他序列分數的問題,並調整計算步驟,讓部分運算更容易合併執行。更新提供多種系統版本,涵蓋 macOS、Linux、Android、Windows 和 openEuler。

  11. llama.cpp Releases41

    llama.cpp 修好 OpenCL 注意力運算的 3 個問題

    llama.cpp 修正 OpenCL 的 flash-attention 預填運算路徑中的 3 個問題。第一個問題會讓每次運算留下沒釋放的資料,讓伺服器越跑越慢;修正後會釋放這些資料。第二個問題是在 q8_0 的 K/V 資料搭配 512 大小的注意力頭時,可能算出錯誤結果,現在會改走一般運算路徑。第三個問題是輸入太長、超過裝置能處理的影像寬度時,原本會失敗;現在也會改走一般路徑。

  12. llama.cpp Releases59

    llama.cpp 發布 b12464 版,新增 A7 Q8_0 kernel 與多平臺支援

    這次更新為 llama.cpp 加入 A7 Q8_0 非 MoE 二進位 kernel,並擴充對 macOS、Linux、Windows、Android 等多作業系統與 GPU/CPU 的支援。使用者現在能在 Apple Silicon、Vulkan、CUDA 12/13、ROCm、OpenVINO 等環境中更輕鬆部署模型,提升推理速度與效能。更新還包含對 Ubuntu 24.04、26.04、s390x、以及 Windows 的 OpenCL、ROCm、Vulkan 支援,並提供 Android Snapdragon 方案,減少環境配置成本。

  13. Pydantic AI Releases64

    Pydantic AI 發布 v2.69.0,更新 AI 助理工具與工作流程

    使用 AI 助理處理多步驟工作時,工具呼叫、重試和子任務若處理不一致,可能讓流程中斷或結果出錯。Pydantic AI 的 v2.69.0 加入 Gemini 4 Hydrogen 支援,也更新工具呼叫、沙箱工作區和子任務的處理方式,並修正多種模型連線、錯誤回報與重試問題。例如,串流內容若卡在反覆迴圈,現在可以偵測出來;部分子任務紀錄也會留在各自的檔案中。這次更新主要讓開發者更容易建立和維護能處理多步驟工作的 AI 助理。

    推薦理由:這次更新同時調整 AI 助理的工具呼叫、工作流程與錯誤處理,能從中瞭解 Pydantic AI 如何改善複雜任務的穩定性。

  14. PyTorch Core Releases52

    PyTorch Inductor 改用依維度處理平鋪座標軸

    PyTorch Inductor 原本把平鋪運算的座標軸寫死,超過三個維度時就需要先改掉這些限制。這次更新改成依輸入維度產生座標軸名稱,並依設定限制可用的平鋪數量,也整理了區塊大小選擇、描述子和指標位移的處理方式。作者測試了不同維度、座標軸排序及多種描述子情境;不過,這項改動本身是後續支援多維平鋪的基礎,啟用額外維度的程式在另一個後續變更中。