跳到正文

全部動態

RSS
今日 4 則
11月16日週一
  1. Databricks Blog58

    Databricks 教你把團隊工作流程寫成 Genie One 技能

    團隊常把工作步驟和格式要求記在腦中或舊檔案裡,每次都得重新交代。Databricks 說明如何在 Genie One 用對話把流程寫成技能,讓它照著步驟、檢查規則和格式完成工作。文中以每月交易簡報為例,示範先確認資料月份是否完整、再找出值得留意的變化,並查詢相關郵件補上原因;試跑後也能修正規則,再開新對話確認結果。技能還能發布給團隊使用,或設定定期執行。

  2. PyTorch Core Releases74

    PyTorch 用 Metal 改寫 MPS 的複數 FFT,部分資料形狀運算更快

    在 Apple 裝置上用 PyTorch 計算複數 FFT 時,原本的 MPSGraph 實作有些資料形狀跑得較慢。這項更新改用 Metal 核心處理複數轉複數的 FFT,並依資料長度選擇不同演算法;長度含有其他質數因子時,則改用 Bluestein 演算法。作者表示,新實作與 CPU 計算結果沒有數值差異。在 M5 Pro 的測試中,13 種基準資料形狀的中位速度提升 1.55 倍,143 種取自 Hugging Face 的資料形狀則提升 1.63 倍;個別形狀的速度變化不同。這次更新只涵蓋複數轉複數 FFT,rfft 和 irfft 暫時仍使用 MPSGraph。

    推薦理由:這次改寫涵蓋不同長度與質數因子的 FFT,並提供多種資料形狀的速度比較,可用來瞭解新實作在哪些情況下較有優勢。

  3. PyTorch Core Releases35

    PyTorch FlyDSL 新增 gfx950 的 fused matmul 與 reduce-scatter 原型

    這次更新在 FlyDSL 的選用版本中加入一種把矩陣運算和資料分散合在一起處理的原型。它使用 bf16 和加總方式,沿第 0 維分散資料,支援 TP 2、4、8,並限定用在 gfx950;運算時也會在同一個核心裡加總這個處理單位負責的資料區塊。這項功能需要 FlyDSL 和 gfx950 才能測試。

  4. llama.cpp Releases39

    llama.cpp 發布 b12420,支援 MiniMax-M3.1

    llama.cpp 的 b12420 加入對 MiniMax-M3.1 的支援,也列出 macOS、iOS、Linux、Android 和 Windows 等平臺的版本。像是 Linux 和 Windows 都有可搭配 CUDA 12、CUDA 13 或 Vulkan 使用的版本,部分平臺也提供 CPU 版本。這次更新讓使用者能在不同系統上使用 llama.cpp 執行 MiniMax-M3.1。

11月15日週日
  1. llama.cpp Releases66

    llama.cpp 加入 Inkling 2 文字與影像支援

    llama.cpp 原本還不能處理 Inkling 2,這次更新加入文字模型轉檔與推論,也支援影像模型轉檔和讀取圖片。量化權重會分批處理,避免轉檔時一次展開整層資料;測試中的合成權重解碼結果和 vLLM 一致,CPU 推論結果也符合發布說明列出的誤差範圍。不過,Inkling 2 的真實模型檔尚未完成轉檔測試。

    推薦理由:這次更新補上 Inkling 2 文字與影像支援,也說明量化權重分塊處理的記憶體需求與測試結果。

  2. PostgreSQL Official News57

    Datasentinel 2026.10 推出 AI Connector,讓 AI 助理協助排查 PostgreSQL 效能問題

    查 PostgreSQL 為什麼變慢,常得先翻監控資料,再自己找出原因。Datasentinel 2026.10 推出 AI Connector,能把收集到的效能指標交給團隊使用的 AI 助理分析,協助檢視慢查詢、鎖定情況、比較不同時段,並提出改善建議。它不會直接連上資料庫,使用者依原有許可權檢視資料;即時檢查採唯讀方式,執行計畫也只會估算、不會真的執行查詢。要留意的是,指標、SQL 文字、執行計畫和物件名稱會傳給所選的 AI 助理與大型語言模型。

  3. llama.cpp Releases44

    llama.cpp 發布 b12398,改善 RDNA3、RDNA4 顯示卡的提示詞處理

    llama.cpp 的 b12398 版本調整了 Vulkan 的 Flash Attention,讓 RDNA3 和 RDNA4 顯示卡處理提示詞時能減少記憶體使用,並修正多項問題,包括 NVIDIA 顯示卡可能卡住,以及稀疏 Flash Attention 使用 FP16 時的數值錯誤。這次更新也列出多種作業系統和硬體平臺的下載版本,方便使用者依自己的裝置選擇。

  4. Guillermo Rauch74

    做網頁介面時,拖曳、快捷鍵和選單操作等功能常要一項項處理。Guillermo Rauch 分享 UI SDK 的使用體驗:透過兩個提示詞,搭配 fx 和 Gemini Argon,AI 助理直接重用了 14 種現成的介面功能,包含調整視窗大小、拖曳、選單切換和鍵盤操作。內容使用純 Web Components,沒有用框架,也提到 WebMCP 的 AI 助理控制功能。

    推薦理由:示範只用兩個提示詞,就讓 AI 助理直接重用 14 種介面功能,並以幾個操作例子呈現 UI SDK 的用途。

  5. llama.cpp Releases36

    llama.cpp 發布 b12389,修正 OpenCL 多項運算問題

    llama.cpp 的 b12389 修正了 OpenCL 執行時的幾個問題,包括讀寫超出範圍、資料複製時沒有配合目的地的排列方式,以及處理多批資料和 bf16 數值時的錯誤。像是 f16 SwiGLU 運算原本可能寫到不該碰的地方,這次也一併修好。這些修改能讓相關運算更可靠;更新也提供多種作業系統和硬體平臺的版本。

  6. PyTorch Core Releases50

    PyTorch Inductor 修正 reinplacement 後過期的 FX 圖資訊

    PyTorch Inductor 把某些運算改成可修改資料的版本時,過去沒有同步更新相關資料,可能讓後續運算誤判資料的排列方式;遇到特定的 all-reduce 運算時,甚至會算出錯誤結果。這次修正會在每次改寫後,立刻更新受影響的資料和連結;如果無法安全更新,就保留原本的運算。像矩陣相乘後轉置再做 all-reduce,修正前結果錯誤,修正後結果正確,讓圖中的資料關係和實際運算保持一致。

  7. LangChain Blog59

    LangChain 分享如何設計 AI 助理的目標,讓人更容易提供回饋

    AI 助理接手長期工作時,光有檔案和帳戶資料不夠,還得學會人心裡那些沒寫下來的做事習慣。LangChain 以 Actively AI 的銷售工具為例:原本每個潛在客戶帳戶各有一個 AI 助理,業務人員得分開檢查,也不容易把學到的做法分享出去。後來,Actively 改成按工作型別安排 AI 助理,例如開發新客戶或推進初期交易,讓業務人員能一起檢查相似工作,並把回饋用在其他任務上;帳戶資料則由背景工具整理。LangChain 認為,設計目標時也要讓人容易檢查成果、提供回饋,AI 助理才更能學會團隊的做事方式。

  8. Y Combinator60

    AI 助理開始接手工作後,團隊得思考怎麼分配任務、管理許可權,還要確認它們做出的成果是否可信。Lauren Tan 和 Roman Ugarte 所在的核心團隊花了七週,從第一行程式碼做到推出 Grok Bot。它能建立有自己身分和登入方式的 AI 助理,並在背景持續工作;行銷團隊曾讓一個 AI 助理使用自己的廣告預算,Lauren 也曾在一段 Slack 對話中,透過 AI 助理完成一項功能,過程中沒有開啟 Cursor。他們也談到,當 AI 助理能做更多事,團隊的新難題會是判斷該做什麼,以及為什麼要做。

    推薦理由:Lauren Tan 和 Roman Ugarte 分享 AI 助理如何參與日常工作,也談到當程式開發變快後,判斷該做什麼會成為新的難題。

11月14日週六
  1. Artificial Analysis62

    Perplexity 更新了 Decider v1.3 和 Decider Flash v1.3,兩款都是用來處理決策任務的模型。Artificial Analysis 的 Decision Index v2.1 給兩者 70 分和 64 分;和 v1.2 相比,Flash 版進步 4 分,排名升到第 10 名。Decider v1.3 在 AA-Paperclip 得 69 分,在 EvalSafe-O*NET-AA 得 89 分。兩款模型每百萬項任務的成本分別是 $68 和 $34;它們都位在該評測的能力與成本取捨曲線上。

    推薦理由:兩個版本的測試排名與每百萬項任務成本放在一起,能看出不同規模模型在決策表現和費用上的取捨。

  2. PyTorch Core Releases49

    PyTorch C++ FakeTensor 改用 prim 中繼資料實作產生假張量

    PyTorch 的 C++ FakeTensor 遇到某些運算時,需要知道結果的形狀和資料型態,卻不必真的執行運算。這次修改讓它在完成拆解後,直接呼叫對應的 prim 中繼資料實作來產生假結果;如果選中的實作回報「不支援」,就直接報錯,不再悄悄改走其他路徑。像是建立空張量、算術運算和轉換資料型態都納入測試。這讓 C++ 模式能沿用這些運算的結果資訊,也能避免錯誤被其他路徑掩蓋;隨機數相關運算則因為還需要處理張量,暫時不做這項改動。

  3. PyTorch Core Releases45

    PyTorch Dynamo 修正 AOT 執行時包裝程式的迴圈匯入問題

    PyTorch 的 AOT 執行時包裝程式和 Dynamo 互相匯入時,可能讓 Dynamo 還沒準備好就被其他程式使用,之後呼叫 torch.compile 便可能失敗。這次修改把部分匯入延後到擷取反向計算圖時才進行,避免兩邊卡在彼此載入的狀況,也不改變反向計算。維護者用新的程式執行環境重現並檢查這個問題,確認修正後能順利匯入;CUDA 和完整的 PhysicsNeMo 流程則沒有測試。

  4. Browser Use Releases54

    browser-use 1.0.5 加入任務結果判斷與網站狀況紀錄

    瀏覽器自動化任務跑完後,不一定容易看出有沒有成功,也可能漏掉網站拒絕輸入或封鎖等狀況。browser-use 1.0.5 會用使用者指定的模型檢查執行紀錄、最後幾張畫面和完成後的網頁,並整理成功與否、失敗原因及需要留意的情況;例如表單要求電話號碼符合特定格式。使用者可以提供自己的判斷標準,也能關閉這項檢查。作者以 13 次實際執行、每次判斷 3 遍進行比較,網站有阻擋時,系統記下相關情況的次數由 6/15 增至 15/15;順利完成時的判斷結果則沒有改變。

  5. llama.cpp Releases47

    llama.cpp 重整 DFlash 推測解碼,加入 DFlash2 和 LiliCorr 專用型別

    llama.cpp 重新整理 DFlash 家族的推測解碼程式,讓不同草稿模型各自使用對應的讀取和執行方式。新增的 draft-dflash2 和 draft-lilicorr 可指定 DFlash2 與 LiliCorr;原有的 draft-dflash 也會依草稿模型的資料自動選擇 DFlash、DFlash2 或 LiliCorr。若型別和模型不相符,或同一次執行混用多種 DFlash 家族型別,系統會拒絕開始推測解碼。這次整理也讓 DSpark 使用自己的讀取方式,並把共用的程式拆分整理。