跳到正文

全部動態

RSS
今日 4 則
11月19日週四
  1. NVIDIA Blog45

    GeForce NOW 推出黑色星期五優惠,六個月會員首期省 30%

    想玩大作,卻不想先買遊戲主機或佔掉電腦空間?GeForce NOW 推出限時優惠:新會員和符合資格的升級會員,選 Performance 或 Ultimate 方案,第一個六個月期間可省 30%。服務也加入 Amazon Fire TV Stick HD、Fire TV Stick 4K Select 和 Fire TV Stick 4K(2026 model),接上相容的控制器,就能在電視上玩支援的遊戲;部分地區透過 Amazon 購買合資格方案,首月還可享 90% 折扣。 這週也有五款 Bethesda 遊戲加入 GOG 版本支援,包括 Indiana Jones and the Great Circle、Fallout 4、The Elder Scrolls V: Skyrim、DOOM 和 DOOM Eternal;已擁有這些 GOG 版本的會員,可以直接透過 GeForce NOW 遊玩,不必再買一次。整體來說,優惠讓玩家能用更多螢幕玩遊戲,也能用雲端串流省下下載和更新遊戲的時間。

  2. Databricks Blog38

    Databricks 推出 CustomerLake Conversions,讓廣告依照顧客價值投放

    同樣是一筆購買,有人可能會成為常客,有人只是趁打折買一次;只看廣告報表,品牌很難分辨哪種顧客更值得經營。Databricks 推出 CustomerLake Conversions,讓品牌把自己的購買紀錄、顧客價值等資料,用來挑選廣告受眾、傳送轉換訊號,也能把廣告成效帶回 Databricks 一起檢視。例如,零售商可以找出首次購買、而且預測可能再次回購的顧客,並把這些購買事件傳給廣告平臺。品牌能更清楚判斷哪些廣告帶來想要的顧客,也能自行決定分享哪些資料、分享給誰。

  3. OpenBMB51

    視障與低視力使用者出門時,可能需要協助看懂周遭環境或讀取文字。社群開發者 Rebel-Gloria 打造了 iPhone 和 iPad app PRTS,內建 MiniCPM-V 4.7 1B,可離線描述拍到的場景、朗讀招牌和檔案,也能用語音追問畫面中的細節。支援的裝置還可用另一套 LiDAR 系統提供口頭方向和節奏震動提示;部分線上功能與系統語音辨識則需要網路。

  4. PyTorch Core Releases48

    PyTorch ROCm TopK 調整 FlyDSL,讓不同列長共用同一個核心程式

    FlyDSL 原本會為每種列長各自編譯一份 TopK 程式,列越長,程式也越大,編譯時間和快取空間都跟著增加。這次改成執行時才傳入列長,讓不同列長共用程式,也減少重複展開迴圈所佔用的暫存器。以 MI350X 測試,66 種組合平均快約 1.09 倍;其中 fp16、K=1024、N=262144 的最佳結果快 1.60 倍。這讓程式編譯得更快、快取需求更少,大多數測試速度也有提升。

  5. LangChain Blog57

    LangSmith 推出 Data Annotation Queues,方便檢查紀錄並整理資料集

    大型語言模型應用一開始不一定有自己的資料集,想找出回答問題的地方也不容易。LangSmith 推出 Data Annotation Queues,讓團隊先從紀錄中挑出想檢查的案例,再標記答案好壞、加上分類,或整理進資料集。加入資料集前也能修改案例內容;暫時不想處理的案例可以移到佇列後面,完成檢查後則可標記為已完成。文章也介紹開源套件 langfree,可用來整理 LangSmith 紀錄中的 ChatOpenAI 執行資料,供微調和評估使用。

  6. LangChain Blog58

    LangChain 推出 LangSmith Alerts,及早發現 LLM 應用程式問題

    LLM 應用程式會用到模型服務、API 和資料庫等外部工具,服務變慢或回答品質變差時,可能影響使用者。LangChain 推出 LangSmith Alerts,可依錯誤數量與比率、平均延遲或平均回饋分數設定提醒,也能篩選特定模型、工具呼叫或執行型別,並選擇 5 或 15 分鐘的統計區間和提醒門檻。通知可接到 PagerDuty,或透過自訂 webhook 傳送到 Slack 等地方,讓團隊更快發現需要處理的狀況。

  7. llama.cpp Releases39

    llama.cpp b12533 修正 CUDA 大型輸出的位置計算錯誤

    llama.cpp 的 CUDA 矩陣運算在輸出非常大時,可能把寫入位置算錯,造成程式越界寫入並因非法記憶體存取中止。這次更新把相關位置計算改用能處理更大數值的 64 位元整數。舉例來說,詞彙表有 248320 個詞、輸出 16384 列時,結果會有 4.07e9 個元素,超過原本 32 位元整數能正確處理的範圍;修正後可避免這類位置計算錯誤。

  8. PyTorch Core Releases37

    PyTorch Core 替 macOS 建置工作加上逾時限制,避免卡住合併流程

    PyTorch 的 macOS 建置工作有時會卡住,讓等待中的程式碼合併一直停著。這次修改替建置步驟加上 90 分鐘限制,整個工作則設為 120 分鐘;如果建置超時,清理工作仍會執行,後續測試工作會跳過。過去 60 天,成功的 macOS 建置最久花了 50 分鐘,因此新限制能讓卡住的工作提早結束,減少它阻擋合併的時間。不過,造成卡住的 sccache 問題本身還沒有修好。

  9. Replit ⠕36

    Replit 推出 Replit Missions,讓 AI 助理朝著使用者設定的目標工作,並由使用者設定預算和限制;工作進度看得見,完成結果還會交給另一個 AI 評審,依照使用者訂下的標準檢查。Replit 說,旗下 Agent 從 2024 年 9 月推出後,到 2025 年 9 月已能自主工作超過 200 分鐘。Missions 要把 AI 助理能獨立完成工作的範圍再往前推,讓人能掌握任務進度,也能檢查結果是否符合要求。

  10. Artificial Analysis60

    可靈(Kling)推出 Kling Image 4.0 後,Artificial Analysis 將它和其他影像模型放在同一份榜單比較。它在文字生圖排第 7,在圖片編輯排第 6;圖片最高可生成 8K,2K 價格不到排在它前面的 OpenAI 模型的三分之一。圖片編輯的 7 種操作中,有 5 種排進前 5 名。和上一版 Kling Image 3.0 Omni 相比,新版在兩份榜單都增加超過 225 Elo,文字生圖和每一種圖片編輯操作也都有進步。

    推薦理由:這份評測把 Kling Image 4.0 與前代及榜上模型比較,呈現它在文字生圖、圖片編輯和價格上的位置。

  11. Vercel Blog57

    Vercel 推出 Board,讓 AI 助理在共享佈告板協作

    多個 AI 助理一起處理工作時,任務討論和結果容易散在不同地方。Vercel 推出實驗中的 Board,讓 AI 助理和使用者在同一個討論串裡整理任務與結果,也能設定不同頻道可讀取的內容和可執行的操作。Board 可透過 Vercel Connect,和 Slack、GitHub 等工具雙向同步訊息;團隊也能使用自己的 AI 助理、執行環境和工具。Board 已開放所有方案使用,AI 助理可透過 Vercel CLI 或 JavaScript SDK 存取。

  12. Vercel Blog68

    Vercel 推出 Board,讓不同工具上的 AI 助理一起追蹤任務

    多個 AI 助理一起做專案時,任務、討論和進度容易散落在不同地方。Vercel 推出實驗性工具 Board,讓人和不同工具上的 AI 助理共用任務看板:AI 助理可以認領工作、回報進度、留下結果,也能把討論串和 Slack、GitHub 等工具雙向同步。團隊還能設定工作許可權、安排後續提醒,或讓新回覆自動喚醒 AI 助理。Vercel 表示,內部的 v0 軟體工廠目前用 Board 處理超過 50% 的 PR。

    推薦理由:多個 AI 助理分頭處理同一專案時,工作容易散落在不同工具;Vercel Board 把任務、討論與進度集中起來,並同步 Slack 或 GitHub。

  13. Pydantic AI Releases73

    Pydantic AI 發布 v2.71.0,新增 AI 助理工具管理功能

    AI 助理執行較長的工作時,可能會遇到工具太多、不知道能用多少資源,或還沒檢查完成就結束的問題。Pydantic AI v2.71.0 新增多種管理功能,例如設定規則允許、詢問或拒絕工具呼叫與 Shell 指令,也能回報剩餘預算,並在修改內容還沒驗證時要求 AI 助理先執行檢查。這次更新也加入 ToolBridge,讓工具清單維持固定,再透過搜尋和呼叫使用工具,方便管理大型或經常變動的工具集合。

    推薦理由:這次更新補上工具許可權、執行預算與完成檢查等能力,呈現 AI 助理在長時間執行任務時可用的管理方式。

  14. Guillermo Rauch42

    AI 助理要一起做事、交換訊息時,需要一個大家都能使用的地方。Guillermo Rauch 表示,他們打造了 Vercel Board,像是不用畫面的 Slack,也像以前的 IRC,讓 AI 助理透過 CLI 互相傳訊息。它不限定使用哪種模型、工具或主機平臺,只要帶上自己的 AI 助理就能使用。Rauch 認為,這能成為軟體工廠、自我改進的系統和科學研究的基礎:人只要先給一個起點,許多 AI 助理就能分散合作。

  15. Artificial Analysis41

    GPT-6.2 Astra 和 GPT-6.2 Sol 的回答風格跟前一版相比有明顯變化:內容更短、比較少分段整理,也更常先說答案。Astra 每次回答平均從 352 字降到 210 字,Sol 從 337 字降到 223 字;兩者承認不確定的分數也都下降,自然程度則提高。使用較高的回答投入程度時,兩款模型也更常以證據作答。這些變化讓回答讀起來更直接、自然,但也表示它們比較少主動說自己不確定。

  16. Arena.ai64

    要比較 AI 助理做事的表現,也得看完成任務花多少錢。Arena.ai 用 Agent Arena Index 排名,這次的 GPT-6.2 Astra 和 Sol 成績來自 7.1K+ 次真實 AI 助理工作紀錄。Astra 排第 6,得 1291 分,比前一版多 9 分;每項任務中位成本是 $2.94,比前一版低 40%。Sol 排第 11,得 1241 分,分數和 GPT-6.1 Sol 相同,但每項任務成本低 13%,為 $0.90。兩者相比,Astra 高 50 分,Sol 的成本則低 69%。

    推薦理由:這份榜單把 GPT-6.2 Astra 和 Sol 的任務分數與每項任務成本放在一起比較,能看出兩款模型在表現和花費上的差異。

  17. Aravind Srinivas66

    把事件提醒、模型選擇和網址內容整理接程序式或 AI 助理,往往需要分別處理。Perplexity 表示,最近推出三種 API:Monitor 可設定事件提醒,Orchestrator 會依任務在前沿模型和開放權重模型之間安排路由,Context 則能批次把網址轉成可用內容。Perplexity 也表示,API 業務年增 4.3 倍,年營收規模已達九位數;這些 API 可用來把搜尋與內容處理接入其他工作流程。

    推薦理由:三種 API 分別處理事件提醒、模型路由與網址內容轉換,呈現 Perplexity 將搜尋能力延伸到不同 AI 助理工作流程的方向。

  18. Claude Code Releases61

    Claude Code 發布 v2.1.328,改善 Code Mode 與遠端工作階段

    Claude Code 在長時間工作、遠端連線和執行程式碼時,可能遇到工作中斷、資料遺失或操作卡住等問題。v2.1.328 加入 Opus 4.6 和 Sonnet 4.6 在多種雲端服務上的 auto mode,也修正 Code Mode、遠端工作階段和自架執行環境的多項問題。Code Mode 現在會顯示正在執行的指令和輸出,並改善技能與工作內容在恢復工作階段後的保留方式;長工作階段的記憶體使用和回應速度也有所改善。

    推薦理由:這次更新集中改善 Code Mode、遠端工作階段與自架執行環境,能從中瞭解 Claude Code 如何處理長時間工作和工具協作中的問題。

  19. PyTorch Core Releases41

    PyTorch FSDP2 新增方法,讓啟用解除安裝的程式排好資料複製順序

    使用 CPUOffloadPolicy 時,FSDP 會把引數從主記憶體搬到 GPU;如果另一段程式同時搬回啟用函式需要的資料,兩邊會搶同一條傳輸通道,引數可能因此晚到,後續工作也跟著延遲。PyTorch FSDP2 新增 get_all_gather_copy_in_stream(),讓程式等引數複製完成後再搬回啟用函式需要的資料,讓兩種工作能重疊進行。這個方法要等 FSDP 完成延遲初始化後才能呼叫;若改用目前的資料流處理引數複製,等待它就不會改變執行順序。

  20. PyTorch Core Releases55

    PyTorch 修正 cuDNN 可變長度注意力反向計算的梯度錯誤

    使用融合 QKV 資料時,cuDNN 的可變長度注意力在反向計算中可能算錯梯度,影響第一份檔案之後的資料。PyTorch 這次加入條件式複製:只有 Q 和梯度資料的排列不同時,才先把 Q 複製成相同排列,再交給 cuDNN 計算。文中的測試涵蓋 16 種數值案例,修正後都通過;在檔案長度差異大的測試中,保留精簡工作區並配合複製,可減少記憶體使用,部分情況也更快。不過檔案長度相同時,複製可能讓運算變慢;這是針對 cuDNN 行為的暫時處理方式,沒有修改 cuDNN 核心程式。

  21. Ray (Anyscale) Releases48

    Ray 發布 2.58.2,修補憑證和多個套件的安全漏洞

    eMudhra 中繼憑證的金鑰在 10 月 20 日被通報遭到入侵,光更新作業系統的憑證還不夠,因為 pip 也會使用自己附帶的憑證資料。Ray 2.58.2 更新了 Docker 映像檔和其他安裝環境裡的憑證與多個套件,包括 certifi、aiohttp、Brotli 和 idna,修補多個已列出的 CVE 漏洞。其中,idna 3.15 以前的版本有可能遭人用來讓服務無法正常運作。這次更新的重點,是讓 Ray 使用修正過的版本,降低舊憑證或有漏洞的套件帶來的風險。

  22. PyTorch Core Releases39

    PyTorch ROCm Inductor 新增 CK 後端支援 3D 通道優先卷積

    PyTorch 的 CK 卷積後端原本只提供 2D 卷積選項,這次加入 3D 卷積的通道優先選項。不過,分組卷積目前不會交給 CK 處理,因為它傳入的通道數和 CK 預期的數字不同,可能讓結果悄悄出錯。這項修改已在 MI300X 上測試,測試結果通過;它補上了卷積支援,也避免分組卷積算錯。

  23. OpenAI News49

    住友生命如何靠主管帶頭,讓更多團隊開始使用 ChatGPT Enterprise

    住友生命的員工要整理資料、準備提案或撰寫分析用的程式碼,過去常得花不少時間。主管先帶頭使用 ChatGPT,總裁也鼓勵員工把它用在工作上,讓更多人願意嘗試。住友生命從 2023 年開始在工作中使用生成式 AI,2025 年讓約 100 到 150 人試用 ChatGPT Business,並於 2026 年 6 月改用 ChatGPT Enterprise。公司依照員工處理的資訊與連線的系統,決定使用許可權和方式;規劃團隊也會把相關聊天、檔案和指示整理在一起,協助準備提案。 住友生命估計,整體投資報酬率為 203%;每月使用 ChatGPT 至少 101 次的員工,估計為 524%。這些數字是根據員工回報省下的時間計算。公司也希望重新安排工作流程,讓 AI 分擔合適的工作,員工能把更多時間用來和客戶談話。

  24. OpenAI News72

    OpenAI 報告 AI 助理如何加快研究,也說明人仍要把關

    AI 助理能幫忙寫程式、檢查實驗,但不同工作做得好不好差很多,研究人員也得持續把關。OpenAI 這份內部研究報告整理了研究團隊使用 AI 助理的情況:截至 10 月中旬,超過三分之二的受訪研究人員每天最忙時至少有 4 個 AI 助理同時工作;在部分研究任務中,AI 助理能獨立完成約七成,但寫推論與服務程式碼的成功率估計為 25%。訪談也提到,AI 助理會產生品質不佳的程式碼和資料,因此研究人員常先檢查一份成果,再讓它繼續處理。報告呈現了 AI 如何加快部分研究工作,也指出人類監督仍是研究流程的一環。

    推薦理由:報告比較研究助理在不同任務上的成功率,也呈現研究人員如何檢查與修正成果,能看出 AI 加速研究的助力與瓶頸。

  25. AWS Machine Learning Blog57

    Exa 如何用 AWS Inferentia2 和 Trainium2 加快檔案向量嵌入

    要把網路上數百億份檔案轉成可搜尋的向量,運算速度和每份檔案的成本都會影響服務能處理多少資料。Exa 為了重新處理 300 億份重要檔案,調整模型在 AWS Inferentia2 和 Trainium2 晶片上的運作方式,包括減少多餘計算、改善資料在記憶體中的移動,並為模型實際使用的資料形狀量身調整運算核心。團隊也用 AI 助理協助測試和找出效能瓶頸,每次修改都要通過正確性檢查。最後,每百萬份檔案的處理效能和成本相較原本改善 47%。

  26. AWS Machine Learning Blog72

    AWS 說明如何在 SageMaker AI 使用完整微調

    微調大型語言模型時,只更新一小部分引數的 LoRA 較省資源,但遇到複雜任務和大量資料時,表現可能停在一定程度。AWS 在 SageMaker AI 的無伺服器模型自訂服務加入完整微調(FFT),並用 Qwen3-4B 和 110,000 組程式生成資料比較兩種方法。實驗中,FFT 在部分指標上表現較好,但結果也很受學習率、訓練回合數等設定影響;設定太激進時,模型可能失去一般知識,甚至在數學測試中退步。文章提供實驗結果與引數調整方向,協助判斷何時適合使用 FFT。

    推薦理由:文章以程式碼生成實驗比較 FFT 與 LoRA,並說明資料量和超引數如何影響模型表現與一般知識保留。

  27. Guillermo Rauch47

    Guillermo Rauch 說,平均每兩天就有人向他介紹一家新的 AI 推論雲公司,他也會認真瞭解每位創業者,但這麼多公司能否長久經營,讓他很難看好。另一方面,Vercel 的 AI Gateway token 需求從年初起平均每月複合成長約 40%,目前看不出減緩跡象。他認為,運算力正成為新經濟的基礎,token 就像新的能源單位,這波變化更像持久的「淘油熱」,可能重塑生活各方面。短期內市場還會擴張,之後則可能因規模、資安、企業需求、資金和法規要求而整併。

  28. PyTorch Core Releases43

    PyTorch Inductor 修正含 reduction 的組合核心設定,讓結果與單獨執行一致

    PyTorch Inductor 把多個小型運算合在一起跑時,可能讓不同運算共用同一組執行設定;如果其中有加總運算,設定不同就可能改變加總順序,讓結果和單獨執行時出現些微差異。這次修改會按各運算調好的設定拆分組合,並讓含加總運算的組合跳過執行時再次調整設定。測試中,原本 32 個輸出有 22 個和單獨執行不同;修正後,結果能逐位元相同。實際測試的 7 組圖表,執行時間變化平均為 +0.09%,落在每次測量的自然波動範圍內。

  29. PyTorch Core Releases44

    PyTorch Inductor 修正 reduction 融合後的數值差異

    PyTorch Inductor 把多個小程式合在一起執行時,可能會讓 reduction 的加總順序改變,結果就和單獨執行時差一點。這次修正會依照各程式調校好的執行設定,把設定不同的 reduction 分開;設定相同的仍可合在一起,含 reduction 的組合也不再於執行時重新調校。如此一來,在相同設定下,組合執行的結果能和單獨執行完全一致。測試的 7 個 Ads/IG 圖表中,執行時間變化落在平常測量誤差範圍內。

  30. Cursor74

    在 Cursor 裡使用 Gemini 模型時,效能和費用都是選擇時會考慮的因素。Cursor 宣佈 Gemini 4 Neon 已可使用;在 CursorBench 4.1 的預設 effort 設定下,它拿到 63.7%,高於 Gemini 4 Hydrogen 的 57.3%。價格是每百萬個輸入 tokens $3、每百萬個輸出 tokens $15,提供了比較測試分數與費用的依據。

    推薦理由:Gemini 4 Neon 在 CursorBench 4.1 的分數高於 Gemini 4 Hydrogen,並列出輸入與輸出價格,可用來比較效能和使用成本。

  31. Anthropic Newsroom94

    Anthropic 將以每股 83 美元進行首次公開發行

    Anthropic 已將 A 類普通股的首次公開發行價格訂為每股 83 美元,總共發行 9.8 億股,其中大部分由 Anthropic 出售,其餘由部分既有股東出售;既有股東出售的股份不會讓 Anthropic 收到款項。股票預計在 2026 年 11 月 19 日於 Nasdaq Global Select Market 開始交易,代號為 ANT,發行案預計於隔日完成,但仍須符合一般交割條件。承銷商另有 30 天選擇權,可再購買最多 1.47 億股。

    推薦理由:定價、售股比例與預計交易日期,呈現 Anthropic 上市案的主要安排,也能看出公司出售股份與既有股東售股的差別。

  32. ElevenLabs Official Blog40

    什麼是向量資料庫?AI 搜尋如何找到意思相近的資料

    用一般資料庫找資料,常得輸入完全相同的關鍵字;但有人問「搭長途飛機穿什麼比較舒服」,資料庫可能找不到這句話。向量資料庫會先把文字、圖片等資料轉成一串數字,再比較問題和資料的意思有多接近,找出相關內容,例如舒服的長途旅行穿搭可能包括棉褲、連帽上衣和旅行枕。 客服 AI 助理也能用這種方式查公司內部的產品說明和退款規定,再用找到的資料回答客人;這能減少亂猜,但不能完全避免答錯。一般資料庫適合查日期、訂單等明確資料,向量資料庫則適合找意思相近的內容,兩種資料庫可以一起使用。