跳到正文

全部動態

RSS
今日 4 則
11月16日週一
  1. Aravind Srinivas57

    做出能在瀏覽器玩的開放世界遊戲,通常得用遊戲引擎和現成素材。這款以 1986 年邁阿密為背景的賽車遊戲,是 Teammate 在 Fable 5.2 上用程式碼做出來的,沒有使用遊戲引擎、Three.js 或外部素材;畫面引擎、城市、車子、車庫、雨水和引擎聲也都由程式產生。遊戲約有 63,000 行 JavaScript、大小為 9 MB;影片則是 Teammate 在租用的雲端 GPU 上,以 1080p60 算繪。

  2. Rust Official Blog76

    Rust 編譯器在 nightly 預設啟用平行前端,讓部分程式編譯更快

    Rust 編譯器的前端原本一次只用一個執行緒處理程式檢查,編譯速度因此受限。Rust 團隊現在在 nightly 預設啟用平行前端,起初使用 2 個執行緒,想先找出問題,再評估何時能正式推出。測試中,部分 crate 使用 8 個執行緒時,編譯接近快 3 倍;但整個專案的測試只快約 15%,增量重編則平均快 3–5%。效果會依工作內容和可用的 CPU 核心數而不同。平行處理也可能讓錯誤訊息順序改變,少數情況下還會產生無法重現的二進位檔;使用者可調整執行緒數,或關閉這項功能。

    推薦理由:Rust 編譯器在單一 crate 的完整建置中,使用 8 個執行緒時,部分測試接近快 3 倍;整個專案的提升則較小,能看出平行編譯的效果會受工作量和 CPU 核心數影響。

  3. Google AI Official Blog80

    Google Maps 的 Ask Maps 新增旅遊行程規劃與預約搜尋功能

    假期出遊要排景點、查路況,還得安排各種待辦,常要在不同地方來回找資料。Google Maps 的 Ask Maps 新增多天行程規劃,可列出每天停靠地點,也能檢視即時路況、營業狀態、天氣、延誤和通行費;行程可以分享,或在電腦上匯出到 Google Docs。它也能搜尋附近店家的預約時段,並從收藏清單中找出有空位的地點。這些功能開始在 Android 和 iOS 推出;行程規劃與清單搜尋適用於 Ask Maps 開放的地區,路線提示和預約搜尋先在美國推出。

    推薦理由:Ask Maps 把行程規劃、路況查詢和預約搜尋放在同一個流程中,呈現它如何協助處理假期出遊與日常待辦。

  4. Baseten35

    不是每項程式開發任務都需要前沿模型。開放模型的品質足以應付許多這類工作,成本也低得多。 我們整理了一份指南,說明如何評估用於程式開發 AI 助理的開放模型,內容包括: 選擇試行團隊和工作負載 使用自己已合併的 PR 衡量品質 追蹤經快取調整後每項成功任務的成本 盡可能提升易用性:沿用現有的 harness,並取得從目前模型對應到開放替代方案的指南 在此閱讀:https://t.co/I1FCWcQMGN

  5. OpenBMB47

    大型語言模型能讀很長的內容,但訓練太早停止,長文表現可能還沒練好。OpenBMB 分享一項研究,用模型大小、一般訓練資料量和長文本訓練資料量,估算模型處理長文的表現;這套公式也能推估沒直接測過的訓練規模,R²=0.97。研究還發現,訓練過程中可以用固定方式穩定追蹤進步,而且 32K 訓練帶來的提升能延伸到 128K,也能保留在 SFT 之後,並幫助長上下文與 AI 助理任務。

  6. llama.cpp Releases45

    llama.cpp b12441 修正 WebGPU 多頭注意力遮罩計算

    llama.cpp 的 WebGPU 版在處理多個注意力頭各自使用遮罩時,會漏算遮罩對應的頭,讓結果出錯。這次更新修正遮罩位置的計算,也調整記憶體估算方式,避免部分 K、V 資料格式組合超出工作群組的儲存空間限制。使用多頭遮罩時,計算結果因此能更正確;更新也列出 macOS、Linux、Android 和 Windows 等平臺的建置版本。

  7. Tauri Framework Releases38

    tauri-bundler v2.10.5 修正 Windows 安裝與打包問題

    更新 tauri-bundler v2.10.5 後,Windows 安裝程式會在許可權不足、系統帳號或特定資料夾位置時顯示更清楚的錯誤,並修正程式簽章失敗,以及 MSI 更新時把使用者刪掉的桌面捷徑加回來的問題。這次也修好 NSIS 的波斯文和希伯來文顯示、Linux 和 macOS 重複下載工具,以及 RPM 套件無法處理 beta 版本等狀況,讓不同系統上的安裝與打包流程更順利。

  8. Tauri Framework Releases43

    Tauri 發布 v2.12.6,修正事件死結與多項視窗問題

    Tauri v2.12.6 修正了幾個可能讓桌面程式卡住或操作不順的問題。例如,開發者開啟 tracing 功能時,背景執行緒送出事件,可能和主執行緒同時處理事件或查詢網頁視窗,造成程式卡住;這次更新修正了這種死結。Linux 觸控視窗縮放、macOS 重新啟動程式時搶走目前視窗焦點,以及 Windows 找不到其他磁碟中的資源檔等問題,也都有修正。⊙

  9. OpenAI News52

    OpenAI 捐款 £1m,和 The King’s Trust 合作教年輕人 AI 技能

    年輕人找工作時,可能缺少使用 AI 的經驗與相關技能。OpenAI 和 The King’s Trust 合作,OpenAI 捐出 £1m,計畫在 18 個月內協助英國最多 25,000 名年輕人學習工作所需的 AI 技能,並優先幫助沒有就學、就業或受訓的人。計畫會結合實作經驗與認可資格;The King’s Trust 也正和僱主、AI 專家及年輕人一起規劃相關資格,希望讓年輕人更有準備迎接工作環境的變化。

  10. Artificial Analysis40

    從 GTA VI 第一支預告在 2023 年 12 月發布至今,Artificial Analysis Progress Index 的最高分從 160 升到 358,增加超過一倍。榜上 491 個模型中,有 481 個是在預告發布後推出;最高分也在 23 個不同日子被改寫,模型來自 OpenAI、Google DeepMind、SpaceXSI 和 Anthropic。當時排名第一的 GPT-4 Turbo,現在會排到第 379 名。這些變化顯示 AI 模型進步很快;推文也開玩笑請 AI 公司別在 GTA VI 的 11 月 19 日發表新模型,免得搶走遊戲上市的風頭。

  11. OpenAI News61

    LVMH 媒體部門與 OpenAI 合作,將 AI 用於新聞工作並在 ChatGPT 呈現內容

    新聞團隊需要花時間找資料、比較檔案和翻譯,讀者也不一定容易找到合適的報導。LVMH 媒體部門與 OpenAI 簽署合作協議,將 OpenAI 工具和 ChatGPT Enterprise 提供給旗下團隊,讓他們探索檔案研究、比較與初步翻譯等用途,並接受配合工作需求的訓練。合作也會讓旗下媒體內容出現在 ChatGPT 對相關問題的回答中,附上摘要或摘錄、來源和原文連結。

    推薦理由:這項合作同時涵蓋編輯部日常工作與 ChatGPT 內容呈現,可看出媒體如何把 AI 用在採訪支援和讀者接觸上。

  12. n8n Blog54

    n8n 作者分析 AI 助理時代的工具整合工作如何改變

    以前要讓不同軟體互相合作,使用者得自己處理 API 的連線、登入、資料轉換和更新;現在服務提供者會推出 MCP 伺服器,讓 AI 助理找到並使用工具,因此提供者也得負責維護連線方式和安全設定。不過,MCP 只說明工具能做什麼,還得用技能教 AI 助理操作流程;開發者也可以用 Hooks 設定固定檢查,或透過 SDK 把工具直接寫進應用程式。作者認為,整合工作已分散到多種方式,服務提供者得同時顧及 API、MCP、Hooks 和 SDK。

  13. PyTorch Core Releases52

    PyTorch 修正 WebAssembly SIMD 建置,讓 XNNPACK 使用 SIMD 核心

    ExecuTorch 模型要在 WebAssembly 的 SIMD 模式執行時,原本只編入純量核心,造成程式連結失敗;即使改用純量核心,速度也較慢。這項修改讓 XNNPACK 在啟用 SIMD 時編入對應的 SIMD 核心,並調整 pthreadpool,避免在 WebAssembly 使用不支援的 x86 指令。作者測試一個小型卷積網路,使用 SIMD 核心每次執行需 9 毫秒,純量版本則需 90 毫秒。

  14. vLLM Releases83

    vLLM 推出 0.34.0,新增 10 種模型並調整快取與執行器

    更新推論服務工具時,新功能可能讓原本的設定失效,也會改變模型能使用的 GPU 記憶體。vLLM 0.34.0 加入 10 種模型,並預設依暖機後實際空出的記憶體配置 KV cache;以 MiniMax-M3 在 H200 上為例,可容納的 token 從 433k 增至 672k,高並行時吞吐量也會提高,但部分模型每個 token 的生成延遲可能增加。這版也移除 Model Runner V1,只保留 V2,並把預設 block size 從 16 改為 64。升級前要檢查舊設定:例如通常不必再設定 gpu_memory_utilization,若要維持舊行為則可明確指定 block size 16。

    推薦理由:vLLM 0.34.0 同時調整 KV cache 預設與 GPU 執行器,並列出升級時可能打斷既有設定的變更,方便部署者評估更新影響。

  15. Guillermo Rauch52

    要預覽 X 貼文發出去後的樣子,通常得開瀏覽器截圖。Guillermo Rauch 推出 xeet,這個用 Rust 和 wasm 寫成的工具不必啟動瀏覽器、連網或讀取檔案,就能把貼文轉成 PNG;一般貼文約需 1 毫秒。它也會處理文字換行、從右到左的文字方向,以及不同語言和表情符號的字型。開發團隊用 Chrome 檢查大量排版規則,並讓自動流程追蹤 X 原本排版的變化,協助維持預覽結果的準確度。

  16. Vercel Blog47

    Qwen4-Max 登上 Vercel AI Gateway,支援寫程式、製作 3D 場景和長時間工作

    Qwen4-Max 是 Alibaba Qwen4 系列的第一個模型,現在可透過 Vercel AI Gateway 使用。它能看懂圖片,也能處理長篇工作,例如在 Blender 製作 3D 場景,或在 Unity、Unreal Engine 和 Godot 製作能玩的遊戲;完成後還會看畫面找出鏡頭、動畫或燈光問題,再動手修改。處理財務、法律和醫療工作時,它也能使用 MCP 工具整理大量檔案和圖片,產出附有資料來源的報告、試算表和簡報。 遇到需要很久的工作時,Qwen4-Max 會先交出能用的初步成果,再一輪輪改進,讓人可以邊看邊調整方向。Alibaba 也將推出一個搭配這種工作方式的 Live Delivery 外掛。和先前的 Qwen Max 模型相比,Qwen4-Max 完成相同工作的 token 用量較少,預設寫出的程式也較安全;Vercel AI Gateway 則不加價收取模型費用,也不收推論平臺費。

  17. Artificial Analysis80

    挑選模型時,分數較高的選擇也可能花費更多。Artificial Analysis 測得,Qwen4 Max 使用 xhigh 推理時,Intelligence Index 得分為 43,比 Qwen3.8 Max 高 9 分,距離 Kimi K3.1 Pro 少 3 分;每項測試任務成本為 $3.27,約比 Qwen3.8 Max 低 3 倍、比 Kimi K3.1 Pro 低約 11%。測試中它每項任務使用約 105k 個輸出 token,少於 Qwen3.8 Max 的約 171k。Qwen4 Max 可透過阿里巴巴第一方 API 使用,支援文字和圖片輸入,並提供文字輸出。

    推薦理由:Artificial Analysis 比較了 Qwen4 Max 與其他模型的測試分數和每項任務成本,呈現效能與花費之間的差異。

  18. Arena.ai58

    Arena 公佈的榜單顯示,Qwen4-Max 在中文模型中排名第一,整體實驗室排名第五;在 Agent Arena 首次登場就排第 14,前一代 Qwen3.8-Max 則排第 39。這項結果來自 14.7k 次真實任務操作紀錄,整體表現提升 7.5%。四項指標都比前一代進步,其中「好評相較抱怨」提升 13%,「確認成功」提升 9%;在工作、聊天和程式任務的排名也都進入中文模型前列。

  19. Arena.ai64

    想知道 Qwen4-Max 寫網頁的表現如何,可以先看 LMSYS Arena 的 Code Arena 榜單。榜上 Qwen4-Max 暫列 WebDev 第 6 名,得分 1750,比前代 Qwen3.8-Max(0902)的 1676 分高 74 分。它也在 HTML 專案排名第 6、品牌與行銷及參考設計專案排名第 8;這些名次和分數呈現它在幾種相關測試中的表現。

    推薦理由:這份榜單列出 Qwen4-Max 在網頁開發及相關專案的名次與分數,並與前代比較,可快速瞭解它在這些測試中的表現。

  20. PyTorch Core Releases58

    PyTorch 修正 XNNPACK,讓 WebAssembly SIMD 建置能使用加速核心

    ExecuTorch 模型在 WebAssembly 啟用 SIMD 時,原本會因缺少 XNNPACK 對應的核心程式而無法完成連結;改用較慢的純量版本也會拖慢運算。這次修改讓啟用 SIMD 的建置納入 XNNPACK 的 SIMD 核心,並避免 pthreadpool 在 WebAssembly 使用不適用的 x86 指令。作者實測一個小型卷積網路,單執行緒每次執行從純量版本的 90.0 ms 降到 9.0 ms;未啟用 SIMD 的建置則不會多編譯這些程式。

  21. Browser Use Releases49

    Browser Use 1.0.6 改用 BU 4.0 作為預設模型

    Browser Use 1.0.6 把預設模型從 bu-fast 換成 BU 4.0,使用 Agent(task) 或 ChatBrowserUse() 時都會改用 bu-4.0。BU 4.0 的 token 費用是 bu-fast 的 15 倍:每 1M 輸入 token 要 $1.80、輸出 token 要 $9.00;文中一個簡短測試任務的費用,也從 $0.0014 變成 $0.022。簡單任務可指定 llm='bu-4.0-mini',困難任務可指定 llm='bu-4.0-pro';想維持原本模型和價格,則指定 llm='bu-fast'。

  22. PyTorch Core Releases55

    PyTorch 修正 Inductor 改寫運算後的資料錯誤

    PyTorch 的 Inductor 在改寫運算圖後,可能沿用舊的資料與排列資訊,讓後續運算出錯。這次修正會在每次改寫後更新相關資訊;如果結果無法安全接上,就不進行改寫。修正也處理了非連續輸入的集體運算問題:測試顯示,mm(a,b).t() 接著執行 all_reduce 時,修正前會算出錯誤結果,修正後則通過雙機測試。

  23. Ollama Blog77

    Ollama 和 Together AI 說明如何讓開源模型跑長時間 AI 助理任務

    AI 助理處理長任務時,每一步都會帶上先前的對話與工具結果;如果每次都重新讀完整份內容,等待時間和成本會一路增加。Ollama 和 Together AI 說明,前面讀過的內容可以先存在快取裡,下一次只處理新增部分。要讓快取派上用場,工具說明和系統提示詞要盡量保持不變,工具結果也要避免塞入不必要的大量內容;推理程度最好從一開始就固定。引擎還得把後續請求送回存有快取的機器,並在等待工具執行時妥善儲存快取。這些做法能減少重複處理,讓長工作流程更順暢。

    推薦理由:文章從提示詞安排與 GPU 快取兩端說明長任務為何會變慢,並整理維持快取的做法,適合用來改善 AI 助理的工作流程。

  24. PyTorch Core Releases45

    PyTorch DTensor 改用本地分片計算 any/all,等需要時再合併結果

    DTensor 計算 any/all 時,原本會先把所有資料分片集中起來,才能判斷結果,可能因此多做一次資料傳輸。這次修改讓每個分片先在本地計算,再把中間結果留到真的需要完整答案時才合併;例如檢查一個布林值時,會先取得所有分片的整體結果。原本的雙 GPU 測試從 any() 需要一次資料集中傳輸,變成運算當下不傳資料,取用結果時才做一次合併。這能減少不必要的 GPU 資料傳輸,讓分散式運算更有效率。

  25. OpenAI News48

    OpenAI 開設科學部落格,分享 AI 如何協助研究

    科學家想用 AI 做研究,常需要知道它能幫上什麼忙,也得弄清楚結果怎麼檢查、方法有什麼限制。OpenAI 開設科學部落格,讓研究人員分享新發現、實用做法和使用心得。像是研究人員曾用 GPT‑Rosalind 分析數百萬個小鼠腦細胞的實驗資料,只花 32 分鐘找出一些可能的生物機制,留待科學家進一步測試。這個部落格也會談到 AI 帶來的問題,例如新產生的數學證明該怎麼確認,以及大量新假設出現後該先做哪些實驗。

  26. OpenAI News77

    OpenAI 研究者提出標準模型的格點定義,GPT‑6 Astra 協助完成證明

    標準模型能精準描述許多粒子與作用力,但物理學家仍缺少一種不把作用力當成小修正的完整定義。OpenAI 研究者提出一種候選做法:把時空切成格點,將力場逐步移到更細的格點,再比較每一層的粒子狀態,算出補回相位所需的修正。作者表示,GPT‑6 Astra 協助發展構造並主導詳細證明,外部專家也檢視了證明。這是原理上的候選定義,還不能直接用於實際格點模擬;專家仍需確認它是否具備所需性質,如何延伸到連續時空也尚未解決。

    推薦理由:這項構造把格點上的力場逐步移到更細的網格,藉由比較相鄰網格推導相位修正,並證明可用於所有允許的迴圈。