跳到正文

全部動態

RSS
今日 25 則
11月19日週四
  1. Dev.to Top Tech68

    Amazon SageMaker AI Serverless Model Customization 加入全量微調

    微調模型時,訓練所有權重可能更適合大量資料,但也可能讓模型忘掉原本會的事。AWS 為 Amazon SageMaker AI Serverless Model Customization 加入全量微調,使用者不必自行準備 GPU、叢集或分散式訓練環境,也能在全量微調和 LoRA 之間切換。AWS 用程式生成任務測試後,表示資料超過 100K 筆時,全量微調的正確性分數達 90.0%;不過另一次比較中,LoRA 的分數較高,而且兩種方法在 MATH 測試都低於原始模型。AWS 也提醒,學習率太高或訓練超過三個週期,可能嚴重損害模型原有能力;這些結果來自 AWS 的測試,不代表其他任務也會有相同表現。

  2. Dev.to Top Tech60

    Hushbell 如何讓瀏覽器睡眠計時器在音檔結尾淡出

    手機鎖定螢幕或音訊被打斷時,網頁可能無法準時執行計時結束的淡出動作。Hushbell 把淡出效果直接做進 AAC 音檔,再依播放器的播放位置顯示倒數;選 15 分鐘時,播放器會從 60 分鐘音檔的 45:00 開始,讓不同長度的計時共用同一段結尾。作者也檢查了伺服器能否只傳送跳播所需的音檔片段,並測試暫停後續播是否保留位置。這種做法可減少網頁在倒數結束時必須醒著運作的需求,但 iOS 鎖定螢幕下的表現仍需在實機測試。

  3. MarkTechPost59

    Nutrient 檔案擷取 API:讓 JSON 欄位附上來源位置與信心分數

    從檔案擷取資料時,AI 可能把錯誤數字當成事實,讓後續決策出問題。Nutrient 的檔案擷取 API 可讀取 PDF、掃描檔、圖片和 Office 檔案,再依照指定的 JSON 格式整理內容,並為每個欄位附上頁碼、頁面位置、比對標籤,以及有提供時才會出現的信心分數。文章列出 WholeDoc Bench 的測試結果:Agentic 模式整體分數為 86.2,每頁費用為 1.8 美分;這項分數評估檔案解析,不代表資料擷取準確率。文章也提醒,即使信心分數很高,欄位仍可能對錯內容,使用時應先檢查比對標籤。

  4. Dev.to Top Tech74

    Gemini 4 Neon 怎麼計價?常見請求要花多少錢

    使用 Gemini 4 Neon 時,輸出和模型思考所用的 token 都會計費,請求成本也會隨用量和服務級別改變。文章整理 Standard 每百萬個輸入 token 收 $3、輸出收 $15,並用程式碼審查等例子估算單次花費;Batch 和 Flex 的費率是 Standard 的一半。文中也比較思考層級的用量,指出 medium 的測試分數接近 high,但輸出 token 約少一半,提醒使用者可依任務需要衡量成本。

  5. Simon Willison39

    Datasette-arrows 0.1a0:用 Apache Arrow 分批匯出大型資料表

    資料表有好幾百萬筆時,一次把全部資料塞進記憶體再匯出,可能會很吃力。Datasette 新增了讓外掛分批輸出資料的功能;Simon Willison 也做了 datasette-arrows 外掛,讓人能用 Apache Arrow 格式匯出資料。安裝後,匯出選單就會多出 Arrow 選項,資料可以一批一批處理,不必全放進記憶體。這讓大型資料表的匯出更方便,也示範了新功能可以怎麼用。

  6. Dev.to Top Tech49

    doneattr 公開徵求真實 AI 助理紀錄,找出誤報「已完成」的問題

    AI 助理有時會說事情做完了,實際上卻沒有。doneattr 是一個開源診斷工具,會讀取 AI 助理的工作紀錄,將這類誤報歸到六種可重複出現的決策模式,並附上相關證據片段。作者正在找人拿真實紀錄試用,特別想知道工具何時判錯、無法分類,或給出的證據難以看懂。 這個工具目前還沒通過驗證,作者測試時也發現無法分類的情況仍太多,所以不適合拿來決定工作能不能驗收或結算。它預設會在本機讀取紀錄;回報問題時,請勿提供含有機密、個人或客戶資料的原始紀錄。

  7. iThome (臺灣)86

    Google 升級 Gemini Tasks,AI 助理可打電話預約和購物付款

    很多人想處理預約、帳單和購物,卻得自己在不同網站、電話與行事曆之間來回。Google 把 Gemini Tasks 開放給美國、日本、南韓、加拿大、澳洲和印度的免費使用者,切到「工作」模式後,Gemini 可在背景執行多步驟任務。美國的新功能包括打電話預約、分析電費帳單和購物付款;付款前可設定上限,重要操作仍要確認。它也會表明 AI 身分,並在隔離的虛擬機器中執行工作。

    推薦理由:Gemini Tasks從付費試用擴大到免費使用,並把電話預約、帳單分析與購物付款整合進日常工作流程。

  8. Replit ⠕36

    Replit 推出 Replit Missions,讓 AI 助理朝著使用者設定的目標工作,並由使用者設定預算和限制;工作進度看得見,完成結果還會交給另一個 AI 評審,依照使用者訂下的標準檢查。Replit 說,旗下 Agent 從 2024 年 9 月推出後,到 2025 年 9 月已能自主工作超過 200 分鐘。Missions 要把 AI 助理能獨立完成工作的範圍再往前推,讓人能掌握任務進度,也能檢查結果是否符合要求。

  9. Dev.to Top Tech67

    tday.com 讓 Claude Code 等 AI 助理替新功能錄製展示影片

    功能做好後,還得有人操作畫面、錄旁白和剪掉空白,才能做成展示影片。tday.com 提供 MCP 伺服器,連上 Claude Code、Cursor、Codex 等工具後,AI 助理就能開啟獨立的測試環境,用旁白和操作步驟錄下影片;失敗的步驟不會留下,完成後可先在本機預覽。錄影時會遮住看起來像機密的內容,並比對前後的 git 狀態,確認程式碼沒有改變。不過,應用程式伺服器仍會使用原本設定的金鑰,因此作者提醒要改用測試金鑰。免費方案可儲存 5 部影片,每月有 100 點額度。

  10. Artificial Analysis60

    可靈(Kling)推出 Kling Image 4.0 後,Artificial Analysis 將它和其他影像模型放在同一份榜單比較。它在文字生圖排第 7,在圖片編輯排第 6;圖片最高可生成 8K,2K 價格不到排在它前面的 OpenAI 模型的三分之一。圖片編輯的 7 種操作中,有 5 種排進前 5 名。和上一版 Kling Image 3.0 Omni 相比,新版在兩份榜單都增加超過 225 Elo,文字生圖和每一種圖片編輯操作也都有進步。

    推薦理由:這份評測把 Kling Image 4.0 與前代及榜上模型比較,呈現它在文字生圖、圖片編輯和價格上的位置。

  11. Vercel Blog57

    Vercel 推出 Board,讓 AI 助理在共享佈告板協作

    多個 AI 助理一起處理工作時,任務討論和結果容易散在不同地方。Vercel 推出實驗中的 Board,讓 AI 助理和使用者在同一個討論串裡整理任務與結果,也能設定不同頻道可讀取的內容和可執行的操作。Board 可透過 Vercel Connect,和 Slack、GitHub 等工具雙向同步訊息;團隊也能使用自己的 AI 助理、執行環境和工具。Board 已開放所有方案使用,AI 助理可透過 Vercel CLI 或 JavaScript SDK 存取。

  12. Vercel Blog68

    Vercel 推出 Board,讓不同工具上的 AI 助理一起追蹤任務

    多個 AI 助理一起做專案時,任務、討論和進度容易散落在不同地方。Vercel 推出實驗性工具 Board,讓人和不同工具上的 AI 助理共用任務看板:AI 助理可以認領工作、回報進度、留下結果,也能把討論串和 Slack、GitHub 等工具雙向同步。團隊還能設定工作許可權、安排後續提醒,或讓新回覆自動喚醒 AI 助理。Vercel 表示,內部的 v0 軟體工廠目前用 Board 處理超過 50% 的 PR。

    推薦理由:多個 AI 助理分頭處理同一專案時,工作容易散落在不同工具;Vercel Board 把任務、討論與進度集中起來,並同步 Slack 或 GitHub。

  13. Pydantic AI Releases73

    Pydantic AI 發布 v2.71.0,新增 AI 助理工具管理功能

    AI 助理執行較長的工作時,可能會遇到工具太多、不知道能用多少資源,或還沒檢查完成就結束的問題。Pydantic AI v2.71.0 新增多種管理功能,例如設定規則允許、詢問或拒絕工具呼叫與 Shell 指令,也能回報剩餘預算,並在修改內容還沒驗證時要求 AI 助理先執行檢查。這次更新也加入 ToolBridge,讓工具清單維持固定,再透過搜尋和呼叫使用工具,方便管理大型或經常變動的工具集合。

    推薦理由:這次更新補上工具許可權、執行預算與完成檢查等能力,呈現 AI 助理在長時間執行任務時可用的管理方式。

  14. Guillermo Rauch42

    AI 助理要一起做事、交換訊息時,需要一個大家都能使用的地方。Guillermo Rauch 表示,他們打造了 Vercel Board,像是不用畫面的 Slack,也像以前的 IRC,讓 AI 助理透過 CLI 互相傳訊息。它不限定使用哪種模型、工具或主機平臺,只要帶上自己的 AI 助理就能使用。Rauch 認為,這能成為軟體工廠、自我改進的系統和科學研究的基礎:人只要先給一個起點,許多 AI 助理就能分散合作。

  15. Phoronix (Linux HW & Benchmarks)67

    AMD 推出 ROCm 10.2,擴大 Ryzen 筆電支援並加入效能調整

    AMD ROCm 10.2 更新了 GPU 運算軟體的支援範圍,讓更多 Ryzen 筆電能使用 ROCm。這次新增支援 18 款 Ryzen 處理器,涵蓋 Windows 和 Linux,並已確認可搭配 HIP、PyTorch 和 vLLM 使用,不必自行編譯或特別設定。更新也改善 PCIe 顯示卡的 RCCL 效能,並擴充 SGLang、vLLM 和部分儲存工具的支援。

  16. Aravind Srinivas66

    把事件提醒、模型選擇和網址內容整理接程序式或 AI 助理,往往需要分別處理。Perplexity 表示,最近推出三種 API:Monitor 可設定事件提醒,Orchestrator 會依任務在前沿模型和開放權重模型之間安排路由,Context 則能批次把網址轉成可用內容。Perplexity 也表示,API 業務年增 4.3 倍,年營收規模已達九位數;這些 API 可用來把搜尋與內容處理接入其他工作流程。

    推薦理由:三種 API 分別處理事件提醒、模型路由與網址內容轉換,呈現 Perplexity 將搜尋能力延伸到不同 AI 助理工作流程的方向。

  17. Dev.to Top Tech72

    Kiteline 更新,讓你用手機處理程式開發 AI 助理的等待事項

    程式開發 AI 助理常會停下來等人輸入指令、核准許可權或選擇選項;人不在電腦旁時,工作就會卡住。Kiteline 這次更新讓你從手機檢視並操作工作階段中的終端,也能在保留對話內容的情況下重新啟動工作階段,讓 AI 助理讀取新的設定與技能。它還會在特定熟悉的資料夾自動處理信任確認,並在 AI 助理操作網頁時提供即時畫面;需要登入或完成驗證時,仍會通知你接手。Kiteline 是獨立的第三方工具,不會替你決定是否核准許可權。

  18. Dev.to Top Tech47

    Hexbane 會檢查 AI 助理的技能、MCP 伺服器和工具,攔下藏起來的惡意指令

    AI 助理可能在使用技能、MCP 伺服器或工具時,碰上藏起來、偽裝過或帶有惡意的指令。Hexbane 會在安裝前先檢查,也會在使用期間檢視每次工具呼叫、工具回覆和使用者訊息;即使某項工具已經核准,之後也會防範它偷偷變壞。它提供瀏覽器版、CLI 和 GitHub Action,目的是及早攔下可疑指令,避免 AI 助理照著做。

  19. Claude Code Releases61

    Claude Code 發布 v2.1.328,改善 Code Mode 與遠端工作階段

    Claude Code 在長時間工作、遠端連線和執行程式碼時,可能遇到工作中斷、資料遺失或操作卡住等問題。v2.1.328 加入 Opus 4.6 和 Sonnet 4.6 在多種雲端服務上的 auto mode,也修正 Code Mode、遠端工作階段和自架執行環境的多項問題。Code Mode 現在會顯示正在執行的指令和輸出,並改善技能與工作內容在恢復工作階段後的保留方式;長工作階段的記憶體使用和回應速度也有所改善。

    推薦理由:這次更新集中改善 Code Mode、遠端工作階段與自架執行環境,能從中瞭解 Claude Code 如何處理長時間工作和工具協作中的問題。

  20. Dev.to Top Tech74

    Visual Studio 18.12 讓 Copilot Chat 成為預設,並支援共用 AGENTS.md

    不同開發工具各自存放 AI 助理的指引,容易出現內容不一致的問題。Visual Studio 18.12 更新後,符合條件的帳號會預設使用新版 Copilot Chat;它和 Copilot CLI 使用相同的 SDK,也能讀取專案根目錄的 AGENTS.md,讓團隊把建置、測試和程式風格指引放在同一個檔案。更新也加入分開管理工具許可權與對話模式、在多個分頁保留不同對話,以及用 Copilot 分析程式當掉時的傾印檔等功能。使用者自訂 AI 助理的資料夾位置也改了,舊檔案不會自動搬移,更新後可能需要手動移動或重新設定。

  21. Hao AI Lab65

    讓機器人在沒有事先示範的情況下操作,是 ORA 想處理的問題。Hao AI Lab 發布開源工具 ORA v0.1,並公佈它搭配 DeepSeek V4.1-Flash 的測試結果:RoboDojo 從 ORA October 預覽版的 5.2% 提升到 39.9%,RoboTwin 則從 71.5% 提升到 79.6%。這些數字呈現兩項測試的前後差異,原文沒有提供其他模型或測試條件的比較。

    推薦理由:ORA v0.1 在 RoboDojo 與 RoboTwin 的成績都高於 ORA October 預覽版,可看出這次更新在兩項測試中的變化。

  22. PyTorch Core Releases41

    PyTorch FSDP2 新增方法,讓啟用解除安裝的程式排好資料複製順序

    使用 CPUOffloadPolicy 時,FSDP 會把引數從主記憶體搬到 GPU;如果另一段程式同時搬回啟用函式需要的資料,兩邊會搶同一條傳輸通道,引數可能因此晚到,後續工作也跟著延遲。PyTorch FSDP2 新增 get_all_gather_copy_in_stream(),讓程式等引數複製完成後再搬回啟用函式需要的資料,讓兩種工作能重疊進行。這個方法要等 FSDP 完成延遲初始化後才能呼叫;若改用目前的資料流處理引數複製,等待它就不會改變執行順序。

  23. Dev.to Top Tech47

    BookmarkForge:在裝置上加密儲存書籤,離線也能用 AI 搜尋和問答

    不少稍後閱讀工具要先註冊帳號,還得把閱讀資料交給雲端儲存。BookmarkForge 把書籤、文章、PDF 和筆記加密存在自己的裝置上,不用帳號也能離線搜尋、閱讀和整理;如果想在多臺裝置同步,Pro 版可直接點對點傳送資料。它也能用裝置上的 AI 模型,根據已存文章搜尋內容或回答問題,並附上引用;想用 OpenAI、Claude 或 Gemini 時,只會把提示詞傳給模型服務,不會上傳整個資料庫。這讓個人資料留在自己手上的同時,還是能找回存過的內容。

  24. PyTorch Core Releases55

    PyTorch 修正 cuDNN 可變長度注意力反向計算的梯度錯誤

    使用融合 QKV 資料時,cuDNN 的可變長度注意力在反向計算中可能算錯梯度,影響第一份檔案之後的資料。PyTorch 這次加入條件式複製:只有 Q 和梯度資料的排列不同時,才先把 Q 複製成相同排列,再交給 cuDNN 計算。文中的測試涵蓋 16 種數值案例,修正後都通過;在檔案長度差異大的測試中,保留精簡工作區並配合複製,可減少記憶體使用,部分情況也更快。不過檔案長度相同時,複製可能讓運算變慢;這是針對 cuDNN 行為的暫時處理方式,沒有修改 cuDNN 核心程式。

  25. PyTorch Core Releases39

    PyTorch ROCm Inductor 新增 CK 後端支援 3D 通道優先卷積

    PyTorch 的 CK 卷積後端原本只提供 2D 卷積選項,這次加入 3D 卷積的通道優先選項。不過,分組卷積目前不會交給 CK 處理,因為它傳入的通道數和 CK 預期的數字不同,可能讓結果悄悄出錯。這項修改已在 MI300X 上測試,測試結果通過;它補上了卷積支援,也避免分組卷積算錯。

  26. Dev.to Top Tech44

    Anthropic 四種 Claude Certified 考試新增免費練習題

    想準備 Claude Certified 認證考試,現在有四種免費練習考卷可做,共 1,165 題,涵蓋 Associate、Developer 和 Architect 等考試。每題會附上 Claude 說明檔案的相關句子、連結和四個選項各自的解釋,讓考生能回頭核對答案;三種考試也會配合 12 月 7 日的新版本調整考卷長度。 這些練習題是作者自行編寫,Anthropic 沒有參與或背書。練習分數不能直接換算成正式考試分數,75% 只是作者設定的練習目標;另外,Architect – Foundations 正式考試有複選題,這套練習題目前還沒有。

  27. OpenAI News49

    住友生命如何靠主管帶頭,讓更多團隊開始使用 ChatGPT Enterprise

    住友生命的員工要整理資料、準備提案或撰寫分析用的程式碼,過去常得花不少時間。主管先帶頭使用 ChatGPT,總裁也鼓勵員工把它用在工作上,讓更多人願意嘗試。住友生命從 2023 年開始在工作中使用生成式 AI,2025 年讓約 100 到 150 人試用 ChatGPT Business,並於 2026 年 6 月改用 ChatGPT Enterprise。公司依照員工處理的資訊與連線的系統,決定使用許可權和方式;規劃團隊也會把相關聊天、檔案和指示整理在一起,協助準備提案。 住友生命估計,整體投資報酬率為 203%;每月使用 ChatGPT 至少 101 次的員工,估計為 524%。這些數字是根據員工回報省下的時間計算。公司也希望重新安排工作流程,讓 AI 分擔合適的工作,員工能把更多時間用來和客戶談話。

  28. AWS Machine Learning Blog72

    AWS 說明如何在 SageMaker AI 使用完整微調

    微調大型語言模型時,只更新一小部分引數的 LoRA 較省資源,但遇到複雜任務和大量資料時,表現可能停在一定程度。AWS 在 SageMaker AI 的無伺服器模型自訂服務加入完整微調(FFT),並用 Qwen3-4B 和 110,000 組程式生成資料比較兩種方法。實驗中,FFT 在部分指標上表現較好,但結果也很受學習率、訓練回合數等設定影響;設定太激進時,模型可能失去一般知識,甚至在數學測試中退步。文章提供實驗結果與引數調整方向,協助判斷何時適合使用 FFT。

    推薦理由:文章以程式碼生成實驗比較 FFT 與 LoRA,並說明資料量和超引數如何影響模型表現與一般知識保留。

  29. PyTorch Core Releases44

    PyTorch Inductor 修正 reduction 融合後的數值差異

    PyTorch Inductor 把多個小程式合在一起執行時,可能會讓 reduction 的加總順序改變,結果就和單獨執行時差一點。這次修正會依照各程式調校好的執行設定,把設定不同的 reduction 分開;設定相同的仍可合在一起,含 reduction 的組合也不再於執行時重新調校。如此一來,在相同設定下,組合執行的結果能和單獨執行完全一致。測試的 7 個 Ads/IG 圖表中,執行時間變化落在平常測量誤差範圍內。

  30. Dev.to Top Tech62

    Claude Code 2.1.327 修正 worktree 刪除 .env 的問題,並讓 MCP 權杖避開命令紀錄

    在 worktree 裡使用 Remote Control 時,停止工作階段可能會連同未提交的 .env 一起刪掉;把 MCP 權杖直接放進命令,也可能讓它留在命令紀錄或程式清單中。Claude Code 2.1.327 修正了前一個刪檔問題,並新增從標準輸入讀取 MCP 設定的方式,讓權杖不必當成命令引數傳入。作者也提醒,這種輸入方式無法在正在執行的 Claude Code 工作階段內使用;若使用 Remote Control 搭配 worktree,應更新版本並另外備份重要的 .env 檔。

  31. Dev.to Top Tech43

    Reset Receipt 用 SmartSpectra 說明呼吸練習實際量到什麼

    做完呼吸練習,不代表相機真的量到足夠資料,也不能直接說呼吸變好了。Reset Receipt 是一款 Windows 呼吸休息應用程式:它先記錄平常呼吸,再帶著使用者以吸氣 4 秒、吐氣 6 秒的節奏練習,最後整理量測結果;引導節奏只是提示,不代表實際呼吸速度。示範中的真實量測有 2 筆穩定讀數,中位數是每分鐘 9.9 次呼吸,但資料不足以比較練習前後,因此收據標示「部分」,沒有捏造改善結果。這讓使用者看得出量到了什麼,也知道哪些結論還不能下。

  32. Dev.to Top Tech59

    VEKTOR 2.0.8 更新記憶查詢、Faraday 安全防護與 Studio 影片工具

    AI 助理讀取網頁或檔案後,可能遇到藏在內容裡的誘導指令;找自己的舊資料時,也可能漏掉關鍵細節。VEKTOR 2.0.8 更新 Faraday,會檢查助理從網頁帶回的內容、限制子助理能使用的工具,並在可疑內容可能影響後續工作時暫停,等使用者確認。記憶查詢在 LongMemEval 公開測試的 500 題中,平均成績從 84% 提升到 89.6%;測試使用較容易的 oracle 版本、兩個開放模型評分,且只跑一次。Studio 也加入文字動畫、動態追蹤等影片編輯功能,並能從檔案整理日期、金額等資料供人檢查。

  33. AWS Machine Learning Blog66

    AWS 推出 SageMaker JumpStart Model Leaderboard,方便比較模型品質、速度與成本

    SageMaker JumpStart 有許多模型可選,但各處公佈的測試結果不一定能直接比較,也不容易看出實際執行成本。AWS 在 SageMaker Studio 推出 Model Leaderboard,讓人用相同測試方式比較 70 多個模型的品質、回應速度和預估費用。品質分數來自 BIG-Bench Hard、GPQA Diamond 和 MMLU-Pro;速度與費用則依不同部署設定測量,預估費用只計 SageMaker 執行個體成本。使用者可以先按授權和輸入輸出型別篩選,再挑符合工作需求的模型;AWS 也提醒,排行榜適合用來縮小選擇範圍,正式使用前仍要用自己的資料和提示詞測試。

    推薦理由:AWS 將模型品質、回應速度與執行成本放在同一套測試中比較,文中也說明如何依工作需求篩選,再用自己的資料確認模型表現。

  34. AWS Machine Learning Blog79

    Amazon SageMaker HyperPod 新增訓練故障檢查與工作復原功能

    大型 AI 訓練有時會卡住,或在硬體檢查通過後仍算出錯誤結果,白白佔用 GPU。AWS 為 Amazon SageMaker HyperPod 新增三項功能:MultiNodeTrainingValidation 會用固定訓練工作檢查 GPU 是否算出 NaN 或無限大的損失;Kubernetes 監控代理程式會整理故障涉及的節點、Pod 和工作;Slurm 的停滯工作偵測則能記錄問題,並依設定取消工作、讓它重新排隊。文中舉例,一項工作若卡住 15 分鐘便被偵測並重新排隊,估算成本可從約 $16,900 降至約 $530。這些檢查各自處理不同故障,設定時仍要留意規則是否正確,以及取消工作的條件。

    推薦理由:HyperPod 把訓練正確性、Kubernetes 故障和工作停滯分開監看,並說明各功能何時運作、如何回報及可能節省的 GPU 時間。

  35. OpenAI Developers62

    有些工作流程不需要 AI 馬上回覆。OpenAI 在 Responses API 的背景模式推出公開測試,讓單輪或多輪工作選擇等待 2 小時或 8 小時取得首次回覆。使用 GPT-6.2 Astra 或 GPT-6.2 Sol 時,每個 token 的費用最多可比 Standard 低 40%;適合能等回覆、希望降低費用的工作。

    推薦理由:這項公開測試提供 2 小時與 8 小時兩種等待目標,並說明可等待的工作流程如何用較低費用換取較慢的首次回覆。