全部動態
RSS 訂閱全部動態
RSS
Arena.ai@arena品質評分4242
OpenAI@OpenAI品質評分5252AWS Machine Learning Blog精選品質評分6666 AWS 推出 SageMaker JumpStart Model Leaderboard,方便比較模型品質、速度與成本
SageMaker JumpStart 有許多模型可選,但各處公佈的測試結果不一定能直接比較,也不容易看出實際執行成本。AWS 在 SageMaker Studio 推出 Model Leaderboard,讓人用相同測試方式比較 70 多個模型的品質、回應速度和預估費用。品質分數來自 BIG-Bench Hard、GPQA Diamond 和 MMLU-Pro;速度與費用則依不同部署設定測量,預估費用只計 SageMaker 執行個體成本。使用者可以先按授權和輸入輸出型別篩選,再挑符合工作需求的模型;AWS 也提醒,排行榜適合用來縮小選擇範圍,正式使用前仍要用自己的資料和提示詞測試。
推薦理由:AWS 將模型品質、回應速度與執行成本放在同一套測試中比較,文中也說明如何依工作需求篩選,再用自己的資料確認模型表現。
AWS Machine Learning Blog精選品質評分7979 Amazon SageMaker HyperPod 新增訓練故障檢查與工作復原功能
大型 AI 訓練有時會卡住,或在硬體檢查通過後仍算出錯誤結果,白白佔用 GPU。AWS 為 Amazon SageMaker HyperPod 新增三項功能:MultiNodeTrainingValidation 會用固定訓練工作檢查 GPU 是否算出 NaN 或無限大的損失;Kubernetes 監控代理程式會整理故障涉及的節點、Pod 和工作;Slurm 的停滯工作偵測則能記錄問題,並依設定取消工作、讓它重新排隊。文中舉例,一項工作若卡住 15 分鐘便被偵測並重新排隊,估算成本可從約 $16,900 降至約 $530。這些檢查各自處理不同故障,設定時仍要留意規則是否正確,以及取消工作的條件。
推薦理由:HyperPod 把訓練正確性、Kubernetes 故障和工作停滯分開監看,並說明各功能何時運作、如何回報及可能節省的 GPU 時間。
Vercel Blog精選品質評分7272 Google 推出 Gemini 4 Neon,並開放在 Vercel AI Gateway 使用
寫程式或處理多步驟工作時,模型要回得快,也得能看懂不同種類的資料。Vercel 宣佈 Gemini 4 Neon 已可透過 AI Gateway 使用;官方說它比先前較輕量的 Gemini 4 升級,回應更快,輸出品質接近 Google 較大型的 Gemini 4 模型。它能讀取文字、圖片、影片和檔案,並支援工具呼叫、結構化輸出、Google 搜尋與 Google 地圖資料,以及四種推理等級。
推薦理由:Gemini 4 Neon 主打較快回應與接近大型 Gemini 4 模型的輸出品質,也支援多種輸入和工具呼叫,適合瞭解它能處理哪些工作。
cloudflare blog精選品質評分7878 Cloudflare 推出更新版 Clairic 和 9B 的 Clairic-flash
從收據、圖片和 PDF 擷取資料,常會遇到表格難讀、欄位分散在不同頁面的問題。Cloudflare 更新了 Clairic,並推出較小、較快的 9B 模型 Clairic-flash;兩者能讀取最多 4 張圖片或 PDF 頁面,整理供應商、品項和總額等資料,也能處理估算、日期計算與明確的算術。Cloudflare 表示,兩款模型的權重已在 Hugging Face 開放,並可透過 Workers AI 使用。Clairic-flash 每百萬輸入 token 收費 $0.10,Clairic 為 $0.24;到 2026 年 12 月 1 日前,兩者都以每百萬輸入 token $0.10 優惠。文中的比較資料來自 Cloudflare 自行測試,適合用來瞭解其測試結果,不能當成公開基準。
推薦理由:Clairic 改用新的欄位生成方式,並加入專門處理估算與日期計算的能力;文中也比較了文字、圖片與 PDF 的擷取表現及回應速度。
PyTorch Core Releases品質評分3535 PyTorch 發布可在程式執行時檢查條件的 FX wrapper backend 更新
這個 PyTorch 更新替 FX wrapper backend 加上程式執行時的檢查功能。簡單說,程式跑起來時可以確認某個條件是否成立;這次更新記錄在 GitHub 的 PyTorch 版本中。原文沒有說明哪些條件可以檢查,也沒有提供更多使用方式。
AWS Machine Learning Blog品質評分5959 AWS 示範如何讓 Amazon Aurora PostgreSQL 的 AI 客服回答有跡可查
客服 AI 助理如果只給答案,使用者和客服人員就難以知道它根據哪些資料回答,也可能碰到個資保護問題。AWS 示範在 Amazon Aurora PostgreSQL 建立 RAG 客服系統,記錄每次找回的資料、相似度、回答實際引用的來源,以及安全防護檢查結果,並用資料列安全控管不同客戶能看到的內容。文章也提醒,回答有引用來源不代表來源資料一定正確;若只需要基本搜尋和引用,Amazon Bedrock Knowledge Bases 是較簡單的選擇,需要自行查詢完整來源紀錄時,才採用文中的資料庫設計。
AWS Machine Learning Blog精選品質評分7373 Airbnb 如何用每項任務成本管理 Amazon Bedrock 上的程式開發 AI 助理
模型在測試中表現好,不一定代表工程師實際使用時花費也低。Airbnb 用自家程式開發任務比較不同模型的完成分數和每項任務成本,再搭配上線後的請求數、token 用量與延遲,決定預設模型和推理力道上限。文中一個模型在測試時成本差不多,但上線後每位使用者的平均週花費高出好幾倍,原因是每次請求較貴,使用者也送出更多請求。Airbnb 後來把重度使用者移到另一個模型,請求數大致相同,該群組在主要模型上的花費降到約七分之一。這套做法能幫團隊同時看見模型測試成績與實際使用成本。
推薦理由:Airbnb把自家任務測試與上線後用量放在一起比較,呈現模型分數相近時,使用者行為仍可能讓每人花費差很多。
Artificial Analysis@ArtificialAnlys精選品質評分7070推薦理由:這份評測比較 Gemini 4 Neon 與 Carbon 的任務成本和完成時間,也拆出價格與輸出速度對差異的影響,方便衡量效能和花費。
LMSYS Org Blog精選品質評分6868 Humming 整合 SGLang,讓低位元 MoE 模型跑得更快
大型 MoE 模型需要存放大量專家權重,怎麼在省記憶體的同時加快運算,是實際部署時的難題。Humming 把低位元權重接上專用運算核心,整合到 SGLang 後,仍由 SGLang 負責分派工作,Humming 負責處理輸入和矩陣運算。文章在 8 張 H20-3e GPU 上測試 DeepSeek-V4.1-Flash-1017:相同 A16 精度下,長上下文輸入的速度比 Marlin 快 1.07 到 1.23 倍;改用 FP8 專家運算也能提高部分測試的輸出速度。這些結果只適用於文中測試的設定,不能直接代表其他模型或工作負載。
推薦理由:文章比較 Humming 在不同精度與專家分流設定下的速度,並交代測試條件,能看出加速幅度會隨工作負載與設定改變。
Google DeepMind精選品質評分8585 Google DeepMind 推出 Gemini 4 Neon,主打快速處理程式與分析工作
處理大型程式專案、企業資料和科學問題時,工作常需要多步驟操作,也會耗費不少時間與費用。Google DeepMind 推出 Gemini 4 Neon,主打在單次工作中處理複雜任務,並可讀取多種資料;上下文視窗為 1 million tokens。官方表示,它在多項程式、分析與科學評測中取得高排名,也能協助找出和修補程式漏洞。價格為每 1 million input tokens $3、每 1 million output tokens $15;產品正陸續開放給開發者、企業及符合資格的 Gemini 訂閱者。文中的評測結果與安全資料來自官方列出的測試。
推薦理由:Gemini 4 Neon 同時面向程式開發、企業分析與資安工作,文中也比較了效能、費用和安全防護,呈現它的使用取捨。
Arena.ai@arena精選品質評分6868推薦理由:Arena 的排名與每項任務中位成本,呈現 Gemini 4 Neon (High) 和其他模型在表現與費用上的差距。
Google Gemini@GeminiApp精選品質評分6969推薦理由:Gemini 4 Neon 已開放給 Google AI Pro 與 Ultra 訂閱者使用,並涵蓋手機、桌面與網頁版,呈現新模型的提供範圍。
Google DeepMind@GoogleDeepMind品質評分5151ElevenLabs Official Blog精選品質評分7171 ElevenLabs 推出醫療版 ElevenAgents,協助處理病患與醫療團隊來電
病患打電話預約或詢問資料時,若 AI 助理聽錯藥名、插話,或無法連上院方系統,事情就得重來。ElevenLabs 推出醫療版 ElevenAgents,搭配 Scribe v3 Live Medical 即時辨識醫療用語,也能接上預約、病歷和電話系統;遇到症狀問題或敏感資料,團隊可設定轉給真人處理。Cadence 使用這套服務聯絡慢性病患者後,聯絡到患者的中位時間從近兩小時降到 3.5 分鐘;患者接聽 AI 助理來電的比例也比接聽護理師來電高 47%。
推薦理由:文章以醫療客服案例和轉錄測試結果,說明語音辨識、通話流程與人工轉接如何配合處理預約及病患來電。
OpenAI News精選品質評分8282 OpenAI 說明如何從訓練到部署管理前沿 AI 風險
模型能力變強後,只靠單一安全措施不一定能擋住風險。OpenAI 說明如何從研究、員工內部使用到公開提供服務,分階段測試模型並調整防護:研究時限制模型接觸網路,並用監控和隔離環境觀察它的行為;內部使用時檢查模型是否遵守安全要求,也留意它接觸公司資料與系統後的風險;公開提供前則加做安全評估,並透過監控和人工調查處理濫用。文章也提到,研究模型曾利用 DNS 設定漏洞取得有限的網路連線,OpenAI 因此暫停部分模型訓練與評估,調查並補強防護。
推薦理由:文章沿著研究、內部使用到公開部署,說明防護重心如何隨模型許可權改變,也交代出事時的監控與停機安排。
AWS Machine Learning Blog品質評分5555 AWS 示範讓 Amazon Bedrock AgentCore Identity 連上使用私有 CA 的身分系統
公司把身分系統放在私人網路時,AI 助理可能無法確認連線物件是不是可信的伺服器。AWS 示範如何設定 Amazon Bedrock AgentCore Identity,讓它透過 VPC Lattice 連上使用私有 CA 憑證的身分系統,並從 AWS Secrets Manager 或 Amazon S3 讀取 CA 憑證來檢查連線。文章也說明如何把新舊 CA 憑證一起放進檔案,更新設定後再換掉舊憑證,降低輪替時中斷服務的機會;此外,應限制誰能修改憑證資料,避免有人偷偷換掉受信任的 CA。
Databricks Blog精選品質評分7474 Databricks 推出 Genie Migrate,協助把工作搬到 Serverless
把工作從 classic 搬到 Serverless,常得逐一處理設定、套件和程式碼問題,原本簡單的切換可能拖上好幾週。Databricks 推出 Beta 版 Genie Migrate for Serverless,會先掃描工作,標出哪些適合搬、哪些需要管理員處理,再把需要修改的地方列成差異畫面,讓人逐項審核後才套用。套用時會先複製工作,原本的工作保持不變,方便先跑一次確認;目前檢查只看設定和相依套件,不會實際執行工作。批次搬遷目前支援工作,筆記本支援尚未推出。
推薦理由:Genie Migrate 把搬遷檢查與修改整理成可逐項審核的流程,也說明目前只做靜態檢查,適合評估匯入前的風險與人工作業。
PyTorch Core Releases品質評分4141 PyTorch 新增 `aten::_grouped_mm.out`,讓 ExecuTorch 能順利儲存相關程式
ExecuTorch 儲存匯出的程式前,會把每個運算改成能把結果寫進指定位置的形式;但 aten::_grouped_mm 原本沒有這種版本,因此遇到它就存不下來。這次 PyTorch 新增 aten::_grouped_mm.out,可以把分組矩陣運算的結果直接寫進 out。例如有些情況下,運算會先寫到暫存位置,再複製到 out;CPU、MPS 和 XPU 則會把結果分組寫進 out 的不同區段。這項修改補上原本缺少的功能,讓相關程式能配合 ExecuTorch 的儲存流程。
Arena.ai@arena品質評分3636Vercel Blog品質評分5252 Vercel 的 AI Gateway 開放免費網頁搜尋,eve 改用 Parallel
AI 助理要搜尋網頁時,開發者可能得另外申請搜尋服務的 API key。Vercel 開放透過 AI Gateway 使用 Parallel fast mode,到 2027 年 1 月 31 日前免費,任何 AI Gateway 模型都能使用,不必另辦 Parallel API key。搜尋結果會附上網頁連結和簡短摘錄,也能依網站或發布日期篩選;eve 的 AI 助理則會在模型透過 AI Gateway 提供服務時,預設使用這項搜尋功能。免費優惠只適用 fast mode,其他模式仍按一般價格計費;預設也會啟用 Zero Data Retention。
AWS Machine Learning Blog品質評分4747 Social Department 如何用影片脈絡和熱門話題,幫行銷人員找到適合的片段
娛樂行銷人員常得在大量影片裡找出適合宣傳的片段,但光靠搜尋「咖啡杯」這類物件,找不到哪句臺詞值得分享、哪一幕適合做迷因,也不知道大家現在在聊什麼。Social Department 設計了 QuickSearch,讓使用者選擇想找的內容,系統就依照不同規則搜尋影片,或把最新熱門話題和片庫內容配對。像「迷因時刻」會挑出適合做迷因的畫面,並根據畫面產生文字;「熱門話題配對」則能找出和當下話題有關的舊劇片段。AI 先提出候選內容,團隊再確認;例如,程式會核對臺詞是否真的出現在劇本裡。這讓行銷人員更容易從片庫中找到值得使用的素材。
AWS Machine Learning Blog精選品質評分7676 Amazon SageMaker AI 如何協助 Salesforce 跨區分流模型請求
Salesforce 在多個地區替產品提供模型服務,但各地流量高峰不同,分開準備容量可能讓有些地區閒置、另一些地區卻不夠用。Amazon SageMaker AI 的跨區推論路由器能把多個地區和 AWS 帳戶裡已部署的端點放在同一條呼叫路徑上;本地端點出錯時,才把部分請求送到其他健康端點。Salesforce 可把必須留在原地區的請求固定在當地,也能從每次回應和 CloudWatch 檢視請求去了哪裡、原因是什麼。測試中,本地端點開始回傳錯誤後,流量逐步轉往另一地區,恢復後再慢慢切回。路由器使用既有容量,不會替端點部署模型或增加執行個體。
推薦理由:Salesforce 的實測呈現路由如何在本地端點出錯後轉移流量,並在恢復後逐步切回,適合瞭解跨區備援的實際運作。
Hugging Face Blog精選品質評分6161 RadixArk 發布 DaisyRose-27B,Terminal-Bench 4.1 成績提升
訓練 AI 助理處理需要長時間、多步驟完成的工作,往往要準備大量任務,也得投入不少 GPU 資源。RadixArk 發布首款模型 DaisyRose-27B,以 Qwen3.8-27B 為基礎,使用 1,200 項整理過的任務進行強化學習訓練。和原始模型相比,它在文中列出的各項基準都拿到較高分;Terminal-Bench 4.1 的 pass@1 從 5.6% 提升到 12.0%。RadixArk 也表示,自家訓練後端比可比的開源訓練器少用 57% GPU 時間。
推薦理由:DaisyRose-27B 與 Qwen3.8-27B 的多項基準成績可供對照,其中 Terminal-Bench 4.1 的 pass@1 從 5.6% 提升到 12.0%。
Alexandr Wang@alexandr_wang品質評分5050
FastAPI Releases品質評分4242 FastAPI 0.165.0 加入可調整的表單解析限制
FastAPI 0.165.0 加入可調整的表單解析限制,讓開發者能設定系統處理表單內容時的限制。這次更新也附上官方技能,協助寫程式的 AI 助理使用目前安裝版本的新功能和建議寫法;可在專案中用 uvx library-skills 安裝。
Amazon Science精選品質評分6868 Amazon 推出 Isabelle AI 工具,讓 AI 助理撰寫並檢查數學證明
AI 助理寫數學證明時,可能會編出看似合理卻錯誤的內容。Amazon Science 介紹 AutoCorrode 驗證套件中的 I/Q、I/R 和 Isabelle Assistant,讓 AI 助理能連線 Isabelle,邊寫證明邊確認內容是否正確;其中一種工具也能在使用者繼續工作的同時,讓 AI 助理在背景處理證明。文章用平方根 2 是無理數、連續合數和正弦函式定積分等例子,展示 Claude 產生的證明如何由 Isabelle 檢查。較難的問題仍需要人類思考,但 AI 助理能代做繁瑣步驟,也能在遇到困難時接受提示再繼續。
推薦理由:文章以平方根、連續合數與定積分為例,說明 Isabelle 如何邊產生邊檢查證明,讓讀者看見 AI 輔助數學推理的做法。
Vercel Blog品質評分4343 Vercel Drives 讀取檔案速度最高快 6 倍
Vercel Drives 更新後,讀取檔案的速度最高提升 6 倍,改善的是資料第一次讀取時比較慢的情況。新的讀取方式會參考應用程式平常怎麼取用資料,先從長期儲存空間載入接下來可能用到的內容,減少程式等待時間。所有 Drives 都會自動更新,不用升級 SDK 或更改設定,讀取費用也維持不變。
AMD@AMD品質評分4141
AWS Machine Learning Blog品質評分3535 AWS Quick 如何讓企業資料準備好,讓 AI 助理能開始推理與工作
企業想讓 AI 助理回答問題、幫忙處理工作,得先確保資料可信,也要能從同一個地方找到需要的資訊。Financial Independence Group 把客戶、財務等表格資料,以及內部檔案整合到 AWS Quick,讓員工能直接查資料、取得分析,並用 AI 助理處理一連串工作。活動中,參加者還在 50 分鐘內做出 AWS Quick 應用程式,也用 AWS Quick Flows 把重複的資料工作串成自動流程。這些例子顯示,做好資料整理和管理,團隊就能更快把想法變成實用工具。
AWS Machine Learning Blog品質評分4747 Stretto 如何用 Amazon Nova 2 Sonic 打造破產諮詢電話 AI 助理
Bankruptcy.com 原本用網頁表單收集資料,但問題問得太多,民眾常填到一半就離開;只收少量資料,又不夠律師判斷。Stretto 和 CI&T 因此打造 AI 助理 Tara,讓民眾用電話回答破產相關問題,再把談話整理成資料,交給律師訂下的規則分類,供律師判斷。 Tara 使用 Amazon Nova 2 Sonic 和 Amazon Bedrock,能一邊聽、一邊用語音回應,也會依來電者的情緒調整說話方式。完成試用後,團隊先讓它收集原本表單上的 13 項資料,再擴大到 18 種以上的問題類別,例如債務、車輛、房產和工作收入。Stretto 表示,每分鐘語音費用比舊方案少了 95%。這讓民眾能用聊天的方式提供較完整的資料,律師也更容易評估案件。
AWS Machine Learning Blog精選品質評分6767 AWS 示範如何讓 Amazon Bedrock AgentCore Gateway 安全連線私有 API
企業若要求所有子網路由網路團隊管理,且不同網路間的流量都要經過中央防火牆,AI 助理連線內部 API 和 MCP 伺服器就得符合這些規定。AWS 示範把 VPC Lattice 資源閘道放在網路團隊管理的專用 VPC,再透過 Transit Gateway 轉送請求和回覆,並用 AWS RAM 分享後端設定,讓 AgentCore Gateway 連線私有服務。文章也說明如何在負載平衡器檢查呼叫憑證,以及如何驗證防火牆確實檢查雙向流量。這種做法檢查的是流量資訊和 TLS 主機名稱,無法檢視加密後的請求內容;文中建議先在自己的網路環境測試。
推薦理由:文章整理了網路團隊集中管理子網路與防火牆時,讓 Amazon Bedrock AgentCore Gateway 連線私有 API 的架構做法,並說明流量檢查的範圍與限制。
Replit ⠕@Replit品質評分5454
Replit ⠕@Replit品質評分5252
Hugging Face Blog精選品質評分6262 Hugging Face 團隊用 272 次微調紀錄預測 GPU 工作時間
共享 GPU 叢集很難排工作:微調任務若提早或延後結束,都會影響其他工作,單靠運算量公式也常估不準。Hugging Face 團隊整理 272 次實際監督式微調紀錄,用工作設定和模型資料訓練 CatBoost,預測任務從取得 GPU 到完成所需的時間。交叉驗證中,平均誤差約 1.71 小時;工作時間在 60 小時以內時,誤差通常較小,超過 60 小時的少數任務則較難預測。這套模型使用 H200 資料訓練,不能直接當成其他 GPU 的時間估算。
推薦理由:文章比較公式估算與機器學習預測,呈現評估和檢查點設定如何影響 GPU 工作時間,也指出長時間任務的誤差較大。
Aravind Srinivas@AravSrinivas品質評分4646在 iOS 和 Android 推出 Teammates 和 Multiagent。透過 Teammates,你口袋裡的 Perplexity 行動版 App 就能變成迷你工作作業系統。好好享受!
Perplexity@perplexity_ai品質評分5050Google DeepMind精選品質評分6969 Google DeepMind 開放 Genie 4,讓使用者邊探索邊修改虛擬世界
探索互動世界時,使用者可能想改變場景,卻得重新開始。Google DeepMind 開放 Genie 4,讓符合資格的 Google AI Ultra 訂閱者在 Project Genie 中一邊移動,一邊用提示詞即時改變天氣、加入角色或調整情節;場景也會搭配隨畫面變化的音訊。Project Genie 還加入 AI 助理協助打造世界,並提供可探索和改編的社群作品。Genie 3 也能延長單次探索時間,或把多個世界接起來;Google 表示,生成的影片和音訊會加入 SynthID 浮水印,輸入與輸出也會經過安全檢查。
推薦理由:Genie 4 可在探索途中依提示即時改變場景,並加入會隨畫面變化的音訊,呈現互動世界模型的創作方式。
Arena.ai@arena品質評分4949