全部動態
RSS 訂閱全部動態
RSS
Browserbase@browserbase品質評分3535
Google Developers Blog精選品質評分7474 Google 推出 TPU 模型設計與效能調校指南
同一個模型放到 TPU 上,矩陣尺寸、模型結構和資料怎麼分工,都會影響訓練速度與服務延遲。Google 推出開源指南,整理模型設計和 TPU 硬體配合的方法,涵蓋把重要尺寸對齊 256、讓 MoE 專家模型少搬運資料,以及依晶片連線方式安排平行運算。文中也用 Ironwood 的測試說明調整效果,例如一種 LatentMoE 設計讓訓練速度提升 14%。指南提醒,架構改動可能影響模型品質,應用實際執行時間比較,並先確認答案品質。
推薦理由:指南把 TPU 的矩陣尺寸、模型結構與平行運算方式連到實際效能資料,呈現團隊可如何依瓶頸調整設計。
Microsoft Research@MSFTResearch品質評分3939
Vercel Blog品質評分4646 Vercel Spend Management 開放專案與產品預算管理
Vercel 的 Spend Management 現在能分別設定專案和產品的預算,也能檢視目前帳單週期的花費。以專案預算為例,達到上限時可以選擇暫停該專案的正式環境部署,不會影響其他專案;產品預算則能追蹤整個團隊在 Fast Data Transfer 等單一產品上的花費。預算用到 50%、75% 和 100% 時,Vercel 會發出通知;團隊與專案預算也能設定自動暫停部署,產品預算則不支援。Pro 團隊與採用 Flexible Commitment 方案的 Enterprise 團隊可免費使用這項功能。
SpaceX@SpaceX精選品質評分8181SpaceX 分享了從 Mechazilla 拍攝的影片,畫面呈現 Starship 首次被捕捉的過程。原文沒有提供更多操作細節或後續安排。


推薦理由:影片從 Mechazilla 的視角呈現 Starship 首次被捕捉的畫面,提供了這次回收過程的直接影像紀錄。
OpenAI@OpenAI品質評分4444
a16z@a16z品質評分4242
Tavily@tavilyai品質評分4949NVIDIA Newsroom Press Releases品質評分5959 NVIDIA 供應鏈主管談如何和合作夥伴把複雜產品推向量產
要把新設計做成大量、穩定出貨的產品,光有晶片設計還不夠,還得讓許多供應商一起解決製造問題。NVIDIA 營運主管 Deb Shoquist 分享,她會依照技術、資金和量產能力挑選夥伴,也會在供應商缺少規模時提供投資與協助。她舉例,GB200 運算板的自動測試速度一開始不如預期,團隊便先改回人工測試維持生產,再由 NVIDIA 和 Foxconn 工程團隊一起調整產線。她的經驗顯示,長期合作與現場協作能幫助供應鏈應付新產品量產時的難題。
ElevenLabs Official Blog精選品質評分7272 ElevenLabs 收購日本語音 AI 團隊 Kotoba
日語對話常省略句子的主詞,也會依物件改變用詞,讓 AI 要自然接話並不容易。ElevenLabs 宣佈收購日本語音 AI 團隊 Kotoba,盼結合雙方研究,改善日語語音技術,並讓 AI 助理更自然地處理日文對話。Kotoba 的語音模型 Koto 可將文字轉成語音、將語音轉成文字,也能支援同步口譯;Salesforce 已用它支援 Agentforce Voice 的日語對話。收購預計在 2026 年第四季稍晚完成,仍須取得一般監管核准並符合交割條件。
推薦理由:Kotoba 加入 ElevenLabs 後,雙方將結合語音研究與日本市場經驗,推進能理解日語對話與在地社會習慣的 AI 服務。
PyTorch Core Releases品質評分4545 PyTorch 的 ROCm FlyDSL TopK 改用執行時迴圈,減少程式碼並提升速度
FlyDSL 的 TopK 程式每次掃描 256 個數字格子,原本會把整段工作一次展開,讓程式碼變大,也佔用較多晶片資源。這次修改改成逐步重複掃描,降低編譯後的資源用量;在 gfx950 的測試中,暫存器溢位從 424 次降到 0 次。45 組測試的平均速度提升 12%,最快提升 63%,最慢則慢了 2%;所有結果都和 ATen 完全相同。
Aravind Srinivas@AravSrinivas品質評分5656
Arena.ai@arena品質評分4848
Baseten@baseten品質評分4848
AMD@AMD精選品質評分6767
推薦理由:Lux 已開放科學研究人員使用,並把 AI 與高效能運算整合在同一臺超級電腦中,支援聚變能源、新材料與地球系統預測研究。
a16z@a16z品質評分4242
Vercel Blog精選品質評分6969 Vercel 示範如何測試 AI 助理能不能完成使用者的工作
AI 助理看起來完成了工作,結果卻可能點錯飲料,或花超過使用者設定的預算。Vercel 用咖啡訂單示範如何反覆執行同一項任務,檢查最後結果是否符合飲料、取餐時間和總金額等要求,再檢視失敗紀錄,找出助理在哪一步出錯。文章也說明成功率、Pass@k 和 Pass^k 的差別:如果使用者每次都需要答對,Pass^k 能看出助理是否夠可靠。團隊可以用這些測試比較修改前後的結果,並在產品更新時重跑,及早發現問題。
推薦理由:文章用咖啡訂單示範如何從使用者常遇到的錯誤設計測試,並比較成功率與 Pass^k,幫助團隊找出需要修正的環節。
Python Official Blog品質評分3737 XTM Transifex 免費 12 個月支援 Python 檔案翻譯
Python 檔案有多個翻譯團隊,幫助大家用自己的語言學習和使用 Python。有些團隊使用 XTM Transifex 的線上翻譯平臺;在去年付費試用後,XTM Transifex 提供 12 個月免費的 Growth 方案,讓團隊繼續重複利用已有翻譯、統一用詞,並找出可能的錯誤。想幫忙翻譯 Python 檔案的人,可以到 Python Developer’s Guide 的翻譯專區或 translations.python.org,尋找自己語言的團隊。
LangChain Blog精選品質評分7070 LangChain 重整 LangSmith,讓團隊在同一處管理 AI 助理
AI 助理分散在不同工具和平臺上,工程師難以接續開發,管理團隊也不容易看出誰負責、花了多少錢或表現如何。LangChain 把 LangSmith 改以每個 AI 助理的一筆紀錄串起建置、執行、評估和管理;不同環境的追蹤資料會放在同一筆紀錄下,也能依助理型別顯示合適的指標。團隊可以連線已在其他平臺執行的助理,不必改動原有流程。LangSmith 目前提供一般用途和程式開發兩種助理型別,語音助理型別則仍在規劃中。
推薦理由:LangSmith 把追蹤、評估、部署與管理資料放到同一筆 AI 助理紀錄下,文中也說明不同型別的助理如何採用相應指標。
LangChain Blog品質評分5858 LangChain 說明 AI 助理從接任務轉向追蹤長期目標後,需要哪些改變
交辦 AI 助理一件事時,我們通常知道要它做什麼;若要它長期負責一個目標,就得讓它自己安排工作,也要能在需要時詢問人。LangChain 說明這種改變會帶來幾項設計需求:讓人看得到它安排的待辦事項,管好它能使用哪些工具,提供提問與回饋的管道,並設定何時開始、暫停或停止。它也需要記住不同工作之間的重要決定,例如被拒絕的部落格題目,之後就不該一再提出。使用者的角色也會從逐項交辦,轉為設定方向、劃清界線並檢視進度。
AWS Machine Learning Blog品質評分5252 MoEngage 如何用 Amazon Bedrock AgentCore 打造 AI 助理行銷平臺
行銷團隊規劃活動時,常得在分析、內容和活動工具之間來回切換。MoEngage把原有平臺 API 接成 MCP 工具,讓 AI 助理能在同一段對話中查資料、寫活動內容和調整流程。使用者身分與工作區資訊由系統傳送,不交給模型判斷;每位使用者的工作階段也各自隔離,並可設定人工審核後才執行。文章也分享了平臺實際成效:客戶 Glance 的活動上線速度提升 50%,推播點閱率提升 38%。
Replit ⠕@Replit品質評分4545
Hugging Face@huggingface品質評分5454Databricks Blog品質評分4545 Databricks AI Runtime 如何協助企業使用表格資料 AI 模型
用表格資料預測客戶會不會流失、商品需求有多少,通常得為每種工作各自訓練和維護模型,既花時間,也得處理 GPU 設定和管理。表格基礎模型(TFM)先用大量合成資料預訓練,拿到新資料時,就能參考已知答案來預測,不必從頭訓練;例如 TabICLv2 約有 28M 個引數,商用授權較寬鬆,但不同模型在效能、成本和授權上各有取捨。 Databricks AI Runtime 提供代管 GPU,並整合實驗追蹤、資料治理和模型部署,讓團隊能在資料所在的平臺測試或微調 TFM,再把模型用於批次工作或即時預測。這類模型有機會省下建置和維護專用模型的時間,但每次預測都要把資料交給模型處理,GPU 用量可能隨資料列數和欄位增加;企業仍得用自己的資料評估準確度與運算成本。
Databricks Blog精選品質評分6868 Databricks 推出 AI Index,追蹤企業採用哪些 AI 模型及其成本
企業可選的 AI 模型越來越多,光看模型表現或每個 token 的價格,很難知道哪種選擇最適合手上的工作。Databricks 推出公開的 AI Index,整理企業使用模型的情況與花費,也用實際程式開發任務比較不同模型和 AI 助理工具組合的成功率與每項任務成本,並計畫每週更新。資料顯示,開放權重模型在企業流量中的佔比從 7 月的 7.3% 升到 11 月的 30.9%;有些模型 token 單價較低,完成任務卻可能花更多錢。Index 也提醒企業按自己的工作內容比較品質和成本,因為測試結果不一定適用所有團隊。
推薦理由:Databricks AI Index 把企業採用情況和程式任務的品質、成本放在一起比較,呈現模型選擇如何隨工作需求改變。
Databricks Blog精選品質評分6868 Databricks 示範用 Feature Views 打造即時金融產品推薦系統
銀行想在客戶瀏覽信用卡或使用貸款試算時推薦合適的產品,得趕在對方離開前算出結果。Databricks 的 Solution Accelerator 示範如何用 Feature Views 共用訓練和上線服務的特徵定義,並把客戶平常的資料和剛發生的瀏覽行為一起交給排序模型。範例中,完整推薦請求的延遲符合 50 ms 預算,串流事件約 0.1 秒後就能供模型使用;不過資料是合成的,不能據此宣稱推薦會提高營收。實際上線前,團隊還得自行加入資格、同意、適用性和抑制規則。
推薦理由:範例說明批次與串流特徵如何共用定義,並在 50 ms 服務預算內完成排序,可作為評估即時推薦架構的參考。
Databricks Blog精選品質評分6464 Databricks 串接 AWS HealthLake,讓臨床資料能直接分析與查詢
醫療機構想在其他平臺分析 AWS HealthLake 的臨床資料,過去得先把資料匯出、複製,還要分別管理許可權。Databricks 透過 OpenSharing 直接讀取 HealthLake 的資料,讓資料留在原處,也能交由 Unity Catalog 管理誰可以檢視和查詢。使用者還能透過 Genie One 用日常語言提問,例如檢視平均 A1C 每月的變化;系統會整理答案並提供表格和圖表。這讓不熟悉 SQL 的醫療與營運人員也能探索資料。
推薦理由:這套整合讓 HealthLake 的 FHIR 資料能在不另存副本的情況下供 Databricks 查詢,並由 Unity Catalog 管理許可權,呈現臨床資料跨平臺使用的做法。
Wiz Blog & Research精選品質評分7272 Wiz 推出 AI Security Agent,串連 AI 應用程式與雲端風險
只看雲端設定或程式碼,都可能漏掉 AI 助理被攻擊後會造成什麼影響。Wiz 推出 AI Security Agent 公開預覽版,可從程式碼儲存庫、支援的 PaaS 平臺和自架環境找出 AI 應用程式,分析它的用途、工具和許可權,再把結果連到 Wiz Security Graph 的雲端資訊。文中的案例顯示,原本看似普通的內部 AI 助理,可能因為可從網路連線的入口、過大的服務帳號許可權和未受阻擋的儲存資料,形成一路通往敏感資料的攻擊路徑。Wiz 表示,這項工具在部分客戶環境中找出的 AI 助理數量,最高是傳統探索工具的五倍。
推薦理由:Wiz 將 AI 應用程式的程式碼分析與雲端許可權、網路暴露及敏感資料串在一起,能從文中案例看出這種做法如何還原完整攻擊路徑。
Google Developers Blog品質評分5959 Google 示範如何用 Agent Anomaly Detection 找出 AI 助理越權行為
AI 助理可能因工具許可權太大,讀到不該看的資料,團隊也未必能從當機或錯誤紀錄發現問題。Google 這份操作指南用一個虛構的客服助理示範 Agent Anomaly Detection:助理原本要處理訂單和退款,卻能讀取薪資資料;系統會檢視助理留下的紀錄,找出偏離工作範圍的對話,並說明原因與修正建議。指南也示範如何設定 Cloud Monitoring 和 Security Command Center 警示。範例資料只存在記憶體中,不會讀取真實資料;這項功能目前是 Private Preview。
clem 🤗@ClementDelangue品質評分4747Vercel Blog精選品質評分6666 Vercel AI Gateway 開放使用 Hy4 Flash,限時享 5 折
使用大型語言模型時,功能和費用常要一起考量。Vercel AI Gateway 現在提供 Tencent 的 Hy4 Flash,這是 Hy4 系列中價格較低的模型,保留推理、工具呼叫、結構化輸出、提示詞快取和圖片輸入,也有相同的 1M-token 上下文視窗;不需要推理的請求則可關閉這項功能。透過 AI Gateway 使用時,輸入、快取輸入和輸出 token 到 2026 年 11 月 29 日都有 5 折優惠,適合留意大量程式開發、AI 助理或檔案處理工作所需的成本。
推薦理由:Hy4 Flash 保留 Hy4 系列功能並大幅降低每個 token 的價格,文中也交代限時折扣,能看出成本與功能之間的取捨。
llama.cpp Releases品質評分3535 llama.cpp 發布 b12443,修正 Nvidia Vulkan 的記憶體溢位問題
llama.cpp 的 b12443 修正了 Nvidia 顯示卡使用 Vulkan 時,FP32 快速注意力功能可能讓共享記憶體用量超出上限的問題。如果暫存資料需要佔用太多記憶體,程式也會停用這種暫存方式。這次版本還列出多種作業系統與硬體的下載專案,例如 Linux、Windows、macOS、Android,以及使用 CPU、CUDA、Vulkan 等方式的版本。
openrouter blog精選品質評分8181 OpenRouter 為 Hugging Face 的聊天模型提供跨服務商路由
同一個聊天模型可能由多家服務商提供,遇到速度變慢或故障時,請求也可能卡住。現在 Hugging Face Inference Providers 透過 OpenRouter 為聊天模型挑選服務商,會依即時價格、速度和可靠度分流,服務商出錯時也會在同一次呼叫中改試其他家;原有的 Hugging Face 權杖和程式碼仍可使用。OpenRouter 的測試中,容量錯誤減少 46%、第一個 token 到達時間快 16.9%、處理量增加 16.3%,每次請求成本則高出 6.0%。開發者也能把請求與回答紀錄存進自己的 Hugging Face Storage Bucket,供日後評估或微調模型;圖片和其他媒體不會存入。
推薦理由:這次整合把模型路由和請求紀錄接到同一套工作流程,並提供價格、速度與可靠度的取捨資訊,方便開發者依需求選擇服務提供者。
Microsoft Research精選品質評分7474 TokenEconomizer 讓 AI 程式助理記住專案經驗,降低修 bug 花費
AI 程式助理每次開始工作,都可能重新摸索熟悉的專案、載入用不到的工具,或一再卡在同一個錯誤,讓使用者花更多模型費用。TokenEconomizer 是開源外掛,會從每次工作紀錄整理出專案筆記、移除較少用到的工具,並在助理反覆遇到同一個問題時提醒它換個做法;之後也會依新經驗修正這些判斷。研究用五種 AI 助理與模型組合測試 277 個修 bug 任務,平均花費降低 18.4–30.9%,任務成功率大致維持穩定。剛開始累積經驗時,前幾個任務可能較花錢,但每個測試專案到第六個任務時,累計花費都已低於原本做法。
推薦理由:研究比較五種 AI 助理與模型組合,顯示記住各專案的工作經驗能降低後續修程式的花費,且任務成功率大致維持穩定。
AWS Machine Learning Blog品質評分5757 Novo Nordisk 如何用 Amazon Bedrock AgentCore 查詢製造檔案
製藥流程檔案數量龐大,還得確認檔案是否核准、版本是否有效,以及內容適用哪個廠區、產品和裝置,人工查詢容易耗時,也可能漏掉重要關聯。Novo Nordisk 團隊與 AWS 合作打造 AI 助理,先用知識圖譜釐清問題範圍,再結合關鍵字與語意搜尋找出相關檔案,並附上來源;問題不夠清楚時,會先詢問使用者。若找不到合適資料,系統會說明限制,不自行補答案。團隊表示,部分過去要花數小時或數天的工作,現在可在幾分鐘內完成。
AWS Machine Learning Blog品質評分4848 AWS 示範如何用 Amazon Bedrock 和 AWS Transform 把主機 Assembler 程式改成 Java
銀行、保險公司和航空公司有些重要工作仍靠主機上的 Assembler 程式處理,但懂得維護這些程式的人愈來愈少,手動重寫又花時間,也可能弄丟沒人記得的規則。這套做法先用 Amazon Bedrock 分析程式、整理出業務規則,再請熟悉業務的人檢查;接著把 Assembler 轉成較容易閱讀的 COBOL,確認結果符合原本功能後,再由 AWS Transform 轉成 Java Spring Boot 應用程式。 例如,程式裡的資料對應和計算規則會先整理成檔案,交給專家確認,降低轉換時漏掉規則的風險。這種分階段做法能協助縮短改寫時間,也讓人能在每個重要步驟檢查程式是否維持原本的業務功能。
OpenAI News精選品質評分7777 OpenAI 邀四家獨立團隊檢查模型安全措施
外界不容易看清 AI 公司如何檢查模型風險,OpenAI 因此和 Apollo Research、METR、Transluce、Goodfire 簽署協議,讓他們深入評估模型對齊和安全措施。評估人員會依工作需要檢視部分模型、訓練資料、監控紀錄,也能和相關研究人員交流;例如 Apollo Research 會檢查模型是否可能暗中違背開發者的意圖,以及安全措施能否發現這類行為。OpenAI 表示,評估團隊可獨立進行工作並發布發現,但敏感資料可能會被遮蔽,遇到安全風險時也可能延後公開。
推薦理由:OpenAI讓四家獨立評估團隊接觸內部模型與安全資料,並說明保密、監督和公開報告的安排,可看出外部檢查如何進入實際安全工作。
OpenAI News精選品質評分6767 OpenAI 研究科學家如何在研究中使用 ChatGPT
科學研究常要花很多時間找資料、分析證據和發展新想法,OpenAI 調查科學家如何把 ChatGPT 用在這些工作上。研究分析了 1,819 位科學家的訊息,並調查 251 人;使用者估計,沒有 AI 時,同樣品質的工作會花上 1.9 倍時間。68% 的科學家曾用 ChatGPT 發展研究想法,其中有人提出問題請它協助,也有人請它修改或提出想法。98% 的受訪者預期 AI 能加快自己領域的研究發現,但這項研究還不能確認發現是否真的因此加快。
推薦理由:研究顯示科學家會用 ChatGPT 發想、分析資料與寫程式,也估計 AI 能加快研究;這些期待是否真的縮短發現時間,仍需更多研究確認。
OpenAI News精選品質評分7676 OpenAI 推出兒少安全工具,協助辨識虐童影像並打斷有害行為
網路上的兒少性虐待影像可能是新出現的圖片,也可能由 AI 生成,讓安全團隊難以找出並處理。OpenAI 推出新的影像分類器,協助辨認疑似影像並排序審查優先順序,經審核的組織可透過 OpenAI API 免費申請使用。早期測試估計,在找到約相同數量的虐童影像時,新工具可讓需要人工檢查的圖片減少 48%。OpenAI 也會在 ChatGPT 對尋找虐童材料的行為顯示警告、暫停使用 24 小時,並提供開發者指引和調查工具。
推薦理由:新分類器提供的早期測試資料,可看出它如何減少審查量並協助辨認新型態虐童影像,也呈現不同合作單位的測試結果。
OpenAI News精選品質評分7272 OpenAI 擴大學術研究計畫,提供 50,000 份 ChatGPT Plus 補助
研究團隊想用 AI 協助研究,可能需要工具、訓練和經費支援。OpenAI 擴大 ChatGPT for Academic Researchers 計畫,下一輪將提供 50,000 份補助,符合資格的申請者依送件先後取得名額;每份補助讓研究者和最多兩位合作夥伴免費使用 ChatGPT Plus。參與者也能使用 OpenAI 的前沿模型並接受研究用途訓練,透過計畫分享的資料預設不會用來訓練模型。OpenAI 表示,試辦期間有 20,000 位研究者加入,問卷參與者估計,沒有 AI 時,同樣品質的研究工作幾乎要花兩倍時間。
推薦理由:新一輪名額改採符合資格者先到先得,並把每份補助調整為最多三人使用 Plus,呈現 OpenAI 如何依試辦回饋擴大研究團隊的使用機會。