全部動態
RSS 訂閱全部動態
RSS
Together AI@togethercompute品質評分5252
Higgsfield AI 🧩@higgsfield_ai品質評分4242
Higgsfield AI 🧩@higgsfield_ai品質評分3838
SpaceX@SpaceX品質評分3939ollama release品質評分4848 Ollama 發布 v0.40.17,加入 Inkling 2 Mini 並改善多項功能
Ollama v0.40.17 加入 Thinking Machines 的 Inkling 2 Mini:它有 26B 個引數、每次運作會用到其中 5.4B,能處理文字和圖片、呼叫工具,也能進行推理;在 SWE-Bench Verified 的分數是 79.2%。這個模型約佔 20GB,能在 Apple silicon 的 Mac 上執行;這次版本還不支援 PC,之後才會加入。 這次更新也讓 Apple silicon 上的 Ollama 能同時處理多個請求,並改善 Claude Code 延後載入工具等功能。其他修正包括讓共用記憶體的顯示卡載入模型更順利,以及避免 Ollama 在非互動式終端機中因沒有輸入指令而顯示錯誤。
PyTorch Core Releases品質評分4848 PyTorch Dynamo 加快檢查張量是否共用記憶體
PyTorch Dynamo 編譯程式時,會檢查多個張量有沒有用到重疊的記憶體;原本就算 3,103 個張量彼此沒有重疊,也可能要做超過 481 萬次比較。這次修改讓系統先按記憶體位置排序,再逐一檢查相鄰區段;遇到不適用的情況,仍會使用原本的檢查方式。在一個使用 3,103 個區塊的測試中,檢查時間從 86.75 毫秒降到 4.90 毫秒,讓編譯後的更新工作更快。
AWS Machine Learning Blog精選品質評分6969 AWS Quick 更新流程、網頁工作區與多個 AI 助理協作功能
團隊的工作流程常靠某個人記在腦中,其他人接手時容易重做,成果也不一致。AWS Quick 這次更新後,使用者可以用聊天描述工作流程,讓 Quick 串起 AI 助理、技能、工具和資料;例如把每月財務報告的計算、檢查和草稿整理成團隊可共用的流程,再由人檢查並核准。新版網頁也能整理待處理事項,並在關閉瀏覽器後繼續執行工作;多個專門的 AI 助理還能分頭處理同一個請求。管理員可設定提示詞防護政策,Quick 也新增 Meta ads 和 Amplitude 連接器。
推薦理由:Quick 把流程自動化、多人協作與網頁工作入口整合在同一套更新中,文中的月報例子展示了固定計算與人工審核如何搭配。
PyTorch Core Releases品質評分4646 PyTorch 把 FloorDiv 移出核心運算,讓 GLM-5.3 FP8 權重處理快 1.17 到 1.22 倍
PyTorch 原本會在處理每個資料時,重複計算一個其實整次運作都不會變的除法,白白多花時間。這次修改讓 PyTorch 先算好這個數字,再交給後續運算使用。在 GB200 上測試 GLM-5.3 的 FP8 權重時,速度快了 1.17 到 1.22 倍;例如其中一種權重,單次運算時間從 739.2 微秒降到 607.8 微秒。測試結果在修改前後都和 eager 的結果一致。
PyTorch Core Releases品質評分3535 PyTorch 修正 LayerNorm:輸入數值都相同時,輸出應為 0
一整排輸入數值都相同時,LayerNorm 理應輸出全 0,但 PyTorch 在某些 GPU 上可能算出約 0.00001。原因是它合併部分平均值時,四捨五入後的權重加起來不一定剛好是 1。這次修正改用另一種計算方式;測試確認,MI355X 和 NVIDIA L4 上,相關測試都順利通過。
PyTorch Core Releases品質評分4545 PyTorch Transport 為 Mooncake 加入端點通知功能
PyTorch 的傳輸工具原本需要另外傳送小訊息時,少了一套通知方式。這次更新讓端點能傳送短短的位元組訊息,也能把通知附在資料讀取或寫入時一起送出,再用輪詢或等待的方式接收。Mooncake 會把每則通知當成獨立的空資料傳輸,因為在 0.3.14 版中,附在非空 RDMA 傳輸上的通知會遺失。這讓傳輸端點能交換簡短通知,但通知要分開傳送才能避免遺失。
PyTorch Core Releases品質評分5353 PyTorch 為 NIXL 傳輸加入對端通知功能
使用 NIXL 傳送資料時,程式需要知道傳輸何時完成,才能接著處理。這次 PyTorch 更新加入對端通知功能:讀取或寫入資料時可以附上通知,接收端會在傳輸完成後收到;也能查詢或等待通知。通知內容上限是 4 KiB,零位元組傳輸不能附帶通知。由於 NIXL 1.5.2 的 UCX 傳輸要等發起端檢查傳輸才會送出通知,而且 NIXL 無法主動提醒有新通知,這項更新會在背景輪詢傳輸和通知。
david888podcast品質評分2727 [2026-11-21] Claude寫出1740萬行Lean證明廣義黎曼猜想、OpenSSL爆CVSS 9.8重大溢位
[2026-11-21] Claude寫出1740萬行Lean證明廣義黎曼猜想、OpenSSL爆CVSS 9.8重大溢位
AWS Machine Learning Blog精選品質評分6868 AWS 的分散式 KV 快取技能,幫忙評估與設定 LLM 快取
自架大型語言模型時,不同 GPU 伺服器若沒有共用對話紀錄,使用者回來接續工作時,伺服器就得重新計算,讓第一個回應變慢。AWS 介紹一項分散式 KV 快取技能,可在支援技能的程式開發 AI 助理中,先檢查工作負載是否適合,再估算快取成本、協助設定 Amazon ElastiCache,或排查傳輸問題。文章也提醒,短提示詞可能不適合用快取;是否划算要看提示詞重複情況與實際流量,釋出的 GPU 時間也只有在減少伺服器或承接更多流量時,才會轉成省下的費用。
推薦理由:文章以四段實際操作說明技能如何先估算工作負載是否適合,再協助設定與排除故障,呈現從評估到部署的完整流程。
Unsloth AI Releases精選品質評分6565 Unsloth 推出 Inkling 2 Mini,更新圖片生成、影片改風格與 MCP 對話
在小型 GPU 上跑圖片生成模型常會佔用不少記憶體,和 AI 助理使用 MCP 工具時,每次對話都重新處理舊內容也會浪費資源。Unsloth 這次推出 Inkling 2 Mini,並更新多項桌面功能:Linux 和 macOS 載入 GGUF 圖片模型時,記憶體用量減少 52% 到 66%;Mac 可替整段影片換上新風格;使用 MCP 的聊天則只處理新內容,在工具測試中少用 83% 到 87% 的提示詞 token。更新也修正了圖片生成、檔案匯入和模型訓練等問題。
推薦理由:這次更新同時改善小型 GPU 的圖片生成、Mac 影片改風格與 MCP 對話處理,可看出 Unsloth 如何擴充套件桌面端的使用情境。
Google Research精選品質評分7070 Google 把 Duplex 電話功能帶進 Gemini Tasks,替使用者聯絡商家
訂位或預約常得打電話,商家可能臨時改口、提出別的時段,電話環境也常有背景雜音。Google 將 Duplex 整合進 Gemini App 的 Tasks,讓它能代替使用者打電話處理日常事務,並用 Gemini 理解需求、安排步驟和接續對話。這套系統從只能處理固定任務,逐步發展到能依文字描述應付不同需求,例如配合行事曆空檔安排汽車保養。每通電話一開始都會說明是 Google 的自動化系統,商家也能選擇不接這類電話。
推薦理由:Duplex 從固定任務的專用模型,逐步演進為由 Gemini 統整理解、規劃與對話的系統,呈現它如何處理電話中的臨場變化。
AWS Machine Learning Blog精選品質評分7676 Amazon SageMaker HyperPod 推出 Slurm 叢集擴充套件,管理監控與使用者設定
共享的 Slurm 叢集常得靠多份指令碼和設定檔管理軟體、監控資料與使用者帳號,節點增加或更換後也容易出現設定不一致。Amazon SageMaker HyperPod 推出叢集擴充套件,讓管理者透過 API 或主控臺安裝、調整和更新監控與使用者管理功能;設定送出時會先檢查,之後套用到每個節點,並回報狀態與問題。監控擴充套件可把節點、GPU 和 Slurm 工作的指標送到指定的監控服務;使用者管理擴充套件則能讓各節點維持一致的帳號與許可權。組織專用軟體仍可用自訂 AMI 或生命週期指令碼管理,每項功能應由其中一種方式負責,避免互相衝突。文章表示這些擴充套件不另收費,但使用的 AWS 服務仍照常計費。
推薦理由:文章以共享 Slurm 叢集的維運流程說明擴充套件如何管理節點軟體,並比較它和生命週期指令碼各自適合負責的工作。
Replit ⠕@Replit精選品質評分6767
推薦理由:Replit Missions 讓使用者設定目標、預算與限制,再由多個 AI 助理分工規劃、建置和測試,呈現了以成果安排開發工作的做法。
a16z@a16z品質評分4646
Replit ⠕@Replit精選品質評分6161
推薦理由:Replit Desktop 把雲端模型和電腦上的程式碼分開執行,並讓使用者選擇 AI 助理能讀取哪些資料夾,呈現了本機檔案與雲端開發工具的協作方式。
ElevenLabs Official Blog品質評分3939 Fundación Televisa 如何用 ElevenAgents 訪談超過 1,000 位創業者
POSiBLE 要公平挑選創業者,得先逐一瞭解他們的生意,但申請人多,安排訪談很花時間。Fundación Televisa 把 ElevenAgents 接到 POSiBLE 的網站,讓申請者隨時用語音介紹營收、客戶等情況,通話結束後就能收到回饋。訪談平均約 5 分鐘,這次共訪談 1,036 人,最後選出 70 個團隊參加培訓營。AI 助理讓創業者能配合自己的時間完成訪談,也幫團隊處理大量對談;受訪者仍由 POSiBLE 團隊挑選,AI 沒有取代工作人員。
ollama release品質評分4444 Ollama v0.40.17-rc4 更新:Apple silicon 可同時處理多個請求
Ollama 這次更新加入 Inkling 2 Mini,這款來自 Thinking Machines 的模型有 26B 引數、其中 5.4B 會啟用,能處理文字、圖片和工具呼叫,也能在 Mac 上執行。更新也讓 Apple silicon 上的 Ollama 可以同時處理多個請求;例如使用 Claude Code 時,MCP 工具會等到需要時才載入,不必一開始全部載入。除此之外,這版也修正多項模型載入和操作問題,並改善幾個啟動方式的設定處理。
Claude Code Releases精選品質評分6161 Claude Code 發布 v2.1.330,新增組織登入與圖表工具
Claude Code 的新版加入多項功能,也修正了不少會讓工作卡住或資料遺失的問題。組織使用者登入後,程式會套用組織設定,並使用組織的雲端服務或閘道;新增的 easel 可在使用者要求時繪製圖表,也能顯示 MCP 指標結果,並可在 /config 關閉自動繪圖。自架執行環境也能指定專案內的工作資料夾,還新增了工作派發到執行環境開始工作的時間指標。這版也修正長對話整理後卡住、網頁擷取卡住,以及多個 Claude Code 程式同時儲存設定時造成的資料遺失等問題。
推薦理由:這次更新同時調整組織登入、圖表工具與自架執行環境,也修正多種卡住或遺失資料的問題,能看出 Claude Code 的使用流程有哪些變化。
AWS Machine Learning Blog精選品質評分7878 Amazon SageMaker HyperPod 推出跨叢集與跨區域的單一推論入口
模型服務分散在多個叢集和區域時,流量可能塞在忙碌的叢集,其他地方的 GPU 卻閒著;叢集故障時也得手動改設定。AWS 推出 Amazon SageMaker HyperPod Global Inference Gateway,讓使用者端只呼叫一個入口,服務會依 GPU 記憶體與 KV cache 餘裕、排隊情況、區域遠近和錯誤率,把請求送到合適的叢集。若叢集故障,流量會自動切換;請求透過 AWS PrivateLink 傳送,並以 SigV4 和 IAM 驗證。每個叢集原有的 Inference Gateway 仍負責把請求送到模型。這項服務已在 13 個 AWS 區域推出。
推薦理由:這項更新把多個叢集的模型服務整合到單一入口,並說明如何依負載與錯誤狀況分配流量及自動切換,適合瞭解跨區部署的管理方式。
Browser Use Releases品質評分5555 Browser Use 發布 1.0.8rc1 候選版
Browser Use 自動操作瀏覽器時,可能遇到遠端機器無法輸入 API 金鑰、密碼被印出,或連錯分頁等問題。1.0.8rc1 加入核准連結與程式碼,讓使用者能在其他裝置批准操作;輸入密碼時也不會印出欄位內容,連線瀏覽器時則會接上已開啟的分頁。這版還調整了 judge 的判定流程、部分模型在步數限制下的回答方式,以及 gateway 預留的輸出 token 數量。
Google Developers Blog精選品質評分6969 Google 推出 Semantic governance policies,在 AI 助理執行工具呼叫前檢查是否合規
AI 助理有權讀取檔案和寄信,不代表每次操作都符合公司規定。Google 在 Gemini platform 預覽推出 Semantic governance policies,透過 Agent Gateway,在工具呼叫執行前檢查它是否符合使用者原本的要求和企業用白話寫下的規則。比如財報公開前,系統可以擋下把數字寄給投資人或私人信箱的要求,也能攔住檔案裡偷偷塞進、沒人要求的刪檔指令。每次判斷和理由都會記錄在 Cloud Logging;由於判斷使用 LLM,結果可能不同,Google 建議先用 dry run mode 檢查,再啟用阻擋。
推薦理由:文章以財務郵件為例,說明如何在工具呼叫執行前同時檢查使用者原意與企業規則,並留下可供稽核的判斷紀錄。
Higgsfield AI 🧩@higgsfield_ai品質評分3737
SpaceX@SpaceX品質評分5454
Aravind Srinivas@AravSrinivas品質評分4747現在可以在 Chrome 上將任務交給 Perplexity Computer https://t.co/6p18UHoGcv

Perplexity@perplexity_ai品質評分5959
Arena.ai@arena品質評分4444ElevenLabs Official Blog品質評分5757 ElevenLabs 如何改善文字轉語音的發音與節奏問題
文字轉語音有時會念錯品牌名或專業詞,也可能把長句念得太快、太平,甚至因 API 設定問題無法產生語音。ElevenLabs 整理了幾種處理方式:常用的特殊讀音可放進發音字典,單一詞句則可加上發音標記;要讓整段聽起來自然,可以把句子拆短、用標點安排停頓,並清除 Markdown 等格式。若語音無法產生,也可依 HTTP 錯誤碼檢查文字長度、API 金鑰、voice_id 或請求數量。發布前先測試品牌名和專業詞,有助於及早找出問題。
OpenAI News品質評分4242 Hebbia 用 GPT-6 Astra 幫金融研究找資料、做簡報
銀行員評估收購案時,得從大量財報、合約和簡報裡找答案,還要把資料整理成符合公司格式的簡報。Hebbia 的 Matrix 能把答案連回原始檔案;測試中,GPT-6 Astra 會挑出相關資料來源,再依照使用者的架構和要求製作 PowerPoint 投影片。舉例來說,面對約 2,000 個檔案,它能協助整理客戶集中度、合約條款和營收流失情況,並在投影片附上可追查的來源。Hebbia 的測試顯示,99.5% 的引用段落都和問題相關,簡報也符合 97.9% 的適用要求。這能減少找資料和重做簡報的時間,讓銀行員把心力放在評估交易上。
Hugging Face Blog精選品質評分8383 Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,主打本機使用
本機執行大型模型時,模型大小、回答速度和能力常得互相取捨。Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,這款模型能讀文字和圖片,支援 1M-token 上下文視窗;它讓 12 層模型重複運作三次,用較少的實體層數完成更多運算。文章展示了它在本機寫程式、重畫《星夜》和製作分帳網站的成果,也說明如何透過 transformers、llama.cpp 和 MLX 執行。作者表示,它在 48 項基準中的 32 項領先文中列出的其他模型;這些結果來自 Hugging Face 的測試。
推薦理由:文章以架構說明和實作展示呈現 Inkling 2 Mini 的本機使用方式,也比較它在多項基準上的表現,能看出模型設計與實際應用之間的連結。
AWS Machine Learning Blog精選品質評分6161 Amazon Textract Insights 上線,從混合檔案擷取資料並標出來源
處理一疊格式各異的檔案時,團隊常得自己串起辨識、分類和資料擷取流程,也難判斷哪些答案可以直接採用。AWS 推出 Amazon Textract Insights,讓使用者用白話描述要找的欄位,再把單份檔案或混合檔案交給同一個 API 處理。它能把最多 3,000 頁的檔案拆成不同檔案、配對欄位範本,並為每個結果附上信心分數、來源頁面和位置。這些線索可供人工核對,團隊也能把信心較低的欄位交由人員複查。
推薦理由:它把混合檔案的拆分、分類與欄位擷取放進同一個 API,並附上來源頁面和信心分數,讓團隊能依結果安排人工複查。
AWS Machine Learning Blog品質評分5757 AWS 與 Standard Bank Group 如何自動檢查生成式 AI 風險
銀行要讓生成式 AI 上線前,得逐一檢查每個用途是否符合安全要求,人工審檔案和測試系統往往拖慢審核。Standard Bank Group 與 AWS 合作,把既有的國際標準和銀行內部政策變成自動檢查:系統會整理檔案與程式碼、實際測試應用,再把結果連回對應規定,交由風險委員會審核。六次評估中,原本約兩週的人工審查縮短為約兩小時產出報告;文章也說,修正問題後,用途的風險分數改善了 14%。這套工具提供審查證據,不代表已取得法規合規認證。
Browser Use Releases品質評分5858 browser-use 1.0.7 讓長時間瀏覽器操作先回傳部分結果
瀏覽器操作如果超過使用者端的等待時間,呼叫就可能逾時,使用者拿不到結果。browser-use 1.0.7 調整了 MCP 呼叫的回覆方式:長時間執行的 browser_exec 會在 50 秒內先回傳目前輸出,工作仍會繼續;之後再次呼叫 browser_exec 並留空程式碼,就能取回剩下的結果。原本 50 秒內完成的呼叫則維持原樣。這項調整讓有 60 秒限制的 Cursor 等使用者端也能先收到回覆。
Google Developers Blog精選品質評分7171 Google 教你安全連線 Gemini Enterprise 與內部 Cloud Run MCP 服務
企業把內部系統接到 Gemini Enterprise 時,得避免 MCP 服務暴露在公開網路,也要確認每次呼叫來自哪個服務和使用者。Google 說明如何用 Egress Agent Gateway、Private Service Connect 和精確網域的 Private Cloud DNS,讓 Gemini Enterprise 私下連到 Cloud Run;DNS 只套用在指定的 MCP 網址,避免影響共用 VPC 裡的其他 Cloud Run 服務。文章也說明兩層驗證的分工:Cloud Run IAM 確認呼叫服務的身分,MCP 程式則檢查使用者的 OAuth 2.0 權杖。文中附有參考程式和設定步驟,並介紹如何用 Cloud Logging 確認連線狀況。
推薦理由:文章整理 Cloud Run 內部 MCP 服務的私有連線與雙重驗證做法,也說明如何避免 DNS 設定影響共用 VPC 中的其他服務。
Google Developers Blog精選品質評分7575 Google 說明如何在 Gemini Enterprise 自訂介面處理使用者與工具授權
企業把 Gemini Enterprise 放進自家入口網站時,原本內建介面會處理的登入和資料授權,就得由自訂介面接手。Google Developers Blog 整理了三部分做法:呼叫 StreamAssist API 時,依需求使用 Google Identity、Workforce Identity Federation 或 Workload Identity Federation;讓使用者替 Google Drive、SharePoint 等連接器完成 OAuth 授權;以及讓自訂 ADK AI 助理在真正呼叫受保護的工具時才要求授權。若要依員工身分限制檔案和工具許可權,應使用代表個人的登入方式;共用機器人則可使用 Workload Identity Federation。文中也附上可執行的程式範例,展示授權後如何把憑證存入 Google 管理的 Keystore 或 Token Vault。
推薦理由:自建介面會接手處理登入、連接器授權與 AI 助理工具授權,本文比較三種登入方式並說明如何依個人許可權需求選用。
vLLM Official Blog精選品質評分7575 vLLM 支援 Thinking Machines 的 Inkling 2 Mini 迴圈模型
模型把部分中間層重複運算,會讓推論時的快取和訊息傳遞更難處理。vLLM 宣佈支援 Thinking Machines 的 Inkling 2 Mini,並在 NVIDIA Blackwell、Hopper 和 DGX Spark 上提供 Day-0 支援。Inkling 2 Mini 的 12 個核心層會對每個 token 運算三次,每次各自保留 KV cache,並讀取前一次運算傳來的訊息;模型有 26B 總引數、3.5B 啟用引數,支援最多 1M tokens 的上下文。vLLM 也支援可調整運算次數的研究檢查點,讓團隊能測試速度、記憶體用量和品質之間的取捨。
推薦理由:Inkling 2 Mini 的迴圈層會讓每個核心層重複運算三次,vLLM 透過分開管理快取並融合訊息讀取來支援這種架構。
Google Developers Blog品質評分5555 Google 擴大 Agent Anomaly Detection 監看其他雲端的 AI 助理
AI 助理在不同雲端執行時,異常操作可能藏在一連串看似正常的工具呼叫裡。Google 的 Agent Anomaly Detection 現已開放私人預覽,可讀取送到 Google Cloud 的追蹤紀錄和日誌,分析 AI 助理的整段對話,不必接觸它實際運作的環境。測試中,它找出 AWS Lambda 上大量翻查商品目錄的行為,也標記出 Microsoft Foundry 上受訂單備註影響、退還 $999 款項的操作。分析會另外執行,不會拖慢 AI 助理;目前支援以 ADK for Python 建置的 AI 助理。