最新精選 第 201–220 條 · 共 845 條 07:18 NVIDIA Newsroom Press Releases 精選品質評分 72 72 研究人員常得排隊等共用 GPU 叢集,才能測試大型模型或科學模擬。NVIDIA 推出 DGX Spark Developer Kit,把四臺 DGX Spark 直接連成一組,不必另外購買或設定網路交換器;四臺合計有 512GB 記憶體和 20TB 儲存空間,可在桌邊分配模型與科學運算工作。研究團隊能先在本地開發、除錯,再把成熟的工作放大到更大的系統,也能讓未公開成果和專有資料留在自己的裝置上。套件已在 SC26 展示並開放購買。
推薦理由:四臺 DGX Spark 可組成桌邊運算叢集,讓研究團隊先在本地測試多節點工作,再決定如何擴充套件到大型系統。
07:04 Together AI Official Blog 精選品質評分 64 64 模型推論要跑得快,常得針對不同模型、硬體和工作量調整程式;把所有運算塞進一個大型 GPU 核心,雖然有時很快,卻難以套用到不同情況。Together AI 推出 Together Compiler,讓 AI 助理直接修改模型執行流程,並用真實資料測量速度,再反覆嘗試不同做法。文章提到,這套系統在不到 24 小時內、使用不超過兩臺運算節點,於多種模型和其他程式專案中取得加速;作者也提醒,測試資料不貼近實際使用情況,可能讓最佳化方向出錯。
推薦理由:文章拆解 Together Compiler 的設計取捨,說明實際資料、測量方式與 AI 助理的搜尋流程如何影響推論最佳化。
06:14 Google @Google 精選品質評分 65 65 整理資料時,想把內容變成容易瀏覽的圖表或說明頁,往往還得另外動手製作。Google 表示,Gemini Notebook 現在能把你的來源資料做成互動網站,例如儀錶板或視覺化解說頁。只要在聊天中輸入「make me a site」,再描述想做的內容,接著選「Open in a new tab」,就能檢視或分享完成的網站。
推薦理由:Gemini Notebook 可把來源資料整理成互動網站,並提供從描述需求到開啟分享的操作方式,呈現資料的新用法。
06:13 ServeTheHome (STH Enterprise HW) 精選品質評分 85 85 光學封裝技術(CPO)多年來常被認為還要好幾年才會用在正式產品上。NVIDIA 與 Lambda 表示,已在一座超過 10,000 張 GPU 的叢集中部署 CPO。這套交換器把光學元件移到晶片旁,並用可更換的光源,方便維修;交換器有 144 個光纖連線埠,每個連線埠的速度是 800Gbps。少了晶片到機箱前方的長距離高速銅線傳輸,CPO 可降低耗電,讓同樣空間能容納更多 GPU。
推薦理由:Lambda 與 NVIDIA 已在超過 10,000 張 GPU 的叢集部署 CPO,文中說明可維修光源如何降低耗電,也讓更多 GPU 能放進相同空間。
06:09 企業使用自行微調、自架或尚未正式推出的模型時,過去得另外管理金鑰、程式碼和紀錄。Vercel AI Gateway 現在能把這些模型接到團隊自己的端點,並沿用相同的驗證方式、SDK、API 和監控工具;呼叫時只要更換模型 ID,也能在私有模型和目錄模型間切換。私有模型只供團隊檢視與呼叫,憑證會加密儲存,也可為各家服務商啟用零資料保留。團隊還能檢視用量、設定端點故障時改用目錄模型,或在連線 AI Gateway 的程式開發工具中使用私有模型。
推薦理由:原文說明私有模型如何沿用 AI Gateway 的介面與監控,方便團隊把自架模型和目錄模型放在同一處管理。
05:47 整理資料後,想做成方便互動、也能分享給別人看的網頁,過去往往得另外動手製作。NotebookLM 現在可以把使用者提供的來源變成可互動網站;在 Chat 輸入「make me a site」,再描述想做的內容,就能建立互動式儀錶板或專案追蹤器。完成後可以在新分頁開啟,或直接分享。這項功能已在網頁版向全球 18 歲以上使用者開放。
推薦理由:NotebookLM 開放用來源資料建立可互動網站,並能直接分享,讓人能瞭解這項功能的操作入口與可做出的內容。
05:38 Rohan Paul @rohanpaul_ai 精選品質評分 76 76 機器人在實驗室學會工作後,到了陌生房間可能就不會做了。Hubdotxyz 開放了一批機器人訓練資料,包含人們在工作坊或家中完成熟練工作的第一人稱影片,目前有 10,000 小時,未來幾週還會再提供 90,000 小時。這些影片來自 12,227 人,讓資料涵蓋不同人的工作環境;資料可免費用於商業用途。
推薦理由:這批來自不同工作場所的第一人稱影片,呈現機器人訓練資料如何納入更多真實環境與熟練工作的情境。
03:26 AMD @AMD 精選品質評分 67 67 科學研究需要大量運算能力,AMD 宣佈 Lux 超級電腦已在 Oak Ridge National Laboratory 開放給科學研究人員使用。這臺由 HPE 建置的超級電腦整合 AMD EPYC 處理器、AMD Instinct MI355X GPU、AMD Pensando 網路裝置與 AMD ROCm 軟體,結合 AI 和高效能運算,支援聚變能源、新材料與地球系統預測研究,也參與美國能源部的 Genesis Mission。
推薦理由:Lux 已開放科學研究人員使用,並把 AI 與高效能運算整合在同一臺超級電腦中,支援聚變能源、新材料與地球系統預測研究。
03:10 想找地方、安排旅程時,光看地圖資訊有時還不夠。Google Maps 的 Ask Maps 對話功能擴充套件到 30 多個歐洲國家,現在全球有超過 200 個國家可使用;它用 Gemini 模型生成回答,也能依使用者的 Google 服務資料提供個人化內容。假期期間,Ask Maps 還能一步步安排旅行行程;開啟 Personal Intelligence 後,也可以讀取 Gmail 等 Google 應用程式的資料,並記住過去的對話。
推薦理由:Ask Maps 擴大服務地區,也加入行程規劃功能,讓人能瞭解它如何把地圖查詢延伸到旅遊安排。
03:02 DuckDB 以前通常直接放程序式裡使用,現在 2.0 也能當伺服器,讓其他電腦連線查詢。這次更新還加入 AI 助理模式,會用精簡表格和 JSON 格式錯誤訊息,幫助 Claude Code、Codex 和 Cursor 看懂查詢問題並修正 SQL;也能防止查詢一直跑下去。要留意的是,2.0 建立的資料庫檔案不能用舊版開啟,但 2.0 仍能讀寫舊版檔案。受訪者建議正式環境等 2.0.1 或 2.0.2 再升級,團隊目前正準備 2.0.1 修正錯誤。
推薦理由:DuckDB 2.0 同時改變連線方式與資料格式,並加入適合 AI 助理讀取的查詢輸出;文中也提醒正式環境應等修正版再升級。
02:59 AI 助理分散在不同工具和平臺上,工程師難以接續開發,管理團隊也不容易看出誰負責、花了多少錢或表現如何。LangChain 把 LangSmith 改以每個 AI 助理的一筆紀錄串起建置、執行、評估和管理;不同環境的追蹤資料會放在同一筆紀錄下,也能依助理型別顯示合適的指標。團隊可以連線已在其他平臺執行的助理,不必改動原有流程。LangSmith 目前提供一般用途和程式開發兩種助理型別,語音助理型別則仍在規劃中。
推薦理由:LangSmith 把追蹤、評估、部署與管理資料放到同一筆 AI 助理紀錄下,文中也說明不同型別的助理如何採用相應指標。
02:42 Databricks Blog 精選品質評分 68 68 企業可選的 AI 模型越來越多,光看模型表現或每個 token 的價格,很難知道哪種選擇最適合手上的工作。Databricks 推出公開的 AI Index,整理企業使用模型的情況與花費,也用實際程式開發任務比較不同模型和 AI 助理工具組合的成功率與每項任務成本,並計畫每週更新。資料顯示,開放權重模型在企業流量中的佔比從 7 月的 7.3% 升到 11 月的 30.9%;有些模型 token 單價較低,完成任務卻可能花更多錢。Index 也提醒企業按自己的工作內容比較品質和成本,因為測試結果不一定適用所有團隊。
推薦理由:Databricks AI Index 把企業採用情況和程式任務的品質、成本放在一起比較,呈現模型選擇如何隨工作需求改變。
02:42 Databricks Blog 精選品質評分 64 64 醫療機構想在其他平臺分析 AWS HealthLake 的臨床資料,過去得先把資料匯出、複製,還要分別管理許可權。Databricks 透過 OpenSharing 直接讀取 HealthLake 的資料,讓資料留在原處,也能交由 Unity Catalog 管理誰可以檢視和查詢。使用者還能透過 Genie One 用日常語言提問,例如檢視平均 A1C 每月的變化;系統會整理答案並提供表格和圖表。這讓不熟悉 SQL 的醫療與營運人員也能探索資料。
推薦理由:這套整合讓 HealthLake 的 FHIR 資料能在不另存副本的情況下供 Databricks 查詢,並由 Unity Catalog 管理許可權,呈現臨床資料跨平臺使用的做法。
02:32 Wiz Blog & Research 精選品質評分 72 72 只看雲端設定或程式碼,都可能漏掉 AI 助理被攻擊後會造成什麼影響。Wiz 推出 AI Security Agent 公開預覽版,可從程式碼儲存庫、支援的 PaaS 平臺和自架環境找出 AI 應用程式,分析它的用途、工具和許可權,再把結果連到 Wiz Security Graph 的雲端資訊。文中的案例顯示,原本看似普通的內部 AI 助理,可能因為可從網路連線的入口、過大的服務帳號許可權和未受阻擋的儲存資料,形成一路通往敏感資料的攻擊路徑。Wiz 表示,這項工具在部分客戶環境中找出的 AI 助理數量,最高是傳統探索工具的五倍。
推薦理由:Wiz 將 AI 應用程式的程式碼分析與雲端許可權、網路暴露及敏感資料串在一起,能從文中案例看出這種做法如何還原完整攻擊路徑。
02:07 使用大型語言模型時,功能和費用常要一起考量。Vercel AI Gateway 現在提供 Tencent 的 Hy4 Flash,這是 Hy4 系列中價格較低的模型,保留推理、工具呼叫、結構化輸出、提示詞快取和圖片輸入,也有相同的 1M-token 上下文視窗;不需要推理的請求則可關閉這項功能。透過 AI Gateway 使用時,輸入、快取輸入和輸出 token 到 2026 年 11 月 29 日都有 5 折優惠,適合留意大量程式開發、AI 助理或檔案處理工作所需的成本。
推薦理由:Hy4 Flash 保留 Hy4 系列功能並大幅降低每個 token 的價格,文中也交代限時折扣,能看出成本與功能之間的取捨。
02:04 兒少安全團隊要找出網路上的性虐待材料,常得花時間檢查大量影像。OpenAI 推出影像分類器,可標記疑似 CSAM,也會提示內容是否可能由 AI 生成;經審核的組織可透過 API 免費申請使用。OpenAI 評估指出,工具標記的影像數量可減少 48%,找到的虐待影像數量與原有工具大致相同;fal 的測試中,人工確認高信心標記有 72% 是新型 CSAM。ChatGPT 也會在使用者試圖尋找這類內容時顯示警告、引導求助,並暫停使用 24 小時。
推薦理由:分類器透過 API 免費提供給經審核的組織,測試也比較了人工複核量與標記命中情形,可看出工具如何接入兒少安全流程。
02:04 企業可選的 AI 模型越來越多,只看模型排名或 token 單價,很難知道哪種選擇最適合自己的工作。Databricks 推出 AI Index,整合使用 Unity Gateway 的企業匿名用量資料,以及用 Databricks 自家程式碼庫和隱藏測試進行的編碼評測,並計畫每週更新。資料顯示,開放權重模型的企業 token 用量佔比從 7 月的 7.3% 升到 11 月的 30.9%;編碼任務的成本也會受到模型完成工作所需步數影響,例如 GPT-6 Luna 和 Claude Opus 5.5 的任務成功率同為 89.1%,平均每項成本卻分別是 $0.05 和 $1.62。這些比較能協助企業依自己的工作需求衡量品質與花費。
推薦理由:Databricks 把企業採用情況和編碼任務的成功率、每項成本放在一起比較,能看出模型選擇如何影響品質與預算。
01:57 openrouter blog 精選品質評分 81 81 同一個聊天模型可能由多家服務商提供,遇到速度變慢或故障時,請求也可能卡住。現在 Hugging Face Inference Providers 透過 OpenRouter 為聊天模型挑選服務商,會依即時價格、速度和可靠度分流,服務商出錯時也會在同一次呼叫中改試其他家;原有的 Hugging Face 權杖和程式碼仍可使用。OpenRouter 的測試中,容量錯誤減少 46%、第一個 token 到達時間快 16.9%、處理量增加 16.3%,每次請求成本則高出 6.0%。開發者也能把請求與回答紀錄存進自己的 Hugging Face Storage Bucket,供日後評估或微調模型;圖片和其他媒體不會存入。
推薦理由:這次整合把模型路由和請求紀錄接到同一套工作流程,並提供價格、速度與可靠度的取捨資訊,方便開發者依需求選擇服務提供者。
01:48 網路上的兒少性虐待影像可能是新出現的圖片,也可能由 AI 生成,讓安全團隊難以找出並處理。OpenAI 推出新的影像分類器,協助辨認疑似影像並排序審查優先順序,經審核的組織可透過 OpenAI API 免費申請使用。早期測試估計,在找到約相同數量的虐童影像時,新工具可讓需要人工檢查的圖片減少 48%。OpenAI 也會在 ChatGPT 對尋找虐童材料的行為顯示警告、暫停使用 24 小時,並提供開發者指引和調查工具。
推薦理由:新分類器提供的早期測試資料,可看出它如何減少審查量並協助辨認新型態虐童影像,也呈現不同合作單位的測試結果。
01:48 研究團隊想用 AI 協助研究,可能需要工具、訓練和經費支援。OpenAI 擴大 ChatGPT for Academic Researchers 計畫,下一輪將提供 50,000 份補助,符合資格的申請者依送件先後取得名額;每份補助讓研究者和最多兩位合作夥伴免費使用 ChatGPT Plus。參與者也能使用 OpenAI 的前沿模型並接受研究用途訓練,透過計畫分享的資料預設不會用來訓練模型。OpenAI 表示,試辦期間有 20,000 位研究者加入,問卷參與者估計,沒有 AI 時,同樣品質的研究工作幾乎要花兩倍時間。
推薦理由:新一輪名額改採符合資格者先到先得,並把每份補助調整為最多三人使用 Plus,呈現 OpenAI 如何依試辦回饋擴大研究團隊的使用機會。
上一頁 1 … 9 10 11 12 13 … 43 下一頁