跳到正文

資料與訓練

訓練側的門道:資料集構建、合成數據、預訓練與後訓練方法、算力與訓練成本。

103條精選相關主題論文研究部署工程模型發布

最新精選

第 1–20 條 · 共 103 條
11月21日週六
  1. Rohan Paul74

    網路上有很多資料,卻很少記錄資深專家是怎麼做出判斷的。Arcfront 宣佈推出服務,透過 300 多家企業合作夥伴取得醫師、工程師和銀行從業人員逐步做決策的紀錄,再整理成前沿 AI 模型的訓練資料。Arcfront 表示,已有 5 家前沿 AI 研究機構中的 4 家付費使用這些紀錄;公司也稱,募資不到 200 萬美元後,不到一年就達到年營收 10 億美元的年化速度。

    推薦理由:Arcfront把企業專家的決策紀錄整理成模型訓練資料,呈現了網路資料難以取得的專業判斷如何成為訓練來源。

11月20日週五
  1. Databricks Blog79

    Databricks 推出涵蓋 70 個產業的互動式參考架構

    規劃資料平臺時,通用架構圖常說不清各產業實際會用哪些系統和資料。Databricks 推出涵蓋 70 個產業的互動式架構圖,整理各行業的資料來源、格式、團隊和應用,也能切換雲端與檢查不同地區的產品供應狀況及發布階段。每張圖都能檢視說明、複製修改,或匯出成多種格式;如果要從業務描述開始,也可用 AI Architecture Assistant 找出接近的產業架構再編輯。這些圖適合作為規劃起點,仍要依各公司的系統和需求調整。

    推薦理由:這套架構把各產業常見的資料來源、團隊與應用放在同一張可編輯的圖上,也能查不同雲端和地區的產品供應情況。

  2. aihot73

    騰訊混元 Hy4 正式開源,並發布 System Card

    想試用或自行部署 Hy4 的人,需要先找到模型下載方式,也要了解相關安全評估。騰訊混元宣佈 Hy4 正式開源,可從 GitHub、Hugging Face、ModelScope 和 GitCode 下載部署,並同步發布 Hy4 的安全評估卡片 System Card。官方也表示,混元 LLM 模型已全部開源,未來會持續更新並開源。

    推薦理由:Hy4 開源與安全評估卡片同步發布,讓讀者能直接取得模型,也能檢視官方提供的安全評估內容。

  3. Databricks Blog78

    Databricks 測試 Genie One:集中管理業務定義,讓不同團隊得到一致答案

    同一個「損失率」可能因部門採用的演算法不同,出現方向相反但都正確的答案。Databricks 用虛構的保險公司測試 Genie One,結果顯示,只有團隊各自整理的 AI 助理時,整體答對率是 83%;再加入集中管理的計算方式與業務說明後,兩次測試達到 93% 到 95%。這些資料讓 Genie One 知道每個部門採用哪種定義,也讓直接回答或轉交 AI 助理時都能找到一致的演算法。團隊檔案仍要靠 AI 助理提供,因此兩者搭配才能同時處理定義和檔案問題。

    推薦理由:這項測試呈現各部門對同一指標各有合理定義時,集中管理計算方式與業務說明如何提升 Genie One 的答題一致性。

  4. Databricks Blog76

    Databricks 推出 Genie ZeroOps 公開測試版,自動找出資料管線問題並提出修正

    資料管線出錯時,工程師常得花好幾個小時翻查紀錄和相關資料,安靜發生的問題還可能拖到報表出錯才被發現。Databricks 的 Genie ZeroOps 現已開放公開測試版,會監看管線、查詢可能原因、在安全環境測試修正方式,再通知團隊;對使用 Git 的工作流程,也能建立附上問題資訊的 PR。它不會未經人員同意就更動程式碼或正式資料。Databricks 表示,私下測試期間觀察了超過 80,000 起客戶問題,發現超過一半需要了解各公司的做事方式,因此新增自訂指示等功能,協助團隊依自己的流程判斷問題。

    推薦理由:這次公開測試讓團隊可從告警、查詢原因一路看到修正提案,並依 80,000 多起客戶問題說明自訂公司知識對判斷的重要性。

  5. Databricks Blog71

    Databricks Genie Code 可一次把整個資料夾的 Tableau 和 Power BI 報表搬到 AI/BI

    把多年累積的 Tableau 或 Power BI 報表逐份搬家,可能得花上好幾個月。Databricks 現在讓 Genie Code 一次處理整個資料夾:先把報表放進 Unity Catalog volume,再從草稿儀錶板執行 /importBI,選好目錄和資料表綱要後,系統就會在背景逐份轉成 AI/BI 儀錶板。每份報表都有進度可追蹤,也能個別檢查和修改。完成不代表數字一定相同;切換使用者前,仍要比對原報表的數字、篩選條件和圖表。

    推薦理由:Databricks 說明如何把整個資料夾的 Tableau 或 Power BI 報表一次匯入 AI/BI,也提醒遷移後要逐份核對數字與篩選條件。

11月19日週四
  1. Rohan Paul65

    用 Claude Code 或 Codex 做出的儀錶板,可能只留在某個人的聊天視窗裡,資料也不一定會更新。Deepnote 推出 Apps,讓這些內部應用在連著公司資料來源的資料筆記本上執行,數字會保持最新,舊版本也會留下來。同事可以透過連結開啟,並依各自的許可權檢視內容。

    推薦理由:Deepnote Apps 把內部應用接上公司資料與許可權,並保留舊版本,呈現它和聊天視窗中臨時做出的儀錶板有何不同。

  2. AWS Machine Learning Blog72

    AWS 說明如何在 SageMaker AI 使用完整微調

    微調大型語言模型時,只更新一小部分引數的 LoRA 較省資源,但遇到複雜任務和大量資料時,表現可能停在一定程度。AWS 在 SageMaker AI 的無伺服器模型自訂服務加入完整微調(FFT),並用 Qwen3-4B 和 110,000 組程式生成資料比較兩種方法。實驗中,FFT 在部分指標上表現較好,但結果也很受學習率、訓練回合數等設定影響;設定太激進時,模型可能失去一般知識,甚至在數學測試中退步。文章提供實驗結果與引數調整方向,協助判斷何時適合使用 FFT。

    推薦理由:文章以程式碼生成實驗比較 FFT 與 LoRA,並說明資料量和超引數如何影響模型表現與一般知識保留。

  3. cloudflare blog78

    Cloudflare 推出更新版 Clairic 和 9B 的 Clairic-flash

    從收據、圖片和 PDF 擷取資料,常會遇到表格難讀、欄位分散在不同頁面的問題。Cloudflare 更新了 Clairic,並推出較小、較快的 9B 模型 Clairic-flash;兩者能讀取最多 4 張圖片或 PDF 頁面,整理供應商、品項和總額等資料,也能處理估算、日期計算與明確的算術。Cloudflare 表示,兩款模型的權重已在 Hugging Face 開放,並可透過 Workers AI 使用。Clairic-flash 每百萬輸入 token 收費 $0.10,Clairic 為 $0.24;到 2026 年 12 月 1 日前,兩者都以每百萬輸入 token $0.10 優惠。文中的比較資料來自 Cloudflare 自行測試,適合用來瞭解其測試結果,不能當成公開基準。

    推薦理由:Clairic 改用新的欄位生成方式,並加入專門處理估算與日期計算的能力;文中也比較了文字、圖片與 PDF 的擷取表現及回應速度。

  4. Databricks Blog74

    Databricks 推出 Genie Migrate,協助把工作搬到 Serverless

    把工作從 classic 搬到 Serverless,常得逐一處理設定、套件和程式碼問題,原本簡單的切換可能拖上好幾週。Databricks 推出 Beta 版 Genie Migrate for Serverless,會先掃描工作,標出哪些適合搬、哪些需要管理員處理,再把需要修改的地方列成差異畫面,讓人逐項審核後才套用。套用時會先複製工作,原本的工作保持不變,方便先跑一次確認;目前檢查只看設定和相依套件,不會實際執行工作。批次搬遷目前支援工作,筆記本支援尚未推出。

    推薦理由:Genie Migrate 把搬遷檢查與修改整理成可逐項審核的流程,也說明目前只做靜態檢查,適合評估匯入前的風險與人工作業。

  5. Meta Engineering76

    Meta 用標準模型模板,把廣告排序模型改進推廣到整個系統

    Meta 的廣告排序模型種類很多,逐一套用新方法既耗時,也容易在不同模型上出現問題。Meta 用標準模型模板整理出一小組可重複使用的模型設計,先在有代表性的模型上測試新方法,再把通過檢查的改動加入模板,推廣給使用這些模板的模型。Meta 表示,這套做法讓每個模型所需的工程時間減少 92%,兩年來推出超過 5000 種技術與模型組合,離線模型品質平均提升 0.63%,線上成效累計提升 0.86%。模板也讓 AI 助理有較明確的設計範圍,可協助提出想法、進行實驗和找出問題。

    推薦理由:Meta 說明標準模型模板如何把逐一調整模型的工作,改成在代表性模型上驗證後推廣,並分享兩年來的工程時間與模型成效變化。

  6. Databricks Blog68

    Databricks 推出 Unity Gateway Insights,找出 AI 助理浪費 token 的地方

    團隊想降低 AI 成本時,除了調整預算,也可以檢查 AI 助理每次工作的紀錄。Databricks 推出 Unity Gateway Insights,會分析工作紀錄和公司的業務資料,找出 MCP 工具反覆出錯、簡單工作用了昂貴模型,以及值得整理成共用技能的重複流程。每個發現都能連到相關工作紀錄,也會依浪費的 token 成本排序;團隊還能加入自己的問題,檢視哪些流程值得改善。Databricks 表示,他們曾從 7 個 MCP 小錯誤中估計出每年 $1.2M 的浪費。

    推薦理由:Databricks 說明 Insights 如何從 AI 助理的工作紀錄找出重複錯誤與模型使用浪費,並把可節省的 token 成本連結到實際工作流程。

  7. Dev.to Top Tech76

    Kumo Tabular 評測:NVIDIA 如何讓模型不經訓練就能預測表格資料

    處理表格資料通常得先整理資料、挑模型,再反覆訓練和調整;Kumo Tabular 想省下這些步驟。它把已標記的資料列當成例子,直接預測其他資料列,不必用手上的資料訓練模型。文章提到,Kumo Tabular-L 在八項表格基準測試中排名第一,並在部分測試中比其他表格模型預測得快。它適合快速建立基準,或一次試很多資料集;若是大型、重視低延遲且使用 CPU 的正式服務,XGBoost 和 LightGBM 仍是有力選擇,因為 Kumo Tabular 需要 GPU,記憶體用量也會隨參考資料列增加。

    推薦理由:文章比較 Kumo Tabular 與傳統表格模型的適用情境,說明免訓練推論在快速建立基準與多資料集實驗時的價值。

  8. Databricks Blog78

    Databricks Genie 把受治理的企業資料帶進 Teams、Excel 和 Copilot

    公司資料分散在不同工具裡,員工常得自己找表格、核對數字,也不一定知道哪些資料能看。Databricks 擴大 Genie 在 Microsoft 工具中的使用方式:在 Teams 裡,員工可用訊息詢問資料、檢視圖表、分析檔案或安排定期分析;在 Excel 裡,可用白話提問、把結果載入活頁簿,並建立會更新的樞紐分析;Copilot Chat 和 Copilot Cowork 則能把資料問題交給 Genie 查詢。答案會附上資料來源,並依使用者許可權提供內容,管理員也能透過 Unity Gateway 管理工具使用、支出和操作紀錄。

    推薦理由:Genie 把受治理的企業資料帶進 Teams、Excel 與 Copilot,並以許可權、引用來源和管理工具串起工作流程。

11月18日週三
  1. Hacker News (official RSS)82

    研究發現 Claude 能預測少人研究的蛋白質序列

    模型答得出常見蛋白質,不一定代表它學會了蛋白質序列的規律,因為這些資料也常出現在論文和網路上。研究者改用少人研究的細菌與古菌蛋白質,請模型根據序列前段預測下一個胺基酸,再和打亂順序的序列比較。Claude Fable 5.2 在原始序列上答對 54%,打亂後則是 9%;其他受測的一般模型幾乎沒有這種差距。研究結果顯示,Claude 最新模型可能在訓練時接觸過大量蛋白質序列;不過,這項測試只檢查下一個胺基酸,不能直接說明模型能否預測蛋白質結構或突變影響。

    推薦理由:研究用冷門蛋白質序列測試模型是否學到序列規律,並比較 Claude 與專門蛋白質模型的預測表現。

  2. Databricks Blog77

    Databricks 如何把叢集建立的預設請求速率上限提高 7.5 倍

    雲端服務變慢時,建立叢集的工作會拖更久;固定每分鐘接受多少請求,可能讓工作堆在系統裡,也可能在系統有空間時擋掉請求。Databricks 改用會看系統狀況調整的同時工作上限,讓排隊中的請求等到有空位再開始;系統吃緊時減少新工作,恢復後再慢慢增加。它仍保留固定請求上限,作為流量特別高時的防線。Databricks 表示,這套做法讓預設叢集建立請求上限提高 7.5 倍,報告範圍內的限流錯誤減少超過 99.99%,並移除了 100 多個客戶專屬上限。

    推薦理由:固定請求速率難以應付雲端依賴變慢帶來的長時間工作堆積;文章說明 Databricks 如何按系統健康調整同時進行的工作數量,並分享實際成效。

  3. Publickey (日系頂級架構誌)72

    Microsoft 推出 Azure SQL Database 本機開發容器公開預覽

    開發者在本機測試資料庫功能時,常需要確認它和雲端環境是否相同。Microsoft 公開預覽 Azure SQL Database 本機開發容器,讓開發者在自己的電腦上使用與 Azure SQL Database 相同的資料庫引擎、T-SQL 和連線方式,也能沿用原本的框架、程式庫與 Visual Studio Code 進行開發、除錯、建置和測試。搭配 MSSQL extension for VS Code 的 Local-to-Cloud Deployment Wizard,還可把本機資料庫部署到雲端。

    推薦理由:這項預覽讓開發者能在本機使用與 Azure SQL Database 相同的資料庫引擎與工具,方便了解本機開發和雲端部署如何銜接。

  4. Publickey (日系頂級架構誌)68

    Microsoft 推出 PostgreSQL 相容的無伺服器資料庫 Fabric HorizonDB 預覽版

    開發環境有時需要很快開好資料庫,也希望能用同一份資料做日常交易和分析。Microsoft 發布 Fabric HorizonDB 公開預覽版,這款 PostgreSQL 相容的無伺服器資料庫可在幾秒內準備好;閒置 5 分鐘後會暫停運算資源,有查詢時再自動啟動。資料表預設會複製到 Microsoft Fabric 的 OneLake,因此除了交易處理,也能進行分析,並支援向量搜尋和全文搜尋。

    推薦理由:Fabric HorizonDB 把交易資料預設同步到 OneLake,讓同一份資料能同時支援日常操作與分析,也能用於向量搜尋。

  5. Dev.to Top Tech81

    Redshift 如何讓 Iceberg 資料表一次完成多個載入步驟

    資料湖的批次載入若只完成一半,報表可能短暫顯示錯誤數字;批次工作和即時寫入同時碰到同一張表,也可能互相衝突。Redshift 現在能把多個 INSERT、UPDATE、DELETE 或 MERGE 放在同一筆交易裡,完成後才一次發布資料,也會嘗試處理同時寫入的衝突。若兩次修改碰到同一個資料檔,仍可能失敗,需要保留重試機制。文中也提醒,Iceberg 的時間回溯只適合讀取仍保留的快照,不能當成長期稽核紀錄;使用前還要設定快照保留、清除孤立檔案等維護工作。

    推薦理由:Redshift 的交易與衝突處理能減少單一 Iceberg 資料表載入時的中間狀態;文中也整理了分割方式、重試和維護設定的影響。

  6. AWS Machine Learning Blog67

    Amazon SageMaker AI 推出資料準備功能,協助整理訓練資料

    訓練和評估模型時,整理出夠用又可靠的資料常常很花時間,標籤錯誤、重複內容也可能拖到訓練後才被發現。Amazon SageMaker AI 推出一組資料準備功能,可自動標註資料、產生合成資料、檢查資料品質,也能依訓練方法整理資料格式;信心較低的標註還能交給人在 SageMaker Studio 檢查。團隊可用 Python SDK 或 AI-ML skill 操作,並檢視、修改產生的規格和程式碼。這些功能已在美東(維吉尼亞北部)和美西(奧勒岡)正式推出。

    推薦理由:原文說明如何把自動標註、人工檢查、合成資料與品質檢查串成準備流程,可瞭解資料整理如何接上模型訓練與評估。