跳到正文

#Google

RSS
今日 0 則
10月22日週四
  1. Google Research77

    AI輔助超音波為前線產科護理賦能

    Google Research 發布的研究顯示,AI 能夠在低資源環境下利用「盲掃描」超音波準確估算孕周,並與專業超音波師的結果相媲美。 - 準確度:在兩個不同地區(美國芝加哥與肯亞奈洛比)的臨床試驗中,AI 模型的平均絕對誤差(MAE)分別為 4.10 天 和 4.27 天,與專業操作的 4.48 天 相近。

    推薦理由:此研究證明 AI 能在低資源環境下以簡易掃描方式準確估算孕周,為全球產科篩檢覆蓋率提升提供可落地方案。

10月21日週三
  1. OpenAI News78

    OpenAI 模型進入 Google Cloud 模型花園

    OpenAI 的前沿模型將透過 Google Cloud 的 Model Garden 進行原生部署,讓客戶可直接在雲端環境中使用。 - 模型來源:OpenAI 的 frontier models 及 Codex 代理工作流。

    推薦理由:OpenAI 模型將可在 Google Cloud 直接使用,讓企業在已熟悉環境中部署高效代理式工作流。

  2. NVIDIA Blog75

    NVIDIA Confidential Computing 擴張,讓前沿模型建構者能安全擴充套件至全球基礎設施

    NVIDIA 推出 Confidential Bare Metal,允許前沿模型建構者在第三方裸金屬環境中安全擴充套件工作負載。 - 部署選項:提供 Confidential Bare Metal、Confidential Containers、Confidential Virtual Machines 三種模式,滿足不同信任與運營需求。

    推薦理由:NVIDIA 新增 Confidential Bare Metal 讓模型建構者可在第三方裸金屬環境安全擴充套件,提供硬體級隔離與加密保護,對全球 AI 訓練與推論架構具有重要影響。

  3. NVIDIA Blog76

    Google Cloud 與 NVIDIA 宣佈 Vera Rubin 基礎設施正式上線

    導語:Google Cloud 與 NVIDIA 推出 Vera Rubin 基礎設施,將於下個月正式開放,為雲端客戶提供數十萬 GPU 的高效能訓練與強化學習平臺。

    推薦理由:Google Cloud 與 NVIDIA 推出 Vera Rubin 基礎設施,提供數十萬 GPU 與高頻寬連線,支援大規模強化學習與機器人代理開發,並提供機密計算與能源效率最佳化,滿足企業對隱私與效能的雙重需求。

  4. Wiz Blog & Research85

    Wiz Sensor 進入 GKE:一鍵啟用執行時保護,原生整合

    Wiz Sensor 以一鍵方式整合至 Google Kubernetes Engine,成為 GKE 原生的執行時安全附加元件。 - 部署方式:在 GKE 標準與 Autopilot 叢集上,透過 gcloud add-on 或 Cloud Console 只需一個 flag 即可啟用。

    推薦理由:將 Wiz Sensor 與 GKE 原生整合,使用者可一鍵啟用執行時安全,降低部署成本並提升防禦即時性。

  5. Wiz Blog & Research73

    從釣魚到 LLMjacking:攻擊者利用雲端帳單帳戶支付 LLM 服務

    Wiz CIRT 發現攻擊者利用雲端帳單帳戶支付 LLM 服務,造成數十萬美元的未授權支出。 - 攻擊手法:以釣魚廣告獲取 GCP 管理員帳戶,並在受害者帳戶內啟用 Gemini API、建立服務帳戶,將外部專案連結至受害者帳單,隱藏 AI 工作負載。

    推薦理由:此案例揭示雲端帳單被盜用以支付 LLM 服務的危機,讀者可從中學習防範與偵測手段,並提供實務偵測指標與預防建議,協助企業減少數十萬美元的非授權支出。

  6. Hugging Face Blog82

    Hugging Face 推出 TorchTPU:PyTorch 原生支援 TPU

    TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層。 - 核心功能:新增 TPU 作為 PyTorch 後端,支援 eager 與 torch.compile,提供 Pallas kernels、分散式訓練。

    推薦理由:TorchTPU 讓 PyTorch 直接在 TPU 上執行,省去 torch_xla 與 JAX 的中介層,提升開發效率與推理速度。

  7. PyTorch Blog88

    Google 與 Meta 共同推出原生 PyTorch TPU 後端 TorchTPU

    Google 與 Meta 共同開源推出 TorchTPU,為 Google TPU 提供原生且符合 PyTorch 設計哲學的後端架構。 - 核心特性:支援即時(eager)與編譯(compiled)模式,包含全新的 DeferAndFuse 執行模式,可顯著提升效能並減少高頻寬記憶體(HBM)佔用。

    推薦理由:文章詳細說明 Google 與 Meta 合作推出原生的 PyTorch 執行後端,有助於開發者評估在 TPU 上無縫執行與遷移開源模型的效能表現。

10月20日週二
  1. vLLM Official Blog73

    vLLM 推出 TorchTPU 後端,讓既有模型可部署於 Google Cloud TPU

    vLLM 推出 TorchTPU 後端,讓多數既有 vLLM 模型可在 Google Cloud TPU 上執行,無須修改模型程式碼。 - 服務介面:沿用 vLLM 的 CLI、OpenAI 相容伺服器、排程器與 KV cache 管理器,並支援六種平行化維度。

    推薦理由:vLLM TorchTPU 延用既有模型程式碼與服務介面,呈現 TPU 後端如何減少模型移植工作並保留原有部署流程。

  2. LMSYS Org Blog88

    SGLang 推出 SGLang-TorchTPU,讓 PyTorch 推論服務也能跑在 TPU 上

    想把 AI 模型放到 TPU 上跑,開發者往往得另外處理硬體支援。RadixArk 的 SGLang 團隊與 Google、Meta 合作推出 SGLang-TorchTPU,讓 SGLang 能用 PyTorch 在 Google Cloud TPU 上提供模型服務,也支援多種開源模型和服務功能。文章列出已支援模型與功能,並說明有些專案仍在測試;Meta 已在正式環境使用這套服務。團隊也展示用 TPU 進行強化學習訓練的流程,但目前仍是預覽版,接下來會擴大型模型與訓練規模。

    推薦理由:SGLang-TorchTPU 把同一套 PyTorch 推論服務帶到 TPU,並列出實際支援的模型與功能,可瞭解它目前能處理哪些部署需求。

10月19日週一
10月18日週日
10月17日週六
10月16日週五
10月15日週四
  1. Hacker News (official RSS)45

    How to Train Your Robot

    summary_zh: 機器人訓練的關鍵在於大量正確操作的範例,而目前最常用的資料來源是人類透過遠端操作收集的資料。 - 資料規模:自 2010 年代初起,AI 語言模型訓練資料每六個月翻倍,今日大型模型使用數萬兆 token;GPT‑3 以 300 B token 訓練;2024 年估計可用文本資料約 300 T token,但機器人訓練資料幾乎不存在。

  2. Apple Machine Learning Research71

    先計畫還是先檢索?工具發現架構的規模研究

    Apple 研究團隊針對工具發現架構進行大規模實驗,發現「先計畫再檢索」在多工具情境下優於「先檢索再計畫」,而「先檢索再計畫」在單工具情境中更有效。 - 研究範圍:ToolBench 46,984 個 API,50 個分類,單工具(G1)、跨類別多工具(G2)、跨類別多工具(G3)三種查詢子集。

  3. Google Research79

    Deep Review:分析技術檔案的 AI 助手

    Deep Review 是 Google Research 推出的 AI 系統,能自動化檢查長篇技術檔案的邏輯與數學正確性。 - 功能範圍:先前針對電腦科學論文,現已擴充套件至法律、財務等多領域。

    推薦理由:此系統可自動化檢查長篇技術檔案,減輕學術同行評審負擔,對科研與法律等領域的審核流程具有廣泛應用價值。