跳到正文
Hacker News (official RSS)·· 5 小時前精選AI 評分68

Intel D270 GPU AI 加速器:最高 480GB LPDDR5X 記憶體

Intel D270 GPU AI Accelerator–Up to 480 GB LPDDR5X

AI 導讀

Intel D270 GPU AI 加速器 以最高 480GB LPDDR5X 記憶體,為資料中心提供高效能、低功耗的代理 AI 推理解決方案。

  • 記憶體容量:單卡最高 480GB LPDDR5X,支援長上下文、並發執行與大模型推理。
推薦理由

Intel D270 提供高達 480GB LPDDR5X 記憶體,讓資料中心能以更低功耗支援大型代理 AI 工作負載。

正文 · AI 翻譯
  1. 我的工具

  2. 最近

Intel GPU.

代理式 AI 正在改變資料中心工作負載

代理 AI 讀取量遠超寫入量:長上下文、多步工作流程、計算主要由預填充主導。隨著需求增長,挑戰不僅限於頻寬。Intel D 系列 GPU 為這個代理 AI 新時代而設計,能在實際功耗和成本限制內高效處理更大的上下文、更高的同時執行數量,以及更多的 token。

Intel data center GPU D270 product image.

記憶體可達

480

GB

每張卡 LPDDR5X

功率

350

W

空氣冷卻

計算

32

Xᵉ

Xᵉ3P 核心

計算

256

XMX

Xᵉ3P 矩陣引擎

擴充套件代理 AI

代理艦隊

在數千步、10萬 token 上下文以及數十個同時執行會話中,保持代理在場以維持代理迴圈中的吞吐量。

在更大上下文上推理

整體上下文推理

保持更多模型和長上下文在場,從而以更少的 GPU 以及不使用高頻寬記憶體(HBM)即可進行更豐富的推理。

推理的經濟性

高效的 token 服務

密集、空氣冷卻、標準 PCIe 基礎設施可最大化每機架和每瓦特的 token 數量,擴充套件服務容量並控制成本。

在您已經執行的功耗和機架內提供更多推理

隨著代理 AI 推動更長的提示和更多同時執行會話,客戶需要可擴充套件的基礎設施,且不在功耗、成本或部署複雜度上做出妥協。Intel GPU D270 提供高達 480 GB LPDDR5X 記憶體,適用於資料中心環境中的節能、記憶體受限推理。

Intel data center GPU processor package with an exposed chip die.

Intel GPU.

為 AI 設計

為代理式工作負載設計

將晶圓面積從圖形與光線追蹤管線重新分配至 Xᵉ3P 核心與矩陣計算,提升推理效率。

為計算設計

關鍵計算

每瓦特更多提示處理:32 個 Xᵉ3P 核心與 256 個 XMX 引擎加速預填充,降低長上下文與代理成本。

為工作負載設計

每種工作負載的精度

從原生低精度推理到 FP64 科學計算,工作負載決定精度,而非硬體。

為效率設計

標準 PCIe 5.0

標準外形尺寸、標準互連,使用現有伺服器。無需專有網路或定製系統。

為可靠電源設計

350W 空氣冷卻

在您已經執行的機架中使用被動冷卻,評估與部署之間不需要液冷改裝。

為您的資料中心設計

設計即開源

為領先開源模型提供零日支援,並在您已經執行的框架(vLLM 及開源 PyTorch 生態系)上提供服務。

隨時掌握 Intel GPU D 系列新聞及企業最新 AI 資源。

感謝您的註冊!

您將很快開始接收更新。

Intel GPU D270 是一款為代理 AI 時代最佳化的推理型資料中心 GPU。它旨在支援需要記憶體豐富、節能 AI 加速的企業 AI、SaaS、GPUaaS,以及政府或主權雲部署。

Intel GPU D270 針對生產環境 AI 推論工作負載設計,例如代理式 AI、長上下文檢索增強生成(RAG)、企業 AI 助手、程式碼助手、檔案理解、多模態 AI、擴散模型,以及高併發服務。

代理式 AI 經常將單一任務拆分為多輪模型呼叫、工具使用、檢索、推理與回應生成。Intel GPU D270 為這些環境中重要的推論需求而設計,包括預填充處理、更大的上下文、記憶體容量、併發性與功耗效率。

推論最佳化表示 GPU 為在生產環境執行 AI 模型而設計,而非在大規模訓練。Intel GPU D270 著重於已部署 AI 應用的需求,包括提示處理、高併發服務、記憶體容量、能效與系統層級效能。

長上下文 AI 工作負載可能需要更多記憶體以支援更大的提示、重度檢索流程以及推論期間 KV 快取擴張。Intel GPU D270 具備高可用記憶體容量,協助支援更大模型、更長上下文與更多併發會話。

Intel GPU D270 的訊息應參照熟悉的 AI 軟體與服務框架,例如 PyTorch、vLLM、SGLang 與 OpenAI Triton(經批准時)。這有助於開發者與平臺團隊瞭解產品如何融入現有 AI 工作流程。

Intel GPU D270 以標準 PCIe 5.0 尺寸與風冷部署概念設計,協助企業在現有資料中心環境中評估 AI 推論加速,而無需改裝專用液冷系統。

主要物件包括 AI 系統架構師、AI 平臺架構師、基礎建設與雲端工程領導、企業 AI 決策者、SaaS 供應商、GPUaaS 供應商、政府或主權雲團隊,以及部署生產推論工作負載的開發者。

客戶應聯絡 Intel 以瞭解更多 Intel GPU D270、評估其如何融入 AI 推論路線圖,並在有額外產品資訊時接收更新。

免責宣告

與 RTX Pro 6000 的效能預測基於 2026 年 2 月公開資訊與 Intel 內部分析。效能因使用情境、配置及其他因素而異。記憶體容量比較以可比頻寬為準。

來源:Hacker News (official RSS) · intel.com