跳到正文

硬體與半導體

運算晶片與實體硬體工程:GPU、TPU、CPU、RISC-V、ARM 架構、半導體製造與先進製程、嵌入式系統與單板電腦。

最新精選

第 21–40 條 · 共 65 條
10月21日週三
  1. The Decoder72

    DeepSeek 釋出 DeepInfer 推理引擎與 deepseek-recipe 開源

    DeepSeek 釋出了 DeepInfer 推理引擎與 deepseek-recipe,讓自託管模型能以更低成本、更快速度執行。 - 核心功能:DeepInfer 基於 vLLM,提供最佳化計算核心、分散式多晶片處理及更快文本生成。

    推薦理由:DeepSeek 釋出 DeepInfer 與 deepseek-recipe,讓自託管模型能以更低成本、更快速度執行,並藉由 vLLM 最佳化與多晶片分佈處理,對 AI 服務成本構成挑戰。

10月20日週二
  1. AWS What's New68

    AWS 推出 TorchNeuron:為 Trainium 原生支援 PyTorch(公開測試版)

    TorchNeuron 是 AWS 為 Trainium AI 晶片推出的原生 PyTorch 後端,已開放公開測試版。 - 功能:使用 .to('neuron') 直接在 Trainium 上執行 PyTorch 程式,保持與標準 PyTorch API 完全相容。

    推薦理由:TorchNeuron 讓 PyTorch 使用者可在 Trainium 上無縫執行,降低硬體門檻並提升訓練效能。

10月19日週一
10月16日週五
10月15日週四
  1. Martin Fowler Blog61

    軟體遇上硬體:在大規模 IoT 系統中的實務轉變

    軟體遇上硬體:本文以 80 萬感測器的零售 IoT 系統為例,說明將軟體工程原則落實於硬體環境的關鍵做法。 - 實驗環境:建立實體感測器實驗室與虛擬裝置模擬,快速驗證網路、電源與韌體行為。

    推薦理由:本文闡述在大規模 IoT 系統中,將軟體工程原則落實於硬體環境的實務做法,對於想要提升裝置可觀測性與安全更新流程的工程師具備直接可用的參考。

10月13日週二
  1. Modal Engineering Blog89

    混合精度、混合加速器取樣的 RL 研究

    導語:本文探討在大模型強化學習中,使用混合精度與混合加速器取樣,並透過離線補正方法實現穩定且成本更低的訓練。 - 混合取樣架構:六種加速器(B200、B300、H100、H200、A100、RTX PRO 6000)各自採用不同精度(FP8、NVFP4、BF16)與核,輸入到單一 BF16 訓練器。

    推薦理由:本文展示混合精度、混合加速器取樣能在保持訓練穩定的同時降低成本,提供可擴充套件的 RL 訓練範式。

10月10日週六
  1. The Decoder76

    OpenAI 營收持續飆升,企業尋求 300 億美元新資本

    OpenAI 的年度化營收率在 9 月底約為 $50 billion,但預計 2026 年底將達 $70 billion。 公司正在談判 $30 billion 的新資金,估值 $1.4 trillion,此前已於 3 月完成 $122 billion 融資。 這一動態引發半導體股跌跌,顯示市場對 AI 巨頭的估值與安全風險高度敏感。

    推薦理由:OpenAI 近期營收與資金需求的最新資料,讓讀者瞭解 AI 產業資本流動與估值趨勢,以及對投資者情緒與股價波動的影響。

10月6日週二
  1. david888podcast74

    ChatGPT 造假簽名引發公憤,Opus 5.5 代理人突破室溫半導體

    ChatGPT 造假漫畫家簽名引發侵權爭議,Claude Opus 5.5 代理人發現兩種室溫磁性半導體,Beam 501B 展示強大 RL 工程實力。 - ChatGPT 透過過擬合偽造漫畫家簽名,導致公眾憤怒與法律爭議。

    推薦理由:探討 ChatGPT 造假簽名與 Opus 5.5 研發室溫半導體,揭示 AI 創新與倫理風險的交織,對業界與研究者提供警示與啟發。

10月5日週一
10月3日週六
9月29日週二
  1. david888podcast79

    Anthropic 兩兆估值 IPO 及 ESP32 叢集跑 BitNet 大模型

    Anthropic 兩兆估值 IPO 及 ESP32 叢集跑 BitNet 大模型。 - Anthropic IPO 估值 2兆美元,巨額虧損引發資本討論。

    推薦理由:對於想了解 Anthropic IPO 估值與硬體執行力的聽眾,可從此集獲得多角度分析與實際案例,並洞察未來 AI 產業趨勢,並瞭解 ESP32 叢集跑 BitNet 的技術挑戰與成本效益,最後還能學到如何將類似技術應用於企業 AI 服務。

9月25日週五
  1. Amazon Science64

    Amazon Science 與 Reactor 發表基於 Trainium 的即時視訊生成最佳化技術

    Amazon Science 與 Reactor 合作探討在 Trainium 晶片上實現即時視訊生成的核心級最佳化策略,透過 Neuron Kernel Interface (NKI) 解決動態形狀、複雜記憶體訪問與快取管理等挑戰。

    推薦理由:原文分析基於硬體內核的最佳化策略,讀者可藉此瞭解如何克服即時視訊生成的記憶體與動態形狀瓶頸。

9月16日週三
9月13日週日
  1. Epoch AI Gradient Updates68

    Epoch Brief:2026年9月12日 AI 產業趨勢與技術洞察

    Epoch Brief 於 2026 年 9 月 12 日釋出,提供 AI 產業趨勢、硬體競爭、GDP 影響及 GPT‑6 Astra 評測等多元洞察。 - AI 晶片競爭:華為 Ascend 950 與 Nvidia H100 相比,算力僅為其一半,且受出口管制限制,預估 2026 年 AI 計算量不到 Nvidia 的 4%。

    推薦理由:本報以多維度資料揭示 AI 產業趨勢,幫助讀者把握投資與技術走向,並提供可直接應用於市場評估的參考框架。

9月10日週四
  1. Together AI Official Blog74

    推出 Together GPU 叢集可預約計算:相同算力,價格減半

    Together AI 推出可預約計算功能,讓 GPU 叢集以 50% 之低成本執行可中斷工作。 - 計費方式:子小時計費,單價為按需費用的 50%。

    推薦理由:預算敏感型工作負載可利用此功能以 50% 成本節省,並保持與標準節點相同的 GPU 基礎設施,支援 Ray Train 與 PyTorch Lightning。

9月4日週五
  1. Epoch AI Updates75

    單一資料中心電力容量紀錄每10個月翻倍

    AI 資料中心的電力容量正以每10個月翻倍的速度增長,最新紀錄由 xAI 的 Colossus 2 以約 950 MW 擔綱。 - 歷史趨勢:自 2024 年中以來,最大 AI 資料中心 IT 電力容量每十個月翻倍。

    推薦理由:本文以歷史趨勢與未來預測對比,揭示 AI 資料中心電力需求的加速增長,對能源規劃與硬體研發具參考價值。

8月31日週一
  1. Chips and Cheese64

    Hot Chips 2026:專訪 IBM 探討次世代 z 架構與 Arm 整合設計

    Chips and Cheese 在 Hot Chips 2026 研討會期間專訪 IBM 系統開發 CTO Christian Jacobi 與核心設計團隊負責人 Christian Zoellin,深入探討次世代主機晶片同時支援 z/Architecture 與 Arm 指令集的技術細節與商業考量。

    推薦理由:訪談揭露次世代 IBM 晶片架構與 Arm 整合細節,讀者可藉此瞭解大型主機設計與軟體生態擴充套件策略。

8月29日週六
  1. Chips and Cheese61

    Hot Chips 2026:三星記憶體內部運算(PIM)

    三星 LPDDR5X‑PIM 在 Hot Chips 2026 會議上展示,透過在每個 16 個銀行內嵌 MAC 區塊,將內部頻寬提升至 614 GB/s,達到每包 2.4 TOPS。

    推薦理由:本文詳述三星 LPDDR5X‑PIM 在單晶片內部頻寬利用上突破,對未來可擴充的記憶體加速架構提供實證參考,並指出軟體與作業系統同步的挑戰與可能解決方向。