跳到正文
熱點事件持續更新

llama.cpp adds Conv3D support on Hexagon

1 篇報導1 個報導來源2 小時前更新

先了解這件事

重點綜述

hexagon 推出 conv_2d 最佳化與 conv_3d 支援,提升邊緣端推理效能。

  • 新增 op HTP_OP_CONV_3D:利用現有 HMX tiled conv2d 路徑,KD 與 KH 纏結為 KDKH,輸出行數以 NOD*OH 計算。

根據報導自動生成 · 2 小時前更新

報導時間線

沿著報導,瞭解事件的不同面向。

11月7日
  1. llama.cpp Releases
    llama.cpp b12179 版:Hexagon 端 Conv3D 支援與 Conv2D 最佳化

    llama.cpp b12179 版釋出 Hexagon 端 Conv3D 支援與 Conv2D 最佳化,提升多維卷積效能。 - Conv3D:將 Conv2D 實作泛化為 Conv3D,使用 HMX tiled (implicit GEMM) 路徑,KD & KH 合併為 KDKH,輸出行計為 NOD*OH。

本事件熱度趨勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。

讀者討論

針對此事件的各方觀點與即時反饋