跳到正文
熱點事件持續更新

Laplace 3B 在 AWS Trainium2 上訓練與推理

1 篇報導1 個報導來源2 小時前更新

先了解這件事

AI 綜述

i14 的 Laplace 3B 線性注意力模型已在 AWS Trainium2 上完成訓練與推論,並以原生 PyTorch 取得 120,000 tokens/s 的訓練吞吐與 11,544 tokens/s 的推論吞吐。

AI 根據報導生成 · 1 小時前更新

報導時間線

沿著報導,瞭解事件的不同面向。

10月21日
  1. AWS Machine Learning Blog
    i14 推出 Laplace 3B 線性注意力模型,於 AWS Trainium2 上以原生 PyTorch 執行訓練與推論

    i14 的 Laplace 3B 線性注意力模型已在 AWS Trainium2 上完成訓練與推論,並以原生 PyTorch 取得 120,000 tokens/s 的訓練吞吐與 11,544 tokens/s 的推論吞吐。

本事件熱度趨勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。