跳到正文
Hacker News (official RSS)(book.humanexperiences.io)·· 2 小時前精選AI 評分78

Show HN:用 TypeScript 從零開始構建 LLM

Show HN: Building an LLM from Scratch in TypeScript

AI 導讀

本指南以 TypeScript 逐步構建 LLM,讓開發者從底層掌握注意力機制與訓練流程,易於在實際專案中實作。

  • 核心特性:逐層實現注意力、Transformer、GPT 等。
推薦理由

此指南以 TypeScript 逐步構建 LLM,讓開發者從底層掌握注意力機制與訓練流程,易於在實際專案中實作。

正文 · AI 翻譯

Building an LLM in NodeJS book cover

從零開始打造大型語言模型的完整指南,使用 NodeJS 與 TypeScript。

從第 2 章開始

透過從零開始在 Node.js 與 TypeScript 中構建一個大型語言模型,瞭解其實際運作原理。

無黑盒

我們將從注意力機制到\n訓練迴圈,逐層構建。

從零開始

資料集、資料載入器、注意力、Transformer 區塊、GPT,以及訓練迴圈,逐章構建。

可執行

每章都有可執行的入口點,位於 @node-llm/chapters 套件,全部在\nGitHub 上。

互動式

即將推出

@node-llm/playground 套件中的 Live WebGPU 示範已嵌入於整個內容中。

來源: Hacker News (official RSS) (book.humanexperiences.io)
開啟原文