coresample 開源工具追蹤神經網路在 RISC-V 上的執行過程
一般效能分析工具不一定看得到神經網路在處理器裡每一步怎麼跑,模擬器的細節也可能不清楚。Guido Marmorini 開源了 coresample,能把 int8 CNN 從模型運算一路追到 RISC-V 處理器的指令和每個週期,並用網頁工具顯示執行紀錄,包括處理器管線停下來的時候。作者表示,模擬結果會和 PyTorch 對照,處理器也有通過 RISC-V 測試。接下來他正著手加入 GPT 式 Transformer 區塊,追蹤 token 在處理器中的執行過程。