树先生的头像

Hello, Shuxiansheng

Hello树先生

写字、写代码、造课程 —— 把感兴趣的东西拆开讲清楚

关于本站

这里是树先生的小站。我相信真正搞懂一样东西的方式,是把它拆开、动手做一遍、再验证一遍。站点的内容都围绕这个原则展开:一手数据、结构级可视化、从零实现 + 自验证。

正在更新 《开源大模型底层原理》课程持续连载中,第 0006 课(MoE)筹备中。

栏目

课程 · 5 课已上线

开源大模型底层原理

DeepSeek · GLM · Kimi 的解剖图与参数验证;Tokenizer 与 BPE;Attention / RoPE 从零手写;GQA 与 MLA 的 KV Cache 压缩竞赛。每课配结构级动画与可自判卷的动手脚本。

进入课程 →