返回首页
最新
嗨，HN，
我创建了 kernelspace——一个免费的互动课程，旨在将像我这样的后端工程师（具备 Java/Python 经验）带入到能够大规模处理 LLM 服务所需的系统层面。（这主要是我试图理解最近大家讨论的内容，同时也是为了在职业发展上跟上当前的技术动态。）
课程内容包括：
1. 9 个模块共 68 课时，包含从零开始的 Rust 入门。
2. 8 个 Rust 实验室——BPE 分词器、KV 块管理器、基数缓存、批处理调度器、一个玩具执行器。
3. 9 个在浏览器中运行的模拟器（WASM）——屋顶线模型、KV 缓存压力、连续批处理动态。
4. 舰队周——一个模拟的生产服务舰队。
所有进度都是本地的——没有服务器（课程托管在 GitHub Pages 上，仓库链接在这里 <a href="https://github.com/praveer13/kernelspace" rel="nofollow">https://github.com/praveer13/kernelspace</a>）。
欢迎反馈，也欢迎贡献。我希望能把这个课程做得很好，既为我自己，也为其他像我一样的人。
*（好吧，大部分时间我有 Sol 和 Kimi 的帮助）*