Mooncake 学习路线(倒金字塔,先跑通再深入)
阶段一:跑通集成示例(半天)
先不要读源码,先看到它怎么跑。
- 在现有环境装好:
pipinstallmooncake-transfer-engine# 或者用已有的 build跑一个 PD 分离的 demo:用
test_1p1d_erdma.sh的流程——两台机器(或模拟),prefill 写 KV cache,decode 通过 Mooncake 读到。关键是亲眼看到--enable-mooncake之后 SGLang 的日志变化。目的:建立 “Mooncake 到底是什么” 的心理模型——它不是一个独立服务,是嵌入 SGLang 的传输层。
阶段二:读 Transfer Engine 核心流程(1-2 天)
按"一条传输请求的生命周期"来读源码,不要按目录扫。