为什么按 decode iteration 做调度能消除静态 batch 的 GPU 空转，以及 prefill 和 decode 如何被打包进同一次 forward。

vLLM 如何借鉴操作系统分页思想，消除 KV cache 显存碎片，将 GPU 显存利用率从约 30% 推到约 96%。

online softmax 如何将融合 kernel 扩展到超过 SRAM 容量的行，使用数值稳定的两遍分块算法。

解释 KV 缓存如何在自回归解码中避免冗余计算，以及它带来的显存/计算权衡。

如何在 Triton 中编写融合 softmax kernel，消除冗余内存访问，性能超越 PyTorch 原生实现。

理解批量梯度下降（BGD）、随机梯度下降（SGD）以及 mini-batch 梯度下降。

理解梯度下降中的反向传播机制。