online softmax 如何将融合 kernel 扩展到超过 SRAM 容量的行，使用数值稳定的两遍分块算法。

解释 KV 缓存如何在自回归解码中避免冗余计算，以及它带来的显存/计算权衡。

如何在 Triton 中编写融合 softmax kernel，消除冗余内存访问，性能超越 PyTorch 原生实现。

理解批量梯度下降（BGD）、随机梯度下降（SGD）以及 mini-batch 梯度下降。

理解梯度下降中的反向传播机制。