Online Softmax:为任意大行设计的分块算法📅 2026年04月21日 · 📝 2026年04月22日 · ☕ 5 分钟 · ✍️ k4ionline softmax 如何将融合 kernel 扩展到超过 SRAM 容量的行,使用数值稳定的两遍分块算法。
Triton 中的融合 Softmax📅 2026年04月20日 · 📝 2026年04月22日 · ☕ 5 分钟 · ✍️ k4i如何在 Triton 中编写融合 softmax kernel,消除冗余内存访问,性能超越 PyTorch 原生实现。