从方差和标准差的直觉出发，总结 Bernoulli、Binomial、Poisson、Uniform、Normal、Exponential、Gamma、Beta、Chi-square、t、F 等常见分布的适用场景、均值、方差和标准差。

理解深度学习 optimizer 的发展脉络：SGD、Momentum、RMSProp、Adam、AdamW 分别解决什么问题，为什么 AdamW 成了现代深度学习的默认强基线，以及什么时候还会选择别的 optimizer。

沿 vLLM V1 源码拆解 Scheduler：它如何在 running/waiting queue、token budget、KV cache block、prefix cache 和 preemption 之间做决策，并生成 ModelRunner 消费的 SchedulerOutput。

沿 vLLM V1 源码拆解 GPUModelRunner：它如何把 SchedulerOutput 变成 input batch、attention metadata、KV slot mapping、model forward、logits 和 sampled token。

用一张图和几条规则解释模型中的浮点、整数、量化、storage dtype、compute dtype 和 accumulation dtype。

从损失函数的视角理解训练目标：MSE、MAE、Huber、binary cross entropy、cross entropy、KL divergence、hinge loss、contrastive loss 分别适合什么任务。

用一个 5-token 的小例子解释大模型推理时 temperature、top-p、top-k 的区别，并对照 vLLM V1 sampler 看它们在源码里的位置。

从机制出发总结 activation function：为什么神经网络需要非线性，sigmoid、tanh、ReLU、GELU、SiLU 各自解决什么问题，以及为什么 400 个 activation 的综述更适合作为地图而不是菜单。

从一个桌面机器人例子出发，梳理具身智能里 VLA、JEPA-style world model 与 WAM 三类模型的预测目标、训练信号和系统边界。

从上传端和下载端两条路径理解流式传输：传输层负责可靠搬运字节，应用层负责边界、进度、恢复、幂等、背压和业务语义。

沿 vLLM V1 的 OpenAI-compatible server 源码追踪一次请求：HTTP 入口、serving render、AsyncLLM、EngineCore client、Tensor IPC、scheduler，以及 GPUModelRunner 的一次 forward。

解释 LLM 推理为什么会分成 compute-bound 的 prefill 和 memory-bandwidth-bound 的 decode，以及这如何决定 TTFT、TPOT、batching、KV cache 压力和推理引擎设计。

LLM attention kernel 与 GPU 基元系列索引：fused softmax、online softmax、FlashAttention、PagedAttention kernel、Triton/CUDA 和内存访问优化。

LLM 量化与低精度推理系列索引：INT8/INT4、GPTQ、AWQ、SmoothQuant、NF4、AQLM、KV cache 量化、FP8 serving 和质量/速度/显存权衡。

LLM 推理实验系列索引：vLLM/SGLang benchmark、TTFT/TPOT、prefix cache、chunked prefill、PagedAttention、量化和 profiler dashboard。

vLLM / SGLang 源码阅读系列索引：请求生命周期、scheduler、KV cache 分配、block manager、radix cache 和 benchmark。

LLM 推理引擎核心机制系列索引：prefill/decode、KV cache、PagedAttention、continuous batching、prefix caching 和 PD 分离。

从线性量化、非均匀量化和码本量化出发，系统梳理 LLM.int8()、SmoothQuant、GPTQ、AWQ、NF4、AQLM、KV cache 量化和 FP8 的数学原理、可行性与优缺点。

从 Transformer 的绝对位置编码讲起，逐步推导相对位置、复数旋转、欧拉公式与 RoPE 的关系。

从矩阵乘法出发，推导 LLM 训练 FLOPs、推理 FLOPs、权重显存、KV cache 和训练显存的可手算估算方法。