先看它回答什么问题，再看缩写。每个术语链接到课程中的实际用法。
- 端到端时延 / TTFT / ITL
- 完整请求经过客户端、队列、设备与网络的耗时；TTFT 只到首个 token，ITL 是输出间隔，网络事件未必等于一个 token。第 01 课
- 吞吐 / goodput
- 单位时间完成多少工作；goodput 进一步只计同时满足指定成功、质量与时延条件的请求。统计窗口与分母都要写清。第 08 课
- FLOP / 算术强度 / roofline
- 浮点运算数、每搬运一字节对应的运算数，以及计算/访存对性能的理想限制。不是厂商跑分。第 02 课
- 权重 / 激活 / 梯度 / 优化器状态
- 模型参数、计算中间结果、损失对参数的变化方向，以及更新规则需要的历史信息。它们的内存和生命周期不同。第 03 课
- microbatch / 梯度累积 / 有效 batch
- 一次实际前后向处理的小批量、多次累积后才更新，以及一次更新所代表的总样本量。数值等价仍取决于平均规则和模型状态。第 03 课
- checkpoint
- 能重新建立某个训练状态的快照；除了参数，还可能需要优化器、步数、随机数与数据位置。权重文件通常不足以精确续训。第 04 课
- rank / collective / all-reduce
- 分布式进程的编号、多进程共同完成的通信操作，以及归约后把结果提供给所有参与者。同步速度受慢进程和互联影响。第 05 课
- DDP / ZeRO / TP / PP
- 数据并行模型副本、训练状态分片、算子内张量切分和层间流水线切分。它们解决的容量问题和引入的通信不同。第 05 课
- prefill / decode / KV cache
- 处理输入、逐步生成，以及为注意力复用而留下的 key/value 状态。状态量随长度、KV 头数和活跃请求变化。第 06 课
- GQA / 连续批处理 / 分块 prefill
- 共享 KV 头的模型结构、逐轮吸纳/退出请求的调度方式，以及把长输入拆成可调度片段的执行策略。三者不是同一优化。第 06 课、第 07 课
- SLO / 接纳控制
- 你承诺以何种统计口径提供服务，以及过载时决定哪些请求进入执行的策略。排入无界队列不等于已经提供容量。第 08 课
- 配额 / gang / 拓扑
- 租户可占用的资源范围、一组进程要同时获得资源才能推进的要求，以及设备之间连接方式。空闲卡数不等于可用作业布局。第 09 课
- readiness / startup / liveness
- 是否可以接流量、是否完成慢启动，以及是否需要重启。它们的职责与失败后果不同。第 10 课
- 发布包 / 回退
- 能够重建版本的权重、tokenizer、配置、运行时与接口约定，以及切回已验证状态的动作。只撤回容器模板未必恢复模型。第 10 课
- GB / GiB
- 10⁹ bytes 与 2³⁰ bytes。容量账必须统一单位，不能把两者直接相减。第 02 课