Linux 内核 Jump Labels 从零讲起：把热路径里的分支变成 NOP

内核代码里满是"极少走"的检查，守护着可选功能："这个 tracepoint 的追踪开了吗？""这个安全模块激活了吗？""这个调试特性开着吗？"朴素实现就是一个 if，但即便 some_feature_enabled 几乎总是 false，CPU 仍然要：从内存加载该变量（一次 cache line）、与零比较、预测/分支。现代 CPU 预测能力强，但"预测得好"不等于"免费"——预测掩盖的是误预测惩罚，省不掉第 1 步那一次必然的内存加载。当检查处在每秒跑几百万次的热路径（调度器、网络、每个 trace_*() 调用点）时，这次加载累积起来很可观。

Jump labels（也叫 static keys）通过运行时重写机器码，为常见情形消掉加载和比较：特性关闭时，热路径里根本没有跳向罕见代码的分支——它就是一个 nop（或一个越过 out-of-line 块的无条件 jmp，取决于极性）。有人打开特性时，内核遍历该 key 的每个调用点，原地把 nop ↔ jmp 改写。

一句话权衡：切换代价高（全机器同步、text poke），热路径运行近乎免费。

心智模型：同一行源码的两种形态

源码: if (static_branch_unlikely(&my_key)) { ...normal...; rare_code(); }

特性关（常见）          特性开
nop（2 或 5 字节）      jmp .Lout_of_line
...normal path...      ...normal path...
.Lout_of_line:         .Lout_of_line:
rare_code();           rare_code();
jmp back               jmp back

两列由同一行 C 源码编译而来——C 代码没有任何变化。变化的是内存里此刻摆着两种已编译形态中的哪一种，完全由 key 当前是否启用决定。"特性关"列完全没有分支：rare_code() 仍在二进制里，但没有 jmp 指向它，正常执行永远到不了——这就是"没有 jmp 就不可达"的含义。nop 恰好和它可能变成的 jmp 一样宽（x86_64 上是 2 或 5 字节），所以两列互相转换是等长的原子原地替换，不是重排尺寸。

为什么难：SMP 上不能对着活代码 memcpy

硬件背景决定了这件事的复杂度：CPU 实际按指令流执行、x86 的 JMP/NOP 编码、多核并行执行时直接改写共享代码段会导致其他核执行到一半指令的灾难。内核因此有 text_poke()：写只读内核文本的专用通道。jump labels 的启用/停用走的是 jump_label_update() → __jump_label_update()，配 x86 的 INT3 SMP 算法（smp_text_poke_batch_finish）做批量同步，保证任何核都不会观察到半个指令。

使用要点（cookbook 核心）

• 最小示例：声明一个 static key，用 static_branch_likely/unlikely(&key) 包住热路径检查；
• TRUE vs FALSE 与 likely vs unlikely：按默认状态与期望方向选极性，宏会据此选出对应 asm；
• 布尔启用 vs 引用计数启用：多消费者共享一个 key 时用 refcounted enable，避免一个消费者关闭时误伤另一个；
• 不分支地读状态：想读 key 当前状态而不引入分支，有专门 API；
• key 必须全局/静态存储：不能是栈上或堆上的瞬态对象；
• 只读后初始化 key：init 后转 RO，防篡改；
• 限速禁用：面向用户空间的开关用 rate-limited disable，避免频繁切换付出全机器同步的代价；
• CPU hotplug / 死锁规则：在特定上下文（CPU 热插拔路径）里切换有明确的限制要遵守；
• 真实消费者：tracepoints 就是典型例子——关闭时热路径零开销，打开时按需 patch。

模块是最棘手的部分

模块加载要 jump_label_add_module() 把模块内调用点注册进全局 key 表；卸载时 jump_label_del_module() 摘除；切换一个已被链接的 key 要处理模块与内核镜像两边的条目。CONFIG_JUMP_LABEL=n 时退回朴素分支实现，作为无 text patching 平台的后备。

实践建议

• 别把 jump labels 当普通锁/开关用：切换是贵的，面向高频开关的语义请用限速禁用；
• 想给热路径加一个"几乎永远为假"的检查（调试计数、可选审计、tracepoint 门控），jump labels 是正解：把每次调用省到只剩一条 nop；
• 阅读本文配套的"字节级微示例"（编译/链接/objtool → 运行时 enable/disable 的完整时间线），比只看 API 更能理解它在做什么。

来源：What every kernel programmer should know about Jump Labels - Wander Lairson Costa