编程 同一条 RSA 密钥 v1.5 验不过、PSS 报 salt length check failed:两个报错不在同一层

2026-11-21 00:03:48

同一条 RSA 密钥,v1.5 验不过、PSS 报 salt length check failed:分别定位到底哪一层出问题

一次冒烟测试里出现这种局面:同一份 RSA 私钥,用 openssl dgst -sha256 -sign 生成的历史签名,换个环境验签就报 Verification failure;把它切到 PSS 路径,又冒出 salt length check failed。两个报错看起来像同一类问题,其实分别落在完全不同的层:前者多半是编码层(对 EM 的解析或重编码)出了错,后者是参数协商层(盐长度)出了错。

把这几层分开检查,排查起来会快很多。一次 RSA 签名验签至少要经过四道关卡:

  1. 密钥装载:PEM 是 PKCS#1 还是 PKCS#8,ASN.1 解析是否通过。
  2. 签名编码方案:到底是 RSASSA-PKCS1-v1_5 还是 RSASSA-PSS,EM 结构对不对。
  3. 参数集合:摘要算法、MGF1 的摘要、盐长度是否与签名方一致。
  4. 比较逻辑:填充是否被严格重编码并逐字节比对。

第一层:「PKCS1」这个词指的是三个不同的东西

大部分误判来自命名。日志里每出现一次 PKCS1,都要先问清楚它指的是下面哪一个:

其一,RSASSA-PKCS1-v1_5 签名编码。规范在 RFC 8017(即 PKCS #1 v2.2)§8.2,编码函数是 §9.2 的 EMSA-PKCS1-v1_5。EM 结构:

EM = 0x00 || 0x01 || 0xFF...FF || 0x00 || DigestInfo
     ^^^^    ^^^^    ^^^^^^^^^^    ^^^^    ^^^^^^^^^^
     1 字节  1 字节  至少 8 字节   1 字节  DER 编码的摘要信息

DigestInfo 是 DER:哈希算法 OID 加摘要本身。SHA-256 的前缀固定为 30 31 30 0d 06 09 60 86 48 01 65 03 04 02 01 05 00 04 20。这条路径全程没有随机性,同一密钥、同一消息只会产出同一串字节。

其二,RSAES-PKCS1-v1_5 加密填充。这是加密,不是签名,结构是 00 || 02 || PS || 00 || M,PS 是至少 8 字节的非零随机。它有 Bleichenbacher 1998 的填充预言机问题,ROBOT(2017)是同一类攻击的工程化复现。NIST SP 800-131A Rev.2 规定 2023-12-31 之后不再允许 RSAES-PKCS1-v1_5,TLS 1.3 已把它移除,OpenSSL 文档建议新代码使用 RSA_PKCS1_OAEP_PADDING。所以如果有人在签名路径上看到 PKCS1 就联想到"不安全、要换 PSS",却把这段历史套到签名上,就找错层了。

其三,PKCS#1 私钥 PEM 格式。PKCS#1 私钥的头是 -----BEGIN RSA PRIVATE KEY-----,PKCS#8 是 -----BEGIN PRIVATE KEY-----。同一个 RSA 密钥两种编码都能表达,只是外层容器不同。如果 openssl 读错格式,报的是 ASN.1 相关错误,而不是签名验证失败。看到 ASN.1 报错时,先回到这一层,不要改 -sigopt。

这一层的结论是:PKCS1 出现在错误信息里,既可能是"签名方案是 v1.5",也可能是"私钥文件是 PKCS#1 编码",两者没有关系。

第二层:PSS 的盐长度,默认值在 3.0→3.1 之间变了

PSS 的编码是 EMSA-PSS(RFC 8017 §9.1)。流程:先对消息取哈希得到 mHash;再取长度为 sLen 的随机盐 salt;令 M' = 8 个 0x00 || mHash || salt,H = Hash(M');令 DB = PS(全零) || 0x01 || salt,dbMask = MGF1(H, emLen - hLen - 1),maskedDB = DB XOR dbMask;把 maskedDB 最高端超出 emBits 的比特清零;最后 EM = maskedDB || H || 0xBC。

这里有三组参数必须双方一致:哈希算法、MGF1 使用的哈希、盐长度。前两个不一致时,报错通常出现在 H 比对阶段;盐长度不一致时,报错正是 salt length check failed。

问题在于盐长度这个默认值本身发生过变化:

  • OpenSSL 1.1.1 与 3.0 在签名时默认使用最大长度的盐,RSA-2048 配 SHA-256 时是 222 字节。
  • OpenSSL 3.1 及之后默认 auto-digestmax,生成与摘要等长的盐,SHA-256 时是 32 字节。

于是就会出现这样的现象:签发方升级了 OpenSSL,验证方仍固定配置了旧的盐长度;或者反过来,验证方升级了 OpenSSL,而签发方还是旧版本。两代版本之间的默认值并不兼容,而签名本身没有任何问题。

下面这段复现使用 OpenSSL 3.6.5:

openssl genpkey -algorithm RSA -pkeyopt rsa_keygen_bits:2048 -out key.pem
openssl pkey -in key.pem -pubout -out pub.pem

openssl dgst -sha256 -sign key.pem -out v15a.sig msg
openssl dgst -sha256 -sign key.pem -out v15b.sig msg
cmp -s v15a.sig v15b.sig && echo "PKCS#1 v1.5: identical signatures" || echo "PKCS#1 v1.5: different signatures"

openssl dgst -sha256 -sign key.pem -sigopt rsa_padding_mode:pss -out pssa.sig msg
openssl dgst -sha256 -sign key.pem -sigopt rsa_padding_mode:pss -out pssb.sig msg
cmp -s pssa.sig pssb.sig && echo "PSS: identical signatures" || echo "PSS: different signatures"

openssl dgst -sha256 -verify pub.pem -sigopt rsa_padding_mode:pss -sigopt rsa_pss_saltlen:digest -signature pssa.sig msg
openssl dgst -sha256 -verify pub.pem -sigopt rsa_padding_mode:pss -sigopt rsa_pss_saltlen:max -signature pssa.sig msg

输出:

PKCS#1 v1.5: identical signatures
PSS: different signatures
verify PSS with rsa_pss_saltlen:digest -> Verified OK
verify PSS with rsa_pss_saltlen:max -> salt length check failed

两条信息量很大。v1.5 两次签名逐字节相同,说明它完全确定性;PSS 两次签名不同,说明盐是随机的,同一份数据不能靠比对签名来验证一致性。而同一个 pssa.sig,用 digest 验通过、用 max 验失败,直接证实了盐长度这一层的独立存在。

验证方设 -sigopt rsa_pss_saltlen:auto 时会从签名中探测实际盐长度。当签名方不受你控制(对接第三方、多版本客户端)时,这是兼容性最好的设置。

外部协议已经把参数固定死的地方,不要再去覆盖:JOSE 的 PS256 固定 SHA-256 + MGF1-SHA-256 + 32 字节盐;TLS 1.3 要求盐长度等于哈希长度。

第三层:v1.5 验签必须重新编码后逐字节比较

回头看第一个报错。v1.5 是确定性签名,验签的正确做法不是"从 EM 里把 DigestInfo 抠出来解析",而是自己用期望的 DigestInfo 重新拼出一个完整 EM,再和签名解出来的字节逐字节比较。

解析式实现的历史事故:

  • Bleichenbacher 2006 针对忽略 DigestInfo 之后多余字节的解析器,在公钥指数为 3 时能成功伪造签名。解析器读到 DigestInfo 就收工,攻击者在尾部追加内容即可。
  • 同类错误在 NSS 重现在,即 2014 年的 BERserk。
  • RFC 8017 §8.2.2 给出的修法就是重新编码期望的块并逐字节比对;FIPS 186-5 §5.4(h) 把 DigestInfo 检查直接写进规范。

所以在 v1.5 这条路径上,"验不过"先怀疑自己的比较是否过严(比如把空的 0xFF 段长度算错、DigestInfo 前缀拼错),而不是先怀疑密钥。反过来,"验得过"也要确认实现是严格重编码,而不是宽松解析。正确实现的 v1.5 验签没有已知的实际伪造方法,历史缺陷全部出在解析太松。

顺带一提两套编码的安全证明差距:PSS 在随机预言模型下可以紧归约到 RSA 问题;v1.5 长期没有可比的结果,直到 2018 年 CCS 的 On the Security of the PKCS#1 v1.5 Signature Scheme 才给出 EUF-CMA 证明,且前提是哈希输出长度取得比通常更长、参数偏离标准用法。FIPS 186-5(2023 年 2 月)把 RSASSA-PSS 列入批准的签名方案,RSASSA-PKCS1-v1_5 只保留用于验证既有签名。

库和云 KMS 各自的标识与默认值

各语言库对这两种方案的命名不一致,跨语言对接时先对标识:

  • OpenSSL:RSA_PKCS1_PSS_PADDING
  • Java JCE:RSASSA-PSS
  • Python cryptography:PSS(mgf=MGF1(hashes.SHA256()), salt_length=PSS.MAX_LENGTH)
  • Web Crypto:RSA-PSS,saltLength 必须显式给

Go 的 crypto/rsa 两条路径分开:

// v1.5:确定性,sign 与 verify 用同一组参数即可
rsa.SignPKCS1v15(rand, priv, crypto.SHA256, hashed)

// PSS:盐长度必须显式选,否则会掉进默认值
rsa.SignPSS(rand, priv, crypto.SHA256, hashed,
    &rsa.PSSOptions{SaltLength: rsa.PSSSaltLengthEqualsHash, Hash: crypto.SHA256})

盐长度常量有三档:PSSSaltLengthAuto(签名时用最大可用长度,验证时自动探测)、PSSSaltLengthEqualsHash(等于哈希长度)、以及一个具体字节数。验证侧用 PSSSaltLengthAuto 才不会因为对方盐长度不同而失败,这与 OpenSSL 里 rsa_pss_saltlen:auto 是同一个道理。

云 KMS 上,AWS KMS 同时提供 RSASSA_PSS_SHA_256 与 RSASSA_PKCS1_V1_5_SHA_256 两种 SigningAlgorithm,必须和验证方预期一致。Azure Key Vault 的 RS256/RS384/RS512 是 RSASSA-PKCS-v1_5,PS256/PS384/PS512 是 RSASSA-PSS;Azure 文档写明 RS256 时"服务器构造 DigestInfo",也就是你传进去的是 32 字节摘要,不是预编码块。把已经编码好的 DigestInfo 再交给 KMS,会得到一层套一层的错误块,验签方看到的则是字节对不上。

JOSE 还有一个约束:一个 kid 只能对应一个 alg。同一份密钥材料要同时被 PS256 和 RS256 使用,必须用不同的 kid 分别发布,或者先轮换。

第四层:算法标识决定这条密钥能不能跨方案用

X.509 里,id-RSASSA-PSS 是 1.2.840.113549.1.1.10,带参数;sha256WithRSAEncryption 是 1.2.840.113549.1.1.11。

用 rsaEncryption 标识的密钥两种签名都能用(TLS 里叫 rsa_pss_rsae);用 id-RSASSA-PSS 标识的密钥被参数限定为只能 PSS(rsa_pss_pss),能防止跨方案误用,但不少工具与部分浏览器支持不好。WebPKI 里的证书签名几乎全是 v1.5 或 ECDSA,所以任何验证方都必须支持 v1.5。

TLS 1.3 的 CertificateVerify 若用 RSA 必须 PSS(rsa_pss_rsae_sha256 0x0804、rsa_pss_pss_sha256 0x0809);v1.5 只允许出现在证书内部的签名(rsa_pkcs1_sha256 0x0401)。RFC 9963(2026 年 4 月)允许遗留客户端密钥使用 v1.5,但默认关闭。

排障与迁移顺序

定位清楚之后,迁移不需要更换密钥:

  1. 先让验证方支持 PSS。JOSE 里为该密钥允许 PS256,用新的 kid 或直接轮换发布。
  2. 显式固定三个参数:SHA-256、MGF1-SHA-256、盐 32 字节。不要依赖任何会随版本变化的库默认值。这是本文所有 salt length check failed 的根源。
  3. 再切换签名方。切换后重点看提到盐长度或填充的验证失败,这类失败几乎都在参数层。
  4. 旧签名过期后停止接受 v1.5,只在证书或第三方强制要求的地方保留。
  5. 如果本来就要轮换密钥,可以一并考虑 ECDSA P-256 或 Ed25519。

排障时按层核对会更快:先确认 PEM 头是 BEGIN RSA PRIVATE KEY 还是 BEGIN PRIVATE KEY,再确认签名方案是 v1.5 还是 PSS,然后核对三个 PSS 参数或 v1.5 的 DigestInfo 前缀,最后检查比较逻辑是不是严格重编码。报错里出现 PKCS1 三个字,不代表它在说签名方案。

复制全文 生成海报 PKCS1 RSA PSS OpenSSL 签名验签 密码学

推荐文章

程序员茄子在线接单