2026 年 10 月初，OpenAI 一次性公开了 722 篇数学手稿（归为 372 个结果家族），全部产自一个未发布的内部模型。这批成果横跨几何、数论、调和分析、理论计算机科学等 17 个方向，其中最让算法圈炸锅的，是三个”打破复杂度墙”的结果：矩阵乘法指数、整数乘法、离散傅里叶变换。本文是三篇系列的第一篇，讲与 GEMM 直接相关的那一个：矩阵乘法指数被降到 9/4。

一句话版本：自 Coppersmith–Winograd 1987 年以来，全世界的算法学家花了近四十年把矩阵乘法指数从 2.376 磨到 2.371177，每年节省第四位小数点。这个模型一步跳到 2.25。

官方报告翻译（核心部分）

以下内容译自 OpenAI 发布的论文《An Upper Bound of 9/4 for the Matrix Multiplication Exponent》（2026 年 10 月 2 日），包含标题、摘要、主定理与引言的核心段落。

标题：矩阵乘法指数的一个 9/4 上界

摘要：我们证明复数域上矩阵乘法的指数至多为 9/4。

定理 1.1：对任意 \(\varepsilon>0\)，两个 \(n\times n\) 复矩阵可以用 \(O_\varepsilon(n^{9/4+\varepsilon})\) 次标量算术运算相乘。特别地，\(\omega\le 9/4\)。

引言（节译）：

矩阵乘法指数 \(\omega\) 是满足如下条件的实数 \(\tau\) 的下确界：对每个 \(\varepsilon>0\)，两个 \(n\times n\) 矩阵可以在 \(O_\varepsilon(n^{\tau+\varepsilon})\) 次标量算术运算内完成相乘，其中 \(n\) 趋于无穷，算法及其常数可以依赖于 \(\varepsilon\)。

Strassen 针对二阶矩阵的七乘积算法表明，递归可以将算术指数降到三以下。双线性算法可以表示为三线性系数阵列（即张量）；线性替换与张量积随后表达了归约与递归复合。近似双线性算法扩大了可用构造的范围，而 Bini 的插值论证将其转化为精确的渐近算法。Schönhage 的渐近和不等式将独立矩阵乘积的高效同时计算转化为指数的界。Strassen 的激光方法从张量幂中提取此类独立乘积。他的渐近谱理论通过一组与求和、乘积和限制相容的数值不变量来描述渐近张量比较。

Coppersmith 与 Winograd 将张量幂与无进度集合（不含长等差数列的集合）结合，从辅助形式中提取独立乘积。Stothers、Vassilevska Williams 与 Le Gall 发展了高次幂分析，其中 Le Gall 将其表述为凸优化。Alman 与 Vassilevska Williams 精化了独立分量的提取。Duan、Wu 与 Zhou 分析了跨递归层组合分量造成的损失。Vassilevska Williams、Xu、Xu、Zhou 以及 Alman 等人的进一步非对称分析改进了最终界。Dupont 等人通过优化这一组合损失框架，报告了 \(\omega<2.371177\)。

本证明将显式张量退化与谱观点相结合。它先为多项式乘法上的特征值导出不等式，再用其离散增长来限制矩阵乘法上的取值。插值、按指定频率计数单词、以及张量腿的平衡，沿袭了早期张量幂方法中的角色。这里的中心有限构造分离出在三条腿中的两条上已经拥有独立变量的块。

（overview 目录中的官方描述）：证明 \(\omega\le 9/4\)（复数域上），给出平方矩阵乘法的 \(O_\varepsilon(n^{9/4+\varepsilon})\) 次算术运算。特征零域上，内维 \(n^a\)（\(a>0.465\)）允许 \(n^{2+o(1)}\) 的矩形乘法。进一步的平方界给出：除有限多个正特征外 \(\omega<2.258\)，且对所有固定域 \(\omega<2.371054886006746\)。

背景知识：ω 是什么，为什么它难降

矩阵乘法的复杂度由一个数决定。定义

\[ \omega=\inf\{\tau:\ n\times n\ \text{矩阵乘法在 } O(n^{\tau+\varepsilon}) \text{ 次运算内可完成}\} \]

它只依赖域的选择（复数域上是 \(\omega(\mathbb{C})\)）。平凡下界是 2（输出本身有 \(n^2\) 个自由度——严格论证来自张量的平坦化秩）。四十年来的历史是一部”第四位小数战争”：

• 1969 Strassen：\(\omega\le 2.807\)
• 1978 Pan：\(\omega\le 2.796\)；1979 Bini 等：\(\omega\le 2.780\)（近似算法 + 插值路线）
• 1981 Schönhage：\(\omega\le 2.522\)（渐近和不等式）
• 1987/1990 Coppersmith–Winograd：\(\omega\le 2.376\)（激光方法，会议版 1987、期刊版 1990）
• 2010–2014 Stothers / Vassilevska Williams / Le Gall：\(\omega\le 2.373\)（CW 张量的高次幂分析）
• 2023–2026 现代优化接力：Duan–Wu–Zhou \(2.371866\) → Williams 等 \(2.371552\) → Alman 等（2025）\(2.371339\) → AlphaEvolve（Dupont 等，2026 年 8 月）\(2.371177\)，即当前公开纪录

注意最后这段：从 1987 年起，近四十年间总共只磨掉了 0.005。行内共识是 CW 张量及其推广已接近榨干，2018 年起一系列”障碍定理”（barrier）论文甚至证明了激光方法及其推广在 CW 张量上无法达到 \(\omega=2\)。然后这个模型直接交出 2.25。

为什么 2.25 这个数字惊人：它不是第四位小数的战争，是一次结构性跳跃。它把距理论极限 2 的距离砍掉了约三分之一。

工具一：双线性算法就是张量——从矩阵到三线性形式

这一节把论文默认读者已掌握的语言展开讲清楚。你只需要研究生矩阵理论：线性空间、基、双线性形式、矩阵秩。我们一步步搭。

1.1 从 Strassen 的七个乘积说起

先看这个领域真正的起点。矩阵乘法 \(C=AB\) 的每个元素 \(c_{ik}=\sum_j a_{ij}b_{jk}\) 是关于两组输入各线性的——这是双线性映射。朴素算法做 \(n^3\) 次标量乘法。1969 年 Strassen 观察到，分块之后只需要 7 个”块乘积”而不是 8 个：

\[ \begin{aligned} M_1&=(A_{11}+A_{22})(B_{11}+B_{22}) & M_5&=(A_{11}+A_{12})B_{22}\\ M_2&=(A_{21}+A_{22})B_{11} & M_6&=(A_{21}-A_{11})(B_{11}+B_{12})\\ M_3&=A_{11}(B_{12}-B_{22}) & M_7&=(A_{12}-A_{22})(B_{21}+B_{22})\\ M_4&=A_{22}(B_{21}-B_{11}) \end{aligned} \]

\[ \begin{aligned}C_{11}=M_1+M_4-M_5+M_7,\quad C_{12}=M_3+M_5,\\ C_{21}=M_2+M_4,\quad C_{22}=M_1-M_2+M_3+M_6. \end{aligned}\]

把 \(2\times 2\) 换成 \(s\times s\) 的块，得到递归 \(T(n)=7T(n/2)+O(n^2)\)，解出 \(T(n)=O(n^{\log_2 7})=O(n^{2.807})\)。乘法次数从 8 降到 7，指数从 3 降到 \(\log_2 7\)。

核心洞察：块本身可以是任何环形代数对象。递归的每一层在做的都是同一个代数操作——把”计算一个双线性映射”的成本，归约到”计算若干个更小的双线性映射”。

1.2 把双线性映射写成三线性形式

现在把上面这件事代数化。设 \(U,V,W\) 是三个有限维线性空间，双线性映射 \(\beta:U\times V\to W\)。取基后，\(\beta\) 由一组三下标系数完全描述：

\[ \beta(x,y)=\sum_{i,j,k} t_{ijk}\, x_i y_j z_k\ \text{（配对到输出坐标 } z_k\text{）}. \]

这组系数 \(t_{ijk}\) 就是一个三阶张量（在计算机科学家嘴里，”张量”常常就是指这个三维系数阵列）。它是一个三线性型 \(T(x,y,z)=\sum t_{ijk}x_iy_jz_k\)。

双线性算法的秩：一个计算 \(\beta\) 的算法若使用 \(r\) 次标量乘法，就可以写成

\[ T(x,y,z)=\sum_{\ell=1}^{r} \Big(\sum_i a_{\ell i}x_i\Big)\Big(\sum_j b_{\ell j}y_j\Big)\Big(\sum_k c_{\ell k}z_k\Big), \]

即 \(r\) 个”秩一”三线性项之和（每个秩一项是三条腿上各一个线性型的乘积）。反之任何这样的分解都给出算法。所以：计算 \(\beta\) 所需的最少乘法次数 = \(T\) 的张量秩 \(R(T)\)。Strassen 的构造说的就是：\(2\times 2\) 矩阵乘法张量（这是个 \(4+4+4\) 维的三线性形式）的秩是 7，不是 8。

矩阵乘法张量的显式形状（论文式 (2.2)）：

\[ T_n=\sum_{i,j,k=1}^{n} x_{ij}\, y_{jk}\, z_{ki}, \]

三组变量分别索引 \(A\)、\(B\)、\(C\) 的元素。它的秩 \(R(T_n)\) 介于 \(n^2\)（平凡下界）与 \(n^3\)（朴素上界）之间。定义秩指数

\[ \nu=\inf_{n\ge 2}\log_n R(T_n), \]

则 \(\omega=\nu\)（这是本领域的标准转换，论文第 5 节末尾完成算术化）。求更好的乘法算法 = 求更低的张量秩 = 在张量空间里做代数几何。

1.3 三个代数操作：限制、直和、张量积

Strassen 之后的一切进展都建立在三个操作上：

限制（restriction）：对三条腿分别做线性替换 \(x\mapsto \phi(x)\)（\(y,z\) 同理）。若张量 \(B\) 能这样从 \(A\) 得到（记 \(A\ge B\)），则会算 \(A\) 就会算 \(B\)——把 \(B\) 的输入先做线性替换，喂给 \(A\) 的算法，输出再做线性替换。秩在限制下单调：\(A\ge B\Rightarrow R(A)\ge R(B)\)。

直和（direct sum）：变量组不相交的两个张量 \(A\oplus B\)，对应”同时独立地算两件事”。秩显然次可加，但不必然可加——这个”秩的可加性问题”本身就是代数复杂度的核心难题。

张量积（tensor product）：\((A\otimes B)(x\otimes x’,y\otimes y’,z\otimes z’)=A(x,y,z)\cdot B(x’,y’,z’)\)。它对应算法复合：用 \(A\) 的算法调 \(B\) 的算法。秩次可乘：\(R(A\otimes B)\le R(A)R(B)\)。

关键的递归结构在这里：对矩阵乘法张量有恒等式 \(T_n\otimes T_m=T_{nm}\)（把 \(n\times n\) 块的每个元素换成 \(m\times m\) 子矩阵）。所以若你能把 \(T_n\) 分解成 \(r\) 个秩一项（即 \(R(T_n)\le r\)），递归应用给出 \(R(T_{n^k})\le r^k\)，指数 \(\log_n r\)。Strassen 递归的代数本质就是秩的次可乘性。

1.4 渐近秩与近似算法（Bini 的 \(\varepsilon\)-技巧）

有些构造给不出精确的限制分解，只能给”带参数 \(\varepsilon\) 的近似”：一个退化族 \(F(\varepsilon)=B+\varepsilon F_1+\cdots+\varepsilon^L F_L\)，对每个非零 \(\varepsilon\) 都是 \(A\) 的限制。Bini 1979 年的插值论证把它转成精确算法：

把 \(F(\varepsilon)^{\otimes j}\) 看作 \(\varepsilon\) 的次数 \(\le jL\) 的多项式，其常数项恰是 \(B^{\otimes j}\)。在 \(jL+1\) 个不同的非零 \(\varepsilon\) 点求值，用多项式插值（对偶 Vandermonde）解出常数项——它是这些求值的固定线性组合。而”张量的固定线性组合”可以实现为”直和的限制”（识别对应变量、把标量系数吸收进一条腿）。于是

\[ R(A)^{j}\ \ge\ \frac{R(B^{\otimes j})}{\text{插值开销}}\ \Longrightarrow\ \tilde R(A)\ge \tilde R(B), \]

其中渐近秩 \(\tilde R(A)=\lim_{j\to\infty} R(A^{\otimes j})^{1/j}\)（极限由 Fekete 引理存在，因为 \(\log R\) 次可加）。这个”允许除以多项式因子”的松弛正是渐近理论 \(\omega\) 而非精确秩 \(R\) 的世界。Bini 用它证明了 \(\omega<2.780\)，也是本论文引言里”近似算法 + 插值路线”的含义。

1.5 Schönhage 的渐近和不等式（一句话）

若你能高效地同时计算一批不同尺寸的矩阵乘积（一个”直和”），则可以换算出单一尺寸的指数界。这是 1981 年把指数打进 2.522 的工具，也是后面”熵不等式”的直系祖先——后者本质上是它的连续化、谱化版本。

工具二：Strassen 的渐近谱——把”算法比较”变成”数值计算”

2.1 商半环上的序

把所有张量按”互为限制”分类，得到等价类集合 \(\mathcal S\)。直和与张量积诱导 \(\mathcal S\) 上的加法与乘法，限制诱导偏序，三者相容：\(\mathcal S\) 是一个交换有序半环。矩阵理论出身的读者可以这样类比：\(\mathcal S\) 之于张量，像”正元素集合”之于矩阵的谱——问题从”比较对象”变成”比较数值不变量”。

张量特征（tensor character）：一个映射 \(\lambda:\mathcal S\to\mathbb R_{\ge 0}\)，满足（1）\(\lambda(A\oplus B)=\lambda(A)+\lambda(B)\)（加法）；（2）\(\lambda(A\otimes B)=\lambda(A)\lambda(B)\)（乘法）；（3）\(A\ge B\Rightarrow \lambda(A)\ge\lambda(B)\)（单调）；（4）\(\lambda(1)=1\)（归一）。

一个现成的例子：腿平坦化秩（flattening）。把张量 \(T\) 沿某条腿（比如第一条）切成矩阵——行索引第一条腿的坐标，列索引另外两条腿的合并坐标——取矩阵秩。它对三条腿分别给出 \(R_X(T),R_Y(T),R_Z(T)\)，且对对偶基做归一化后可以配成特征（论文用 \(R_X^{1/p_X}R_Y^{1/p_Y}R_Z^{1/p_Z}\) 的加权几何平均形式，指数 \(p_X+p_Y+p_Z=1\)；\(p_X\) 称为该特征的首腿点积指数，衡量它对首腿点积 \(B_X\) 的敏感度）。

2.2 检测特征：证明下界的”探针”

引理 2.2（检测特征）：对每个 \(d\ge 2\) 与每个 \(k<d^\nu\)，存在一个特征 \(\lambda\) 使 \(\lambda(T_d)\ge k\)。

含义：张量秩的下界论证（”这个张量不便宜”）可以单点完成——不需要知道整个证明结构，只需要存在一个特征在 \(T_d\) 上取到大值。证明（论文附录 A）在渐近谱框架内直接构造：考虑满足 \(\lambda(T_d s)\ge k\lambda(s)\) 的状态族，用 Schauder–Tychonoff 不动点定理在紧凸状态族中压出一个乘法的极值点——特征。这和”凸紧集上连续自映射必有不动点”（Brouwer 的无穷维推广）是同源的论证，矩阵理论课上学过的谱定理在这里的对应物是：极值点是乘法的。

2.3 谱方法的整体逻辑

Strassen 的谱定理（1986–1991 系列论文，核心是 1987 年《The asymptotic spectrum of tensors》）说：渐近比较 \(A\gtrsim B\) 成立当且仅当所有特征上 \(\lambda(A)\ge\lambda(B)\)。于是证下界（\(A\not\gtrsim B\)）只需一个特征当探针；证上界（构造算法）要对所有特征同时压低。这篇论文的路线：对每个特征，把 \(T_d\) 的取值 \(d^{3t}\)（见下）压到 \(d^{9/4}\)——覆盖所有探针，界就成立。这与激光方法的区别是本质的：激光方法是”从大张量里挖出大量独立矩阵乘积”的组合优化，收益受 CW 型燃料张量的结构限制（2018 年起的 barrier 论文证明了它的天花板）；而谱方法把问题重写成”对所有线性泛函一致地验证不等式”，自由度大得多。

技术解析：核心三步的完整展开

论文的证明链条是：分离构造 → 两条多项式不等式 → 对角增长 → 压出指数。前三节我们补齐了语言，现在按论文 §3–§5 完整走一遍。

第一步：分离——把共享变量的块变成独立块（论文命题 3.1）

问题：张量构造中常见的情形是”有用的块共享某条腿上的变量”。要把它们加起来高效计算，需要变量组完全独立（直和）。直接给每个块复制独立的 \(X\)-空间？做不到——限制只允许固定线性替换，不允许”看数据”。

构造：设 \(A=\sum_{h=1}^{M} A_h\)，其中 \(A_h\in X\otimes Y_h\otimes Z_h\)，各 \(Y_h\)、各 \(Z_h\) 变量组不相交，但全体共享同一个 \(X\)。取 \(L=5M\)，取 \(L\) 次本原单位根 \(\zeta\)。造 \(L\) 份拷贝，第 \(r\) 份做如下替换（\(g,u,v\in\{1,\dots,M\}\) 是新引入的”扇区标签”坐标）：

\[ x_a^{(r)}\mapsto \sum_{g=1}^{M}\zeta^{2rg}X_{a,g}\]

\[ y_{h,b}^{(r)}\mapsto \sum_{u=1}^{M}\zeta^{r(u-h)}Y_{h,b,u}\]

\[ z_{h,c}^{(r)}\mapsto \sum_{v=1}^{M}\tfrac{1}{L}\zeta^{r(-v-h)}Z_{h,c,v}. \]

三条腿的相位都只依赖各自腿上的指标——这是合法性。现在把 \(L\) 份全部加起来。每个目标系数被乘上几何级数

\[ \frac{1}{L}\sum_{r=0}^{L-1}\zeta^{r\,[\,u-v+2(g-h)\,]}=\begin{cases}1,& u-v+2(g-h)\equiv 0\pmod L\\ 0,&\text{否则}\end{cases} \]

（这是有限 Fourier 分析：正交字符的求和是零化子）。由于 \(|u-v+2(g-h)|\le 3(M-1)<L\)，同余就是相等，幸存项恰好满足

\[ u-v+2(g-h)=0.\tag{3.2} \]

关键一步：用权重强制标签正确。给目标变量加权

\[ w(X_{a,g})=g^2,\qquad w(Y_{h,b,u})=hu-h^2,\qquad w(Z_{h,c,v})=-hv. \]

在每条幸存项上，由 (3.2)：\(g^2+hu-h^2-hv=(g-h)^2\ge 0\)。取零权部分（退化取 0 次项——对应”令辅助变量 \(\varepsilon\to0\) 后保留常数项”），不等式强制 \(g=h\)：暂定标签必须等于真实扇区。此时每块的剩余自由度 \(u=v\) 恰好给首腿留下一个 \(M\) 维点积 \(B_X(M)\)（\(\sum_{u}X_uY_uZ_u\) 型）。结论：

\[ A^{\oplus 5M}\ \rightsquigarrow\ \bigoplus_{h=1}^{M} A_h\otimes B_X(M). \tag{3.1} \]

5 份输入换来 \(M\) 个全独立块（每块自带点积）。这就是”标签失配的平方”：失配 \(g\ne h\) 的项带着正权 \((g-h)^2\)，在零权切片中被精确切除。

熵不等式（推论 3.2）：对任意概率向量 \(q\)，对任意特征 \(\lambda\)：

\[ \lambda\Big(\sum_{i=1}^{s}T_i\Big)\ \ge\ e^{p_X H(q)}\prod_{i=1}^{s}\lambda(T_i)^{q_i},\qquad H(q)=-\sum_i q_i\log q_i. \]

推导要点（论文 §3 末）：对 \(T^{\otimes N}\)，在第二、三条腿上只保留”扇区 \(i\) 出现 \(Nq_i\) 次”的字。这种字的个数是多重组合数 \(\binom{N}{Nq_1,\dots,Nq_s}\)，由 Stirling 公式 \(\approx e^{NH(q)}\)；每个幸存张量是各 \(T_i^{Nq_i}\) 的乘积，特征值 \(\prod\lambda(T_i)^{Nq_i}\)。分离构造（3.1）把”频率受限的字的个数”转成”独立块的个数”，取 \(N\) 次根即得。熵因子 \(e^{p_XH(q)}\) 就是”多路复用的增益”——它精确量化了”共享一条腿”比”完全独立”多出多少有效并发。

第二步：多项式乘法的两条不等式（论文引理 4.1、4.2）

现在把分离用在多项式乘法上。定义（论文式 (4.1)）：

\[ C(a,b)=\sum_{i=0}^{a-1}\sum_{j=0}^{b-1} x_i\,y_j\,z_{i+j}, \]

即次数 \(a-1\) 与 \(b-1\) 的齐次多项式乘法，配上输出空间的对偶。这个张量有一个漂亮的事实：它的秩精确等于 \(a+b-1\)。上界：在 \(a+b-1\) 个不同点求值、相乘、插值还原；下界：沿输出腿展平成 \(a\times b\) 的单项式矩阵，秩 \(a+b-1\)。

对每个特征 \(\lambda\)，把它的六种腿置换 \(\pi\in S_3\) 版本 \(\lambda^\pi\) 全部乘起来，开 \(1/(6t)\) 次方（\(t=(p_X+p_Y+p_Z)/3\) 是平均点积指数），得到对称剖面

\[ P(a,b)=\Big(\prod_{\pi\in S_3}\lambda^\pi\big(C(a,b)\big)\Big)^{1/(6t)}. \]

六置换对称化是张量幂分析的标准”配平”技巧（让结论对腿交换不敏感）。立即可得三条性质（(4.5)）：\(P(a,b)=P(b,a)\)；\(P(1,b)=b\)（单点就是首腿点积）；\(P(a,b)\le(a+b-1)^{1/t}\)（秩界的六重连乘）。

还需要两条增长性质。

引理 4.1（离散凹性）：\(2P(a,b)\ge P(a,b+1)+P(a,b-1)\)。证明的几何核心是行列式过滤：考虑 \(C(a,b)\otimes B_X(2)\)，它表示带一个二维辅助变量的乘法 \(V_{a-1}\times(V_{b-1}\otimes W_1)\to V_{a+b-2}\otimes W_1\)。取 \(D=uw-vs\)（行列式！），有正合列

\[ 0\to D\,V_{e-1}\to V_e\otimes W_1\to V_{e+1}\to 0 \]

（核恰是 \(D\) 的倍数——这是经典 Clebsch–Gordan 分解的一次截断）。在商空间和核空间上各选一组基，乘法映射的矩阵呈分块三角形状，两个对角块恰好是 \(C(a,b+1)\) 和 \(C(a,b-1)\)，且它们共享首腿、其余两腿变量不相交——正是分离构造的输入形状！给商坐标权 0、核坐标 ±1，权零部分就是这两个块的直和。套熵不等式并对 \(q\) 取最优（加权 AM–GM 的经典最优点 \(q\propto(A,B)\)，最优值 \(=A+B\)），得凹性。

引理 4.2（平移三倍）：\(P(a,\,3h+a-1)\ge 3P(a,h)\)。证明是三扇区划分：把 \(Y\) 与 \(Z\) 指标各分成左/中/右三段（长度 \(h\)、\(h+a-1\)、\(h\)）。关键的组合观察：左段 \(Y\)-指标强制左段 \(Z\)-指标（因为 \(x+y\le h+a-2\) 不可能跳到中段），右段同理——所以左右扇区的项不会”串味”。权零部分恰好是三个匹配扇区：两个外侧扇区经平移就是 \(C(a,h)\)，中间扇区是 \(C(a,h)\) 交换二、三腿再反转首腿基。对三个扇区用均匀分布 \(q=(1/3,1/3,1/3)\) 的熵不等式，六置换连乘开方，得三倍不等式。

第三步：对角增长——纯初等推理压出 \(a^{4/3}\)（论文引理 5.1）

设 \(P\) 对称、\(P(1,b)=b\)、满足凹性与三倍性。要证 \(P(a,a)\ge a^{4/3}\)。整个证明只有初等运算：

凹性 ⟹ 对固定 \(a\)，增量 \(\Delta_{a,h}=P(a,h+1)-P(a,h)\) 关于 \(h\) 不增。记 \(D_a=P(a,a)\)，\(H_a=2D_a/(3a-1)\)。三倍性取 \(h=a\)：

\[ 2D_a\ \le\ P(a,4a-1)-D_a=\sum_{h=a}^{4a-2}\Delta_{a,h}\ \le\ (3a-1)\,\Delta_{a,a}, \]

（第二个不等号用增量不增：区间内最大的增量是左端点）所以 \(\Delta_{a,a}\ge H_a\)。对称性 + 凹性给出相邻对角元的差：

\[ D_a-D_{a-1}=\Delta_{a-1,a-1}+\Delta_{a,a-1}\ \ge\ H_{a-1}+H_a. \]

代入 \(D_a=(3a-1)H_a/2\) 整理，得迭代式 \(H_a\ge\big(1+\tfrac{1}{3(a-1)}\big)H_{a-1}\)，从 \(H_1=1\) 起展开：

\[ H_a\ \ge\ \prod_{m=1}^{a-1}\Big(1+\frac{1}{3m}\Big)\ \ge\ \Big(\prod_{m=1}^{a-1}\Big(1+\frac{1}{m}\Big)^{1/3}\Big)\ =\ a^{1/3}, \]

中间一步用了初等不等式 \(\big(1+\tfrac{1}{3m}\big)^3\ge 1+\tfrac{1}{m}\)（展开验算即可）。最后 \(D_a\ge aH_a\ge a^{4/3}\)。（因为 \((3a-1)/2\ge a\)。）

收尾（论文定理 1.1 的证明）：联合 \(a^{4/3}\le P(a,a)\le(2a-1)^{1/t}\)，令 \(a\to\infty\) 得 \(t\le 3/4\)。而矩阵乘法张量在每个特征上取值 \(\lambda(T_d)=d^{3t}\)——这里有个一行的漂亮论证（论文式 (2.4)）：三个对角张量的积 \(B_X(m)B_Y(m)B_Z(m)\) 的单项式是 \(x_{bc}y_{ac}z_{ab}\)，按 \((a,b,c)\in[m]^3\) 重排变量后恰好同构于 \(T_m\)，故 \(\lambda(T_m)=\lambda(B_X)\lambda(B_Y)\lambda(B_Z)=m^{p_X+p_Y+p_Z}=m^{3t}\)。于是 \(t\le 3/4\) 即 \(\lambda(T_d)\le d^{9/4}\) 对所有特征成立。再用检测特征引理（§2.2）：对 \(k_d=\lceil d^\nu\rceil-1\) 存在特征 \(\lambda(T_d)\ge k_d\)，故 \(d^\nu\le d^{9/4}+1\)，令 \(d\to\infty\) 得 \(\nu\le 9/4\)。

算术化：把秩界转成算法。固定 \(\varepsilon\)，取 \(\delta<\varepsilon\)，由 \(\nu\) 的定义存在 \(u\) 与长度 \(r<u^{9/4+\delta}\) 的 \(T_u\) 精确秩分解。对 \(N=u\) 的幂递归应用（块套块），\(S(N)\le r\,S(N/u)+C(N/u)^2\)，求和得 \(S(N)=O(N^{\log_u r})=O(N^{9/4+\varepsilon})\)。一般 \(n\) 填充到下一个 \(u\) 的幂，常数因子 \(u\) 被吸收。论文注 5.2 还确认系数可全取自一个数域（用 Nullstellensatz：有理系数方程组有复解则有代数解）。

整个证明的组织方式值得玩味：它没有去优化任何已知的激光方法变体，而是把”乘法复杂度”整体搬到谱上，让组合构造（分离）和分析构造（增长估计）分工。这更像一个新范式下的第一篇文章，而不是旧范式下的最后一篇——通常这类突破之后，参数和构造都还有大幅打磨空间。

同家族的后续结果

722 手稿中，家族 107 还包含两篇配套论文：

• 《Complex Matrix Multiplication Below 2.258 and Rectangular Bounds》 ：除有限多个正特征外的所有域 \(\omega<2.258\)，以及矩形乘法界——内维 \(n^{0.465}\) 以上可以实现 \(n^{2+o(1)}\)（即”对偶指数” \(\alpha>0.465\)，这是衡量”矩阵乘法能否做到 2″这一终极问题的指标）
• 《Staggered extraction for exact matrix multiplication over every field》 ：对所有固定域（含正特征域与有限域）\(\omega<2.371054886006746\)

注意最后这条对所有域成立的界，数值上仍优于公开文献的 2.371177。

验证状态：形式化了什么、没形式化什么

这个结果是三篇中形式化程度最高的。OpenAI 为其发布了 Lean 形式化，官方说明明确写道：复数域平方指数 \(\omega(\mathbb{C})\le 9/4\)、对偶指数 \(\alpha>0.465\)、矩形指数界、以及所有域上的 \(\omega(F)<2.371054886006746\) 均已形式化，且”无数值不等式留作假设”（no numerical inequalities remain as hypotheses）——即机器检查的证明里，所有分析不等式都被显式验证。Lean 证明附带 Comparator 挑战文件，第三方可独立运行验证。

GEMM 在真实硬件上发生了什么：为什么 cuBLAS 不受任何影响

以上是数学。现在回答工程问题：这个结果到底会不会改变任何一行 CUDA 代码？ 短答案是不会。但”为什么不会”值得讲透，因为它触及理论复杂度与硬件实现的根本错位。

cuBLAS 的 GEMM 栈到底在做什么

现代 GPU 上一次 \(C=A\times B\) 的调用，从上到下大致是四层：

1. cuBLAS / CUTLASS 层 ：把 \(n\times n\) 的问题切成网格级的 tile（每个 SM 分一块输出），再切成 CTA tile、warp tile，决定 split-K、swizzle 次序、流水线深度。这一层全是 调度与数据搬运的优化 。
2. Warp 层编排 ：每个 warp 用寄存器里的分片喂张量指令。
3. 张量指令（PTX mma/wgmma） ：一条指令完成一个小规模的乘加簇（如 FP16 常见的 \(16\times 8\times 16\) 形状：16×16 与 16×8 的分片相乘累加到 16×8 的累加器）。
4. Tensor Core 微架构 ：芯片内是脉动（systolic）式的数据流——乘法器阵列固定排布，操作数沿两个方向流动，每个时钟拍完成一整片乘加。

这套栈的优化目标只有一个：算术强度（arithmetic intensity）。GEMM 在大 \(n\) 下是计算受限的：要把 FP16 峰值喂饱，每读一个字节至少要产出数百次浮点运算。HBM 带宽与峰值算力的比值决定了必须靠分块复用（一个 tile 读进共享内存/寄存器后被复用多次）来达到强度。所以整个栈的结构性事实是：瓶颈不是”乘法做了几次”，而是”数据搬了几次”。

Strassen 在 GPU 上的实测：能快，但收益封顶

快速矩阵乘法不是没人试过。Huang、Smith、Henry、van de Geijn 在 SC’16 的《Strassen’s Algorithm Reloaded》系统研究过 GPU 上的 Strassen：通过通信避免的调度（中间量不落 HBM），一两层递归的 Strassen 在大矩阵上确实跑赢过当时的 cuBLAS DGEMM；后续工作（2020 年，V100 上）报到一层 Strassen 相对 cuBLAS SGEMM 最高约 1.11× 加速、交叉点约在 \(n=1536\)。但这条路线在两三层递归后收益就封顶，原因不在乘法次数，而在于：

• 中间量内存膨胀 ：一层 Strassen 需要 7 个子矩阵乘积与 18 次左右的块加/减（Winograd 变体可压到 15），中间量数量远超 3；递归每加一层，工作集按 \(7/4\) 比例膨胀，L2/共享内存装不下，就退化回 HBM 流量——算术强度优势蒸发。
• 加减链不匹配张量指令的数据流 ：Tensor Core 的设计假设是”规则分片、稠密乘加、累加器长驻寄存器”。Strassen 的递归要求在乘加之间插入大块加减与重组，这些操作要么占用本可用来做乘法的指令发射槽，要么把数据搬出寄存器再搬回来。
• 数值误差增长 ：Bini–Lotti 建立了快速乘法算法的误差分析框架，Higham 的系统分析表明 Strassen 型算法的误差因子随递归层数增长（每层引入常数因子的增长），层数一深误差显著大于经典算法。对 FP16/BF16 这种本身就只有十几位有效数字的精度，递归几层后快速算法的误差就可能吞掉全部并行收益——而张量核生态恰恰以低精度为主战场。

这三条是 Strassen（\(\omega=2.807\)，最温和的快速算法）的实测命运。而 2.25 的算法在工程上比 Strassen 恶劣得多：

为什么 ω≤9/4 的算法连”试一试”的资格都没有

论文自己写明：定理 1.1 关乎渐近算术指数，其证明不指定有竞争力的有限矩阵尺寸。具体拆开是四重不兼容：

1. 交叉点在天文数字之外 。算法给出的递归树要在 \(n\) 远超任何可存储矩阵的规模时才能体现出 \(n^{2.25}\) 对 \(n^{2.3714}\) 的优势；在小 \(n\) 段，巨大概率常数完全主导。CW 型算法的交叉点估算（涉及 \(2^{\text{几十}}\) 量级的张量幂展开）本来就是笑谈，谱方法版本没有本质改善。
2. Bini 型近似的数值行为 。整个 \(\omega<2.37\) 时代的构造（包括本篇的分离退化）都依赖”近似分解 + 插值恢复精确”的 Bini 技巧。插值要求在多个 \(\varepsilon\) 点求值再做对偶 Vandermonde 组合——组合系数巨大且相消，浮点实现里这是灾难性的精度损失源。渐近算法在算术电路模型里”免费”的除以多项式因子，在浮点硬件上要用精度偿还。
3. 系数本身 。Remark 5.2 说明系数可以取自一个数域，但它们仍是特定的代数数；递归每层都带这些系数的线性组合，精度需求随深度增长。
4. 数据流不可映射 。谱方法的构造是”分离 + 熵调度”的组合对象，它给出的算法呈深递归、不规则分块、乘加与重组交错的长链 DAG——与”规则 tile、浅流水、稠密 mma”的脉动式硬件完全两个世界。真要映射，调度器需要在大 \(n\) 下管理指数级展开的子问题树，寄存器分配与同步开销远超收益。

那理论到底有什么用：三个真实的出口

出口一：复杂度理论的”基建”。\(\omega\) 的每一次跳变都改变一批依赖它的结论。最直接的例子：全源最短路（APSP）与一批图算法的最优界通过矩形乘法指数与 \(\omega\) 联动；\(\alpha>0.465\)（对偶指数）这类矩形界一旦改善，依赖矩形乘法的算法（比如 Zwick 型 APSP 的界）全部跟着动。此外，”激光方法有天花板”曾是笼罩整个领域的 barrier 定理阴影——现在证明天花板可以绕过，这个信息本身改变研究路线图。

出口二：乘法真的昂贵的那些地方。算术复杂度模型”乘法与加法同价”的假设在三个现实场景里是假的：(a) 同态加密（HE）——密文乘法比密文加法贵 1–2 个数量级，HE 里的线性代数协议真实受益于乘法次数的减少；(b) 超长精度数论计算（密码学、计算数论），乘法是主导成本；(c) 未来的模拟/存内计算阵列，若乘加的能量比拉大到与复杂度理论假设相称，”减少乘法”就第一次变成物理命题。

出口三：新硬件会不会为 ω 设计？ 直说判断：不会有面向 9/4 的 GEMM 硬件，原因是上面的四重不兼容没有一条是”硬件努力一下”能解决的——它们是算法结构（深递归、插值恢复、代数数系数）与物理实现（规则数据流、有限精度、有限存储层次）的错位。更现实的方向恰好相反：硬件正在朝”让乘法更便宜”走（脉动阵列、低精度张量核、稀疏加速），这直接缩小理论算法的用武之地。真正值得留意的是通信视角的遗产：Ballard–Demmel 等人证明过 Strassen 类算法在同等乘法次数下通信量更少（通信最优），这说明”快速算法的结构”对数据搬运有独立价值——如果有新硬件从”减少数据搬运”而非”减少乘法”的角度重新发明 GEMM（比如近存计算 + 深组合逻辑），Strassen 型浅层递归是已经在货架上的素材。但那仍是 Strassen 的遗产，不是 9/4 的。

一句话总结这一节：9/4 是写给数学的，不是写给 cuBLAS 的。 工程侧的 GEMM 进步仍将来自数据流与精度（张量核微架构、FP8/FP4、稀疏化、更好的调度），理论侧的 9/4 则改变我们对”乘法本身有多便宜”的认知上限，以及一批下游复杂度结论。两条线在可预见的未来不会交叉。

一句话收束：GEMM 指数的故事，从 1969 年 Strassen 的七乘积开始，到 2026 年 8 月 AlphaEvolve 把纪录磨到 2.371177、人们以为这个框架的极限就在附近，再到 2026 年 10 月一个未发布的模型用一套重构过的谱方法直接砍到 2.25。\(\omega=2\) 的终点线，第一次看起来不那么远了。