mHC 宏观拓扑流程图

mHC 不改 Attention/FFN 的计算本体，而是改造残差流之间的读、混合、写。

残差流从 1 条扩到 n 条 主干计算仍是 C 维 Hres 受 Birkhoff 约束
One Transformer Sublayer Wrapped By mHC
输入残差流 xl
→
Hpre · Read
从 n 条残差流里加权读取，聚合成主干层能吃下的 1 条 C 维输入。
xmain = Hpre · xl
→
F · Attention / FFN
主干网络照常工作，不需要知道外面有几条残差流。
y = F(xmain)
→
Hpost · Write
把主干层的新结果按比例广播回 n 条残差流。
Hpost ⊙ y
Hres · 残差内循环混合
行和=1 · 列和=1
Sinkhorn 把原始路由矩阵拉回 Birkhoff polytope，约束车道间交换不整体放大信号。
xl+1 = Hres · xl + Hpost ⊙ F(Hpre · xl)
→
输出残差流 xl+1
Residual Topology
标准 Transformer
一条 C 维残差流：xl → xl + F(xl)
所有信息挤在同一条残差通道里，模型能力主要靠加深或加宽主干网络扩展。
mHC Transformer
残差状态变宽，主干计算宽度保持 C；额外成本集中在很小的路由矩阵和门控上。
Tensor Shape Cheat Sheet
输入状态 x: [B,T,n,C]
Read 门控 H_pre: [B,T,n,1]
主干输入 sum_n(H_pre*x): [B,T,C]
Mix 矩阵 H_res: [B,T,n,n]
输出状态 x_next: [B,T,n,C]