CNet:一种结合 Wirtinger 自动微分与 FFT--Hadamard 卷积的复值深度学习框架
CNet: A Complex-Valued Deep Learning Framework with Wirtinger Autodifferentiation and FFT--Hadamard Convolution
精选理由
提供复值深度学习框架与高效傅里叶卷积,助力物理信号建模与分类。
AI 摘要
arXiv:2610.08592v1 公告类型:新 摘要:CNet 是一个用于构建和训练深度复值神经网络(CVNN),以及更一般地通过 Wirtinger(CR-calculus)导数进行梯度下降以优化复值函数的 C++/CUDA 框架。它采取物理原生的立场:网络是作用于振幅向量上的复值操作级联,其中通常还包含酉操作(DFT);分类则采用 Born 规则测量 $p_k = |z_k|^2 / \|z\|^2$,而不是对实值 logits 使用 softmax。每一层都提供 CPU 参考实现和 CUDA 内核,并通过有限差分进行校验;计算图则会针对批次中的样本进行克隆,以便在 GPU 上执行。在基础层之上,我们加入了信号处理原语,将恒等式 conv(x,k) = IFFT(FFT(x) . FFT(k)) 转化为可学习的复值卷积网络,同时提供 true-Adam 优化器和低内存推理模式。我们报告了三项研究。第一项是一个完全复值、FNet 风格的因果序列模型,建立在一种新的 $O(N \log N)$ 因果 Fourier mixer 之上——该方法通过 Bluestein / chirp-z 分解对三角掩码 DFT 进行计算:经过适当调优后,在字符级语言建模任务上,它能够达到或超过参数量匹配的实值因果 FNet,并在不到一半的训练步数内达到实值模型收敛后的性能。第二项和第三项分别针对无线电调制分类(RML2016.10a)以及相干衍射成像中的 Fourier 相位问题开展瓶颈分析,从而精确定位复值网络仍需开发新型算子的位置。在这三项研究中,复值表述都能够以可证明的方式学习物理上正确的结构。代码:https://github.com/crasmarum/CNet