博客

RNN 串行训练慢、Transformer 注意力 O(L²) 贵，状态空间模型（SSM，S4/Mamba 一族的骨架）走第三条路：把隐藏状态写成对角线性递推 h_t = a⊙h_{t-1} + b⊙x_t，衰减率 a 按对数均匀铺满短记忆到长记忆，一层状态就是一组不同时间尺度的指数记忆核，推理 O(L·N) 且可并行扫描。本文用纯 numpy 从零实现多时间尺度对角线性 SSM + 统一 Ridge 读出，在两个合成任务上诚实实测：平滑多尺度记忆任务（1800 小样本）上 SSM-16 状态 R²=0.787 完胜 OLS-256 滞后的 0.664；但尖锐 lag-64 任务上被 OLS-128 滞后（0.922）打爆（SSM 只有 0.487）——指数记忆核天然抹平孤立尖锐滞后。并拆穿线性状态无损/状态越多越好/SSM 必胜滞后回归/长程=万能/金融直接落地五类真实陷阱（中阶）。

直接对收益拟 GARCH(1,1)，慢变的结构性波动漂移会污染估计——把长记忆假象塞进 β，持续性虚高到 0.99。混合思路借 Engle-Rangel Spline-GARCH 的乘性分解 σ²_t=g_t·h_t：先用 EMD（经验模态分解）从对数平方收益里剥出慢变方差水平 g_t，对标准化残差再拟合短期 GARCH 因子 h_t。纯 numpy 从零实现 EMD sifting（cubic-spline 包络+端点 clamp）与 GARCH MLE（网格+坐标下降），在「乘性成分」合成收益（慢正弦+陡峭 regime 跳变 × 单位均值 GARCH）上实测：EMD-GARCH 把持续性从纯 GARCH 的 0.99 压回 0.95（剔除伪长记忆），但样本外一步方差预测 QLIKE=−6.57 略输纯 GARCH 的 −6.68——分解修正了参数偏误，却没换来预测精度碾压。附「剥太多 IMF 把 GARCH 聚集也当趋势吸走」与「EMD 端点样条外推不稳」两处真实翻车，拆穿分解万能/持续性越低越好/混合必胜/EMD 因果/端点无害五类陷阱（中阶）。

k-means 给每只股票发一张唯一的『风格身份证』：要么成长、要么价值，边界上的股票被硬塞进某一边。但真实资产风格是渐变的——一只『半成长半价值』的股票，硬分类会抹掉这个信息。GMM 把每个风格群建模成一个高斯分布，输出的不是标签而是责任度（responsibility）：这只股票 62% 像成长、35% 像价值。合成实验：3 个真实风格群、协方差形状各异且相互重叠，GMM 分类准确率 89.0% 碾压 k-means 的 68.3%——因为 k-means 只会画球形边界，而 GMM 的满协方差能贴合拉长、倾斜的簇。更关键的是 GMM 自带『不确定度报告』：15.7% 的资产最大责任度低于 0.8，这些正是躺在风格边界上的股票，k-means 对它们的标签几乎是抛硬币。用 BIC 选簇数，K=3 处 BIC 达到最小值 1755.2，精确对上真实群数。纯 numpy 实现 EM 算法（E 步算责任度、M 步更新均值协方差权重），拆穿 GMM 总比 k-means 好/EM 保证全局最优/责任度=真实概率/K 越大似然越高所以越好/满协方差永远优于对角五类陷阱（中阶）。

谱图卷积用拉普拉斯特征分解定义『图上的傅里叶』，但它有两个死穴：特征分解 O(N³) 太贵，且傅里叶基在整张图上全局铺开、没有空间局部性。图小波网络（GWNN, Xu et al. ICLR 2019）把图傅里叶基换成图小波基——用热核 exp(-sλ) 生成一族随尺度可调的、天然稀疏且局部化的基，既能多尺度分析资产关联，又比谱卷积更省、更可解释。本文用纯 numpy 从零实现『归一化拉普拉斯→热核图小波→谱域滤波→图信号去噪』全链路，在 24 资产两板块合成关联图上诚实实测：图小波低通把板块信号去噪 RMSE 从观测的 0.86 压到 0.67、方向准确率拉满 1.00，并对比局部 GCN（RMSE 0.47），拆穿小波必胜/尺度随便选/谱域万能/去噪无损/关联即因果五类真实陷阱（中阶）。

PCA 只能把信号解相关，ICA 能把它们解独立——这一字之差在金融里是天壤之别。合成实验：3 个独立的非高斯潜在驱动（重尾冲击、偏态动量、区制切换）经一个混合矩阵变成 3 条观测『资产收益』，观测间相关高达 0.72~0.83。FastICA 用 tanh 非线性做定点迭代，把三个源全部还原到 |相关|=0.999；PCA 拿同样数据只做到 0.66~0.87——因为不相关不等于独立，PCA 找的是方差最大的正交方向，不是统计独立的方向。核心引擎：中心极限定理让混合信号趋近高斯（观测源峰度从 2.82 掉到 1.45），所以『最大化非高斯性』就能反解出源，还原后峰度回到 2.83。纯 numpy 实现白化+deflation FastICA，并拆穿『ICA 能定源顺序/能定幅度/源一定有金融意义/高斯源也能分/成分越多越好』五类陷阱（中高阶）。

标准 Transformer 注意力是 O(L²)：序列拉到 4096 步，一层注意力就要算 1600 万对相似度。Informer（AAAI 2021 最佳论文）的 ProbSparse 注意力抓住一个经验事实——注意力矩阵天然长尾，绝大多数查询行近乎均匀分布、对输出没贡献。它用采样估计每个查询的稀疏度 M(q,K)=max−mean，只让 top-u=c·lnL 个「活跃查询」做完整注意力，懒查询直接输出 V 的均值，复杂度砍到 O(L·lnL)。纯 numpy 从零实现 ProbSparse + 单层注意力回归（手写反向传播、有限差分梯度校验 1e-10 级），实测 L=4096 时提速 53 倍；但诚实披露：在 L=96 的短窗口预测任务上，注意力行不够长尾，c=10 的 ProbSparse 推理 R²=−0.40 远差于 full 推理 0.746，c 扫到 20（u/L≈96%）才恢复 0.727——稀疏近似的前提是分布真的稀疏。另附 OLS-96滞后 R²=0.834 反超注意力的诚实对照，拆穿「ProbSparse 无损/长序列必用 Transformer/加速免费/M 度量万能/金融直接落地」五类真实陷阱(中阶)。

传统异常检测先给『正常』建模——估个分布、算个距离，再看谁离得远。孤立森林反着来：异常点本来就少、本来就偏，随机切几刀就能把它单独隔出来，正常点则要切很多刀。于是『被孤立所需的平均路径长度』直接变成异常分数，不需要距离度量、不需要分布假设。合成实验：1000 个交易日、4 维特征（绝对收益、5 日已实现波动、成交量 z、相关性尖峰 z），注入 25 个崩盘日。孤立森林 AUC 0.984，只看收益 z-score 的单变量基线 AUC 0.782——差距来自多维联动：单独看每一维都不算极端、但『量价相关性同时抬升』的日子，只有多维方法抓得住。top-25 命中精度 60% vs 基线 44%。森林规模敏感性：5 棵树 AUC 0.964，50 棵 0.986，100 棵之后彻底平台化——路径长度平均的收敛速度快得惊人。纯 numpy 实现（随机特征+随机分割点递归建树、c(n) 修正项、2^(-h/c) 分数归一化），拆穿分数有绝对阈值/无监督=不用验证/维度越多越好/能检测=能预测/训练集必须干净五类陷阱（中阶）。

Engle-Granger 两步法只能处理两条序列、只能找一个协整关系，选谁当因变量还会改变结果。Johansen 检验把问题升级成特征值分解：对 VECM 的 Π 矩阵做约化秩回归，一次性回答『k 条序列里藏着几个协整关系』。纯 numpy 实现完整流程：三元系统（2 条共同随机趋势）迹统计量 176.1 >> 29.7 拒绝 r=0，r≤1 时 4.5 < 15.4 停下——精确识别协整秩 r=1；估出的协整向量 [1, −1.874, 1.247] vs 真值 [1, −1.875, 1.250]，误差不到 0.3%。对照组：独立随机游走迹统计量 22.6 徘徊在临界值边缘，秩=2 系统两级统计量全部爆表。样本外 600 天三腿价差交易：z>2 开仓、|z|<0.5 平仓，净费后 Sharpe 3.15、最大回撤 6.6。诚实说明：合成数据协整永不破裂；迹检验对滞后阶数敏感（观测噪声的 MA 结构会让 nlag 选小时假拒绝）；三腿组合的执行成本是两腿的 1.5 倍。拆穿『迹检验显著=能赚钱』『特征值大=价差好交易』等误区（中高阶）。