博客

朴素词袋(BoW)把标题当成一堆无序词的集合，丢掉了「词序」和「哪几个词最关键」。Transformer 的自注意力让每个词去「看」标题里所有其他词、按相关性加权聚合——于是「标题头段和中段的情绪词」能被自动放大。本文用纯 numpy 从零实现自注意力编码器(含完整前向/反向)，在「位置加权的好/坏消息」合成标题上实测：测试集 R² Transformer=−0.026 远优于 BoW 的 −0.873（提升 97%）、方向准确率 54.0% vs 46.4%、读出 token 对关键位置(12,30)的注意力命中率 1.00、互换两个非关键 token 后预测一致性 1.000，并诚实拆穿「注意力一定尖锐聚焦 / 位置编码多余 / 深层才有效 / 小数据随便训 / 注意力=因果」五类真实陷阱（中阶）。

普通 CNN 做序列预测有个死穴：卷积核宽锁死感受野，要看到 32 步前的周期相位得堆几十层。膨胀卷积（dilated convolution）用「每隔 d 个点采一个样」把感受野从线性拉成指数级——d 逐层翻倍 (1,2,4,8,16)，5 层就能覆盖 1+(3−1)·(1+2+4+8+16)=63 步，整根周期纳进窗口；左填充 (k−1)·d 个零保证严格因果、不偷看未来。本文用纯 numpy 从零实现因果膨胀卷积 + 有限差分梯度校验，在多周期正弦叠加合成序列（周期 5/11/17/23/31 步）上实测：膨胀因果 CNN 测试集 R²=0.997、MSE=0.0029，相对普通 CNN(0.996/0.0041) 略有改进，但讽刺的是它仍输给 OLS 线性(0.999/0.0009)——因为任务本质是已知周期的线性叠加，OLS 在精确频率特征上近最优。文章诚实拆穿「膨胀救一切 / 膨胀 CNN 比线性强 / 感受野越大越好 / 因果填充零成本 / 真周期≠可预测」五类真实误区(中阶)。

Pearson 只能抓线性、dCor 把「独立」变成可检验量，但两者的数学本质到底是什么？距离协方差（DCov）给出最干净的回答：它等于把数据映射到再生核希尔伯特空间（RKHS）后的协方差，也等于「能量距离」在依赖维度上的投影。本文从零实现 dCov/dCor 与 HSIC（核视角），并用「能量距离」这个真正的分布间距离做两样本检验——把一段行情自动识别为平静态还是危机态（正确率 83%）。附完整 Python 与五类真实陷阱（中阶）。

Pearson 相关只能抓线性：r=0 时两变量可能仍强烈相关（如 Y=X²）。距离相关系数（dCor）把独立性本身变成可检验的量——dCor=0 当且仅当独立。本文用纯 numpy 从零实现 dCov/dCor 与置换检验，并在线性/二次/圆/独立四类关系上对照 Pearson，诚实拆穿「径向对称是 dCor 盲区」与「噪声稀释依赖」两条真实边界（中阶）。

我们知道某择时策略『很能赚钱』，但不知道它凭什么赚——它在奖励什么？逆强化学习（IRL）把这个问题反过来：给一段专家实际走过的轨迹，反推它背后的奖励函数。本文用纯 numpy 从零实现 MaxEnt IRL（Ziebart 2008）：特征期望 + 梯度上升学奖励权重 + softmax 访问频率求解。在「专家其实在奖励『动量 + 低波动 + 周期 − 噪声』」的合成市场里，IRL 把奖励权重还原得与真值余弦相似度 0.94，学到的奖励重放出的状态分布与专家 KL=0.06（随机基线 0.23）；并诚实拆穿「专家样本不足→奖励不可辨识 / 特征冗余→权重被错分 / 折扣因子误设 / 最大熵温度 / IRL 给的是偏好不是收益」五类真实陷阱（中阶）。

伊辛模型（Ising）是统计物理里描述「有序⇄无序」相变的标杆。把它平移到金融：每个自旋是一支股票（上涨 +1 / 下跌 −1），耦合强度 J 就是个股间的「趋同/传染」强度，温度 T 是市场流动性与情绪噪声。当市场从平静（高温无序）滑向恐慌（低温有序）时，会越过一个临界温度 Tc——这时相关性长度发散，全市场一起涨一起跌，正是崩盘的数学相变。本文用纯 numpy 向量化 Metropolis 从零复现二维 Ising，并用 Onsager 精确解对照，证明蒙特卡洛把 Tc 还原到 2.269（真实 2.269），比热尖峰在 2.267、磁化率尖峰在 2.287，并诚实拆穿「一维无相变/红黑更新陷阱/有限尺寸抹平临界/必须锚定二维」四类真实陷阱（中阶）。

卡尔曼滤波是状态空间模型下的最优(最小均方)递推估计器：把要追踪的量写成隐藏状态、把带噪观测写成观测方程，每步只需「预测+更新」，卡尔曼增益自动在信状态与信观测之间取最优折中。本文用纯 numpy 从零实现通用卡尔曼滤波，在噪声价格还原真值、时变对冲比β_t在线跟踪、过程噪声Q的U形敏感性三个场景真实跑通，并诚实指出「因果 KF 的 RMSE 会输给偷看未来的移动平均」这条最被忽视的边界（中阶）。

如何用 LoRA / 指令微调把通用大模型改造成懂财报、会看技术面、能给出风险可控观点的股市预测专家——一套可落地的金融垂直微调方法论。