- 贝叶斯优化超参:用高斯过程代理把调参成本砍到最低
网格搜索调策略参数是暴力枚举,参数一多组合数指数爆炸;随机搜索省了枚举却盲目乱撞。贝叶斯优化换个脑子:每跑一次回测都是一次昂贵采样,它用高斯过程(GP)在已跑过的点上拟合一个『代理曲面』连同不确定度,再用采集函数(EI)权衡『去已知的好区域深挖』和『去没探过的区域碰运气』,把下一次回测的算力花在最值得试的参数上。本文从零手写 GP 代理 + EI 采集,在一个多峰目标上对比贝叶斯优化 vs 随机 vs 网格的收敛速度——同样逼近全局最优,贝叶斯优化用的回测次数是网格的零头。最后拆穿最致命的坑:在验证集上优化超参本身就是一种过拟合,优化得越狠样本外亏得越惨(中阶)。
14 min Chinese - 高斯过程回归在金融预测中的应用:不仅给点预测,还给你一张可信度地图
线性回归只给一个点估计,深度学习连不确定性都给不清。高斯过程(GP)回归的卖点是「均值 + 协方差」一体输出:预测的同时,直接吐出每个点的预测方差。本文用纯 numpy 实现(RBF 核 + 边缘似然超参优化 + Cholesky 求解),在「滞后波动率→次日波动率、且藏了一段概念漂移」的合成数据上,给它画出分布内/分布外的可信带,并诚实拆穿它最核心也最危险的陷阱:平稳核在分布外会过度自信。附完整代码与五类真实陷阱(中阶)。
14 min Chinese
返回