Online Ensemble Learning for Sector Rotation: A Gradient-Free Framework
Jiaju Miao and Pawel Polak
我们提出了一个无梯度的在线集成学习算法,该算法根据它们最近的预测性能,动态地结合一组来自异构机器学习模型的预测,通过样本外的R-squared进行测量。 集合是不可模型无关的,不需要梯度访问,并且设计用于非静态下的顺序预测。 它自适应地重新加权16个组成模型 - 三个线性基准(OLS,PCR,LASSO)和13个非线性学习者,包括随机森林,梯度提升树和神经网络层次结构(NN1-NN12)。 我们将框架应用于部门轮换,使用从公司特征汇总的部门级特征。 经验上,部门回报比个人资产回报更可预测和稳定,使其适合横断面预测。 该算法构建了特定扇区集成,以滚动窗口方式分配自适应权重,并以预测准确性为指导。 我们的关键理论结果将在线预测直接归因于实现样本外R-squared,提供了一个可解释的保证,即合奏在事后的表现几乎和最好的模型一样好。 表面上看,该组合的表现始终优于单个模型、同等加权平均值和传统离线集成,在宏观经济体系中(包括COVID-19危机期间)提供更高的预测准确性、更强的风险调整回报和稳健性。
We propose a gradient-free online ensemble learning algorithm that dynamically combines forecasts from a heterogeneous set of machine learning models based on their recent predictive performance, measured by out-of-sample R-squared. The ensemble is model-agnostic, requires no gradient access, and is designed for sequential forecasting under nonstationarity. It adaptively reweights 16 constituent models-three linear benchmarks (OLS, PCR, LASSO) and thirteen nonlinear learners including Random For...
