Automatic debiasing of neural networks via moment-constrained learning
Christian L. Hines, Oliver J. Hines
经济学和生物统计学中的因果和非参数估计值通常可以被视为应用于未知结果回归函数的线性函数的平均值。 天真地学习回归函数,并在有偏见的估算器中抽取目标功能结果的样本平均值,并且已经开发了丰富的去向性文献,其中还学习了目标estimand的所谓Riesz表示者(RR)(目标学习,双ML,自动去偏差等)。 通过其派生的功能形式学习RR可能具有挑战性,例如由于极端逆概率权重或需要学习条件密度函数。 这些挑战促使了自动去差(AD)的最新进展,其中RR是通过最小化定制损失直接学习的。 我们提出时刻受限的学习作为一种新的RR学习方法,解决了AD中的一些缺点,限制了预测的时刻,提高了RR估计的鲁棒性,以优化超参数。 虽然我们的方法与特定类别的学习者无关,但我们使用神经网络来说明它,并使用半合成数据评估平均治疗/衍生效应估计的问题。 我们的数字实验显示了与技术基准状态相比性能的提高。
Causal and nonparametric estimands in economics and biostatistics can often be viewed as the mean of a linear functional applied to an unknown outcome regression function. Naively learning the regression function and taking a sample mean of the target functional results in biased estimators, and a rich debiasing literature has developed where one additionally learns the so-called Riesz representer (RR) of the target estimand (targeted learning, double ML, automatic debiasing etc.). Learning the ...