题目标题

什么是 OOB?随机森林中 OOB 是如何计算的,它有什么优缺点?

难度:中级

机器学习
参考解析

Bagging 方法中 Bootstrap 每次约有的样本不会出现在 Bootstrap 所采集的样本集合中,当然也就没有参加决策树的建立,把这的数据称为袋外数据 OOB(out of bag),它可以用于取代测试集误差估计方法。
袋外数据(OOB)误差的计算方法如下:
对于已经生成的随机森林,用袋外数据测试其性能,假设袋外数据总数为 O,用这O 个袋外数据作为输入,带进之前已经生成的随机森林分类器,分类器会给出 O个数据相应的分类,因为这 O 条数据的类型是已知的,则用正确的分类与随机森林分类器的结果进行比较,统计随机森林分类器分类错误的数目,设为 X,则袋外数据误差大小=;这已经经过证明是无偏估计的,所以在随机森林算法中不需要再进行交叉验证或者单独的测试集来获取测试集误差的无偏估计。