题目标题

决策树/随机森林的特征重要度是怎么获得的?

难度:初级

机器学习
参考解析

主要有两种方式:
a.考察样本经过节点后不纯度减少的值的大小,值越大则特征越重要。
b.通过包外数据(out of bag)计算特征加入噪声前后对模型预测准确率的影响,影响越大则特征越重要。
xgboost中的特征重要度,也可以考虑特征用作分裂的次数