题目标题

xgboost和LightGBM有哪些控制过拟合的手段,通常需要调整的参数有哪些?

难度:初级

机器学习
参考解析
  • 设置较少的直方图数目,max_bin
  • 设置较小的叶节点数num_leaves
  • 设置参数min_data_in_leafmin_sum__hessian_in_leaf
  • 使用bagging进行行采样bagging_fractionbagging_freq
  • feature_fraction,列采样
  • 控制树深max_depth
  • 正则化
    • lambda_l1
    • lambda_l2
    • 切分的最小收益min_gain_to_split