题目标题

SVM、LR、决策树的对比

难度:中级

机器学习
参考解析

模型复杂度:SVM 支持核函数,可处理线性非线性问题;LR 模型简单,训练速
度快,适合处理线性问题;决策树容易过拟合,需要进行剪枝。
损失函数:SVM hinge loss; LR L2 正则化; Adaboost 指数损失。
数据敏感度:SVM 添加容忍度对 outlier 不敏感,只关心支持向量,且需要先
做归一化; LR 对远点敏感。
数据量:数据量大就用 LR,数据量小且特征少就用 SVM 非线性核。