1 min read

Trees分支学习

决策树理论部分可以参考 Brett Lantz Machine Learning with R - Second Edition.pdf的126页附近。 决策树的解释意思就是 它会给出一个可能性,如果你的答案是10,那么答案就是1的概率为p0的概率为1p


在看完决策树后,可以了解一下随机森林,具体的之后我再准备给你。他们之间大致的关系如下图。

boxes_and_circles 决策树 决策树 Bagging Bagging 决策树->Bagging 对样本重抽样,然后多个树平均 boosting boosting 决策树->boosting 对随机森林中的树进行加权平均,而非简单平均 随机森林 随机森林 Bagging->随机森林 再同时对特征进行随机挑选 xgboosting xgboosting boosting->xgboosting 对boosting中的树进行正则化

这是随机森林需要看到的地方, 贝叶斯、支持向量机、神经网络也是用到的常用方法,这个可以之后跟你说,我先说我最熟悉的。