GBDT梯度提升决策树
集成学习(Ensemble Learning)
集成学习是指构建合并多个学习器完成学习任务，又分为同质集成和异质集成。顾名思义，同质集成是指包含不同种类型的个体学习器，而异质集成则指代包含非同种的个体学习器。同质集成中的个体学习器亦称基学习器，而异质集成中的个体学习器亦称组件学习器。
我们所能听到的另一个词语，弱学习器，实际上是指我们上面提到的个体学习器。
目前集成学习方法可大致分为两类，一类是指个体学习器存在强相互依赖关系，串行化序列生成，另一类指同时生成的并行化方法，这两类分别是我们常说的Boosting和Bagging。
GBDT
XGBoost
代码实现
1 | 见github主页 |