数据挖掘算法(二)——Boosting算法和AdaBoost装袋提升算法
目录如何理解Boosting算法Boosting 提升算法是一系列将罗学习器提升为强学习器的算法。
思想:对于一个复杂的任务,将多个专家的判断总和得出的结果要比任何一个专家单独的判断好。
大致工作机制:
先从初始训练集训练出一个基学习器,再根据基学习器表现对训练样本分布进行调整,在后续赋予基学习器中做错的样本更大的权值,然后基于调整后的样本分布来训练下一个基学习器,一直反复进行,直到达到指定值。
AdaBoost算法AdaBoost算法工作机制同上。
对于弱分类器的组合,AdaBoost算法采取加权多数表决的方法——加大分类误差率小的弱分类器的权值,使其
...