青葙y

集成学习

NLP(2) 安装与环境配置问题(1) 数据挖掘(2)

/ 注册

全部文章 / 集成学习（共2篇）

boosting算法族之GBDT

GBDT 是通过采用加法模型（即基函数的线性组合），以及不断减小训练过程产生的残差来达到将数据分类或者回归的算法。训练过程： GBDT是通过多次迭代，每轮迭代产生一个弱分类器（一般选择CART树），每个分类器在上一轮分类器残差的基础上进行训练。如果我们选用平方损失函数，那这个差值就是残差。我们...

2020-04-17

0 435

模型融合策略之stacking理论

模型融合是比赛后期一个重要的环节，大体来说有如下的类型方式。简单加权融合: 回归（分类概率）：算术平均融合（Arithmetic mean），几何平均融合（Geometric mean）；分类：投票（Voting) 综合：排序融合(Rank averaging)，log融合sta...

2020-04-17

1 2085