LightGBM

一个例子读懂LightGBM的模型文件

机器学习模型的可解释性是个让人头痛的问题。在使用LightGBM模型的肯定对生成的GBDT的结构是好奇的,我也好奇,所以就解析一个LightGBM的模型文件看看,通过这个解析,你可以看懂GBDT的结构。 另外,了解模型...

LightGBM 调参方法(具体操作)

前言 鄙人调参新手,最近用lightGBM有点猛,无奈在各大博客之间找不到具体的调参方法,于是将自己的调参notebook打印成markdown出来,希望可以跟大家互相学习。 其实,对于基于决策树的模型,调参的方法都...

通俗理解LightGBM并图解举例

算法原文是: LightGBM:A Highly Efficient Gradient Boosting Decision Tree 一句话: LightGBM是GBDT的运行速度上的升级版 文章结构如下: ​ Goss 先根据梯度对样本进行排序,选取 a * 100% 的top样本...

LightGBM算法总结

1 LightGBM原理 1.1 GBDT和 LightGBM对比 ​ GBDT (Gradient Boosting Decision Tree) 是机器学习中一个长盛不衰的模型,其主要思想是利用弱分类器(决策树)迭代训练以得到最优模型,该模型具有训练效...

机器学习算法之LightGBM

上一篇文章介绍了一个梯度提升决策树模型XGBoost,这篇文章我们继续学习一下GBDT模型的另一个进化版本:LightGBM。LigthGBM是boosting集合模型中的新进成员,由微软提供,它和XGBoost一样是对GBDT的高效实现,原...

lightGBM从参数调优到背景理论

机器学习竞赛的好工具 light是一个很好用的机器学习竞赛算法。 许多提升工具对于决策树的学习使用基于 pre-sorted 的算法。这是一个简单的解决方案,但是不易于优化。 LightGBM 利用基于 histogram 的算法 [3...