喵星人_Cat

未归档

Hadoop Yarn(1) Python爬虫(1) 博客(1) 操作系统(4) 数据库(5) 机器学习(24) 海量数据处理(2) 编程语言(16) 网络(4) 网络安全(1)

/ 注册

全部文章 / 未归档（共98篇）

XGBoost、LightGBM的详细对比介绍

sklearn集成方法集成方法的目的是结合一些基于某些算法训练得到的基学习器来改进其泛化能力和鲁棒性(相对单个的基学习器而言)主流的两种做法分别是： bagging 基本思想独立的训练一些基学习器(一般倾向于强大而复杂的模型比如完全生长的决策树)，然后综合他们的预测结果，通常集成模型的效果会优于...

2018-03-20

1 1209

支持向量机（SVM）必备知识(KKT、slater、对偶）

SVM目前被认为是最好的现成的分类器，SVM整个原理的推导过程也很是复杂啊，其中涉及到很多概念，如：凸优化问题、拉格朗日乘子法、对偶问题，slater条件、KKT条件还有复杂的SMO算法！相信有很多研究过SVM的小伙伴们为了弄懂它们也是查阅了各种资料，着实费了不少功夫！本文便针对SVM涉及到的这些复...

2018-03-20

0 765

ridge、lasso、ElasticNet回归

在使用机器学习方法进行预测时，往往会出现这种情况：训练出的模型在训练集上的效果很好，但是在测试集上的效果很差，这种情况称为过拟合；如果模型本身在训练集上的效果就很差，这种情况称之为欠拟合。为了防止过拟合的现象出现，学者对线性回归进行了优化，于是产生了ridge、lasso还有ElasticNet回归...

2018-03-17

0 655

logistic regression逻辑回归算法详解

1.参考资料这次不同的是，我要先列举几个自己参考的文献，博客等。真的是从里面受益匪浅，这也是我主要的参考资料。如果有需要的童鞋，可以先看它们。 1）.http://blog.csdn.net/zouxy09/article/details/24971995/（讲L0，L1，L2范数讲的不错哦） 2...

2018-03-17

0 588

ElasticNet回归及机器学习正则化(linear_model.ElasticNetCV)

要想理解ElasticNet回归，正则化是必须要首先知道的，其次是岭回归和Lasso回归，知道了这些，弹性网回归自然也就明白了。首先来看正则化：假设我们都知道利用最小二乘法来做线性回归，最小二乘法回归成功的条件是（我得承认以下的所有图都是我盗的）：即上面这个函数（...

2018-03-15

0 843

python pandas中.isnull().any()含义

问题描述： python pandas判断缺失值一般采用 isnull()，然而生成的却是所有数据的true／false矩阵，对于庞大的数据dataframe，很难一眼看出来哪个数据缺失，一共有多少个缺失数据，缺失数据的位置。首先对于存在缺失值的数据，如下所示 import pandas as p...

2018-03-08

0 1453

利用随机森林做特征选择

随机森林具有准确率高、鲁棒性好、易于使用等优点，这使得它成为了目前最流行的机器学习算法之一。随机森林提供了两种特征选择的方法：mean decrease impurity和mean decrease accuracy。平均不纯度减少----mean decrease impurity ...

2018-03-06

0 1467

逻辑回归优缺点简单分析

优点： 1）预测结果是界于0和1之间的概率； 2）可以适用于连续性和类别性自变量； 3）容易使用和解释；缺点： 1）对模型中自变量多重共线性较为敏感，例如两个高度相关自变量同时放入模型，可能导致较弱的一个自变量回归符号不符合预期，符号被扭转。需要利用因子分析或者变量聚类分析等手段来选择代表性的...

2018-03-03

0 556

深度学习笔记目录

第一门课神经网络和深度学习(Neural Networks and Deep Learning) 第一周：深度学习引言(Introduction to Deep Learning) 1.1 欢迎(Welcome) 1 1.2 什么是神经网络？(What is a Neural Networ...

2018-01-25

0 1638

你走过最长的路，就是机器学习过程中的弯路

营长的一位转型AI的朋友，最近对营长抱怨，“走过的最远的路，就是机器学习过程中的弯路”，然后开始各种blablabla，从论文的坑，到模型的坑，再到培训的坑...一路吐槽。尤其是论文，他骂道：“最讨厌的就是那种，高高在上、假装清高、站着说话不腰疼、戳不到痛点的论文。比如那一堆只能在理论中...

2018-01-25

0 2281