吭哧吭哧埋头干

论文笔记

Java(83) JS(17) Linux(35) OJ(10) PHP(31) Python(14) SQL数据库(13) 大数据云计算(2) 大数据分析(3) 安卓开发(7) 开发框架(4) 微信开发(3) 数据结构(4) 未归档(48) 机器学习(16) 神经网络(5) 算法设计(9) 网络爬虫(13)

/ 注册

全部文章 / 论文笔记（共31篇）

【Bayesian】贝叶斯决策方法（Bayesian Decision Method）

　　已知某条件概率，如何得到两个事件交换后的概率，也就是在已知P(A|B)的情况下如何求得P(B|A)。这里先解释什么是条件概率：表示事件B已经发生的前提下，事件A发生的概率，叫做事件B发生下事件A的条件概率。其基本求解公式为：。贝叶斯定理之所以有用，是因为我们在生活中经常遇到这...

2017-06-04

0 691

【机器学习】K近邻算法——多分类问题

　　给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的K个实例，这K个实例的多数属于某个类，就把该类输入实例分为这个类。 KNN是通过测量不同特征值之间的距离进行分类。它的的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样...

2017-06-04

0 521

【机器学习】Softmax 和Logistic Regression回归Sigmod

二分类问题Sigmod 　　在 logistic 回归中，我们的训练集由个已标记的样本构成：，其中输入特征。（我们对符号的约定如下：特征向量的维度为，其中对应截距项。）由于 logistic 回归是针对二分类问题的，因此类标记。假设函数(hypothesis functio...

2017-06-04

0 658

【LDA】线性判别式分析

1. LDA是什么线性判别式分析（Linear Discriminant Analysis），简称为LDA。也称为Fisher线性判别（Fisher Linear Discriminant，FLD），是模式识别的经典算法，在1996年由Belhumeur引入模式识别和人工智能领域。 ...

2017-06-04

0 559

【MLE】最大似然估计Maximum Likelihood Estimation

模型已定，参数未知　　已知某个随机样本满足某种概率分布，但是其中具体的参数不清楚，参数估计就是通过若干次试验，观察其结果，利用结果推出参数的大概值。最大似然估计是建立在这样的思想上：已知某个参数能使这个样本出现的概率最大，我们当然不会再去选择其他小概率的样本，所以干脆就把这个参数作为估计的真实值...

2017-06-02

0 619

n阶方阵A可逆充分必要条件

n阶方阵A可逆充分必要条件：<=> A非奇异（非奇异矩阵就是对应的行列式不等于等于0的方阵）<=> |A|≠0 <=> r(A) = n <=> A的特征值都不为0 <=> 齐次线性方程组AX=0 仅有零解 <=> 非...

2017-06-02

0 570

【机器学习】K-Means算法

　　K-Means算法是一种cluster analysis的算法，其主要是来计算数据聚集的算法，主要通过不断地取离种子点最近均值的算法。问题 K-Means算法主要解决的问题如下图所示。我们可以看到，在图的左边有一些点，我们用肉眼可以看出来有四个点群，但是我们怎么通过计算机程序找出这几...

2017-06-02

0 533

【Ensemble methods】组合方法&集成方法

　　机器学习的算法中，讨论的最多的是某种特定的算法，比如Decision Tree，KNN等，在实际工作以及kaggle竞赛中，Ensemble methods（组合方法）的效果往往是最好的，当然需要消耗的训练时间也会拉长。　　所谓Ensemble methods，就是把几种机器学习的算法组合到一...

2017-05-08

0 1236

【Bootstrap Method】Evaluating The Accuracy of a Classifier

自助法介绍：非参数统计中一种重要的估计统计量方差进而进行区间估计的统计方法，也称为自助法。其核心思想和基本步骤如下：（1）采用重抽样技术从原始样本中抽取一定数量（自己给定）的样本，此过程允许重复抽样。（2）根据抽出的样本计算给定的统计量T。（3）重复上述B次（一般大于1000），得到N个统计...

2017-05-08

0 422

【神经网络】Reducing the Dimensionality of Data with Neural Networks

这篇paper来做什么的？用神经网络来降维、之前降维用的方法是主成分分析法PCA，找到数据集中最大方差方向。（附：降维有助于分类、可视化、交流和高维信号的存储）这篇paper提出了一种非线性的PCA 的推广，通过一个小的中间层来重构高维输入向量，训练一个多层神经网络。利用一个自...

2017-05-03

0 545