想回老家的潜伏者躺平又起来了

分类

Git(1) Lasso(1) Linux(1) Python(2) Scala(7) SVM(1) TensorFlow(3) 其他(1) 图表示学习(1) 工具介绍(1) 强化学习(1) 推荐系统(1) 未归档(73) 机器学习(8) 深度学习(2) 聚类和EM算法(1)

/ 注册

全部文章（共105篇）

非负矩阵分解NMF

问题描述优化目标假设噪声矩阵 <nobr> E=X−WH </nobr>，我们可以用两种目标函数优化平方误差最小化 <nobr> minW,H||X−WH||2=∑i∑j(Xij−(WH)ij)2s.t.Wik...

2017-08-31

0 576

主题模型LDA

多项分布和狄利克雷分布多项分布某随机实验如果有k个可能结局A1、A2、…、Ak，分别将他们的出现次数记为随机变量X1、X2、…、Xk，它们的概率分布分别是p1，p2，…，pk，那么在n次采样的总结果中，A1出现n1次、A2出现n2次、…、Ak出现nk次的这种事件的出现概率P有下面公式： ...

2017-08-31

0 519

矩阵分解(MF,SVD)和协同过滤(CF)

协同过滤Collaborative Filtering 使用用户历史的行为来做未来的推荐。忽略了关于用户或item的先验信息。 CF使用与我相似的用户的评分来预测我的评分 CF是领域无关的，不需要知道现在在对什么评分，谁在评分，评分是多少一种CF方法称为基于邻域的方法。例如 ...

2017-08-30

0 1268

稀疏线性回归(lp正则)

lp范数惩罚项 <nobr> ||w||p=(∑j=1d|wj|p)1pfor0<p≤∞ </nobr> lp回归 <nobr> wlp=argminw||y−Xw||22+λ||w||pp </nobr> ...

2017-08-30

0 458

线性回归

最小二乘法线性回归模型模型 <nobr> yi≈w0+∑j=1dxijwj </nobr> 模型学习平方误差损失 <nobr> wLS=argminw∑i=1n(yi−f(xi;w))=argminwL </no...

2017-08-29

0 520

贝叶斯推断 4. 连续型随机变量先验

指数分布指数分布的共轭先验是Gamma分布。 <nobr> Y∼Exp(λ) </nobr> <nobr> f(λ|y)∝f(y|λ)f(λ)∝λe−λyλa−1e−βλ∝λ(a+1)−1e−(β+y)λ </n...

2017-08-29

0 454

高斯混合模型GMM

使用概率模型的原因 k均值等价于假设了球对称形状的聚类。使用带权欧式距离，仍然假设了轴对齐的椭球。没有考虑聚类的形状。促使概率模型的原因：混合模型提供观测点到聚类的软分配soft assignment（分配包含不确定性）考虑了聚类的形状而不仅仅是中心允许从不同维度来学习权...

2017-08-28

0 859

kmeans聚类

原型聚类原型聚类称为”基于原型的聚类”(prototype-based clustering)，此类算法假设聚类结构能通过一组原型刻画。通常，算法先对原型进行初始化，然后对原型进行迭代求解。采用不同的原型表示，不同的求解方式，将产生不同的算法。 k-means算法算法原理 k均值...

2017-08-28

0 533

提升树和GBDT

提升树提升树模型以决策树为基函数的提升方法称为提升树(boosting tree)。对分类问题是二叉分类树，对回归问题是二叉回归树。提升树可以表示为决策树的加法模型： <nobr> fM(x)=∑m=1MT(x;Θm) </nobr> 其中...

2017-08-27

0 566

条件随机场（待补充）

2017-08-27

0 391