sabo

机器学习

c++(1) 因果推断(2) 技术栈(1) 程序静态分析(1) 算法实践(1) 算法总结(15) 统计(1) 自然语言处理(9) 论文笔记(13) 读书笔记(1) 面经(1) 项目学习(1) 题解(28)

/ 注册

全部文章 / 机器学习（共27篇）

Deep Retrieval

好处统一inFerence和learning 端到端深度学习 Structure model Learning EM Algorithm for Joint Training 感觉主要好处是训练和inference统一了。

推荐算法

2020-08-29

0 586

深入理解XGBoost 来自专栏

Introduction XGBoost知识点 XGBoost相对于传统GBDT的优点 1）将正则项加入目标函数中，控制模型的复杂度，防止过拟合。2）对目标函数进行二阶泰勒展开，同时用到了一阶导数和二阶导数。3）实现了可并行的近似直方图算法。4）实现了缩减和列采样（借鉴了GBDT和随机森林）。5）实...

XGBOOST GBDT

2020-05-10

0 806

cs285: Policy Gradients 来自专栏

Introduction 复习一下policy gradients Evaluating the objective 首先要说一下pg的推导过程。 Direct policy differentiation 其实最主要的就这三行公式。然后再有：总而言之就是让好的轨迹出现的概率增大，让差的轨迹出现的...

强化学习

2020-05-06

0 611

cs285: Introduction to Reinforcement Learning 来自专栏

Introduction 主要记录RL的模型分类 Types of RL algorithms Model-based RL algorithms Direct Policy Gradient Actor Critic Why so many algorithms Examples...

强化学习

2020-05-06

0 982

cs285：Supervised learning of behaviors 来自专栏

Introduction cs285是伯克利深度强化学习课程。准备追了 Imitation learning 看起来很美好，关键不work。因为数据的分布和策略的分布不同，监督学习不太能适应distribution shift的情况。那怎么办呢？要让机器学习错误并且纠正的过程。有没有更加省力的方法？...

强化学习

2020-05-06

0 679

PGM review2: Clique Tree algorithm 来自专栏

Introduction 团树算法 Correctness of clique tree algorithm Convergence of clique tree algorithms Answering queries Running intersections and independ...

贝叶斯

2020-05-03

0 977

PGM review1:cluster graph 来自专栏

Introduction 复习下概率图1:聚类图示例聚类图消息传递机制 Belief propagation Algorithm BP is an Approximate algorithm. Running intersection property Bethe cluster graph ...

贝叶斯

2020-05-03

0 1157

Deep Bayes & torch distribution的一些学习来自专栏

Introduction 这次基本了解一下torch distribution的库。torch distribution和tf probability库差不多，所以学习的时候可以参照tf probability的库来学习。ref: Deep Bayes slides Shape shape这里有几点...

贝叶斯

2020-05-02

0 1022

DeepBayes: implicit and semi-implicit VI 来自专栏

Introduction 本篇记录隐式和半隐式变分推断，转载请注明。reference：Deep Bayes slidesVariational inference solves an optimization problem.Minimizing the KL = Maximizing the E...

贝叶斯

2020-05-01

0 737

Deep Bayes：MCMC 来自专栏

Introduction 这篇主要记录了Monto Carlo Markov Chain。转载请注明。ref：Deep Bayes slideshttps://blog.csdn.net/qy20115549/article/details/54561643 MCMC Probabilistic m...

贝叶斯

2020-04-26

0 690