seniusen
seniusen
全部文章
论文笔记
Ubuntu 常用软件(1)
BN(1)
C++(1)
C++ 文件操作(1)
C/C++ 学习(1)
LeetCode(26)
LeetCode 1(1)
LeetCode 100(1)
LeetCode 109(1)
LeetCode 138(1)
LeetCode 141(1)
LeetCode 142(1)
LeetCode 240(1)
LeetCode 4(1)
LeetCode 445(1)
LeetCode 700(1)
LeetCode 两数相加(1)
LeetCode 找不同(1)
LeetCode 搜索二维矩阵(1)
LeetCode (1)
Numpy 数组(1)
Python 3 标准库概述(1)
Python 3 面向对象(1)
Python 基础语法(1)
SSH(1)
STL 库 vector(1)
TensorFlow C++ 接口(1)
Vim 命令(1)
人生杂谈(4)
删除链表倒数第 N 个结点(1)
剑指 Offer(3)
变量作用域(1)
合并 2 个有序链表(1)
周期信号的傅里叶级数表示(1)
最小二乘(1)
未归档(104)
机器学习(1)
理财(1)
线性代数(1)
链表(1)
链表中间结点(1)
链表删除结点(1)
键盘输入(1)
归档
标签
去牛客网
登录
/
注册
seniusen的博客
一个乐观的终身学习者!
全部文章
/ 论文笔记
(共1篇)
Xavier——Understanding the difficulty of training deep feedforward neural networks
1. 摘要 本文尝试解释为什么在深度的神经网络中随机初始化会让梯度下降表现很差,并且在此基础上来帮助设计更好的算法。 作者发现 sigmoid 函数不适合深度网络,在这种情况下,随机初始化参数会让较深的隐藏层陷入到饱和区域。 作者提出了一个新的参数初始化方法,称之为 ...
2019-04-18
0
555