吭哧吭哧埋头干

论文笔记

Java(83) JS(17) Linux(35) OJ(10) PHP(31) Python(14) SQL数据库(13) 大数据云计算(2) 大数据分析(3) 安卓开发(7) 开发框架(4) 微信开发(3) 数据结构(4) 未归档(48) 机器学习(16) 神经网络(5) 算法设计(9) 网络爬虫(13)

/ 注册

全部文章 / 论文笔记（共31篇）

【Deep Learning】Hinton. Reducing the Dimensionality of Data with Neural Networks Reading Note

　　2006年，机器学习泰斗、多伦多大学计算机系教授Geoffery Hinton在Science发表文章，提出基于深度信念网络（Deep Belief Networks, DBN）可使用非监督的逐层贪心训练算法，为训练深度神经网络带来了希望。如果说Hinton 2006年发表在《Science》杂...

2017-04-28

0 868

【CNN】卷积神经网络

什么是卷积神经网络　　卷积神经网络是一种特殊的、简化的深层神经网络模型，它的每个卷积层都是由多个卷积滤波器组成。它最先由lecun在LeNet[40]中提出，网络结构如下图所示。在cnn中，图像的一小部分（局部感受区域）作为层级结构的最低层的输入，信息再依次传输到不同的层，每层通过多个卷积滤波...

2017-03-31

0 1109

Machine Learning、Date Mining、IR&NLP 会议期刊论文推荐

核心期刊排名查询 http://portal.core.edu.au/conf-ranks/ http://portal.core.edu.au/jnl-ranks/ 1、机器学习推荐会议 ICML——很难读懂，值得一读 NIPS ——主要看文章摘要 ECML 2...

2017-03-29

0 614

Natural Language Processing, 2017, Mar.29, Weekly Report

Distributed Representations of Words and Phrases and their Compositionality T Mikolov, I Sutskever, K Chen, G Corrado, J Dean Advances in Neural Inf...

2017-03-29

0 428

【word2vec】Distributed Representation——词向量

　　Distributed Representation 这种表示，它最早是 Hinton 于 1986 年提出的，可以克服 one-hot representation 的缺点。其基本想法是：　　通过训练将某种语言中的每一个词映射成一个固定长度的短向量（当然这里的“短”是相对于 o...

2017-03-27

0 700

十倍交叉验证 10-fold cross-validation

10-fold cross-validation，用来测试算法准确性。是常用的测试方法。将数据集分成十份，轮流将其中9份作为训练数据，1份作为测试数据，进行试验。每次试验都会得出相应的正确率（或差错率）。10次的结果的正确率（或差错率）的平均值作为对算法精度的估计，一般还需要进行多次10...

2017-03-08

0 484

随机梯度下降 Stochastic gradient descent

梯度下降法先随机给出参数的一组值，然后更新参数，使每次更新后的结构都能够让损失函数变小，最终达到最小即可。在梯度下降法中，目标函数其实可以看做是参数的函数，因为给出了样本输入和输出值后，目标函数就只剩下参数部分了，这时可以把参数看做是自变量，则目标函数变成参数的函数了。 ...

2017-03-08

0 537

【AUC】二分类模型的评价指标ROC Curve

　　AUC是指:从一堆样本中随机抽一个，抽到正样本的概率比抽到负样本的概率大的可能性! 　　AUC是一个模型评价指标，只能用于二分类模型的评价，对于二分类模型，还有很多其他评价指标，比如logloss，accuracy，precision。如果你经常关注数据挖掘比赛，比如kaggle，那你会发现A...

2017-02-24

0 815

IR的评价指标之MRR

MRR(Mean Reciprocal Rank)：　　是一个国际上通用的对搜索算法进行评价的机制，即第一个结果匹配，分数为1，第二个匹配分数为0.5，第n个匹配分数为1/n，如果没有匹配的句子分数为0。最终的分数为所有得分之和。　　把标准答案在被评价系统给出结果中的排序取倒数作为它的准...

研究

2017-02-22

0 713

神经网络架构整理

新的神经网络架构随时随地都在出现，DCIGN，IiLSTM，DCGAN~ 神经网络通常都有很多层，包括输入层、隐藏层、输出层。单独一层不会有连接，一般相邻的两层是全部相连的（每一层的每个神经元都与另一层的每个神经元相连）。 1. 前向传播网络（FF 或 FFNN）它们...

2016-12-28

0 388