strongnine

分类

Julia(7) LaTeX(5) mac os x(1) Markdown(3) MATLAB(3) Python(20) 人工智能(26) 排序(1) 操作系统(1) 数学(5) 数据结构(2) 译智社(6)

/ 注册

TA的专栏 71篇文章 2人订阅

43篇文章 1892人学习

14篇文章 1731人学习

14篇文章 421人学习

全部文章（共5篇）

伴随方法：线性方程的伴随方程（Adjoint Equation）来自专栏

伴随方法：线性方程的伴随方程（Adjoint Equation）伴随方法是 Neural-ODE 中十分重要的一个方法，它让一个计算量复杂到基本无法求解的问题变得有可能。在神经网络中嵌套线性方程或者非线性方程也会遇到同样的问题，这篇文章从最简单的例子线性方程中的网络参数求解中，表达一下伴随方法的思...

人工智能数学伴随矩阵线性代数线性方程梯度下降优化算法损失函数

2022-05-15

2 1002

Julia：Flux.jl 中的网络更新优化器参数解释

Flux.jl 中网络参数的更新方法为 update!(opt, p, g)，update!(opt, ps::Params, gs)，其中 p 或者 ps 是网络的参数，g 和 gs 是参数对应的梯度。网络参数更新的优化器有很多的选择，但是大部分都是 Adam 算法的变种或者优化，下面是关于这些优...

Julia 人工智能

2022-05-07

0 484

特征工程：什么是「组合特征」？要如何处理「高维组合特征」？来自专栏

为了提高复杂关系的拟合能力，在特征工程中经常会把一阶离散特征两两组合，构成高阶组合特征。在实际问题中，需要面对多种高维特征，简单地两两组合，依然容易存在参数过多、过拟合等问题。怎样有效地找到组合特征？可以利用决策树来寻找特征组合方式。例如，影视推荐问题有两个低阶特征「语言」和「类型」，其中有语...

特征工程人工智能机器学习深度学习

2022-05-07

0 501

特征工程：归一化与标准化来自专栏

样本特征由于来源以及度量单位不同，它们的尺度（Scale），或者说是取值范围有可能差异很大。如果一个机器学习算法在缩放全部或者部分特征后不影响它的学习和预测，我们就称该算法具有尺度不变性（Scale Invariance）。神经网络从理论上应该具有尺度不变性，可以通过参数的调整来适应不同特征的尺度。...

Python3 数学 Python 人工智能机器学习深度学习特征工程

2022-05-07

0 390

PyTorch：常见错误 inplace operation 来自专栏

inplace 操作是 PyTorch 里面一个比较常见的错误，有的时候会比较好发现，例如下面的代码： import torch w = torch.rand(4, requires_grad=True) w += 1 loss = w.sum() loss.backward() 执行 loss ...

PyTorch 人工智能深度学习神经网络机器学习 Python

2022-05-07

0 591