平方误差

平方误差可以写作

对w求导

对w求导,当导数为0的时候,平方误差最小,此时w等于


解释:我们的目的是求y=wx+b+e中的w和b,先使平方误差最小,也就是导数为0,此时w就求出来了,然后b就也求出来了了。

一个线性回归的例子

数据:工资和年龄(2个特征)
目标:预测银行汇贷款给我多少钱(标签)
考虑:工资和年龄都会影响最终银行贷款的结果那么它们各自有多大的影响呢(参数)

公式:

多少个公式,w1和w2的结果会不一样,找到一个比较综合的w1和w2让他们都能体现出来。

通俗解释:
X1,X2就是我们的两个特征(年龄,工资),Y是银行最终会借给我们多少钱。
找到最合适的一条线(想象一个高维)来,最好的拟合我们的数据点

假设θ1是年龄的参数, θ2是工资的参数

拟合的平面:

(θ是偏置项)

整合:

误差:
真实值和预测值之间肯定是要存在差异的
(用来表示该误差)
对于每个样本:

i是次数