-
正则化线性回归-进入it企业必读的200个.net面试题完整扫描版下载
资源介绍
7.3 正则化线性回归
参考视频: 7 - 3 - Regularized Linear Regression (11 min).mkv
正则化线性回归的代价函数为:
如果我们要使用梯度下降发令这个代价函数最小化,因为我们未对 θ0 进行正则化,所
以梯度下降算法将分两种情形:
对上面的算法中 j=1,2,...,n 时的更新式子进行调整可得:
可以看出,正则化线性回归的梯度下降算法的变化在于,每次都在原有算法更新规则的
基础上令 θ 值减少了一个额外的值。
我们同样也可以利用正规方程来求解正则化线性回归模型,方法如下所示:
图中的矩阵尺寸为 (n+1)*(n+1)。