见闻百科,有趣实用的生活常识!

手机版

有趣实用的生活常识!

当前位置:首页 > 互联网

l1和l2正则化的区别 l1和l2正则化的区别在哪

时间:2023-07-13人气:作者: 未知

l1和l2正则化的区别 l1和l2正则化的区别在哪

l1和l2正则化的区别是:

1、L1是模型各个参数的绝对值之和。L2是模型各个参数的平方和的开方值。

2、L1会趋向于产生少量的特征,而其他的特征都是0,因为最优的参数值很大概率出现在坐标轴上,这样就会导致某一维的权重为0 ,产生稀疏权重矩阵。L2会选择更多的特征,这些特征都会接近于0。

标签: 正则  参数  平方和  都是  模型