[一起面试AI]NO.5过拟合、欠拟合与正则化是什么？

【推荐阅读】微服务还能火多久？>>>

Q1 过拟合与欠拟合的区别是什么，什么是正则化

欠拟合指的是模型不能够再训练集上获得足够低的「训练误差」，往往由于特征维度过少，导致拟合的函数无法满足训练集，导致误差较大。

过拟合指的是模型训练误差与测试误差之间差距过大；具体来说就是模型在训练集上训练过度，导致泛化能力过差。

「所有为了减少测试误差的策略统称为正则化方法」，不过代价可能是增大训练误差。

Q2 解决欠拟合的方法有哪些

降低欠拟合风险主要有以下3类方法。

1. 加入新的特征，对于深度学习来讲就可以利用因子分解机、子编码器等。

2. 增加模型复杂度，对于线性模型来说可以增加高次项，对于深度学习来讲可以增加网络层数、神经元个数。

3. 减小正则化项的系数，从而提高模型的学习能力。

Q3 防止过拟合的方法主要有哪些

「1.正则化」

正则化包含L₁正则化、L₂正则化、混合L₁与L₂正则化。

「L₁正则化」目的是减少参数的绝对值总和，定义为：

「L₂正则化」目的是减少参数平方的总和，定义为：

**混合L₁与L₂**正则化是希望能够调节L₁正则化与L₂正则化，定义为：

因为最优的参数值很大概率出现在「坐标轴」上，这样就会导致某一维的权重为0，产生「稀疏权重矩阵」。而L₂正则化的最优的参数值很小概率出现在坐标轴上，因此每一维的参数都不会是0。

所以由于L₁正则化导致参数趋近于0，因此它常用于特征选择设置中。而机器学习中最常用的正则化方法是对权重施加「L₂范数约束」。

L₁正则化与L₂正则化还有个「重要区别」就是L₁正则化可通过假设权重w的先验分布为「拉普拉斯分布」，由最大后验概率估计导出。L₂正则化可通过假设权重w的先验分布为「高斯分布」，由最大后验概率估计导出。

「2.Batch Normalization」

Batch Normalization是一种深度学习中减少泛化误差的「正则化」方法，主要是通过缓解梯度下降加速网络的训练，防止过拟合，降低了参数初始化的要求。

由于训练数据与测试数据分布不同会降低模型的泛化能力。因此，应该在开始训练前对数据进行「归一化处理」。因为神经网络每层的参数不同，每一批数据的分布也会改变，从而导致每次迭代都会去拟合不同的数据分布，增大过拟合的风险。

Batch Normalization会针对每一批数据在输入前进行归一化处理，目的是为了使得输入数据均值为0，标准差为1。这样就能将数据限制在统一的分布下。

「3.Dropout」

Dropout是避免神经网络过拟合的技巧来实现的。Dropout并不会改变网络，他会对神经元做「随机」删减，从而使得网络复杂度「降低」，有效的防止过拟合。

具体表现为：每一次迭代都删除一部分隐层单元，直至训练结束。

运用Dropout相当于训练了非常多的仅有部分隐层单元的神经网络，每个网络都会给出一个结果，随着训练的进行，大部分网络都会给出正确的结果。

「4.迭代截断」

迭代截断主要是在迭代中记录准确值，当达到最佳准确率的时候就截断训练。

「5.交叉验证」

K-flod交叉验证是把训练样本分成k份，在验证时，依次选取每一份样本作为验证集，每次实验中，使用此过程在验证集合上取得最佳性能的迭代次数，并选择恰当的参数。

---

hi 认识一下？

❝

微信关注公众号：「全都是码农」 (allmanong)
你将获得：
关于人工智能的所有面试问题「一网打尽」!未来还有「思维导图」哦！
回复「121」 立即获得 已整理好121本「python学习电子书」。
回复「89」 立即获得 「程序员」史诗级必读书单吐血整理「四个维度」系列89本书。
回复「167」 立即获得 「机器学习和python」学习之路史上整理「大数据技术书」从入门到进阶最全本（66本)
回复「18」 立即获得 「数据库」从入门到进阶必读18本技术书籍网盘整理电子书（珍藏版）
回复「56」 立即获得 我整理的56本「算法与数据结构」书
未来还有人工智能研究生课程笔记等等，我们一起进步呀！

❞

来源：oschina

链接：https://my.oschina.net/u/4335406/blog/3234304