deeplearning 鱼与熊掌可以兼得
鱼与熊掌兼得(deeplearning的好处)
一.两难境地
在deep learning过程中,对应的参数量过多,可能会造成过拟合的现象,而相反的,参数量过少有可能获得不了比较良好的效果,这让我们进入了两难的境地。
二.piecewise linear(分段线性曲线回顾)
分段线性曲线可以看作常数项加上一系列的Z形函数。
而对应的hard sigmoid的一段函数又可以有对应的两端RELU函数进行组合表示。
三.是否深度学习表现更加优异
可以看到,随着对应的深度学习的层数增加对应的语音识别的错误率也有所降低。
那么瘦高的神经网络,和矮胖的神经网络哪个更好。
若采取同样的参数量,这里两种神经网络那个更加的优秀。
如图所示,采用相同的参数量,对应的更深的神经网络的表现要明显的优于矮胖的神经网络。
甚至到最后矮胖的神经网络随着参数的增多,对应的实验效果变得不那么优秀,甚至出现了倒退的行为。
四.为什么我们需要更深的神经网络。
的确一层的神经网络可以拟合出任何的函数,但是利用深度学习网络对于效果的提升更加具有效率。例如:逻辑元器件进行组合,采用更深的 组合可以减少器件的数量。在编程的过程中比较深的递归的方法可以很大程度上的节省编程的程序篇幅,增加代码的可读性。
对应的剪纸的过程中,采用折叠的方式也可以类比到神经网络,剪纸的层数增加,从而使工匠对于制作的过程中更加的简洁,节省体力,增加效率。
五.总之:::::
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 JSJ-0513!