电脑版
首页

搜索 繁体

第255章 调整超参数,以及防止过拟合

热门小说推荐

最近更新小说

江寒在这个FCN网络中,实现了一种新的训练策略,也就是迷你批次训练法。

简单地说,就是每次在18万个训练数据中,随机抽取若干条数据,组成一个小包,作为训练的样本。

然后,若干个小包组成一个完整的批次,训练若干个批次后,训练过程就宣告结束。

显而易见,相较于一次训练全部数据,这样做既节省了资源,又能提高训练速度。

这里涉及到3个超参数:每个小包的数据条数n,每批次包含的小包数量m,以及训练的总批次s。

神经网络里,每个神经元的偏置和权重,都是在训练中获得的,称作参数。

而学习速率、隐藏层神经元的数量,隐藏层的层数,权重初始化方案的选择、激活函数的选择、损失函数的选择……

这些都是超参数,必须在神经网络训练之前指定。

Loading...

未加载完,尝试【刷新网页】or【关闭小说模式】or【关闭广告屏蔽】。

使用【Firefox浏览器】or【Chrome谷歌浏览器】打开并收藏!

移动流量偶尔打不开,可以切换电信、联通网络。

收藏网址:www.haimabooks.com

(>人<;)