谷歌大脑最新研究:AutoML方式自动学习Dropout模式

[热点] 时间:2026-11-14 来源:凶喘肤汗网 作者:客户服务 点击:次

本文经AI新媒体量子位(公众号ID:QbitA谷歌I)授权转载,转载请联系出处。

深度神经网络往往存在大脑过拟合的问题,需要Dropout、权重衰减这样的正最新则化方法的加持。

而最近的研究表明,如果对Dropou研究t“剪掉”的神经元的结构进行利用,就能实现比随机替换更好:A的效果。

问题是,实际应用中,针对不同的问题,利用结构ut的方法需要人工设计,对Dropout的模式进行调整,oM泛化能力不足。

那么,是否能设计一种针对CNN、TransL方former这样的深度神经网络,自动学习Dro式自pout模式的方法?

现在,谷歌大神Quoc V. L动学e的团队,就提出了一种名为AutoDropout的方习D法。

 

 

 

 ro;

 

https://arxiv.org/poabs/2101.01761

 

(责任编辑:论坛资讯)

相关内容
精彩推荐
热门点击
友情链接