华为提出基于进化算法和权值共享的神经网络结构搜索,CIFAR-10上仅需单卡半天|CVPR2020(7)

2023-05-01 来源:飞速影视
Evaluate on ILSVRC2012

华为提出基于进化算法和权值共享的神经网络结构搜索,CIFAR-10上仅需单卡半天|CVPR2020


将在CIFAR-10上搜索到网络迁移到ILSVRC22012数据集,结果表明搜索到的结构具备迁移能力。
结论
为了优化进化算法在神经网络结构搜索时候选网络训练过长的问题,参考ENAS和NSGA-III,论文提出连续进化结构搜索方法(continuous evolution architecture search, CARS),最大化利用学习到的知识,如上一轮进化的结构和参数。首先构造用于参数共享的超网,从超网中产生子网,然后使用None-dominated排序策略来选择不同大小的优秀网络,整体耗时仅需要0.5 GPU day。
Pareto相关理论:
https://blog.csdn.net/qq_34662278/article/details/91489077
论文地址:
https://arxiv.org/abs/1909.04977
【end】
中国「远程办公」大考·线上峰会
10 位来自华为、阿里、微软、CODING等名企的专家大牛为大家做全天直播!
在线答疑、吐槽评论、现场抽奖等与大咖多维互动,不出家门,用程序员的方式来共同“抗”疫!
远程办公是一阵“过渡风”还是会“继续燃烧”?先马后看!详解线性回归、朴素贝叶斯、随机森林在R和Python中的实现应用!(附代码)美国AI公司30亿人脸数据被黑,遭科技巨头联合“封杀”探索处理数据的新方法,8 个重点带你搞懂云数据库——DBaaS(数据库即服务)到底是什么!36万美元套利!3 个步骤揭秘黑客DeFi闪电贷操盘全过程近一半程序员单身、年薪低于 15 万,程序员扎心现状大调查!
相关影视
合作伙伴
本站仅为学习交流之用,所有视频和图片均来自互联网收集而来,版权归原创者所有,本网站只提供web页面服务,并不提供资源存储,也不参与录制、上传
若本站收录的节目无意侵犯了贵司版权,请发邮件(我们会在3个工作日内删除侵权内容,谢谢。)

www.fs94.org-飞速影视 粤ICP备74369512号