基于相似度运算符排序的神经架构搜索
实质审查的生效
摘要
网络架构搜索(NAS)受到了许多关注。基于超网的可区分方法由于其可以有效地共享权重并进行更有效的搜索而变得流行。然而,由权重共享导致的架构与权重之间的不匹配仍然存在。此外,不同运算符之间的关联效应也被忽略。为了缓解这些问题,本文提出通过基于相似度的运算符排序的有效的NAS方法的实施方式。为了近似超网中每层的输出,使用基于统计随机比较的基于相似度的运算符排序。在一个或多个实施方式中,可能引起特征分布差异的最小改变的运算符被剪枝。在一个或多个实施方式中,可以使用公平采样过程来减轻先前超网方法中频繁发生的运算符的Matthew效应。
基本信息
专利标题 :
基于相似度运算符排序的神经架构搜索
专利标题(英):
暂无
公开(公告)号 :
CN114556364A
申请号 :
CN202080007125.0
公开(公告)日 :
2022-05-27
申请日 :
2020-09-18
授权号 :
暂无
授权日 :
暂无
发明人 :
李抱朴范彦文潘志宏希滕张刚
申请人 :
百度时代网络技术(北京)有限公司;百度(美国)有限责任公司
申请人地址 :
北京市海淀区东北旺西路8号中关村软件园17号楼二层A2
代理机构 :
北京英赛嘉华知识产权代理有限责任公司
代理人 :
王达佐
优先权 :
CN202080007125.0
主分类号 :
G06N3/04
IPC分类号 :
G06N3/04 G06N3/08 G06F8/41
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06N
基于特定计算模型的计算机系统
G06N3/00
基于生物学模型的计算机系统
G06N3/02
采用神经网络模型
G06N3/04
体系结构,例如,互连拓扑
法律状态
2022-06-14 :
实质审查的生效
IPC(主分类) : G06N 3/04
申请日 : 20200918
申请日 : 20200918
2022-05-27 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载