一种改进的可微分网络结构搜索的方法
授权
摘要
本发明涉及一种改进的可微分的网络结构搜索方法,步骤为:处理训练语料并对可微分网络结构搜索的方法进行建模并训练,在训练过程中对元结构进行选择;对训练过程中元结构的结构参数数值进行全局归一化操作;对元结构中的网络参数与结构参数进行双层优化,以训练集与校验集的损失值为优化过程的目标函数,通过反向传播梯度数值对网络参数与结构参数进行调整;对训练结束后的元结构的结构参数进行排序,保留权重最大的操作,该搜索结果作为搜索的元结构;对搜索得到的元结构进行循环展开进而生成模型,使用训练数据对模型进行训练直至收敛。本发明减少网络中局部偏置的影响,增大了搜索覆盖度,相较于现有的可微分结构搜索方法均取得了较好的结果。
基本信息
专利标题 :
一种改进的可微分网络结构搜索的方法
专利标题(英):
暂无
公开(公告)号 :
CN110851566A
申请号 :
CN201911067765.6
公开(公告)日 :
2020-02-28
申请日 :
2019-11-04
授权号 :
CN110851566B
授权日 :
2022-04-29
发明人 :
杜权许诺朱靖波肖桐张春良
申请人 :
沈阳雅译网络技术有限公司
申请人地址 :
辽宁省沈阳市和平区三好街84号东软电脑城1104
代理机构 :
沈阳优普达知识产权代理事务所(特殊普通合伙)
代理人 :
李晓光
优先权 :
CN201911067765.6
主分类号 :
G06F16/33
IPC分类号 :
G06F16/33 G06F16/36 G06N3/04 G06N3/08 G06F40/295
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/33
••查询
法律状态
2022-04-29 :
授权
2021-10-19 :
著录事项变更
IPC(主分类) : G06F 16/33
变更事项 : 发明人
变更前 : 杜权 许诺 朱靖波 肖桐 张春良
变更后 : 杜权 许诺
变更事项 : 发明人
变更前 : 杜权 许诺 朱靖波 肖桐 张春良
变更后 : 杜权 许诺
2020-03-24 :
实质审查的生效
IPC(主分类) : G06F 16/33
申请日 : 20191104
申请日 : 20191104
2020-02-28 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载