基于生成式预训练模型参数精调整的可控文本生成方法
授权
摘要
本发明提出基于生成式预训练模型参数精调整的可控文本生成方法。首先在生成式预训练模型的词嵌入层自定义条件编码，再将控制文本作为提示进行参数精调整，更新控制文本参数，使整个原始输入序列的负对数似然函数值最小化，以减少计算量，从而提高模型训练速度；同时在模型生成操作层融入编码网络实现可控归一化，使特征方差在不同深度的解码模块中保持偏向控制文本的范围，以提高模型的可控生成能力，从而提高可控文本生成精度。
基本信息
专利标题 ：
基于生成式预训练模型参数精调整的可控文本生成方法
专利标题（英）：
暂无
公开（公告）号 ：
CN114297382A
申请号 ：
CN202111627389.9
公开（公告）日 ：
2022-04-08
申请日 ：
2021-12-28
授权号 ：
CN114297382B
授权日 ：
2022-06-10
发明人 ：
王越胜叶旺何中杰
申请人 ：
杭州电子科技大学
申请人地址 ：
浙江省杭州市下沙高教园区2号大街
代理机构 ：
杭州君度专利代理事务所(特殊普通合伙)
代理人 ：
杨舟涛
优先权 ：
CN202111627389.9
主分类号 ：
G06F16/35
IPC分类号 ：
G06F16/35 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F16/35
••聚类；分类
法律状态
2022-06-10 ：
授权
2022-04-08 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
