本申请提供一种命名实体识别方法及装置，在样本数据中加入至少一种领域的先验知识；基于至少一种领域的先验知识，对预训练模型进行训练，通过减少预训练模型中多头注意力机制的个数，多头注意力机制的个数与命名实体识别关注的领域一致，如影视领域的命名实体识别中，从词性上区分主要是重点关注名词、动词、形容词、数词等识别领域。让不同头注意力机制关注不同的识别领域，同时拉远不同头注意力机制之间的距离，使得多头注意力机制学习到的语义表达不产生冗余。