本公开提供了一种语言模型训练、数据处理方法、装置、设备、介质及产品，涉及人工智能领域，尤其涉及自然语言处理、深度学习、知识图谱领域。具体实现方案为：获取已标注的第一训练数据和未标注的第二训练数据；第一训练数据和第二训练数据为文本数据；对第二训练数据进行数据扩展处理，获得第二训练数据对应的扩展数据；以第一训练数据的标签作为第一训练数据在待训练的语言模型的比对数据，计算获得第一损失值；以扩展数据作为对应的第二训练数据在语言模型的比对数据，计算获得第二损失值；若确定第一损失值和第二损失值之和满足损失条件，则确定语言模型训练结束，获得语言模型的目标模型参数。本公开的技术方案提高了语言模型的模型精度。