本申请公开了一种关系抽取方法、装置、设备及可读存储介质，该方法包括步骤：接收用户输入的自然语言数据；输入所述自然语言数据到第一语言模型中，得到实体关系数据，其中，所述实体关系数据用于表征所述自然语言数据中的实体关系，所述第一语言模型是先以实体关系匹配ERM和掩码语言模型MLM作为预训练任务对预定的第二语言模型进行训练得到第三语言模型，再利用预测关系公式对所述第三语言模型进行训练后得到的。本申请避免了使用NSP作为语言模型的预训练任务，导致语言模型无法从NSP中获得对关系抽取任务的性能提升，提高了语言模型的数据处理能力。