本说明书实施例提供了一种模型训练方法、装置、设备及系统，其中方法包括：图像采集设备采集待识别用户的生物特征图像，基于学生模型对生物特征图像进行识别处理，得到识别结果；若根据识别结果确定生物特征图像满足预设的样本累积条件，则将生物特征图像确定为第一目标样本并保存；确定是否满足学生模型的自蒸馏训练条件，若是，则基于融合指导和一对多指导的自蒸馏训练方式，利用保存的第一目标样本对学生模型进行自蒸馏训练处理，得到更新后的学生模型；其中，学生模型由服务端基于预先训练的教师模型对待训练的学生网络进行蒸馏训练所得。