本申请提供一种分类模型的训练方法及装置、电子设备、计算机可读存储介质，方法包括：构建与已训练的标准分类模型对应的轻量模型；将样本数据集中的样本发票图像分别输入标准分类模型和轻量模型，获得标准分类模型在预测过程的第一损失参数和轻量模型在预测过程中的第二损失参数；对第一损失参数和第二损失参数加权求和，得到目标损失参数；依据目标损失参数对轻量模型的网络参数进行调整，并迭代至轻量模型收敛，得到轻量分类模型。本申请方案，训练过程中参考了标准分类模型的第一凭据参数，可将标准分类模型从样本发票图像中学习到的知识传递至轻量模型，从而训练出预测效果更佳、模型复杂度较低的轻量分类模型。