本发明提出了一种神经网络训练方法、装置、设备及存储介质，该方法包括：获取步骤，获取用于神经网络训练的样本集，所述样本集包括多个不同类别的图片；优化步骤，优化现有的神经网络模型损失函数，减小每个神经元由于分类样本不均衡导致的梯度方向偏差；训练步骤，使用优化后的损失函数对所述神经网络使用所述样本集进行训练得到训练好的神经网络模型。本发明通过对损失函数进行优化，从而减小由于分类样本不均衡导致的梯度方向偏差，减小的含义是，在同样的样本集经过同样的训练次数后，梯度方向的偏差相比现有方案更小，其可以解决由于现有损失函数导致的缺陷。