本申请涉及神经网络量化领域，具体地，涉及一种提高低比特量化模型性能的方法包括：采用预设的算法对预设的图像矩阵和预设的第一权重进行迭代计算，获得图像向量；对第一权重进行量化获得第二权重；对第一权重和第二权重进行计算，获得第一权重的量化误差正则项数据；将量化误差正则项数据视为对第一权重的数据分布情况的约束结果；获得约束结果；获得总损失函数模型；对所述总损失函数模型进行反向梯度传播，获得第一权重的优化数据结果，迭代步骤，直至神经网络收敛；在实际应用过程中，使用了量化误差正则项，避免了量化感知训练中的训练不稳定的缺点；量化误差正则项可以直接在模型的微调阶段加入，相较于量化感知训练有更少的计算量。