本申请实施例提供了一种基于优化的kl散度的模型量化方法、装置、电子设备、计算机可读存储介质及计算机程序产品，涉及人工智能技术领域。该方法包括：先获取原始模型中任一层的初始kl散度集，然后根据预设滤波算法对初始kl散度集进行去噪处理，得到任一层对应的优化kl散度集，由于该优化kl散度集是通过预设滤波算法去噪后获得，因此，相邻的截断阈值所对应的kl散度值并不会相差太大，符合相邻的截断阈值对应的分布是极为相似的原理，在此基础上，根据该优化kl散度集确定出的目标截断阈值更准确。若基于该方法量化原始模型，量化所得模型的处理效果和原始模型的处理效果相差不大。