本申请实施例公开了一种神经网络的量化方法、装置、设备、存储介质及程序产品，涉及人工智能技术领域。所述方法包括：获取神经网络的多个功能层的第一量化参数，第一量化参数用于将浮点格式的数据量化为第一定点格式的数据，第一定点格式是第一处理单元所采用的格式；对于多个功能层中的第一功能层，将第一功能层的第一量化参数转换为第二量化参数，第二量化参数用于将浮点格式的数据量化为第二定点格式的数据，第二定点格式是第二处理单元所采用的格式，且第一处理单元和第二处理单元是两个不同的处理单元；在采用第二处理单元对第一功能层进行推理的情况下，基于第二量化参数对第一功能层的推理过程中涉及的相关数据进行量化。