本发明提供一种深度卷积神经网络量化的方法、系统、设备和存储介质，方法包括：解析深度学习神经网络模型，并在需要量化的算子处插入伪量化算子；在构建的测试集进行浮点型参数推理，并根据相对熵散度计算得到特征量化缩放因子；对所述深度学习神经网络模型的卷积层或全连接层权重参数进行量化以得到权重量化缩放因子；以及根据所述特征量化缩放因子和所述权重量化缩放因子进行量化推理。本发明将随机舍入应用到深度神经网络模型量化中，同时对按通道量化算法进行优化，在设计的专用设备上进行量化推理，提高深度神经网络模型量化推理精度和效率。