本发明信息处理技术领域的一种神经网络量化方法和装置、神经网络推理方法和系统，方法包括以下步骤：设置神经网络的推理精度阈值；分离量化每层输出特征数据量化参数和每层权重量化参数；对于神经网络中的前后关联层，根据当前层的输出特征数据量化参数更新输入层的输出特征数据量化参数；以所述推理精度阈值为约束条件，根据每层推理浮点值和分离量化后的定点值比对结果，优化输出特征数据量化参数。利用Soc芯片中的协处理器执行每个网络层的定点推理过程。本方案在现有的Soc芯片上实现深度神经网络的推理过程，利用Soc芯片自带的协处理器实现前向推理过程，减少开发周期，节约成本。