本发明涉及神经网络技术领域，公开了一种神经网络编译阶段优化置换代价的方法，首先标记出神经网络中所有的置换操作，然后通过移动置换操作，将连续的多个同类置换标记为同一组，接着对同一组的置换操作进行合并，最后对比各个可选位置的执行代价，并根据对比结果来选择合并后置换所处的位置。该方法通过移动、合并置换操作等手段来降低神经网络编译阶段的置换代价，显著地减小了神经网络推理过程的数据计算量，提高了神经网络处理器推理相关神经网络的执行效率。