包括在计算机存储介质上编码的计算机程序的方法和系统。在一个方面，一种方法包括：获得指定要部署在神经网络硬件加速器上的一个或多个神经网络的数据，所述一个或多个神经网络中的每一个具有相应的参数集合，并且神经网络硬件加速器具有一个或多个存储器，所述一个或多个存储器具有存储器容量；确定将在由神经网络硬件加速器处理所述一个或多个神经网络中的任何一个神经网络期间的任何一个时间处所使用的所述存储器容量的最大量；识别所述一个或多个神经网络的参数子集，所述参数子集所消耗的存储器量小于存储器容量与所确定的存储器容量的最大量之间的差；以及存储所识别的参数子集。