本发明公开了一种卷积神经网络模型压缩方法、装置、设备和介质，包括：为待压缩卷积网络模型的每一层中各个参数组设置掩膜，生成带掩膜的待训练模型；对待训练模型执行N轮周期训练，并对训练得到的第一模型执行网络稀疏步骤，当第二模型满足预设的模型修剪条件时，判断第二模型是否满足训练终止条件，若否，将第二模型作为待训练模型，重复执行对待训练模型执行N轮周期训练，并对训练得到的第一模型执行网络稀疏步骤，直至得到的第二模型满足训练终止条件；基于训练得到的第二模型的每一层中各个参数组的掩膜值，得到压缩后的卷积网络模型。本申请不仅缩小了模型的自身尺寸，同时还保留了甚至提高了待压缩卷积神经网络原有的精度和性能。