本公开涉及一种神经网络模型部署方法及装置、电子设备和存储介质，所述方法包括：对待部署的神经网络模型进行编译，得到包括多个离线子模型的离线模型，每个离线子模型可部署到对应的硬件后端；再将多个离线子模型下发至对应的硬件设备，每个硬件设备可对应于至少一个硬件后端。本公开实施例可充分发挥针对硬件设备的各种硬件后端的优势，提高神经网络模型的部署效率和灵活度。