本申请公开了一种机器学习模型管理方法、装置、设备及存储介质。该方法包括：获取服务器集群内每个服务器的服务器信息；获取待部署的机器学习模型，并根据所述机器学习模型对应的部署策略以及所述服务器信息从所有所述服务器内筛选出目标服务器；将所述机器学习模型部署至所述目标服务器。针对不同框架导出的模型以及自定义模型均能部署在符合要求的服务器上，实现对模型一键自动部署，有效缩短机器学习和深度学习模型的部署发布时间，面对大规模的模型部署与管理能够简化操作，并节约人力和管理资源以节省成本。