本发明涉及一种异构计算系统的构建方法及系统，通过根据不同的业务需求，确定任务类型；根据任务类型，获取训练数据，并构建与任务类型对应的神经网络模型；采用预先建立的异构计算系统，采用训练数据对神经网络模型进行训练，得到与任务类型对应的模型文件；采用XPU加速栈对与任务类型对应的模型文件进行转换，得到模型部署文件和配置文件；采用预先建立的异构计算系统，对模型部署文件和配置文件进行封装，得到不同的业务服务，并将业务服务进行发布，可以有效的防止被垄断的风险，同时对于未来智能应用的多样性、部署环境快速多变、信息系统对底层信息基础软硬件设施等方面，满足自主可控、系统快速部署、动态调整等需求。