本发明提供了一种AI平台训练任务调度的方法和装置，该方法包括：响应于AI平台中待训练任务的等待时间超过预设时间，分别计算超过预设时间的训练任务以及后面的训练任务的预估训练时间；基于每个任务对应用户的排队任务数量和用户正在运行任务数量的比例由大到小将每个任务进行排序以形成第一序列；基于每个任务对应用户已运行的训练任务所使用的计算资源数目由多到少进行排序以形成第二序列；基于每个任务的预估训练时间由大到小进行排序以形成第三序列；基于每个任务在第一序列、第二序列和第三序列中的得分和权重计算每个任务的最终得分，并基于最终得分将任务的顺序进行排序。通过使用本发明的方案，能够提高训练平台的效率。