本发明公开了一种面向分布式机器学习任务的在线调度方法，通过运用一个对偶近似方法将难以处理的全时段在线问题，转化成一系列离线任务调度问题，并且在转化过程中保证了算法的合理性。本发明能够在不需要知道未来情况下，趋向最优地在线调度分布式机器学习任务和资源，避免了资源的闲置和浪费，从而在充分利用有限资源的情况下高效地实时调度和部署各项任务和资源。在具体的应用过程中，能够帮助云资源提供商合理地分配资源调度任务，并且能够最大化地利用不同任务的资源需求弹性来充分利用现有资源。资源提供商根据本发明可以随着时间的推移实时在线地调整在线调度策略，以谋得资源的最大化利用和最小化所有任务的完成时间加权和。