方法、系统和装置，包括在计算机存储介质上编码的计算机程序，用于：从客户端接收处理计算图的请求；获得表示所述计算图的数据，所述计算图包括多个节点和有向边，其中，每个节点表示相应运算，其中，每个有向边将相应第一节点连接至相应第二节点，所述相应第二节点表示接收由所述相应第一节点所表示的运算的输出作为输入的运算；识别用于执行所请求的运算的多个可用设备；将所述计算图划分成多个子图，每个子图包括所述计算图中的一个或多个节点；以及针对每个子图，将该子图中的一个或多个节点所表示的运算分配到所述多个可用设备中的相应可用设备以供运算。