本申请实施例公开了一种调度存储器中数据的方法、数据调度设备及系统，数据调度设备可以根据需要调入片上内存的第一目标数据的长度以及该第一目标数据在片外存储器中的物理存储地址，提取出片外存储器中的第一目标数据，并将基于该第一目标数据所得到的第二目标数据一次性调入至片上内存，其中，该第二目标数据被片上处理器进行处理，该片上处理器、片上内存以及数据调度设备集成于同一芯片上。可见，数据调度设备是一次性的将所有数据全部调入片上内存，而无需频繁的执行数据调入过程，从而减少数据调入至片上内存的耗时时长，降低数据调入片上内存所产生的时延。