本发明提供了一种面向异构内存设备的深度学习Embedding数据高效处理系统及方法，该系统包括三个模块，其中Embedding数据摆放模块用于将Embedding数据与预加和数据进行分类并摆放到NVM或者DRAM上；高效索引建立模块用于对摆放好的数据建立索引；Embedding操作运行模块利用已建立好的索引，快速对请求中涉及的Embedding数据进行定位，并执行正常的Embedding操作。本发明利用深度学习Embedding数据的冷热特性以及打包出现特性在异构内存设备上进行数据摆放；并建立轻量级索引以高效地服务任务请求，该系统能够最大化利用DRAM与NVM的空间，提高系统对Embedding数据的处理效率。