本申请提供的一种嵌入参数缓存的方法、装置、设备及存储介质，通过获取至少一个嵌入表的嵌入参数至CPU内存中，将所述嵌入参数的部分热点存储至GPU显存中；基于霍夫曼编码的编码机制，将所述至少一个嵌入表的特征ID编码生成具有统一格式、全局唯一的全局键；采用全局嵌入缓存表为GPU缓存的存储形式，所述全局嵌入缓存表是以所述全局键为键，索引所述嵌入表；采用统一索引技术，将预设数量的CPU内存中的索引查询卸载至GPU显存中；读写缓存时，将嵌入参数的拷贝操作从缓存的索引操作中解耦。采用本技术方案，能够解决嵌入式的访问需求以及缓解模型预估时的性能问题。