本申请涉及一种分布式深度学习的梯度量化方法和系统。所述方法包括：获取各个分布式的worker节点计算得到的梯度值，根据梯度值建立一维梯度数组，对一维梯度数组中进行随机采样，对采样得到的梯度值进行聚类，根据聚类结果，建立多个哈希表，根据梯度值对应的类簇，将一维梯度数组中的梯度值插入多个哈希表的哈希桶中，根据梯度值对应的数组序号和梯度值存入所述哈希桶的类簇，生成映射关系表，将插入梯度值的多个哈希表和映射关系表发送给参数服务器完成深度学习的梯度量化。采用本方法能够提高梯度量化的效率。