本发明提供了一种softmax函数定点化实现方法和装置，应用于部署在神经网络中任一神经网络层的softmax模块，技术方案为：根据该softmax模块的输入特征图位宽，对softmax函数的每行输入特征图数据进行数据调整；查找预先为该神经网络层配置的指数映射表确定该行输入特征图数据的调整数据对应的指数映射值；计算该行输入特征图数据的调整数据对应的指数映射值总和；对所述指数映射值总和进行数据转换，将转换结果输入预先为该神经网络层配置的倒数映射函数得到所述指数映射值总和对应的倒数映射值；对该行的每个输入特征图数据的调整数据对应的指数映射值与该行输入特征图数据对应的指数映射值总和的倒数映射值进行乘法运算和移位运算得到最终结果。