本申请公开了用于神经网络的乘加运算方法和装置，涉及计算机领域，具体涉及深度学习等人工智能技术领域。具体实现方案为：响应于获取到的乘加运算请求，确定待运算的各个数据的类型；在待运算的各个数据的类型为单精度浮点的情况下，对待运算的各个数据的尾数进行压缩，以获取压缩后的各个尾数；将每个压缩后的尾数按照预设的规则进行拆分，以确定每个压缩后的尾数中的高位数及低位数；基于每个压缩后的尾数中的高位数及低位数，将压缩后的各个尾数进行乘加运算。该方法实现了在节约硬件资源成本和功耗的情况下，实现高精度的运算，配合完成卷积操作，且较短的操作数，可占用更少的内存，减少操作开销、加快运算速度。