本发明公开了一种卷积运算硬件加速器，包括：特征图重组模块将输入特征图的每一行输入特征数据进行分段，每一段数据最大为M；特征图缓存写控制模块生成每一个输入特征数据要写入的特征图缓存单元序号和缓存写地址，写入特征图缓存模块中，在同一个时钟周期内最多有M个输入特征数据并行写入到M个特征图缓存单元；特征图缓存读控制模块在一次卷积运算中单个时钟周期内最多有M个输入特征数据并行读取；卷积核缓存模块将单个输出通道的卷积核按照M个卷积核数据为一组写入M个卷积核缓存单元；计算模块将卷积核数据和输入特征数据进行对应卷积运算。通过本发明能够使硬件加速器支持不同尺寸参数的卷积运算，并提升卷积运算的计算效率。