本发明公开了一种稀疏矩阵向量乘访存优化的计算方法，适用于DCU和GPU架构，该方法包括：将原始稀疏矩阵按照固定行数划分为若干块，每块由一个线程块单独完成计算，并为每个线程块在LDS开辟固定大小的空间；计算每一线程块需要计算的轮次数；在一个轮次的计算中，每个线程块中所有线程完成若干次非零元素计算并将结果写入LDS；每个线程块中一个或多个线程对LDS的乘法结果进行求和并将结果保存至寄存器；当完成所有轮次计算后，将寄存器中的结果进行进一步计算，并将结果写回显存。本发明基于原始CSR格式，无需预处理，且能充分利用访存合并特性，实现了较高的访存带宽利用。