本公开提供了一种结构化剪枝方法、系统和计算机可读介质。该结构化剪枝方法包括：接收输入权重模式；基于分块行列剪枝方法从输入权重模式获得输出权重模式，分块行列剪枝方法包括：将输入权重模式划分为子模式的网状网络，输入权重模式的每行包括第一数量的子模式的子行，输入权重模式的每列包括第二数量的子模式的子列；从每个子模式剪除相应的一个或多个子列以实现预定列稀疏度；以及在对于输入权重模式的每行，输入权重模式的相应行中的子模式的至少一个子行未剪除的约束下，从每个子模式剪除相应的一个或多个子行以实现预定行稀疏度。本公开实施例降低了与权重模式相关联的存储和计算成本。