本公开提供了一种在神经网络中处理样本的方法、计算设备和计算机可读存储介质。该方法包括：基于所述神经网络的多个阶段中的最小特征图尺寸和计算核的片上缓存的尺寸确定一个批量输入数据所包含的样本的数量；在所述神经网络的第一个阶段接收包含所述数量的样本的批量输入数据；在所述神经网络的每个阶段，基于所述阶段的特征图尺寸和所述计算核的硬件通道宽度，将所述批量输入数据划分为一组或多组子批量数据；以及依次对每组子批量数据进行批量归一化处理和激活处理。