本发明提供一种面向边缘集群的并行计算方法和系统，方法包括：获得边缘集群中各计算设备的计算能力；将包括主分支和子分支的多层卷积神经网络按多融合层块方式划分为多个多融合层块，根据获取的各计算设备的计算能力向各个计算设备分配与其计算能力对应的工作负载，在各个计算设备执行主分支中多融合层块的计算而到达子分支时，保存当前主分支的计算结果，基于当前主分支的计算结果由各个计算设备执行当前位置的子分支的卷积层，由计算能力最强的计算设备执行全连接层并依据执行结果获得输入样本的熵值并将该熵值与预设的置信度阈值的比较结果确定继续执行主分支还是退出计算。本发明能优化在资源受限的设备上执行现有大型神经网络的效果。