本发明涉及一种基于多分支神经网络模型的异构联邦学习训练方法。引入了一个多分支神经网络模型作为共享的全局模型，可以根据不同设备的计算能力来匹配适合的子分支模型，可以很好地适应异构计算资源的场景，充分利用不同设备的计算资源，从而有效地提高整个异构联邦学习训练系统的性能和效率；针对多分支模型的特点，本发明提出一种基于共享层参数的多分支模型聚合方法，可以将不同的子分支模型聚合形成一个全局的多分支模型，从而使得不同设备模型之间能够有效地共享模型参数；在参数聚合的基础上，本发明还引入了蒸馏学习以解决模型聚合后性能波动的问题，从而加速全局模型的收敛速度，减少所需的训练轮数，节约通信消耗。