本发明公开了一种中间件软件实现TCP通信互载均衡方法，利用IP网络通信协议中的组播通信技术，将通信系统中各中间件服务器节点的通信地址和服务器的处理能力、连接数、连接速度信息采取一对多数据广播的形式通知所有客户端，客户端根据负载均衡算法中加权轮转、加权最小连接数及局部性的最小连接与基于响应时间的WLC算法的组合选择连接最优的服务器，实现互载均衡的功能。本发明通过在纯中间件应用软件中增加互载均衡的功能，在不增加硬件和额外成本的情况下，同时部署两个以上相同功能的中间件服务器，来替代硬件互载均衡设备，客户端系统可以在多个中间件服务器中根据负载情况自动切换，明显提高了系统的可靠性和运行效率，增强了系统的互载能力。