本公开涉及分布负载平衡器，其中路由器从至少一个客户端接收封包，并且根据每流哈希多路径路由技术将封包流路由至多个负载平衡器(LB)节点。对给定封包流来说，所述LB节点从多个服务器节点中随机选择服务器节点作为用于所述封包流的目标，并且将连接请求发送至所述服务器节点。所述服务器节点上的负载平衡器模块基于指示相应服务器的当前负载的一个或多个量度来做出关于是否接受或拒绝所述连接的决定。如果所述模块接受所述连接请求，那么在所述服务器与所述客户端之间建立连接。否则，所述负载平衡器节点可选择另一个服务器节点并且再次尝试。客户端与服务器之间建立的所述连接通过所述负载平衡器节点，但不在所述负载平衡器节点处终止。