云计算系统接收源自多个租户的多个请求。此后，构成云计算系统的一部分的负载均衡器基于被配置为优化高速缓存命中率的组映射表，将每个请求分派给多个服务器组之一。每个服务器组包括多个服务器，将每个请求分派给每个服务器组内的多个服务器之一。云计算系统向各个租户提供由各个服务器组内的各个服务器生成的对请求的响应。可以通过监视租户中的每一个的历史请求统计数据、监视多个服务器组在处理来自租户的请求时的当前资源消耗、以及基于这样的监视关联每个租户与服务器组之一来生成组映射表。