提供了一种用于更有效地管理资源队列的方法、控制器、程序产品和服务。配置两个或多个队列以便处理各种大小的工作负载。从每个队列的顶部分配资源元素并将其返回到底部。可以对每个队列的大小进行选择，以便提供足够的资源元素处理系统的各种等级的工作负载。当工作负载增加并且一个队列中的全部元素都已被分配时，从下一个队列的顶部分配新的资源元素并将其返回到底部。当工作负载降低时，不再从用于较高工作负载的队列分配资源元素。由此，在保持了高效的高速缓存利用率的同时，增强了队列中历史数据的保持。