提供了一种总线仲裁装置，包括顶层仲裁器，其特征在于，所述分级总线仲裁装置还包括：第一仲裁器，所述第一仲裁器用于对第一类请求进行仲裁，其中第一类请求与第一类主单元有关；第二仲裁器，所述第二仲裁器用于对第一类请求不同的第二类请求进行仲裁，其中，第二类请求和与第一类主单元不同的第二类主单元有关；其中，所述第一仲裁器和所述第二仲裁器分别自所述顶层仲裁器向下形成分级仲裁结构。利用这种总线仲裁装置，能够提升总线仲裁效率的总线仲裁架构。