本发明公开了一种GPU拓扑分区方法与装置包括：根据多个GPU的物理拓扑信息确定多个GPU之间的互联带宽，并生成包括多个GPU的GPU拓扑图；将GPU拓扑图中的多个GPU随机划入两个分区中；计算GPU拓扑图中所有GPU的迁移增益，将包括更多GPU的分区中迁移增益最高的GPU迁移到包括更少GPU的分区中，计算当前分区方案的跨分区连接的数量，并从GPU拓扑图中移除被迁移的GPU；重复上一步骤直到GPU拓扑图中的所有GPU都被移除，并选择跨分区连接的数量最小的分区方案作为分区结果。本发明能够针对GPU之间的不同连接关系来针对性地从底层优化GPU的拓扑分区，降低GPU之间的传输耗时，提高人工智能的计算速度。