本发明公开了一种空间/模态混合分集的多子阵轨道角动量天线设计方法，首先忽略子阵间互耦效应并推导空间分集的表达式和有效传输距离下的结构参数设计范围，然后基于互耦效应研究子阵对不同空间分集的模态混叠及影响，最后经过优化子阵规模、阵间距等因素得到最佳传输效果的紧凑型轨道角动量天线。本发明尽可能地减小了波束之间的混叠效应，实现了涡旋波束的高纯度、低混叠特性。