本发明提出一种基于注意力机制的神经网络单元结构搜索方法和系统，包括：在搜索空间中构建宏架构超网络，且宏架构超网络中每一层单元结构为有向无环图，有向无环图中节点间通过边相连接，每条边代表搜索空间中多个候选操作的组合；对单元结构中每条边的所有候选操作输出特征图之后添加注意力模块，得到待搜索网络；使用已标记标签的数据集，训练待搜索网络，且在训练过程中逐步删除中间搜索网络单元结构中每条边上注意力权重最小的候选操作，直到训练达到预设的迭代次数，剔除当前待搜索网络中所有注意力模块，得到数据集的神经网络单元结构搜索结果。本发明既能考虑操作之间的相互影响，又能保留各个操作直至搜索的最后步骤。