本发明公开一种基于迭代学习控制的小天体探测器绕飞段轨道跟踪控制方法，建立受到外部扰动和未建模扰动下的小天体动力学模型；设计非线性扰动观测器估计探测器受到的外部扰动，并将其动态特性补偿到控制器；设计反馈控制器抑制绕飞过程中的非周期扰动；设计迭代学习控制器抑制绕飞过程中的周期扰动；控制器输出与扰动观测器的输出相结合输入到伪速率调制器，产生调谐振荡脉冲，可控硅接收到触发信号而导通，诱导推力器发生主放电，在翻滚轴、航向轴、俯仰轴上产生推力。本发明公开的控制方法使小天体探测器在未知扰动下，提高绕飞段轨道跟踪控制精度和系统鲁棒性。