本发明公开无人船在地形复杂海域遍历监测中路径优化方法及系统，首先确定遍历区域范围内栅格线上各待遍历点的分布；然后当起始点周围各待遍历点不存在障碍物时，则判断起始点周围是否还存在待遍历点；如果存在，则选取概率最大的待遍历点，经起始点与概率最大的待遍历点之间的路径作为最优工作路径，并将概率最大的待遍历点作为下一个起始点；如果不存在，则从剩余池中选择满足遍历条件的待遍历点作为下一个起始点，并判断剩余池是否为空；如果为空，则遍历结束；如果剩余池不为空，则重新判断障碍物。本发明公开的方案实现在近海多岛礁、暗礁以及多海湾区域的遍历巡视，在避免遗漏海湾及死角的同时，极大程度地减少了重复路径。