本发明公开了无线通信领域的一种用于逆向调制无线光通信的信号判决方法及通信系统，包括：将接收到的逆向调制光信号分聚类窗口处理，逐个窗口通过新型自适应聚类算法进行聚类判决。聚类判决步骤包括：分别计算窗口内所有信号数据点到自适应二聚类算法随机初始化的两个聚类中心的距离；每个信号数据点根据就近原则进行分类，从而得到两个类，并通过计算获取两个类的聚类中心；将当前的两个聚类中心作为初始化的两个聚类中心重复上述步骤，反复进行迭代直至聚类中心最终收敛，输出聚类判决结果。本发明能够通过学习接收到比特的内在特征，并依据其相似性动态自适应地对该窗口内的比特进行分类，从而在一定程度上降低湍流对信号所产生的影响。