本发明公开了一种混合信号分离方法，其包括：获取齿轮箱的故障信号；通过对故障信号进行频谱分析，获取频谱特征参数；根据频谱特征参数和预设的波动范围和波动步长，生成平稳调制基函数集合；对平稳调制基函数集合与故障信号进行相关运算，提取出与故障信号最相关的平稳调制分量；从故障信号中减去上一步骤中提取出来的平稳调制分量，将两者差值记为剩余项；比较故障信号与剩余项的差值，若小于预设值，则执行下一步骤；否则以剩余项作为故障信号，重复执行上两个步骤；将提取出的所有平稳调制分量相加，获得平稳调制信号；对剩余项进行小波变换，提取其中的冲击调制信号。本发明能够将混合在一起的平稳调制信号与冲击调制信号分离。