本实用新型公开了一种利用柴油机废气余热的海水淡化装置，包括设置于船舶或海上平台上的海水泵和蒸馏器，蒸馏器为中空结构，内腔中部设置有供柴油机废气通过的烟道，海水泵通过给水调节器与蒸馏器的进水口连通，将海水输入至蒸馏器，蒸馏器的盐水出口与排盐泵连通，排盐泵通过第一通海阀将从蒸馏器中输出的盐水向舷外排出，蒸馏器的淡水出口与凝水泵连通，凝水泵将蒸馏器凝结的淡水抽送至容器储存。本实用新型不仅可以节约能源，提高燃油利用率，制造淡水后，废气温度降低，还能保护海洋生态环境，达到促进节能减排的效果。