本实用新型提出一种水利工程用除泥装置，包括水泵、除污泵和若干管道，管道包括过滤管，过滤管的形状为锥形且包括大头端和小头端，过滤管的内部分为除污部、过滤部和清水部，过滤部设置有多层过滤网，除污部设置有进水口，大头端和小头端的侧面分别设置有除污管和抽水管，除污管和抽水管上分别设置有一个连接盘，连接盘与过滤管之间设置有连接网架，两个连接盘之间设置有桥接架，桥接架与过滤管通过连接杆连接。本实用新型采用三段式的过滤管可有效过滤流水，利用水泵和除污泵分别从清水部和除污部抽取相应的介质，而且本装置不仅具有利用率高的特点，而且除污除泥效果较好，设计合理、结构简单，适合大规模推广。