本发明公开了一种悬浮式的水体分级过滤装置，包括漂浮体和取水过滤装置；所述取水过滤装置包括第一过滤箱体、第二过滤箱体和取水管，第一过滤箱体通过吊绳悬在漂浮体上，第二过滤箱体设有第一过滤箱体内，第二过滤箱体的外壁和第一过滤箱体的内壁之间设有过滤吸附填充物，第一过滤箱体和第二过滤箱体上分别设有错开设置的第一进水口和第二进水口错开设置；第二过滤箱体内设有将其内分割成若干过水空间的挡板，取水管的下端延伸到中部的过水空间内取水。本装置悬浮在水中，同时水体又经过逐级分层过滤，可以起到良好的过滤泥沙等杂质的效果，这就免去了许多复杂繁琐的过滤流程；价成本低、过滤效果好，使用周期长，实用性强。