本实用新型公开了一种基于建筑工程预埋外露钢筋的便携式除锈装置，包括机箱，所述机箱的一端固定连接有调节杆，所述调节杆的顶端一侧固定连接有吸尘箱，所述吸尘箱上端旋接有移动调节装置，所述移动调节装置的一端固定连接有把手杆，且移动调节装置的另一端安装有除锈液箱，所述除锈液箱下端设置有软管，且软管下端固定连接有喷液头，所述移动调节装置下端连接有两个稳固板，且两个稳固板下端均安装有上刷板。本实用新型操作简便，通过设置移动调节装置，可使上刷板和下板对钢筋进行牢固的固定，并且调节杆可带动固定在一起的上刷板和下板进行左右移动对钢筋表面进行更好的除锈，而喷洒头通过喷洒除锈液能够进一步提高该装置的除锈效果。