本实用新型公开了一种钢铁除锈装置，包括底座和两个扶手以及两组滚轮，两组滚轮均通过支撑杆安装在底座的下端，两个扶手均固定连接在底座的上端，且其中一个扶手的侧壁上固定连接有控制面板，底座的上端开设有矩形凹槽，矩形凹槽的一端与底座贯穿设置，且其内壁滑动连接有托板，矩形凹槽内设有带动托板移动的伺服电机，托板的一端固定连接有防护罩，防护罩内安装有筒状钢丝滚刷，托板的上端固定连接有驱动电机，且驱动电机与筒状钢丝滚刷通过皮带连接。本实用新型通过两组滚轮侧壁上的支撑杆将底座支撑起来，有利于工作人员只需手握扶手推动底座移动的效果，降低了工作人员使用除锈机时耗费的体力，进而提高了工作效率。