本发明公开了一种用于金属板材的除锈装置，属于板材加工领域，包括对称设置的两组竖向侧边除锈机构，两组所述竖向侧边除锈机构之间设置有用于限制金属板材的两块挡板，所述竖向侧边除锈机构包括套设于从动轮和主动轮上的驱动带，所述从动轮和主动轮转动安装于固定架上，所述驱动带的表面固定安装有打磨带和除锈刷，所述打磨带内转动安装有与金属板材侧边接触的多个涂刷辊，每个所述涂刷辊的底部设置有固定于驱动带内部的多个打磨膏涂刷组件。竖向侧边除锈机构中的除锈刷和打磨带清理金属板材侧边锈迹；打磨膏涂刷组件将打磨膏涂抹在金属板材侧面，使得打磨更有效，打磨后金属板材侧边平整，使得产品质量提高。