本实用新型提供了一种用于钢管除锈的打磨装置，包括多组磨砂组件，磨砂组件包括磨砂块和磨砂块框；磨砂块为长方体结构，磨砂块的打磨面设置为磨砂面或清洁面；磨砂块框为与磨砂块形状适配的长方框体，磨砂块框包括背面、两个长侧面、两个短侧面和正开口面，其中一个短侧面为用于安装磨砂块的开口侧面，正开口面设有用于防止磨砂块脱落的内折挡边；磨砂块框的两个长侧面外侧对称设置有用于磨砂块框互相连接成环状的铰接装置。本实用新型受施工条件制约少，不需要专业操作技能，作业风险低，人力成本低；可通过增加或减少组合块，适用不同的管径；可通过调整组合块的磨砂类型，满足不同的打磨钢管粗糙度需要；在使用过程中，噪音小，环境污染小。