本实用新型公开了一种打磨小车靠轨装置，包括：安装板、第一移动副、横移机构、第二移动副、垂移机构、靠轨轮安装座及靠轨轮。第一移动副包括横移组件一和横移组件二，横移组件二能在横移机构带动下相对于横移组件一移动。横移组件一连接于两块相对设置的安装板之间。横移机构一端与安装板相连，另一端连接至横移组件二。第二移动副的一端与横移组件二相连，另一端向下延伸并连接至靠轨轮安装座，靠轨轮安装于靠轨轮安装座上。垂移机构一端与横移组件二相连，另一端连接至靠轨轮安装座，能带动靠轨轮执行提升、下压操作。本实用新型能解决现有打磨小车不带靠轨机构，不能精确定位砂轮与钢轨之间的相对位置关系，导致打磨效果不佳的技术问题。