本发明公开了一种用于既有建筑结构应力检测的装置及其检测方法，该检测装置包括：至少一对交叉臂，所述交叉臂上位于两个连接臂交叉处通过转轴转动连接；所述交叉臂的一端具有两个处于同一竖直平面上的两个第一连接端，所述两个第一连接端之间连接振弦式应变计；所述交叉臂的一端的另一端具有两个处于同一竖直平面上的两个第二连接端，两个第二连接端连接在结构测点上位于上、下水平槽之间；两个第二连接端之间的竖向距离为5~10mm。本发明通过交叉臂设计，使得测量所需要的槽深度较小，不损伤结构内部钢筋与核心混凝土部分，有利于大量应用于结构健康监测、建筑物损伤修复、建筑物纠偏等领域。