根据本公开的实施例，提供了用于保护数据的方法、设备、装置和介质。该方法包括由第一设备获取由第二设备基于样本数据、根据第二模型生成的特征表示。第一设备具有针对样本数据的标签信息。第一设备和第二设备用于联合训练第一设备处的第一模型和第二设备处的第二模型。该方法还包括由第一设备基于特征表示，根据第一模型，生成针对样本数据的预测标签。该方法还包括由第一设备基于特征表示、标签信息和预测标签，来确定用于训练第一模型和第二模型的总损失值。以此方式，能够避免不具有数据的标签信息的第二设备对数据的标签信息进行预测，从而保存数据尤其是敏感数据不被泄露。