本公开提供了一种数据集的生成方法及装置，涉及人工智能技术领域，尤其涉及自然语言处理领域。实现方案为：获取标签预测模型所输出的关于输入文本信息的至少一个标签预测类别；根据预设规则，从至少一个标签预测类别中确定至少一个不可靠标签预测类别；基于输入文本信息以及相对应的一个或多个真实标签类别生成第一样本文本集。输入文本信息以及确定出的真实标签类别可以作为新生成的样本数据以用于对其他神经网络模型的训练。由于新生成的样本数据中的不可靠标签类别已被校准，因此，后续训练完成的其他神经网络模型可以提高对于不可靠标签类别的预测的准确度。