本公开实施例公开了一种预训练模型的获取及应用方法、装置、设备、介质及产品，该预训练模型的获取方法包括：获取多条训练数据，训练数据包括训练文本；对训练文本中的每个字符进行数据处理，得到每个字符的字符融合向量，字符融合向量包括字符的词向量以及以下至少一种特征向量：字符的读音特征向量、笔画特征向量、结构特征向量、拆字特征向量和编码特征向量；基于训练文本中每个字符的字符融合向量对初始预训练模型进行自监督学习训练，得到目标预训练模型。该技术方案可以得到对文本的音、形具有能较高的识别能力的目标预训练模型，基于该目标预训练模型的文本分类模型能够准确地区分基于文字变异的各种变异文本，进而准确拦截敏感内容。