本发明公开了一种预训练字符模型及字音转换神经网络模型，预训练字符模型包括：字符嵌入层、若干自注意力层和线性层；其中，所述字符嵌入层设有输入端和输出端，所述输入端用于输入含掩码的单词对应的字符序列，所述输出端与各自注意力层依次连接，最后一层的自注意力层与所述线性层连接。字音转换神经网络模型为基于预训练字符模型构成的微调预训练字符模型的字音转换神经网络模型与基于注意力机制嵌入预训练字符特征的字音转换神经网络模型。本发明通过在无标签的词表数据上面使用掩码字符任务进行预训练得到预训练字符模型，与下游的字音转换神经网络的解码器配合，能够通过获取代价低的无标签词表降低多语言字音转换错误率。