本申请公开了一种构建语言模型及语音识别的方法、装置、设备及存储介质，其中该方法包括：获取类实体语言模型，其中，所述类实体语言模型中包括属于同一命名实体类别的多个指定命名实体；将训练语料中的所述指定命名实体替换为所述命名实体类别，获得新训练语料；采用所述新训练语料构建主语言模型；将所述类实体语言模型与所述主语言模型结合，构建目标语言模型。这样即使训练语料中只存在一部分的指定命名实体，也可以依据该命名实体类别以及该类别下包含的所有指定命名实体，对不存在于训练语料的指定命名实体进行识别，从而有效解决训练数据稀疏的问题。