本申请公开了一种模型结构的延时预测方法、装置以及电子设备，涉及神经网络搜索领域。具体实现方案为：根据硬件延时查找表训练得到分类模型以及多个回归模型；将模型结构中的操作输入至分类模型中，得到操作对应的延时类别标签；将具有延时类别标签的操作输入至延时类别对应的回归模型中，得到预测延时。由于分类模型和多个回归模型可以通过硬件延时查找表中的操作进行训练，利用训练好的分类模型和回归模型预测任意操作的延时。通过有限的采样预测任意操作延时，非常高效的评估任意模型结构的延时，无需直接连接硬件设备来评估模型结构的延时，解决了建立传统硬件查找表耗时导致延时测试效率较低的技术问题。