本申请提供了一种基于GPU的深度学习应用的性能优化方法及装置，该方案在GPU加载深度学习应用对应的汇编指令的过程中，将该汇编指令中的第一目标汇编指令替换为第二目标汇编指令。执行指令时，只需执行第二目标汇编指令，不再执行第一目标汇编指令，而且，执行完第二目标汇编指令后，按顺序继续执行第一目标汇编指令之后的其它汇编指令，从而实现改变GPU中高性能函数库的执行逻辑得到新的算子。由上述过程可见，该方案是将新算子与GPU中高性能函数库相结合，使得新算子也能达到较高的计算性能，该方案既能够满足GPU对新算子的支持，即通用性，同时，提高了GPU执行新算子时的整体性能，即达到高性能。