可以启动或选择不同的超参数组合作为输入超参数组合集。使用训练子集通过机器学习方法训练对应的学习模型实例，每个学习模型实例对应输入超参数组合集中的每个超参数组合。使用测试集获取各个学习模型实例的性能结果。基于所述性能结果，根据多个不同选择规则中的至少一个选择规则，选择一个或多个超参数组合，并加入到输出超参数组合集中。将选择的一个或多个超参数组合设置为输入超参数组合集，重复上述过程，直到满足终止条件。然后将在输出超参数组合集中具有最优性能结果的超参数组合用作机器学习方法的最终或最优超参数组合。