本发明涉及参数最优化装置、方法及系统。本发明要解决的课题是提供能够高效地搜索最优参数值的参数最优化装置、方法及系统。参数最优化装置具有存储部、搜索空间决定部、第1获取部及参数搜索部。存储部存储包含第1维数的第1参数值和与第1参数值对应的目标函数的观测值的多个数据集。搜索空间决定部决定包含预定的第1参数值的比第1维数小的第2维数的搜索空间。第1获取部基于多个数据集获取具有从搜索空间起的预定距离中包含的第1参数值的一个以上的数据集或具有与该数据集对应的第2参数值的数据集。参数搜索部使用基于获取到的一个以上的数据集的目标函数的代理模型，在搜索空间内搜索能够最优化目标函数的第1参数值或第2参数值。