本发明涉及机器学习技术领域，公开了一种面向黑盒模型的表征诊断、模型比较、训练样本收集的方法与系统，可实现自动解释黑盒模型的内部逻辑，得到表示黑盒模型内部逻辑的“与或图”模型，从而实现面向黑盒模型的表征诊断、模型比较、训练样本收集。其包括：提供某一黑盒模型；将样本输入黑盒模型，样本包含一定维度的输入单元；基于黑盒模型的中层输出特征，对样本的输入单元间交互配合的作用进行建模，计算输入单元形成间组合的交互强度，将黑盒模型表示为输入单元间组合间的“与加关系”；优化交互计算中各输入单元上的基准值，使得从黑盒模型得到的“与加关系”表达更加简洁；基于上述关系建立表达该黑盒模型内部逻辑的“与或图”模型。