可解释机器学习（explainable machine learning），理学-计算机科学技术-计算机应用-可视化与混合现实-可视化与可视分析-可视分析，机器学习模型在给出预测结果的同时可以提供相应的原因，使用户更好地理解机器的决策过程；同时通过交互式分析的方法，利用可视化的手段，帮助用户理解模型的工作机理，对模型的训练和决策过程进行诊断，进而实现模型的改进。机器学习取得的显著成功催生了众多人工智能应用，如智能军事系统、自动控制驾驶、智能故障诊断系统、基于智能体的决策系统等。在这些应用中，机器学习模型常常被当作一个黑盒子。由于难以理解这些模型的工作机理，而高效模型的开发又常常依赖一个冗长又昂贵的反复实验过程，因此，研究人员和从业人员需要透明和可解释的系统，帮助他们更好地理解和分析学习模型，从而快速设计出符合需求的模型。图中展示了可解释机器学习分析框架，主要包括模型理解、诊断和改进。可解释机器学习分析框架示意图模型理解是利用可视分析的技术，展示机器学习模型的工作过程，以使研究人员更好地理解机器学习模型的工作机理。