最小鉴别信息原理（principle of minimum identification information），工学-信息与通信工程-信息论-量子信源编码，给定一个新的事实，选择一个新的分布代替原分布，保证新的分布和原分布的区别尽可能小的原理。Kullback-Leibler散度或相对熵用来衡量两个概率分布和之间的差别，记作。相对熵可以被叫作鉴别信息（又称为证据权重或信息增益）。其中是实验测试的随机过程，和是基于不同实验结果的两个假设。鉴别信息表示的是每个样本用于区分更有利的假设对于假设所得的平均信息量。在实际应用中，对于特定实验对象的分布不能明确得到，而是需要根据一些已知的事实来进行近似拟合。而每当得到一个新的事实后，都需要用一个新的分布函数来替代原来的分布函数。最小鉴别信息原理要求每当给定一个新的事实后，需要选择一个新的分布代替原分布，需要保证新的分布和原分布的区别尽可能小，也就是新数据提供的信息增益尽可能小。最小鉴别信息原理可以看作是最大熵原理的推广。