吉布斯不等式

吉布斯不等式是由约西亚·吉布斯在19世纪提出的。在信息论和概率论中，它能应用在Fano不等式和讯号源编码定理的证明。