熵速率（entropy rate），工学-信息与通信工程-信息论-量子信源编码，随机过程中平均每个符号所载荷的信息量。对于一个随机过程，其熵速率可以表示为：（比特/符号）…（1）如果上述式子中的极限存在，则该随机过程的熵速率存在，如果极限不存在，则该随机过程的熵速率不存在。从概率论的角度来理解，熵速率表征的是随机过程中平均每个符号所载荷的信息量，若每秒传送个符号，则熵速率就为（比特/秒）。有几个简单例子。①独立同分布随机变量序列，熵速率为：…（2）即每个变量的信息量。这是因为每个随机变量独立，每增加一个变量所产生的熵的增长就是该随机变量的信息量。②独立非同分布随机变量序列，熵速率为：…（3）式中的不全相等。因此可以选择的一个分布序列使得式子中的极限不存在，即熵速率不存在。③平稳过程，熵速率为：…（4）上述式中定义了一个熵速率的相关量。对于平稳过程来说且对应极限存在。也就是说，对于任意一种平稳过程来说，熵速率都有很好的定义。特别的，对于平稳马尔可夫链的熵速率，有非常容易的计算方法。