无损压缩算法学习总结 | Zhangbohun' Blog

[zhangbohun]

http://zhangbohun.github.io/2019/04/01/%E6%97%A0%E6%8D%9F%E5%8E%8B%E7%BC%A9%E7%AE%97%E6%B3%95%E7%90%86%E8%AE%BA%E5%AD%A6%E4%B9%A0%E6%80%BB%E7%BB%93/

基本说明信息熵： 每条消息中包含的信息的平均量。消息的熵乘以消息的长度决定了消息可以携带多少信息。任何无损压缩技术不可能让一比特的消息携带超过一比特的信息。以下说明中以“压缩”代替“无损压缩”以本人的理解，可以将压缩算法分为两个层面：

熵编码：根据消息中每个符号出现的概率，然后通过某种映射用更