信息论

　　申农指出, 可以通过改变信源编码來降低多余度, 使信源与信道匹配, 使信源上的平均信息量等於信道容量．這便是申农的所谓信源编码原理．這个结论具有重要的理论意义．在這个原理的指导下, ５０ 年代出现了信息率较高的编码和纠错码．信源编码原理对提高信息的传递效率有理论指导意义．

　　６０ 年代以來, 为适应图像识别和视觉研究的需要, 在模糊数学的基础上产生了与申农的概率信息论完全不同的模糊信息论．７０ 年代以來, 又有人提出了有效信息、语义信息、无慨率信息（主观信息）、广义信息等新的信息概念．显然, 信息已不再仅仅是通信领域中的概念, 而和人类社会生活的各个方面联系起來了．７０～８０ 年代的未來科学家认为人类正在走向信息社会, 信息和材料、能源一起被视为人类文明的三大支柱．信息论的方法正在被应用到生物学（含神经生理学）、物理学、化学、心理学、经济管理、电子学、人工智能、控制论、系统论等一系列学科．一个内容广泛的信息论正在成长．