信息论

信息论（英语：information theory）是应用数学、电机工程学和计算机科学的一个分支，涉及信息的量化。信息论是由克劳德·香农发展，用来找出信号处理操作的基本限制，如数据压缩、可靠的存储和数据传输的。自创立以来，它已拓展应用到许多其他领域，包括统计推断、自然语言处理、密码学、神经生物学[1]、进化论[2]和分子编码的功能[3]、生态学的模式选择[4]、热物理[5]、量子计算、语言学、剽窃检测[6]、模式识别、异常检测和其他形式的数据分析。

信息论的主要内容可以类比人类最广泛的交流手段——语言来阐述。