通讯或消息的实质内容。一封信或电报即为一条消息。消息的实质内容的量不一定与消息的长度成正比。实质内容的质（包括重要性、意义以及引起的后果）也不取决于消息的长度。但现在还仅有关于信息量方面的数学理论，即信息论。1949年仙农（C.E.Shannon）等发表《通讯的数学理论》，奠定了信息论的理论基础。消息的发出者称为信源。欲发出任何消息，信源必须具有一种以上的与收信人（称为信宿）约定的符号（理论上把不发生任何符号也看做一种符号，因它易引起收信人误解，实际并不采用）。例如路口的交通信号灯如只有一种颜色，就无法指挥。该信源共有几种符号（或消息），每次发出其中一种，收信人事先无法断定信源将发出哪种符号，即符号的发出具有不确定性。显然它与每种符号被发送的概率（长期通讯中每种符号出现的相对频数）有关。仙农证明：信源发出一个符号所具有的平均不确定性可用下式给出的熵函数H表示：

信息

式中 P_i为第i个符号被选中的概率，k为取决于对数的底和H的计量单位的常数。通常令对数的底为2，H以比特为单位（即信源只有二种等概率的符号时的平均不确定性），此时k＝1，H＝-∑P_ilogP_i。

在收到消息前，收信人不确知将收到何种消息，称为事先（或验前）不确定性，其值由上式给出。收到消息使收信人获得某种知识，一部分不确定性被消除，但仍可能留有未消除的不确定性，称为事后（或验后）不确定性。仙农把一消息所含的信息量定义为事先不确定性与事后不确定性之差，即消息所消除的不确定性。熵函数H也称信息熵，它描述事物不确定、多样和无序的程度。信息则描述确定和有序的程度。例如：以熵表示生态系统的多样性、市场上顾客的选择、交通流的复杂性等。

信息经过传输、处理、贮存、检索等才能发挥其作用。这些基本过程都可用下图的模型表示。更复杂的过程则由若干个基本过程以某种方式结合而成。编码是信息传输、处理不可缺少的手段，其目的在于提高传输效率和抗干扰。编码理论是信息论的重要方面。编码是对原来消息的一种——变换。变换后的编码消息在收信端经译码恢复原貌。编码消息的传送途径称为信道，它一般要受到环境的干扰。后者称为噪声，它使信号失真或湮没。编码方法甚多，应根据信道特点选择。每个信道单位时间内传输的信息量（传输率）有一最大值，称为该信道的容量。信道容量定理指出：信道容量随信噪比（信息功率/噪声功率）而增；如传输率不大于信道容量，则存在某种编码方法，使消息的信息量可以几乎不受损失地在有噪声信道上传输。

信息传输模型