勵志

勵志人生知識庫

什麼是信息量

信息量是一個度量,用於衡量信息的有用性或重要性。

信息量這一概念最早由R.V.L.哈特萊在1928年提出,他將訊息數的對數定義為信息量。如果信源有m種訊息,且每種訊息以相等可能性產生,那麼該信源的信息量可以表示為I=logm。信息量的概念後來由C.E.香農在1948年進一步系統化和發展。

信息量不僅用於衡量信息本身的多少,還用於評估信息的不確定性、分類能力以及在信息處理中的套用,比如數據壓縮、編碼效率等。簡而言之,信息量是描述信息內容所包含的新穎性或意外性的量度,它與訊息的不確定性或確定性程度有關。