互信息量是資訊理論中的一個重要概念，它衡量的是一個隨機變數中包含的關於另一個隨機變數的信息量。具體來說，互信息表示當一個隨機變數（例如X）已知時，對另一個隨機變數（例如Y）不確定性的削減量。這種不確定性削減量可以通過計算兩個隨機變數的條件自信息和先驗自信息的差值來得到。互信息量可以用數學公式表示為 \( I(X;Y) = H(X) - H(X|Y) \)，其中 \( H(X) \) 是隨機變數X的先驗熵，而 \( H(X|Y) \) 是已知Y時X的條件熵。
互信息量具有以下性質：
對稱性：\( I(X;Y) = I(Y;X) \)，意味著互信息量不偏袒任何一個隨機變數。
非負性：互信息量可以是正數，也可以是零，但不會是負數。當互信息量為零時，表示兩個隨機變數相互獨立，沒有依賴關係。
可加性：互信息量可以與其他隨機變數的互信息量相加，以計算多個隨機變數之間的總互信息量。
互信息量的概念可以擴展到平均互信息量，它描述的是兩個隨機變數之間的關係，表示在已知一個隨機變數Y的前提下，對另外一個隨機變數X不確定性的削減量。平均互信息量可以用來描述通信過程中傳送方和接收方之間的信息傳遞效率。
總結來說，互信息量是一個度量兩個隨機變數之間相關性的工具，它反映了當一個變數的信息被知道時，對另一個變數的不確定性的減少程度。