勵志

勵志人生知識庫

對數機率

對數機率,也稱為Logit,是機器學習和統計分類中常用的一個概念。它是機率的對數,通常用於二分類問題中。對數機率函式是一種Sigmoid函式,其公式為 \(y = \frac{1}{1 + e^{-(w^T x + b)}}\),其中 \(y\) 代表樣本被視為正樣本的可能性,而 \(1 - y\) 代表樣本被視為負樣本的可能性。對數機率的定義為 \(\ln\left(\frac{y}{1 - y}\right) = w^T x + b\),其中 \(\frac{y}{1 - y}\) 稱為機率(Odds)。

對數機率與機率的關係:

對數機率是機率的對數,即 \(\ln(\text{Odds})\)。

在二分類問題中,對數機率用於表示一個事件發生的機率與其不發生的機率之比的對數。

對數機率的套用:

在邏輯回歸中,對數機率作為模型的輸出,用於估計一個實例屬於某個類別的可能性。

對數機率函式能夠將線性組合的輸出映射到 \((0, 1)\) 區間內,適合作為機率解釋。

特殊情況:

當成功的機率和失敗的機率相等時(即 \(p = 0.5\)),Odds等於1,對數機率(Log odds)為0。

綜上所述,對數機率是一個重要的概念,它不僅在機器學習中用於估計分類問題的機率,而且也是理解分類模型輸出的一種方式。通過將線性組合轉換為機率,對數機率函式為二分類問題提供了一個有效的解決方案。