勵志

勵志人生知識庫

信息增益率公式

信息增益率是一個用於資訊理論和數據挖掘中的概念,用於衡量分類屬性對訓練數據集的純度貢獻。其計算公式通常為:

信息增益率 = 信息增益 / 條件熵。

信息增益(Gain(D,A))的計算公式為:

信息增益 = 熵(D) - 條件熵(D|A)。

其中,熵(Entropy)是描述數據集合不確定性的度量,條件熵(Conditional Entropy)則是考慮了某個分類屬性(A)後的數據集合的不確定性。

以上是信息增益率的基本計算方法,希望對你有所幫助。