勵志

勵志人生知識庫

交叉熵損失

交叉熵損失是經常用於分類任務的損失函式,主要衡量模型預測的分布與數據真實分布之間的差距,模型的任務是儘可能擬合出一個和真實數據分布近似的分布。對於交叉熵損失的理解可以從信息量、熵、KL散度等概念入手。在分類問題中,交叉熵損失函式可以衡量模型估計的機率分布和真實分布的偏離程度。具體計算方法為:對單個樣本,假設真實分布為y,網路輸出分布為x~,總的類別數為n,則Loss=-∑(y_i * log(x~_i)),其中i從1到n求和。

關於交叉熵損失的更多信息,如:多少算正常、與對比損失的區別及聯合套用等,建議諮詢人工智慧算法領域專業人士,或查閱相關論壇教學視頻。