KL散度的公式對於離散機率分布和連續機率分布是不同的。對於離散機率分布，KL散度的計算公式為：
\[ D_{KL} ( P || Q ) = \sum_i P(i) \log \frac{P(i)}{Q(i)} \]
而對於連續機率分布，KL散度的計算公式為：
\[ D_{KL} ( P || Q ) = \int p(x) \log \frac{p(x)}{q(x)} dx \]
需要注意的是，KL散度是不對稱的，即 \( D_{KL} ( P || Q )
eq D_{KL} ( Q || P ) \)。此外，KL散度的值總是大於或等於零，當兩個分布完全相同時，KL散度為零。