勵志

勵志人生知識庫

fgsm算法

FGSM(Fast Gradient Sign Method,快速梯度符號方法)是一種用於生成對抗樣本的算法,它是一種白盒攻擊方法。在白盒攻擊中,攻擊者可以訪問模型的完整結構和參數。FGSM的基本思想是通過計算模型對輸入數據的梯度,並沿著這個梯度方向(即梯度的符號)對輸入數據施加一個微小的擾動。這個擾動是為了最大化模型的損失函式,從而誤導模型的輸出,使得模型對經過擾動的輸入產生錯誤的分類結果。

FGSM的數學表達式可以表示為:\(x' = x + \epsilon \cdot \text{sign}(

abla_x J(\theta, x, y))\),其中:

\(x'\) 是對抗樣本

\(x\) 是原始輸入

\(\epsilon\) 是一個小的擾動值

\(J(\theta, x, y)\) 是模型的損失函式

\(
abla_x J(\theta, x, y)\) 是損失函式關於輸入 \(x\) 的梯度

\(\text{sign}()\) 函式用於取梯度的符號

FGSM是一種單步的、非定向的攻擊算法,這意味著它通過單次疊代生成對抗樣本,並且不要求對抗樣本必須導致模型預測到特定的錯誤類別,只要它與原始樣本的預測結果不同即可。

FGSM最早由Ian Goodfellow等人在其論文《Explaining and Harnessing Adversarial Examples》中提出。