勵志

勵志人生知識庫

什麼是全連接層

神經網絡中的一種基礎組件

全連接層是神經網絡中的一種基礎組件,在這一層中,每一箇神經元都與前一層中的所有神經元相連接,每個連接都有各自的權重。

全連接層的主要作用包括學習和表示輸入數據的特徵,整合前面層中學習到的所有信息,以及完成分類或迴歸任務。在分類任務中,全連接層的輸出單元數量通常與類別數量相匹配,並使用softmax激活函數來計算每個類別的概率;在迴歸任務中,全連接層通常只有一箇輸出單元,用於預測一箇連續的值。

全連接層的計算可以表示爲y=W×x+b,其中x是前一層的輸出,W是權重矩陣,b是偏置向量,y是輸出。全連接層通常位於神經網絡的最後,負責將前層的輸出轉換爲一維向量,實現端到端的學習過程。由於其全連接的特性,全連接層往往包含網絡中大部分的參數。