單元,又稱為節點或神經元,是神經網路的核心。每個單元接收一個或多個輸入,將每個輸入乘以一個權重,然後將加權輸入與偏移值相加。接下來,該值將被輸入到激活函數中。在神經網路中,單元的輸出可以被傳送給其他神經元。
多層感知器,又稱為前饋神經網絡,是目前使用最廣泛且最簡單的人工神經網路模型。它由多個層次相互連結而成,每一層都將輸入特徵與目標值連結。這種網路結構被稱為“前饋”,是因為輸入特徵值在網路中以“前向”方式傳遞,每一層都會對特徵值進行轉換,直到最終輸出與目標輸出一致。
在前饋神經網路中,有三種類型的層。每個單元包含輸入層中單一特徵的觀察值。如果有100個特徵的觀察,那麼輸入層就會有100個節點。輸出層將隱藏層的輸出轉換為神經網路的有用值。為了實現二元分類,我們可以在輸出層使用sigmoid函數,將輸出縮放到0或1的類別機率。隱藏層位於輸入層和輸出層之間,負責處理來自輸入層的特徵值。最後,輸出層將它們轉換成類似目標類別的值。
神經網路的參數通常初始化為小隨機值,這些值可以來自高斯分佈或常態均勻分佈。損失函數被用來衡量網路的輸出值與觀察值之間的差異,並透過網路饋送後的真實值進行比較。前向傳播演算法用於確定哪些參數對預測值和真實值之間的差異貢獻最大。透過最佳化演算法,每個權重根據確定的大小進行調整。
神經網路透過多次反覆的前向傳播和反向傳播過程對訓練資料中的每個觀察值進行學習。每個觀察值透過網路傳送的次數稱為epoch,通常訓練由多個epoch組成,以便迭代地調整參數。
以上是初步認識神經網絡的詳細內容。更多資訊請關注PHP中文網其他相關文章!