回覆列表
  • 1 # 科技爸

    卷積神經網路(CNN)是深度學習中學習特徵能力最強的網路。卷積神經網路學習特徵的關鍵是Loss函式。這個函式決定了神經網路是到底能夠學習什麼樣的特徵。

    01 Loss 函式的原理和作用

    卷積神經網路經過層層學習,最後的終點就是loss層。Loss 層接受兩個輸入值,其中一個是CNN的學習結果,另一個是真實的標籤值。損失層則將這兩個輸入進行一系列運算,得到當前網路的損失函式(Loss Function),一般記做L(θ)其中θ是當前網路權值構成的向量空間。機器學習的目的是在權值空間中找到讓損失函式L(θ) 最小的權值θ(opt),可以採用一系列最最佳化方法(如SGD方法)逼近權值θ(opt)。

    因此,Loss函式就是就是CNN學習的關鍵。那CNN是怎樣學習不同特徵的呢?

    02 CNN學習不同特徵的原理

    Loss函式主要可以分為兩類,這也代表了兩類特徵的學習,一類是迴歸,另外一類是分類。

    1.迴歸學習

    迴歸學習就是要學習資料中具體的數值進行預測。那學習的特徵比如用在圖片領域,包括了圖片的紋理,圖案等內容。這類學習可以應用在圖片的降噪、圖片的美化、圖片的去霧霾、圖片的去馬賽克等等。

    迴歸學習的Loss函式常用絕對誤差,包括mean_absolute_error,mean_squared_error,explained_variance_score等。

    2.分類學習

    分類學習就是要預測結果屬於哪一種類別,也稱為邏輯迴歸。那學習的特徵主要包括模式識別、語義識別等等。這類學習的應用非常廣闊,包括了疾病的判斷,人臉的識別,車輛的識別,信用風險,自動駕駛等等。

    邏輯迴歸的Loss函式常用交叉熵,包括softamx cross entropy,Binary Crossentropy等。

  • 中秋節和大豐收的關聯?
  • 張飛巔峰時期,和呂布死戰不退,誰是贏家?