回覆列表
-
1 # Python進階學習交流
-
2 # 深夜最科技
1-範數:是指向量(矩陣)裡面非零元素的個數。類似於求棋盤上兩個點間的沿方格邊緣的距離。
||x||1 = sum(abs(xi));
2-範數(或Euclid範數):是指空間上兩個向量矩陣的直線距離。類似於求棋盤上兩點見的直線距離 (無需只沿方格邊緣)。
||x||2 = sqrt(sum(xi.^2));
∞-範數(或最大值範數):顧名思義,求出向量矩陣中其中模最大的向量。
||x||∞ = max(abs(xi));
PS.由於不能敲公式,所以就以虛擬碼的形式表明三種範數的演算法,另外加以文字說明,希望樓主滿意。相互學習,共同進步~
-
3 # Huoyo
通俗的來說就是:
兩個範數都是作為懲罰項新增到代價函數里面,透過抑制權重引數而達到防止過擬合的作用!
差異:
一範數比較狠(和dropout一樣狠),直接產生稀疏矩陣,使得部分特徵的權重為0,也就是失去作用。
二範數溫柔一些,沒有直接把權重變成0,透過權重衰減的方式來抑制權重。
至於哪個更好?雖然目前一範數用的比較少,但本渣不認為就說明它更差,具體情況具體考慮吧,比如從降維的角度考慮,一範數就能很好地篩選特徵。
具體的解析,可以參考原文。
————————————————
可以參考原文連結:https://blog.csdn.net/jinping_shi/article/details/52433975