f ( w ) = 1 2 π exp ( − w 2 2 ) , w ∈ ℜ f(w)=\frac{1}{\sqrt{2 \pi}} \exp \left(-\frac{w^{2}}{2}\right), \quad w \in \Ref(w)=2π1exp(−2w2),w∈ℜ
記為 w ∼ N ( 0 , 1 ) w \sim N \left(0, 1\right)w∼N(0,1)。
一個均值為 μ \muμ,方差為 σ \sigmaσ 高斯隨機變數 x xx 取實數值,並具有如下機率密度函式 (PDF):
f ( x ) = 1 2 π σ 2 exp ( − ( w − μ ) 2 2 σ 2 ) , w ∈ ℜ f(x)=\frac{1}{\sqrt{2 \pi\sigma^2}} \exp \left(-\frac{(w-\mu)^{2}}{2\sigma^2}\right), \quad w \in \Ref(x)=2πσ21exp(−2σ2(w−μ)2),w∈ℜ
x = σ w + μ x= \sigma w+\mux=σw+μ 記為 x ∼ N ( μ , σ 2 ) x \sim N \left(\mu, \sigma^{2}\right)x∼N(μ,σ2)。
重要性質 1:獨立的高斯分佈其線性組合仍為高斯分佈。
標準高斯分佈的隨機向量 w \bm{w}w 是包含了n個獨立服從標準分佈的隨機變數,具有如下機率密度函式 (PDF):
f ( w ) = 1 ( 2 π ) n exp ( − ∥ w ∥ 2 2 ) , w ∈ ℜ n f(\bm{w})=\frac{1}{(\sqrt{2 \pi})^{n}} \exp \left(-\frac{\|\bm{w}\|^{2}}{2}\right), \quad \bm{w} \in \Re^{n}f(w)=(2π)n1exp(−2∥w∥2),w∈ℜn
其中∥ w ∥ : = ∑ i = 1 n w i 2 \|\bm{w}\|:=\sqrt{\sum_{i=1}^{n} w_{i}^{2}}∥w∥:=∑i=1nwi2
重要性質 2:正交變換的標準高斯隨機向量也就標準高斯隨機向量
對於一般高斯隨機向量,即相當於每一個分量都是其他所有分量的線性組合加一個常數:
x = A w + μ \bm{x}=\mathbf{A} \bm{w}+\bm{\mu}x=Aw+μ
對於任意 c \bm{c}c,有:
c t x ∼ N ( c t μ , c t A A t c ) \bm{c}^{t} \bm{x} \sim \bm{N}\left(\bm{c}^{t} \bm{\mu}, \bm{c}^{t} \bm{A} \bm{A}^{t} \bm{c}\right)ctx∼N(ctμ,ctAAtc)
如果A \bm{A}A可逆,則有:
f ( x ) = 1 ( 2 π ) n det ( A A t ) exp ( − 1 2 ( x − μ ) t ( A A t ) − 1 ( x − μ ) ) , x ∈ R n f(\bm{x})=\frac{1}{(\sqrt{2 \pi})^{n} \sqrt{\operatorname{det}\left(\bm{A} \bm{A}^{t}\right)}} \exp \left(-\frac{1}{2}(\bm{x}-\boldsymbol{\mu})^{t}\left(\bm{A} \bm{A}^{t}\right)^{-1}(\bm{x}-\boldsymbol{\mu})\right), \quad \bm{x} \in \mathfrak{R}^{n}f(x)=(2π)ndet(AAt)1exp(−21(x−μ)t(AAt)−1(x−μ)),x∈Rn
復高斯隨機變數 z = x + i y z=x+iyz=x+iy ,x xx 與 y yy 分別為獨立的均值為0的高斯隨機變數,具有相同的方差,則
x ∼ N ( 0 , 1 / 2 ) , y ∼ N ( 0 , 1 / 2 ) x \sim N \left(0, 1/2\right), y \sim N \left(0, 1/2\right)x∼N(0,1/2),y∼N(0,1/2)。
記為 z ∼ C N ( 0 , 1 ) z \sim CN \left(0, 1\right)z∼CN(0,1)。
復高斯隨機向量 z = x + i y \bm{z}=\bm{x}+i\bm{y}z=x+iy,滿足 [ x , y ] t [\bm{x},\bm{y}]^t[x,y]t是高斯隨機向量。
如果一個隨機變數的分佈與它乘以e i θ e^{i\theta}eiθ分佈一致,則是圓對稱隨機變數(circularly symmetry)。
一個復高斯隨機向量 w \bm{w}w 是包含了n個獨立服從標準復高斯隨機變數的集合。
記為 z ∼ C N ( 0 , I ) z \sim CN \left(0, I\right)z∼CN(0,I)。
一個圓對稱的高斯隨機向量的均值為0
一個圓對稱的高斯隨機向量由 E [ x x ∗ ] E[\bm{x}\bm{x}^*]E[xx∗] 決定
一個標量復高斯隨機變數由兩個獨立的高斯隨機變數組成
瑞利分佈
兩個獨立的高斯隨機變數的模服從瑞利分佈:
f ( r ) = r exp ( − r 2 2 ) , r ≥ 0 f(r)=r \exp \left(-\frac{r^{2}}{2}\right), \quad r \geq 0f(r)=rexp(−2r2),r≥0
高斯分佈及其相關分佈
標準高斯隨機變數其均值為0,方差為1,並具有如下機率密度函式(PDF):
f ( w ) = 1 2 π exp ( − w 2 2 ) , w ∈ ℜ f(w)=\frac{1}{\sqrt{2 \pi}} \exp \left(-\frac{w^{2}}{2}\right), \quad w \in \Ref(w)=2π1exp(−2w2),w∈ℜ
記為 w ∼ N ( 0 , 1 ) w \sim N \left(0, 1\right)w∼N(0,1)。
一個均值為 μ \muμ,方差為 σ \sigmaσ 高斯隨機變數 x xx 取實數值,並具有如下機率密度函式 (PDF):
f ( x ) = 1 2 π σ 2 exp ( − ( w − μ ) 2 2 σ 2 ) , w ∈ ℜ f(x)=\frac{1}{\sqrt{2 \pi\sigma^2}} \exp \left(-\frac{(w-\mu)^{2}}{2\sigma^2}\right), \quad w \in \Ref(x)=2πσ21exp(−2σ2(w−μ)2),w∈ℜ
x = σ w + μ x= \sigma w+\mux=σw+μ 記為 x ∼ N ( μ , σ 2 ) x \sim N \left(\mu, \sigma^{2}\right)x∼N(μ,σ2)。
重要性質 1:獨立的高斯分佈其線性組合仍為高斯分佈。
標準高斯分佈的隨機向量 w \bm{w}w 是包含了n個獨立服從標準分佈的隨機變數,具有如下機率密度函式 (PDF):
f ( w ) = 1 ( 2 π ) n exp ( − ∥ w ∥ 2 2 ) , w ∈ ℜ n f(\bm{w})=\frac{1}{(\sqrt{2 \pi})^{n}} \exp \left(-\frac{\|\bm{w}\|^{2}}{2}\right), \quad \bm{w} \in \Re^{n}f(w)=(2π)n1exp(−2∥w∥2),w∈ℜn
其中∥ w ∥ : = ∑ i = 1 n w i 2 \|\bm{w}\|:=\sqrt{\sum_{i=1}^{n} w_{i}^{2}}∥w∥:=∑i=1nwi2
重要性質 2:正交變換的標準高斯隨機向量也就標準高斯隨機向量
對於一般高斯隨機向量,即相當於每一個分量都是其他所有分量的線性組合加一個常數:
x = A w + μ \bm{x}=\mathbf{A} \bm{w}+\bm{\mu}x=Aw+μ
對於任意 c \bm{c}c,有:
c t x ∼ N ( c t μ , c t A A t c ) \bm{c}^{t} \bm{x} \sim \bm{N}\left(\bm{c}^{t} \bm{\mu}, \bm{c}^{t} \bm{A} \bm{A}^{t} \bm{c}\right)ctx∼N(ctμ,ctAAtc)
如果A \bm{A}A可逆,則有:
f ( x ) = 1 ( 2 π ) n det ( A A t ) exp ( − 1 2 ( x − μ ) t ( A A t ) − 1 ( x − μ ) ) , x ∈ R n f(\bm{x})=\frac{1}{(\sqrt{2 \pi})^{n} \sqrt{\operatorname{det}\left(\bm{A} \bm{A}^{t}\right)}} \exp \left(-\frac{1}{2}(\bm{x}-\boldsymbol{\mu})^{t}\left(\bm{A} \bm{A}^{t}\right)^{-1}(\bm{x}-\boldsymbol{\mu})\right), \quad \bm{x} \in \mathfrak{R}^{n}f(x)=(2π)ndet(AAt)1exp(−21(x−μ)t(AAt)−1(x−μ)),x∈Rn
復高斯隨機變數 z = x + i y z=x+iyz=x+iy ,x xx 與 y yy 分別為獨立的均值為0的高斯隨機變數,具有相同的方差,則
x ∼ N ( 0 , 1 / 2 ) , y ∼ N ( 0 , 1 / 2 ) x \sim N \left(0, 1/2\right), y \sim N \left(0, 1/2\right)x∼N(0,1/2),y∼N(0,1/2)。
記為 z ∼ C N ( 0 , 1 ) z \sim CN \left(0, 1\right)z∼CN(0,1)。
復高斯隨機向量 z = x + i y \bm{z}=\bm{x}+i\bm{y}z=x+iy,滿足 [ x , y ] t [\bm{x},\bm{y}]^t[x,y]t是高斯隨機向量。
如果一個隨機變數的分佈與它乘以e i θ e^{i\theta}eiθ分佈一致,則是圓對稱隨機變數(circularly symmetry)。
一個復高斯隨機向量 w \bm{w}w 是包含了n個獨立服從標準復高斯隨機變數的集合。
記為 z ∼ C N ( 0 , I ) z \sim CN \left(0, I\right)z∼CN(0,I)。
一個圓對稱的高斯隨機向量的均值為0
一個圓對稱的高斯隨機向量由 E [ x x ∗ ] E[\bm{x}\bm{x}^*]E[xx∗] 決定
一個標量復高斯隨機變數由兩個獨立的高斯隨機變數組成
瑞利分佈
兩個獨立的高斯隨機變數的模服從瑞利分佈:
f ( r ) = r exp ( − r 2 2 ) , r ≥ 0 f(r)=r \exp \left(-\frac{r^{2}}{2}\right), \quad r \geq 0f(r)=rexp(−2r2),r≥0
以上是兩個隨機變數服從 N ( 0 , 1 / 2 ) N(0,1/2)N(0,1/2) 時。
瑞利分佈的模的平方服從指數分佈。