自由度經常被解釋為可以自由變化的變數數量。而在一些原本完全自由的變數上約束它們的通常是一些線性約束,那麼自由度與線性約束到底是怎麼在分佈中發揮作用的呢?我們可以從隨機向量的標準化過程中遇到的麻煩看出其意義。假設檢驗中喜歡構造統計量在原假設成立下服從某種標準化分佈,這樣多元隨機變數的標準化就很重要了。一元隨機變數標準化形如而多元的隨機向量則應當標準化為其中是單位矩陣。標準化為這種形式的目的之一是之後容易匯出服從卡方分佈的統計量。回憶其定義若是多元正態分佈的隨機向量,則上述標準化後求平方和就直接是服從等於變數個數的自由度的卡方分佈統計量。若各分量漸進服從正態分佈,也可能可以用此法搞出與前面同分布的統計量,如多項分佈。那麼如何到底如何進行標準化?在協方差矩陣滿秩的情況下,有分解為其中為特徵向量按列排列的某一正交矩陣,為對應的特徵值構成的對角矩陣。因為是對角矩陣,所以可以直接定義出它的唯一開方令由協方差線上性變換下的關係注意用到了正交矩陣等性質所以一個可以進行標準化的變換就是如果還是正態分佈的話,,就是我們上面提到的各種標準化分佈中的一個。獨立性檢驗之類的問題也容易轉化到這上面來。然而這上面卻有一個限制,協方差矩陣滿秩。這是必然的嗎?當然不,隨機變數之間的線性組合關係會直接反應在協方差矩陣的秩的下降上。如給定這個線性約束。則。也就是說可以透過每行/列去減第n行/列,可以將第n行/列上的全部元素消為0。作為初等行列變換,變換前後的矩陣具有相同的秩,則說明原來的協方差矩陣.。所以不滿秩。協方差(對稱)矩陣不滿秩情況下,仍可以做分解,不過此時特徵值矩陣對角線上有0。記為將特徵值對角矩陣上所有非零元取倒數再取根號的結果。於是有其中是單位矩陣替換了右下個1為0的矩陣。定義變換矩陣為於是變換後協方差為也就是說,由於不滿秩,我們轉而只能使用這樣對角線上“1數量不滿”的矩陣作為標準化後的協方差矩陣。此時與對應的形式為回過頭來,協方差矩陣的某些行列全為0(如中右下角的元素就是如此)意味著什麼呢。這意味著對應的隨機變數實際表示一個常數。於是我們發現,受約束的隨機變數向量的約束可以體現為協方差矩陣的秩的下降,而這又意味著標準化中會有幾個隨機變數只能被標準化為0常量,而不是本來想要的期望為0,方差為1的不相關隨機變數。這對於各種構造成服從或漸進服從卡方分佈的統計量(以及包含這種統計量在內的其他服從t分佈或F分佈的隨機函式)是決定性的——理想中,我們想把它們全標準化成不相關0,1隨機變數,然後利用最自然的卡方分佈(自由度等於標準化前的變數個數)——然而這個步驟做不下去,只能修正後採用其他自由度的卡方分佈。
自由度經常被解釋為可以自由變化的變數數量。而在一些原本完全自由的變數上約束它們的通常是一些線性約束,那麼自由度與線性約束到底是怎麼在分佈中發揮作用的呢?我們可以從隨機向量的標準化過程中遇到的麻煩看出其意義。假設檢驗中喜歡構造統計量在原假設成立下服從某種標準化分佈,這樣多元隨機變數的標準化就很重要了。一元隨機變數標準化形如而多元的隨機向量則應當標準化為其中是單位矩陣。標準化為這種形式的目的之一是之後容易匯出服從卡方分佈的統計量。回憶其定義若是多元正態分佈的隨機向量,則上述標準化後求平方和就直接是服從等於變數個數的自由度的卡方分佈統計量。若各分量漸進服從正態分佈,也可能可以用此法搞出與前面同分布的統計量,如多項分佈。那麼如何到底如何進行標準化?在協方差矩陣滿秩的情況下,有分解為其中為特徵向量按列排列的某一正交矩陣,為對應的特徵值構成的對角矩陣。因為是對角矩陣,所以可以直接定義出它的唯一開方令由協方差線上性變換下的關係注意用到了正交矩陣等性質所以一個可以進行標準化的變換就是如果還是正態分佈的話,,就是我們上面提到的各種標準化分佈中的一個。獨立性檢驗之類的問題也容易轉化到這上面來。然而這上面卻有一個限制,協方差矩陣滿秩。這是必然的嗎?當然不,隨機變數之間的線性組合關係會直接反應在協方差矩陣的秩的下降上。如給定這個線性約束。則。也就是說可以透過每行/列去減第n行/列,可以將第n行/列上的全部元素消為0。作為初等行列變換,變換前後的矩陣具有相同的秩,則說明原來的協方差矩陣.。所以不滿秩。協方差(對稱)矩陣不滿秩情況下,仍可以做分解,不過此時特徵值矩陣對角線上有0。記為將特徵值對角矩陣上所有非零元取倒數再取根號的結果。於是有其中是單位矩陣替換了右下個1為0的矩陣。定義變換矩陣為於是變換後協方差為也就是說,由於不滿秩,我們轉而只能使用這樣對角線上“1數量不滿”的矩陣作為標準化後的協方差矩陣。此時與對應的形式為回過頭來,協方差矩陣的某些行列全為0(如中右下角的元素就是如此)意味著什麼呢。這意味著對應的隨機變數實際表示一個常數。於是我們發現,受約束的隨機變數向量的約束可以體現為協方差矩陣的秩的下降,而這又意味著標準化中會有幾個隨機變數只能被標準化為0常量,而不是本來想要的期望為0,方差為1的不相關隨機變數。這對於各種構造成服從或漸進服從卡方分佈的統計量(以及包含這種統計量在內的其他服從t分佈或F分佈的隨機函式)是決定性的——理想中,我們想把它們全標準化成不相關0,1隨機變數,然後利用最自然的卡方分佈(自由度等於標準化前的變數個數)——然而這個步驟做不下去,只能修正後採用其他自由度的卡方分佈。