機率統計是研究自然界中隨機現象統計規律的數學方法，叫做機率統計，又稱數理統計方法。機率統計主要研究物件為隨機事件、隨機變數以及隨機過程。

機率統計是應用機率的理論來研究大量隨機現象的規律性;對透過科學安排的一定數量的實驗所得到的統計方法給出嚴格的理論證明;並判定各種方法應用的條件以及方法、公式、結論的可靠程度和侷限性。使我們能從一組樣本來判定是否能以相當大的機率來保證某一判斷是正確的，並可以控制發生錯誤的機率。

從數學上看，分佈函式F(x)=P(X<x)，表示隨機變數X的值小於x的機率。這個意義很容易理解。機率密度f(x)是F(x)在x處的關於x的一階導數，即變化率。如果在某一x附近取非常小的一個鄰域Δx，那麼，隨機變數X落在(x, x+Δx)內的機率約為f(x)Δx，即P(x<X<x+Δx)≈f(x)Δx。換句話說，機率密度f(x)是X落在x處“單位寬度”內的機率。“密度”一詞可以由此理解。