順序統計量

在統計學中，樣本的第$k$順序統計量（英語：Order Statistics）即它從小到大排列時的第$k$個值，常用於非參數估計與推斷中。常見的順序統計量包括樣本的最大值、最小值、中位數等。

記號

任給樣本$x_{1},x_{2},\cdots ,x_{n}$，將其從小到大排成一列，記為：$$x_{(1)},x_{(2)},\cdots ,x_{(n)}.$$則其第一順序統計量（即最小值）為$x_{(1)}$，第$n$順序統計量（即最大值）為$x_{(n)}$。

概率

隨機變量$X_{(k)}$的累積分布函數$F_{k}(x)$由下式給出$$F_{k}(x)=\sum _{j=k}^{n}{\binom {n}{j}}(F(x))^{j}(1-F(x))^{n-j},\quad x\in \mathbb {R} ,$$ 將累積分布函數求導可得其概率密度函數$f_{k}(x)$為 $$f_{k}(x)={\frac {n!}{(k-1)!(n-k)!}}(F(x))^{k-1}(1-F(x))^{n-k}f(x),\quad x\in \mathbb {R} .$$

連續均勻樣本

從單位區間上的連續型均勻分布取得的樣本，其各順序統計量的邊緣分布屬於Β分布族。此外，任意幾個順序統計量的聯合分布也有簡單的表示。本節將作介紹。藉賴累積分布函數（cdf），該些結果亦可推廣到任意連續分佈。

本節中，$X_{1},X_{2},\ldots ,X_{n}$表示以$F_{X}$為cdf的一組隨機樣本。記$U_{i}=F_{X}(X_{i})$，則$U_{1},\ldots ,U_{n}$是從標準連續均勻分布抽取的對應樣本。由$F_{X}$的單調性，後者的順序統計量為$U_{(i)}=F_{X}(X_{(i)})$。

順序統計量$U_{(k)}$的概率密度函數（pdf）等於

$f_{U_{(k)}}(u)={n! \over (k-1)!(n-k)!}u^{k-1}(1-u)^{n-k}.$

換言之，均勻分佈的第$k$順序統計量遵循Β分布

$U_{(k)}\sim \operatorname {Beta} (k,n+1\mathbf {-} k).$

證明如下：欲使$U_{(k)}$介乎$u$與$u+\mathrm {d} u$之間，樣本須恰有$k-1$個元素小於$u$，並至少有一個介乎$u$與$u+\mathrm {d} u$之間。該區間包含多於一個元素的概率已是$O(\mathrm {d} u^{2})$（使用了大O符號），故衹需計算$(0,u)$、$(u,u+du)$、$(u+du,1)$三區間分別恰有$k-1$、$1$、$n-k$個元素的概率。此即三項分佈概率

${n! \over (k-1)!(n-k)!}u^{k-1}\cdot \mathrm {d} u\cdot (1-u-\mathrm {d} u)^{n-k},$

故上述pdf公式成立。該分佈的平均值為$k/(n+1)$。