半參數回歸

統計學中,半參數回歸包括結合了參數模型非參數模型的回歸模型。它們通常用於完全非參數模型可能表現不佳的情況,或者研究人員希望使用參數模型,但與回歸子集有關的函數形式或誤差密度不為人知的情況。半參數回歸模型是半參數建模的一種特殊類型。半參數模型包含參數成分,依賴於參數假設,可能會出現規範誤差與不一致的情況。

方法

目前已有許多不同的半參數回歸方法。最流行的方法是部分線性模型、指數模型和變係數模型。

部分線性模型

部分線性模型如下

 

其中 是因變量, 是解釋變量的 向量, 是未知參數的 向量, 。部分線性模型的參數部分由參數向量 給出,而非參數部分是未知函數 。假設數據與 獨立同分布,模型允許未知形式的條件異方差誤差過程 。這類模型由Robinson (1988)提出,並由Racine & Li (2007)擴展到處理分類協變量。

這種方法先獲得  一致估計量,然後用適當的非參數回歸方法,從  非參數回歸中推出 的估計量。[1]

指數模型

單一指數模型的形式是

 

其中   的定義與上文相同,誤差項 滿足 。單一指數模型得名於模型的參數部分 ,是標量單指數。非參數部分是未知函數 

市村法

市村(1993)提出的單一指數模型法如下。考慮 連續情形,給定函數 的已知形式, 可用非線性最小二乘法估計,使函數

 

最小化。 的函數形式未知,需要估計。對給定 值,函數估計值可用核密度估計得到,為

 

市村(1993)建議用下式估計 

 

 留一非參數核估計量.

Klein與Spady估計量

Klein & Spady (1993)提出,若因變量 是二元的,並假設  獨立,則可用最大似然估計法估計 。對數似然函數為

 

其中 是留一估計量。

平滑係數/變係數模型

Hastie & Tibshirani (1993)提出了一種平滑係數模型

 

其中  向量,  的未定平滑函數向量。

 可表為

 

另見

注釋

  1. ^ See Li and Racine (2007) for an in-depth look at nonparametric regression methods.

參考文獻