[科普中國(guó)]-多元線性模型

基本介紹

在一元線性模型中，我們研究的指標(biāo)Y是一元隨機(jī)變量，影響這個(gè)指標(biāo)的因素卻可以有多個(gè)，如果我們研究的指標(biāo)Y是q元隨機(jī)向量，影響這個(gè)指標(biāo)向量的因素卻有p個(gè)，并且指標(biāo)的條件數(shù)學(xué)期望與這些因素之間滿足線性關(guān)系，這時(shí)就可以用下面將要介紹的多元線性模型來(lái)描述指標(biāo)向量Y和這些因素之間的關(guān)系。

假設(shè)對(duì)應(yīng)于因素 的指標(biāo)向量Y的觀測(cè)值為

則指標(biāo)向量Y的觀測(cè)值與這些因素之間的關(guān)系就可以用矩陣的形式寫(xiě)為

記 則可以把上面的式子簡(jiǎn)寫(xiě)為

其 為指標(biāo)向量Y的笫i次觀測(cè)誤差，通常假設(shè)不同的觀測(cè)之間是不相關(guān)的，并且 的均值為0．療差矩陣為V，這樣可以把指標(biāo)向量的觀測(cè)值和相應(yīng)的各個(gè)因素之間的關(guān)系表達(dá)為

其中e的各行不相關(guān)且有相同的協(xié)方差矩陣，這里Y的第i行 記錄了研究對(duì)象Y的第i次觀測(cè)結(jié)果，x的第i行 記錄了各個(gè)因素在第i次觀測(cè)中所取的值，而e的第i行表示用 的分量的線性組合來(lái)近似 所產(chǎn)生的誤差，我們稱模型(1)為多元線性模型，顯然當(dāng)q=1時(shí)，多元線性模型就成為一元線性模型。

為了方便，我們稱n×(q+p)矩陣(Y，x)為資料矩陣；稱Y為觀測(cè)矩陣；稱x為設(shè)計(jì)矩陣：稱e為觀測(cè)誤差或模型誤差：稱 為模型參數(shù)矩陣，簡(jiǎn)稱為參數(shù)矩陣或參數(shù)：稱V為方差矩陣，在多元線性模型(1)中，模型的參數(shù)矩陣和方差矩陣V是需要估計(jì)的參數(shù)矩陣、人們最感興趣的是模型的參數(shù)估計(jì)問(wèn)題和有關(guān)參數(shù)矩陣的一些假設(shè)檢驗(yàn)問(wèn)題。2

多元線性模型的參數(shù)估計(jì)以下只研究多元正態(tài)線性模型。

β的最小二乘估計(jì)

類似于一元線性模型中σ2的估計(jì)，我們可以用下面的統(tǒng)計(jì)量作為多元線性模型中方差矩陣V的估計(jì)：

其中p為(列滿秩)設(shè)計(jì)矩陣x的秩，而

為殘差矩陣，可以驗(yàn)證估計(jì)量是方差矩陣V的無(wú)偏估計(jì)量。2