Оценка параметров

□ Классический МНК обеспечивает наилучшую несмещенную линейную оценку параметров, т. е. оценку, характеризующуюся наименьшей дисперсией среди всех линейных несмещенных оценок.

Как правило, матрица независимых переменных X не является квадратной. Поэтому для нахождения параметров регрессии (матрица В) ее следует сначала преобразовать к квадратной и затем обратить:

В = (Х1Х)~1Х1У (12.5-51)

Во многих случаях обращение матрицы ХЬХ можно выполнить непосредственно. Однако для этого необходимо, чтобы между строками матрицы не было линейной зависимости, а сама матрица была, говоря математическим языком, хорошо обусловлена. Для оценки обусловленности матрицы используют число обусловленности:

cond(X) = || X || || Х-11| (12.5-52)

где \\Х|| — норма матрицы X. Норма матрицы X равна ее наибольшему сингулярному числу (корню квадратному из собственного значения А), а норма матрицы Х-1 — соответственно обратному наименьшему сингулярному числу X:

cond(X) = у/х^ • -^== (12.5-53)

V ^min

Строго говоря, это определение справедливо только для квадратных матриц (в случае определенных систем линейных уравнений, когда N = К, см. уравнение 12.5-49). Для переопределенных систем уравнений, когда N > К, число обусловленности рассчитывают как

cond(X) = lcond(XtX)-1]1/2 (12.5-54)

Для хорошо обусловленных матриц число обусловленности близко к единице. Для сингулярных матриц оно равно бесконечности, а для плохо обусловленных весьма велико.

Сингулярными называются матрицы, между строками (или столбцами) которых существует линейная зависимость. За счет погрешностей округления, возникающих в ходе вычислений, сингулярными могут оказаться и матрицы, между строками которых нет строгой линейной зависимости.

Для решения систем линейных уравнений в классическом МНК можно применять традиционные способы исключения методом Гаусса или Гаусса— Жордана. Однако более эффективно предварительное разложение матрицы X, например с применением таких алгоритмов, как разложение Хаусхолдера, LU-разложение или сингулярное (SVD) разложение. Использование одного из наиболее мощных алгоритмов, SVD-разложения, рассмотрено ниже.

Copyright © 2007-2012 Zomber.Ru

Использование материалов сайта возможно при условии указания активной ссылки
Решить химию