clase4 - Zaida Moreno Páez

Vista previa del material en texto

Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Clase 4
Econometŕıa I
Tomás Rau
16 de agosto
Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Modelo de Regresión con k variables
De los supuestos 3, 4 y 5, tenemos entonces que el término de
error tiene la siguiente distribución:
u ∼
(
0
n×1
, σ2 I
n×n
)
(1)
El método de MCO, plantea que los parámetros del modelo pueden
ser estimados minimizando la suma de los errores al cuadrado
(SE (β̂)), la que en términos matriciales equivale a:
SE (β̂) =
n∑
i=1
û2i = û
′û = (Y − X β̂)′(Y − X β̂)
donde û = Y − X β̂. Antes de derivar esa expresión, debemos
aprender algunas reglas de derivación de vectores:
Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Modelo de Regresión con k variables
Si A es una matriz y x un vector y los productos Ax y x’Ax son
conformables, tenemos que:
∂Ax
∂x
= A′;
∂Ax
∂x’
= A
∂x’Ax
∂x
= (A′ + A)x = 2Ax si A es simétrica
donde la última igualdad ocurre si A es simétrica. Luego, aplicando
las reglas de cálculo diferencial matricial a S tenemos
Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Modelo de Regresión con k variables
ḿın
β̂
SE (β̂) = ḿın
β̂
[
(Y − X β̂)′(Y − X β̂)
]
= ḿın
β̂
[
Y ′Y − 2Y ′X β̂ + β̂′X ′X β̂
]
∂SE (β̂)
∂β̂
= −2X ′Y + 2X ′X β̂ = 0 (2)
⇒ β̂ = (X ′X )−1X ′Y (3)
que existe si (X ′X ) tiene inversa.
Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Modelo de Regresión con k variables
De (2) tenemos:
X ′(Y − X β̂) = 0⇒ X ′û = 0 (4)
que se conoce como la “condición de ortogonalidad”. Es decir, los
errores estimados son ortogonales a las variables explicativas del
modelo.
Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Modelo de Regresión con k variables
Note que de (2), el vector de parámetros estimados β̂ se obtiene
de resolver el siguiente sistema de ecuaciones normales:
X ′X β̂ = X ′Y ⇔
1 1 1 · · · 1
x2,1 x2,2 · · · x2,n
...
...
...
. . .
...
xk,1 xk,2 · · · xk,n


1 x2,1 x3,1 · · · xk,1
1 x2,2 x3,2 · · · xk,2
...
...
...
. . .
...
1 x2,n x3,n · · · xk,n


β̂1
β̂2
...
β̂k

=

1 1 1 · · · 1
x2,1 x2,2 · · · x2,n
...
...
...
. . .
...
xk,1 xk,2 · · · xk,n


y1
y2
...
yn

Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Modelo de Regresión con k variables
⇔

n
∑n
i=1 x2,i · · ·
∑n
i=1 xk,i∑n
i=1 x2,i
∑n
i=1 x
2
2,i · · ·
∑n
i=1 x2,ixk,i∑n
i=1 x3,i
∑n
i=1 x3,ix2,i · · ·
∑n
i=1 x3,ixk,i
...
...
...
. . .
...∑n
i=1 xk,i
∑n
i=1 xk,ix2,i · · ·
∑n
i=1 x
2
k,i


β̂1
β̂2
β̂3
...
β̂k

=

∑n
i=1 yi∑n
i=1 yix2,i∑n
i=1 yix3,i
...∑n
i=1 yixk,i

Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Modelo de Regresión con k variables
Es importante notar que el estimador MCO esta definido solo
cuando la matriz (X’X) es invertible, lo que ocurre siempre y
cuando:
1 Las k columnas de la matriz X sean linealmente
independientes.
2 Se disponga al menos de tantas observaciones como variables
explicativas, es decir: n≥ k .(Supuesto 7)
Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Propiedades del estimador MCO
Notemos que el vector β̂ es un vector aleatorio, ya que depende del
vector de errores:
β̂ = (X ′X )−1X ′Y = (X ′X )−1X ′(Xβ + u) = β + (X ′X )−1X ′u
E (β̂) = E (β) + E [(X ′X )−1X ′u]
= β + (X ′X )−1X ′E (u)
Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Propiedades del estimador MCO
La esperanza de β es el mismo parámetro, ya que este es un
constante (valor poblacional), y por supuestos 2 y 3 el segundo
término de la expresión anterior es cero,
⇒ E (β̂) = β (5)
Es decir, el estimador MCO es insesgado, tal como lo hab́ıamos
mostrado anteriormente.
Clase 4 Econometŕıa I
Estimador Mı́nimo Cuadrados Ordinarios Propiedades del estimador MCO
Propiedades del estimador MCO
Ahora calculemos la varianza de β̂ que es un vector aleatorio.
Luego:
var(β̂) = E [(β̂ − E (β̂)) · (β̂ − E (β̂))′]
= E [(β̂ − β) · (β̂ − β)′]
= E [(X ′X )−1X ′uu′X (X ′X )−1]
= (X ′X )−1X ′E (uu′)X (X ′X )−1
= (X ′X )−1X ′(σ2In)X (X
′X )−1
= σ2(X ′X )−1 (6)
Para poder estimar la varianza de β̂ necesitamos reemplazar σ2 en
(5) por un estimador insesgado:
σ̃2 =
û′û
n − k
Clase 4 Econometŕıa I
	Estimador Mínimo Cuadrados Ordinarios
	Propiedades del estimador MCO