Ayudantia5

Vista previa del material en texto

EAS201a - Inferencia Estad́ıstica
Escuela de Administración UC
Material de Apoyo
Ayudant́ıa 5
: , 1
Propiedades EMV
Tópicos de la Ayudant́ıa
I Propiedades EMV
I Distribución Asintótica EMV
I Distribución Asintótica de una función del EMV
I Estimadores Insesgados de Varianza Mı́nima
I Ejercicios
: , 2
Propiedades EMV
Sea X1,X2, ...,Xn una m.a proveniente de la población f (x |θ).
El EMV de θ es asintóticamente insesgado, es decir,
E(θ̂)→ θ , n→∞
El EMV de θ es debilmente consistente, es decir,
θ̂ → θ, en probabilidad cuando n→∞
El EMV de θ es Invariante, es decir, si g(θ) es una función continua en θ,
entonces g(θ̂) es el estimador máximo verośımil de g(θ).
: , 3
Propiedades EMV
Para tamaños muestrales grande,
la distribución del EMV se puede aproximar por una Normal de media θ y
varianza la cota de Crámer- Rao: CCR(θ) dada por
CCR(θ) =
1
I(θ)
donde I(θ) es el número de Información de Fisher
I(θ) = E
(
∂ ln L(θ)
∂θ
)2
= −E
(
∂2 ln L(θ)
∂θ2
)
: , 4
Propiedades EMV
Note que la varianza asintótica del EMV depende de θ,
Var(θ̂) ≈ 1
I(θ)
Se puede estimar reemplazando θ por el EMV, es decir,
V̂ar(θ̂) ≈ 1
I(θ̂)
y sigue siendo válido que
θ̂
·∼ N
(
θ,
1
I(θ̂)
)
: , 5
Propiedades EMV
Además, el EMV de g(θ) tiene distribución asintótica Normal dada por
g(θ̂)
·∼ N
(
g(θ),CCR(θ) ·
(
∂g(θ)
∂θ
)2)
De igual manera, la varianza asintótica del EMV de g(θ) depende de θ,
luego un estimador de ella es
̂Var(g(θ̂)) ≈ CCR(θ̂) ·
̂(
∂g(θ)
∂θ
)2
: , 6
Propiedades EMV
Estimadores Insesgados de Mı́nima Varianza
Si θ̂ es un estimador Insesgado para θ y el recorrido de los Yi no depende
de θ (condición de regularidad), entonces
Var(θ̂) ≥ CCR(θ)
I Este Teorema entrega una cota inferior para Var(θ̂)
I Si Var(θ̂) = CCR(θ) entonces este es el único Estimador Insesgado
de Varianza Mı́nima (EIMV) para θ
: , 7
Propiedades EMV
Ejercicio 1
Se quiere determinar la proporción p de mujeres que compran cierta marca
de cereal en una cierta cadena de supermercado. En una muestra aleatoria
de 700 compras de este cereal, se encontró que 580 compras fueron rea-
lizadas por mujeres. Estime la probabilidad de que el EMV de la proporción
de mujeres que compran el cereal sea mayor a 0.8.
: , 8
Propiedades EMV
Solución Ejercicio 1
Sean X1,X2, ...,X700 los individuos que compran el cereal, donde Xi es una
v.a Bernoulli(p) tal que
Xi =
{
1 si es mujer
0 si es hombre
Intersa estimar P(p̂ > 0.8) donde p̂ es el EMV de p.
Cálculo p̂ :
L(p) =
700∏
i=1
f (xi |θ) =
700∏
i=1
pXi · (1− p)1−Xi
= p
∑700
i=1 Xi · (1− p)700−
∑700
i=1 Xi
: , 9
Propiedades EMV
Solución Ejercicio 1
Luego aplicando logaritmo y derivando e igualando a cero se tiene
log L(p) =
700∑
i=1
Xi log(p) + (700−
700∑
i=1
Xi ) log(1− p)
∂ log L(p)
∂p
=
∑700
i=1 Xi
p
−
(700−
∑700
i=1 Xi )
(1− p)
= 0
⇒ p̂ =
∑700
i=1 Xi
700
Con los datos del problema, se tiene que una estimación de p es 0.828.
: , 10
Propiedades EMV
Solución Ejercicio 1
Además se tiene por propiedades de los EMV que
p̂
·∼ N
(
p,
1
I(p)
)
donde
I(p) = −E
(
∂2 ln L(p)
∂p2
)
Note que
∂2 ln L(p)
∂p2
= −
∑700
i=1 Xi
p2
−
(700−
∑700
i=1 Xi )
(1− p)2
−E
(
∂2 ln L(p)
∂p2
)
=
∑700
i=1 E(Xi )
p2
+
(
700−
∑700
i=1 E(Xi )
)
(1− p)2
: , 11
Propiedades EMV
Solución Ejercicio 1
Luego,
I(p) = 700p
p2
+
(700− 700p)
(1− p)2
=
700
p(1− p)
Por lo tanto CCR(p) = p(1−p)700 , y aśı p̂
·∼ N
(
p, p(1−p)700
)
Cálculo de P(p̂ > 0.8) :
Como el tamaño muestral es grande podemos usar la distribución asintótica
de p̂ de la siguiente manera,
P(p̂ > 0.8) ≈ P
 p̂ − p√
p(1−p)
700
>
0.8− p√
p(1−p)
700

: , 12
Propiedades EMV
Solución Ejercicio 1
P(p̂ > 0.8) ≈ 1− P
Z < 0.8− p√
p(1−p)
700
 = g(p)
Note que P(p̂ > 0.8) es una función de p, y es continua, luego por
invarianza de los EMV se tiene que g(p̂) es el EMV de g(p), luego un
estimador de P(p̂ > 0.8) está dado por
̂P(p̂ > 0.8) = g(p̂)
= 1− P
Z < 0.8− p̂√
p̂(1−p̂)
700

= 1− Φ(−1.963)
= 0.9750
: , 13
Propiedades EMV
Ejercicio 2
X1,X2, ...,Xn m.a de X ∼Poisson(θ). Se desea estimar P(X = 0). En-
cuentre el estimador máximo verośımil de P(X = 0) y calcule la varianza
aproximada del estimador.
: , 14
Propiedades EMV
Solución Ejercicio 2
Piden calcular el EMV de P(X = 0).
Como X ∼Poisson(θ) entonces P(X = 0) = e−θ = g(θ).
Note que g(·) es una función continua, luego por propiedad de invarianza
de los EMV se tiene que g(θ̂) es el EMV de g(θ).
Cáculo de θ̂
L(θ) =
n∏
i=1
θXi e−θ
Xi !
=
θ
∑n
i=1 Xi e−nθ∏n
i=1 Xi !
log(L(θ)) = log(θ)
n∑
i=1
Xi − nθ −
n∑
i=1
log(Xi !)
: , 15
Propiedades EMV
Solución Ejercicio 2
∂ log(L(θ))
∂θ
=
1
θ
n∑
i=1
Xi − n = 0
⇒ θ̂ =
∑n
i=1 Xi
n
= X
Por lo tanto, el EMV de g(θ) = P(X = 0) es ̂P(X = 0) = g(θ̂) = e−X̄
Por propiedades de los EMV se tiene que la varianza aproximada de g(θ̂)
está dada por la Cota de Cramer-Rao de g(θ̂) dada por
CCR(g(θ̂)) =
(g ′(θ))2
I(θ)
: , 16
Propiedades EMV
Solución Ejercicio 2
Cáculo de I(θ):
I(θ) = −E
(
∂2 ln L(θ)
∂θ2
)
= −E
(
− 1
θ2
n∑
i=1
Xi
)
=
1
θ2
n∑
i=1
E(Xi ) =
n
θ
Además g ′(θ) = −e−θ, luego
̂Var(g(θ̂)) = CCR(g(θ̂)) =
(−e−θ̂)2
n/θ̂
=
θ̂e−2θ̂
n
=
X̄ e−2X̄
n
: , 17
Propiedades EMV
Ejercicio 3
El tiempo de realización en minutos de una determinada tarea dentro de
un proceso industrial es una variable aleatoria con función de densidad
f (x) =
x
θ2
e−x/θ x > 0, θ > 0
(a) Calcular el estimador máximo verośımil de E(X ) para una muestra
aleatoria simple de tamaño n.
(b) Mediante un muestreo aleatorio simple se han recogido los siguientes
15 tiempos de realización de la tarea:
5.56 2.23 0.58 1.37 0.21 1.98 2.44 2.71
10.12 4.69 3.47 1.73 3.51 1.19 0.97
Obtener la estimación máximo verosimil del tiempo medio de
realización del proceso.
: , 18
Propiedades EMV
Ejercicio 3
(c) ¿Es el EMV el estimador insesgado de varianza ḿınima?
(d) Para la muestra del apartado anterior, dar una aproximación de la
varianza asintótica del estimador de máxima verosimilitud de θ.
: , 19
Propiedades EMV
Solución Ejercicio 3
(a) Note que la función de densidad corresponde a una distribución
Gamma(2, 1θ ), luego
E(X ) =
2
1/θ
= 2θ = g(θ)
Por propiedad de invarianza de los EMV se tiene que el EMV de
E(X ) corresponde a g(θ̂) = 2θ̂, donde θ̂ es el EMV de θ.
: , 20
Propiedades EMV
Solución Ejercicio 3
Cálculo EMV de θ:
L(θ) =
n∏
i=1
Xi
θ2
e
−Xi
θ
=
∏n
i=1 Xi
θ2n
e
−1
θ
∑n
i=1 Xi
`(θ) =
n∑
i=1
logXi − 2n log θ −
1
θ
n∑
i=1
Xi
∂`(θ)
∂θ
= −2n
θ
+
1
θ2
n∑
i=1
Xi = 0
⇒ θ̂EMV =
∑n
i=1 Xi
2n
=
1
2
X
: , 21
Propiedades EMV
Solución Ejercicio 3
De esta manera,
El EMV de E(X ) = g(θ) = 2θ es
g(θ̂) = 2θ̂EMV = 2 ·
1
2
X = X
(b) A partir de los datos se tiene que X 15 = 2.8506
Luego a partir de la muestra la estimación máximo verośımil de
E(X ) es 2.8506.
: , 22
Propiedades EMV
Solución Ejercicio 3
(c) Primero veamos si θ̂EMV es un estimador insesgado de θ
E(θ̂EMV ) = E
(
1
2
X
)
=
1
2
E(X ) =
1
2n
n∑
i=1
E(Xi )
=
1
2n
n · 2θ = θ
Por lo tanto, θ̂EMV es un estimador insesgado de θ.
Para ver si es el estimador de varianza ḿınima, debemos calcular
Var(θ̂EMV ) y ver si es igual a la CCR(θ)
: , 23
Propiedades EMV
Solución Ejercicio 3
Cálculo de Var(θ̂EMV ):
Var(θ̂EMV ) = Var
(
1
2
X
)
=
1
4
Var(X ) =
1
4n2
n∑
i=1
Var(Xi )
=
1
4n2
n · 2θ2 = θ
2
2n
Cálculo de CCR(θ):
Por parte (a) se tiene que
∂`(θ)
∂θ
= −2n
θ
+
1
θ2
n∑
i=1
Xi
∂2`(θ)
∂θ2
=
2n
θ2
− 2
θ3
n∑
i=1
Xi
: , 24
Propiedades EMV
Solución Ejercicio 3
Tomando Esperanza en la última ecuación, se tiene
E
(
∂2`(θ)
∂θ2
)
= E
(
2n
θ2
)
− 2
θ3
n∑
i=1
E(Xi )
=
2n
θ2
− 2
θ3
· n2θ
=
−2n
θ2
Luego I(θ) = −E
(
∂2`(θ)
∂θ2
)
= 2nθ2
De esta manera, CCR(θ) = 1I(θ) =
θ2
2n
Como Var(θ̂EMV ) = CCR(θ), se concluye que
θ̂EMV es el estimador insesgado de varianza ḿınima.
: , 25
Propiedades EMV
Solución Ejercicio 3
(d) Porparte (c) se tiene que
Var(θ̂EMV ) =
θ2
2n
Luego, la estimación de la varianza de θ̂EMV a partir de los datos de
la muestra está dada por
̂
Var(θ̂EMV ) =
θ̂2
2n
=
x̄2
8n
= 0.067
: , 26