Teoría asintótica (estadística)

En estadística , la teoría asintótica , o teoría de muestras grandes , es un marco para evaluar las propiedades de los estimadores y las pruebas estadísticas . Dentro de este marco, a menudo se supone que el tamaño de la muestra $n$ puede crecer indefinidamente; las propiedades de los estimadores y las pruebas se evalúan entonces bajo el límite de $n \to \infty$ . En la práctica, se considera que una evaluación límite es aproximadamente válida también para tamaños de muestra finitos grandes. ^{[ 1 ]}

Descripción general

La mayoría de los problemas estadísticos comienzan con un conjunto de datos de tamaño $n$ . La teoría asintótica procede asumiendo que es posible (en principio) seguir recopilando datos adicionales, de modo que el tamaño de la muestra crece infinitamente, es decir, $n \to \infty$ . Bajo esta suposición, se pueden obtener muchos resultados que no están disponibles para muestras de tamaño finito. Un ejemplo es la ley débil de los grandes números . Esta ley establece que para una secuencia de variables aleatorias independientes e idénticamente distribuidas $($ IID) $X₁$ $,$ $X₂$ $,$ $...$ , si se extrae un valor de cada variable aleatoria y se calcula el promedio de los primeros $n valores como$ $Xn$ , entonces los $Xn$ convergen en probabilidad ^a la media poblacional $E$ ^[ $Xᵢ$ $]$ cuando $n$ $\to$ $\infty$ $.$ $[$ ² ]

En teoría asintótica, el enfoque estándar es $n \to \infty$ . Para algunos modelos estadísticos , se pueden utilizar enfoques asintóticos ligeramente diferentes. Por ejemplo, con datos de panel , se suele suponer que una dimensión de los datos permanece fija, mientras que la otra crece: $T = constante$ y $N \to \infty$ , o viceversa. ^{[ 2 ]}

Además del enfoque estándar para el análisis asintótico, existen otros enfoques alternativos:

Dentro del marco de normalidad asintótica local , se supone que el valor del "parámetro verdadero" en el modelo varía ligeramente con $n$ , de modo que el $n$ -ésimo modelo corresponde a $θ$ $n$ $=$ $θ$ $+$ $h$ $/$ $\sqrt$ $n$ . Este enfoque nos permite estudiar la regularidad de los estimadores .
Cuando se estudian las pruebas estadísticas por su capacidad para distinguir entre alternativas cercanas a la hipótesis nula, se hace dentro del marco de las llamadas "alternativas locales": la hipótesis nula es $H 0 : θ = θ 0$ y la alternativa es $H 1 : θ = θ 0 + h / \sqrt n$ . Este enfoque es especialmente popular para las pruebas de raíz unitaria .
Hay modelos en los que la dimensión del espacio de parámetros $Θ n$ se expande lentamente con $n$ , lo que refleja el hecho de que cuantas más observaciones haya, más efectos estructurales se pueden incorporar de manera factible en el modelo.
En la estimación de densidad de kernel y la regresión de kernel , se asume un parámetro adicional: el ancho de banda $h$ . En esos modelos, normalmente se considera que $h \to 0$ cuando $n \to \infty$ . Sin embargo, la tasa de convergencia debe elegirse cuidadosamente, generalmente $h \propto n -1/5$ .

En muchos casos, se pueden obtener resultados muy precisos para muestras finitas mediante métodos numéricos (es decir, computadoras); sin embargo, incluso en tales casos, el análisis asintótico puede ser útil. Este punto fue planteado por Small (2010 , §1.4) , como sigue.

Un objetivo primordial del análisis asintótico es obtener una comprensión cualitativa más profunda de las herramientas cuantitativas . Las conclusiones de un análisis asintótico suelen complementar las que se pueden obtener mediante métodos numéricos.

Modos de convergencia de variables aleatorias

Propiedades asintóticas

Estimadores puntuales

A continuación, $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ será una secuencia arbitraria de estimadores.

Consistencia

La secuencia $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ Se dice que es (débilmente) consistente si converge en probabilidad al valor verdadero del parámetro que se está estimando:

${\hat {\theta }}_{n}\ {\xrightarrow {\overset {}{p}}}\ \theta _{0}.$

Esto significa que la probabilidad de que el valor estimado se acerque arbitrariamente a $\theta _{0}$ converge a cero cuando $n$ tiende a infinito. ^{[ 2 ]} Más específicamente, si la convergencia de $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ a $\theta _{0}$ es de orden estocástico $1/a_{n}$ (también escrito ${\textit {O}}_{p}(1/a_{n})$ ) para alguna secuencia $(a_{n})_{n\in \mathbb {N} }$ de números reales que divergen al infinito, es decir,

$\lim _{n\to \infty }\mathbb {P} (|a_{n}({\hat {\theta }}_{n}-\theta _{0})|>K)=0\quad {\text{para todo }}K>0,$

entonces $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ se llama $a_{n}$ -consistente . ^{[ 3 ]}

Se dice que la secuencia de estimaciones es fuertemente consistente si converge casi con seguridad al parámetro verdadero:

${\hat {\theta }}_{n}{\overset {\mathrm {as} }{\longrightarrow }}\ \theta _{0}.$

La sutil diferencia con un estimador débilmente consistente es que un estimador fuertemente consistente garantiza acercarse arbitrariamente a $\theta _{0}$ como $n$ Tiende al infinito, eventualmente.

Distribución asintótica

Si es posible encontrar secuencias de constantes no aleatorias $(a_{n})_{n\in \mathbb {N} }$ , $(b_{n})_{n\in \mathbb {N} }$ (posiblemente dependiendo del valor) $\theta _{0}$ ), y una distribución no degenerada $\mu$ de tal manera que

$b_{n}({\hat {\theta }}_{n}-a_{n})\ \xrightarrow {d} \ \mu ,$

luego la secuencia de estimadores ${\hat {\theta }}_{n}$ Se dice que tiene la distribución asintótica $\mu$ .

En la mayoría de los casos, la distribución asintótica de los estimadores que se encuentran en la práctica es la distribución normal. $\mu ={\mathcal {N}}(0,V)$ para alguna matriz de covarianza $V$ , en cuyo caso el estimador se denomina asintóticamente normal . ^{[ 4 ]} Algunos autores requieren específicamente $a_{n}=\theta _{0}$ y $b_{n}={\sqrt {n}}$ y luego llamar a la secuencia de estimadores asintóticamente normal para $\theta _{0}$ . ^{[ 5 ]}

Imparcialidad en el límite

La secuencia se denomina insesgada en el límite , si $\lim _{n\to \infty }\mathbb {E} [{\hat {\theta }}_{n}]=\theta _{0}$ . ^{[ 6 ]} Un estimador con esta propiedad también se denomina a veces aproximadamente insesgado . ^{[ 7 ]}

Imparcialidad asintótica

La secuencia se denomina asintóticamente insesgada para el parámetro $\theta _{0}$ , si $\sigma _{n}({\hat {\theta }}_{n}-\theta _{0})$ converge en distribución a una variable aleatoria $G\neq 0$ con $\mathbb {E} [G]=0$ para alguna secuencia $(\sigma _{n})_{n\in \mathbb {N} }$ de números reales. ^{[ 8 ]}

Varianza límite

Si existe una secuencia $(\tau _{n})_{n\in \mathbb {N} }$ de números reales tales que $\lim _{n\to \infty }\tau _{n}\mathrm {Var} ({{\hat {\theta }}_{n}})=\sigma ^{2}$ , entonces $\sigma ^{2}$ se denomina varianza límite de $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ . Normalmente, se elige $\tau _{n}=n$ . ^{[ 9 ]}

Varianza asintótica

Si existe una secuencia $(b_{n})_{n\in \mathbb {N} }$ de tal manera que

$b_{n}({\hat {\theta }}_{n}-\theta _{0})\xrightarrow {d} G$

con $0<\mathbb {E} [G^{2}]<\infty$ , entonces $V=\mathrm {Var} (G)$ se denomina varianza asintótica de $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ . ^{[ 10 ]} En particular, si $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ es asintóticamente insesgado, entonces $V=\mathbb {E} [G^{2}]$ .

Eficiencia asintótica

La secuencia se denomina asintóticamente eficiente si es asintóticamente normal para $\theta _{0}$ y su varianza asintótica es $V=I(\theta _ {0})^{-1}$ con la información de Fisher $I(\theta _{0})$ , es decir, la varianza asintótica alcanza la cota de Cramér-Rao . ^{[ 11 ]}^{[ 12 ]}

Pruebas estadísticas

Regiones de confianza asintóticas

Relaciones generales entre propiedades asintóticas

Como se indicó anteriormente, deje que $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ sea una secuencia arbitraria de estimadores.

Si $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ es asintóticamente normal para $\theta _{0}$ , entonces es consistente (por el teorema de Slutsky ).
Si $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ es consistente, entonces es asintóticamente insesgado. ^{[ 13 ]}
Si $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ es asintóticamente insesgado y uniformemente integrable , entonces es insesgado en el límite. ^{[ 14 ]} Este es el caso, por ejemplo, cuando los segundos momentos están uniformemente acotados, es decir, $\sup _{n\in \mathbb {N} }\mathbb {E} [|{\hat {\theta }}_{n}|^{2}]<\infty$ .
En el caso univariado, si un estimador es asintóticamente insesgado y tiene varianza asintótica $\tau ^{2}$ y si la varianza límite $\sigma ^{2}$ entonces existe $\tau ^{2}\leq \sigma ^{2}$ . ^{[ 11 ]} La equidad se cumple si y solo si la secuencia normalizada de estimadores, es decir $b_{n}({\hat {\theta }}_{n}-\theta _{0})$ para que sea adecuado $b_{n}$ , es uniformemente integrable (lo cual suele ser el caso en la práctica). ^{[ 10 ]}^{[ 11 ]}

Teoremas asintóticos

Propiedades asintóticas de una secuencia de estimadores $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ (para un parámetro) $\theta$ ) a menudo resultan de teoremas generales de la teoría de la probabilidad . En lo que sigue, sea $X_{1},X_{2},\dots$ sean observaciones independientes e idénticamente distribuidas de la distribución verdadera. $\mathbb {P} _{\theta }$ .

Para mayor coherencia

Ley fuerte de los grandes números

Si los estimadores son de la forma ${\hat {\theta }}_{n}={\frac {1}{n}}\sum _{i=1}^{n}f(X_{i})$ para alguna función medible $f$ de tal manera que $\mathbb {E} [|f(X_{1})|]<\infty$ , entonces por la ley fuerte de los grandes números

${\hat {\theta }}_{n}\xrightarrow {a.s.} \mathbb {E} [f(X_{1})].$

Por lo tanto, si $\theta =\mathbb {E} [f(X_{1})]$ , entonces $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ es altamente consistente.

Teorema de la aplicación continua

Suponer $\theta =f(\tau )$ para algún otro parámetro $\tau$ y una función continua $f$ . Dada una secuencia (fuertemente) consistente de estimadores $({\hat {\tau }}_{n})_{n\in \mathbb {N} }$ para el parámetro $\tau$ , entonces por el teorema de mapeo continuo , la secuencia de estimadores $({\hat {\theta }}_{n})_{n\in \mathbb {N} }=(f({\hat {\tau }}_{n}))_{n\in \mathbb {N} }$ es (fuertemente) consistente para el parámetro $\theta$ . ^{[ 15 ]}

Para la distribución asintótica

Teorema del límite central

Si los estimadores son de la forma ${\hat {\theta }}_{n}={\frac {1}{n}}\sum _{i=1}^{n}f(X_{i})$ para alguna función medible de valor real $f$ de tal manera que $\mathbb {E} [|f(X_{1})|^{2}]<\infty$ , entonces por el teorema del límite central , $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ es asintóticamente normal en el sentido

${\sqrt {n}}{\frac {{\hat {\theta }}_{n}-\mu }{\sigma }}\ {\overset {d}{\longrightarrow }}\ {\mathcal {N}}(0,1)$

con las definiciones $\mathbb {E} [f(X_{1})]=\mu$ y $\mathrm {Var} (f(X_{1}))=\sigma ^{2}$ .

Teorema de Fisher-Tippet-Gnedenko

Si los estimadores son de la forma ${\hat {\theta }}_{n}=\max _{i=1,\dots ,n}f(X_{i})$ para alguna función medible de valor real $f$ y si existen secuencias $(a_{n})_{n\in \mathbb {N} }$ y $(b_{n})_{n\in \mathbb {N} }$ y una distribución no degenerada $G$ de tal manera que

${\frac {{\hat {\theta }}_{n}-a_{n}}{b_{n}}}\ {\overset {d}{\longrightarrow }}\ G,$

Luego, por el teorema de Fisher-Tippet-Gnedenko , la distribución asintótica $G$ de $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ es una distribución generalizada de valores extremos .

Método Delta

Suponer $\theta =f(\tau )$ para algún otro parámetro $\tau$ y una función diferenciable $f$ con $\nabla f(\tau )\neq 0$ . Dada una secuencia de estimadores $({\hat {\tau }}_{n})_{n\in \mathbb {N} }$ para el parámetro $\tau$ con distribución asintótica $G$ en el sentido

${\frac {{\hat {\tau }}_{n}-\tau }{\sigma _{n}}}\ {\overset {d}{\longrightarrow }}\ Z\sim G$

para alguna secuencia de números reales $(\sigma _{n})_{n\in \mathbb {N} }$ , luego por el método delta , la secuencia de estimadores $({\hat {\theta }}_{n})_{n\in \mathbb {N} }=(f({\hat {\tau }}_{n}))_{n\in \mathbb {N} }$ tiene asintóticamente la distribución de $\nabla f(\tau )^{\top }Z$ .

En el caso especial, donde $({\hat {\tau }}_{n})_{n\in \mathbb {N} }$ es asintóticamente normal para $\tau$ con varianza asintótica $V$ , la secuencia $({\hat {\theta }}_{n})_{n\in \mathbb {N} }$ es asintóticamente normal con varianza asintótica $\nabla f(\tau )^{\top }V\nabla f(\tau )$ .

Véase también

Referencias

^ Höpfner, R. (2014), Estadística asintótica, Walter de Gruyter. 286 pág. ISBN 3110250241, ISBN 978-3110250244
1 2 3 A. DasGupta (2008), Teoría asintótica de la estadística y la probabilidad , Springer. ISBN 0387759700, ISBN 978-0387759708
^ Shao (2003), pág. 133
^ Shao (2003), pág.70
↑ Lehmann y Casella (1998), pág. 439
↑ Lehmann y Casella (1998), pág. 431
^ Shao (2003), p.135
↑ Lehmann y Casella (1998), pág. 438
↑ Casella y Berger (2002), pág. 470
^ Shao (2003), pág.138
1 2 3 Casella y Berger (2002), pág. 471
^ Shao (2003), pág. 289
^ Shao (2003), p.136
↑ Billingsley (1995), pág. 338
^ Shao (2003), pág. 133

Bibliografía

Balakrishnan, N.; Ibragimov, IAVB; Nevzorov, VB, eds. (2001), Métodos asintóticos en probabilidad y estadística con aplicaciones , Birkhäuser , ISBN 9781461202097
Billingsley, P. (1995), Probabilidad y medida (3.ª ed.), John Wiley & Sons
Borovkov, AA ; Borovkov, KA (2010), Análisis asintótico de caminatas aleatorias , Cambridge University Press
Buldygin, VV; Solntsev, S. (1997), Comportamiento asintótico de sumas de variables aleatorias transformadas linealmente , Springer, ISBN 9789401155687
Le Cam, L. ; Yang, GL (2000), Asintótica en estadística (2.ª ed.), Springer
Casella, G.; Berger, RL (2002), Inferencia estadística (2.ª ed.), Duxbury
Dawson, D.; Kulik, R.; Ould Haye, M.; Szyszkowicz, B.; Zhao, Y., eds. (2015), Leyes asintóticas y métodos en estocástica , Springer-Verlag
Höpfner, R. (2014), Estadística asintótica , Walter de Gruyter
Lehmann, EL; Casella, G. (1998), Teoría de la estimación puntual (2.ª ed.), Springer
Lin'kov, Yu. N. (2001), Métodos estadísticos asintóticos para procesos estocásticos , Sociedad Matemática Americana
Oliveira, PE (2012), Asintótica para variables aleatorias asociadas , Springer
Petrov, VV (1995), Teoremas límite de la teoría de la probabilidad , Oxford University Press
Sen, PK; Singer, JM; Pedroso de Lima, AC (2009), De la muestra finita a los métodos asintóticos en estadística , Cambridge University Press
Shao, J. (2003). Estadística matemática (2.ª ed.). Springer . ISBN 978-0-387-95382-3.
Shiryaev, AN; Spokoiny, VG (2000), Experimentos estadísticos y decisiones: teoría asintótica , World Scientific
Small, CG (2010), Expansiones y asintótica para estadística , Chapman & Hall
van der Vaart, AW (1998), Estadística asintótica , Cambridge University Press

[1] Höpfner, R. (2014), Estadística asintótica, Walter de Gruyter. 286 pág. ISBN 3110250241, ISBN 978-3110250244

[ONE-2] 1 2 3 A. DasGupta (2008), Teoría asintótica de la estadística y la probabilidad , Springer. ISBN 0387759700, ISBN 978-0387759708

[3] Shao (2003), pág. 133

[4] Shao (2003), pág.70

[5] Lehmann y Casella (1998), pág. 439

[6] Lehmann y Casella (1998), pág. 431

[7] Shao (2003), p.135

[8] Lehmann y Casella (1998), pág. 438

[9] Casella y Berger (2002), pág. 470

[:1-10] Shao (2003), pág.138

[:0-11] 1 2 3 Casella y Berger (2002), pág. 471

[12] Shao (2003), pág. 289

[13] Shao (2003), p.136

[14] Billingsley (1995), pág. 338

[15] Shao (2003), pág. 133

[ 1 ]

a

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]

[ 9 ]

[ 12 ]

[ 13 ]

[ 14 ]

[ 15 ]