Estimador consistente

En estadística , un estimador consistente o asintóticamente consistente es un estimador —una regla para calcular estimaciones de un parámetro θ₀— que _posee la propiedad de que, a medida que aumenta indefinidamente el número de puntos de datos utilizados, la secuencia resultante de estimaciones converge en probabilidad a θ₀ _. Esto significa que las distribuciones de las estimaciones se concentran cada vez más cerca del valor verdadero del parámetro que se está estimando, de modo que la probabilidad de que el estimador esté arbitrariamente cerca de _θ₀ converge a uno.

En la práctica, se construye un estimador en función de una muestra disponible de tamaño n , y luego se imagina la posibilidad de seguir recopilando datos y expandiendo la muestra indefinidamente . De esta manera, se obtendría una secuencia de estimaciones indexadas por n , y la consistencia es una propiedad de lo que ocurre a medida que el tamaño de la muestra tiende a infinito. Si se puede demostrar matemáticamente que la secuencia de estimaciones converge en probabilidad al valor verdadero θ₀ , se denomina estimador consistente; de ​​lo contrario _, se dice que el estimador es inconsistente .

La consistencia, tal como se define aquí, a veces se denomina consistencia débil . Cuando reemplazamos la convergencia en probabilidad por la convergencia casi segura , se dice que el estimador es fuertemente consistente . La consistencia está relacionada con el sesgo ; véase sesgo versus consistencia .

Formalmente hablando, se dice que un estimador T _n del parámetro θ es débilmente consistente si converge en probabilidad al verdadero valor del parámetro: ^{[ 1 ]}

${\displaystyle {\underset {n\to \infty }{\operatorname {plim} }}\;T_{n}=\theta .}$

es decir, si para todo ε > 0

${\displaystyle \lim _{n\to \infty }\Pr {\big (}|T_{n}-\theta |>\varepsilon {\big )}=0.}$

Se dice que un estimador T _n del parámetro θ es fuertemente consistente si converge casi con seguridad al verdadero valor del parámetro:

${\displaystyle \Pr {\big (}\lim _{n\to \infty }T_{n}=\theta {\big )}=1.}$

Una definición más rigurosa tiene en cuenta el hecho de que θ es realmente desconocido y, por lo tanto, la convergencia en probabilidad debe ocurrir para cada posible valor de este parámetro. Supongamos que { p _θ : θ ∈ Θ } es una familia de distribuciones (el modelo paramétrico ), y X ^θ = { X ₁ , X ₂ , …  : X _i ~ p _θ } es una muestra infinita de la distribución p _θ . Sea { T _n ( X ^θ ) } una secuencia de estimadores para algún parámetro g ( θ ). Por lo general, T _n se basará en las primeras n observaciones de una muestra. Entonces se dice que esta secuencia { T _n } es (débilmente) consistente si ^{[ 2 ]}

${\displaystyle {\underset {n\to \infty }{\operatorname {plim} }}\;T_{n}(X^{\theta })=g(\theta ),\ \ {\text{for all}}\ \theta \in \Theta .}$

Esta definición utiliza g ( θ ) en lugar de simplemente θ , porque a menudo interesa estimar una determinada función o un subvector del parámetro subyacente. En el siguiente ejemplo, estimamos el parámetro de localización del modelo, pero no la escala:

La noción de consistencia asintótica es muy similar, casi sinónima, a la de convergencia en probabilidad. Por lo tanto, cualquier teorema, lema o propiedad que establezca la convergencia en probabilidad puede utilizarse para demostrar la consistencia. Existen muchas herramientas de este tipo:

• Para demostrar la consistencia directamente a partir de la definición se puede utilizar la desigualdad ^{[ 3 ].}

${\displaystyle \Pr \!{\big [}h(T_{n}-\theta )\geq \varepsilon {\big ]}\leq {\frac {\operatorname {E} {\big [}h(T_{n}-\theta ){\big ]}}{h(\varepsilon )}},}$

La opción más común para la función h es el valor absoluto (en cuyo caso se conoce como desigualdad de Markov ) o la función cuadrática (respectivamente, la desigualdad de Chebyshev ).

• Otro resultado útil es el teorema de la aplicación continua : si T _n es consistente para θ y g (·) es una función de valor real continua en el punto θ , entonces g ( T _n ) será consistente para g ( θ ): ^{[ 4 ]}

${\displaystyle T_{n}\ {\xrightarrow {p}}\ \theta \ \quad \Rightarrow \quad g(T_{n})\ {\xrightarrow {p}}\ g(\theta )}$

• El teorema de Slutsky se puede utilizar para combinar varios estimadores diferentes, o un estimador con una secuencia convergente no aleatoria. Si T _n  → ^d α , y S _n  → ^p β , entonces ^{[ 5 ]}

${\displaystyle {\begin{aligned}&T_{n}+S_{n}\ {\xrightarrow {d}}\ \alpha +\beta ,\\&T_{n}S_{n}\ {\xrightarrow {d}}\ \alpha \beta ,\\&T_{n}/S_{n}\ {\xrightarrow {d}}\ \alpha /\beta ,{\text{ provided that }}\beta \neq 0\end{aligned}}}$

• Si el estimador T _n viene dado por una fórmula explícita, entonces lo más probable es que la fórmula emplee sumas de variables aleatorias, y entonces se puede utilizar la ley de los grandes números : para una secuencia { X _n } de variables aleatorias y bajo condiciones adecuadas,

${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}g(X_{i})\ {\xrightarrow {p}}\ \operatorname {E} [\,g(X)\,]}$

• Si el estimador T _n se define implícitamente, por ejemplo como un valor que maximiza cierta función objetivo (véase estimador extremo ), entonces debe utilizarse un argumento más complejo que involucre la equicontinuidad estocástica . ^{[ 6 ]}

• Estimador eficiente
• Consistencia de Fisher : concepto alternativo, aunque raramente utilizado, de consistencia para los estimadores.
• dilución de regresión
• Pruebas de hipótesis estadísticas
• Estimación mediante variables instrumentales

• Amemiya, Takeshi (1985). Econometría avanzada . Harvard University Press . ISBN 0-674-00560-0.
• Lehmann, EL ; Casella, G. (1998). Teoría de la estimación puntual (2.ª  ed.). Springer. ISBN 0-387-98502-6.
• Newey, WK; McFadden, D. (1994). «Capítulo 36: Estimación de muestras grandes y contraste de hipótesis». En Robert F. Engle; Daniel L. McFadden (eds.). Manual de econometría . Vol.  4. Elsevier Science. ISBN 0-444-88766-0. S2CID 29436457 . 
• Nikulin, MS (2001) [1994], "Estimador consistente" , Enciclopedia de Matemáticas , EMS Press
• Sober, E. (1988), "Probabilidad y convergencia", Filosofía de la Ciencia , 55 (2): 228– 237, doi : 10.1086/289429.

• Clase de econometría (tema: imparcial vs. consistente) en YouTube por Mark Thoma