Hispanopedia Wiki
Articulo de referencia

prueba de Wald

En estadística , la prueba de Wald (llamada así por Abraham Wald ) evalúa las restricciones sobre los parámetros estadísticos basándose en la distancia ponderada entre la estima...

Hispanopedia WikiContenido en espanolLectura gratuita

En estadística , la prueba de Wald (llamada así por Abraham Wald ) evalúa las restricciones sobre los parámetros estadísticos basándose en la distancia ponderada entre la estimación sin restricciones y su valor hipotetizado bajo la hipótesis nula , donde el peso es la precisión de la estimación. [ 1 ] [ 2 ] Intuitivamente, cuanto mayor sea esta distancia ponderada, menos probable es que la restricción sea verdadera. Si bien las distribuciones de muestra finita de las pruebas de Wald son generalmente desconocidas, [ 3 ] : 138 tiene una distribución χ 2 asintótica bajo la hipótesis nula, un hecho que puede usarse para determinar la significancia estadística . [ 4 ]

Junto con la prueba del multiplicador de Lagrange y la prueba de razón de verosimilitud , la prueba de Wald es uno de los tres enfoques clásicos para la prueba de hipótesis . Una ventaja de la prueba de Wald sobre las otras dos es que solo requiere la estimación del modelo no restringido, lo que reduce la carga computacional en comparación con la prueba de razón de verosimilitud. Sin embargo, una desventaja importante es que (en muestras finitas) no es invariante a cambios en la representación de la hipótesis nula; en otras palabras, expresiones algebraicamente equivalentes de restricción de parámetros no lineales pueden conducir a diferentes valores del estadístico de prueba. [ 5 ] [ 6 ] Esto se debe a que el estadístico de Wald se deriva de una expansión de Taylor , [ 7 ] y diferentes formas de escribir expresiones no lineales equivalentes conducen a diferencias no triviales en los coeficientes de Taylor correspondientes. [ 8 ] Otra aberración, conocida como el efecto Hauck-Donner, [ 9 ] puede ocurrir en modelos binomiales cuando el parámetro estimado (sin restricciones) está cerca del límite del espacio de parámetros —por ejemplo, una probabilidad ajustada extremadamente cercana a cero o uno— lo que resulta en que la prueba de Wald ya no aumente monótonamente en la distancia entre el parámetro sin restricciones y el restringido. [ 10 ] [ 11 ]

Detalles matemáticos

Según la prueba de Wald, la estimaciónθ^{\displaystyle {\sombrero {\theta }}}que se encontró al comparar el argumento de maximización de la función de verosimilitud no restringida con un valor hipotéticoθ0{\displaystyle \theta _{0}}. En particular, la diferencia al cuadradoθ^−θ0{\displaystyle {\hat {\theta }}-\theta _{0}}está ponderado por la curvatura de la función de verosimilitud logarítmica.

Prueba en un solo parámetro

Si la hipótesis implica una sola restricción de parámetro, entonces el estadístico de Wald toma la siguiente forma:

W=(θ^−θ0)2var⁡(θ^){\displaystyle W={\frac {{({\widehat {\theta }}-\theta _{0})}^{2}}{\operatorname {var} ({\hat {\theta }})}}}

que bajo la hipótesis nula sigue una distribución χ² asintótica con un grado de libertad. La raíz cuadrada del estadístico de Wald de restricción única puede entenderse como una razón t (pseudo) que, sin embargo, no sigue realmente una distribución t excepto en el caso especial de regresión lineal con errores distribuidos normalmente . [ 12 ] En general, sigue una distribución z asintótica . [ 13 ]

W=θ^−θ0se⁡(θ^){\displaystyle {\sqrt {W}}={\frac {{\widehat {\theta }}-\theta _{0}}{\operatorname {se} ({\hat {\theta }})}}}

dóndese⁡(θ^){\displaystyle \operatorname {se} ({\widehat {\theta }})}es el error estándar (EE) de la estimación de máxima verosimilitud (EMV), la raíz cuadrada de la varianza. Hay varias formas de estimar de manera consistente la matriz de varianza , lo que en muestras finitas conduce a estimaciones alternativas de errores estándar y estadísticos de prueba y valores p asociados . [ 3 ] : 129 La validez de seguir obteniendo una distribución asintóticamente normal después de sustituir el estimador EMV deθ^{\displaystyle {\sombrero {\theta }}}La introducción en el SE se basa en el teorema de Slutsky .

Prueba(s) en múltiples parámetros

La prueba de Wald se puede utilizar para probar una sola hipótesis sobre múltiples parámetros, así como para probar conjuntamente múltiples hipótesis sobre parámetros individuales o múltiples.θ^norte{\displaystyle {\hat {\theta }}_{n}}sea ​​nuestro estimador de muestra de los parámetros P (es decir,θ^norte{\displaystyle {\hat {\theta }}_{n}}es unPAG×1{\displaystyle P\times 1}vector), que se supone que sigue asintóticamente una distribución normal con matriz de covarianza V , norte(θ^norte−θ)→Dnorte(0,V){\displaystyle {\sqrt {n}}({\hat {\theta }}_{n}-\theta )\,\xrightarrow {\mathcal {D}} \,N(0,V)}. La prueba de hipótesis Q sobre los parámetros P se expresa con unaQ×PAG{\displaystyle Q\times P}matriz R : 

H0:Rθ=r{\displaystyle H_{0}:R\theta =r}
H1:Rθ≠r{\displaystyle H_{1}:R\theta \neq r}

La distribución del estadístico de prueba bajo la hipótesis nula es

(Rθ^norte−r)′[R(V^norte/norte)R′]−1(Rθ^norte−r)/Q→DF(Q,norte−PAG)→norte→∞DχQ2/Q,{\displaystyle (R{\hat {\theta }}_{n}-r)'[R({\hat {V}}_{n}/n)R']^{-1}(R{\hat {\theta }}_{n}-r)/Q\quad \xrightarrow {\mathcal {D}} \quad F(Q,nP)\quad {\xrightarrow[{n\rightarrow \infty }]{\mathcal {D}}}\quad \chi _{Q}^{2}/Q,}

lo cual a su vez implica

(Rθ^norte−r)′[R(V^norte/norte)R′]−1(Rθ^norte−r)→norte→∞DχQ2,{\displaystyle (R{\hat {\theta }}_{n}-r)'[R({\hat {V}}_{n}/n)R']^{-1}(R{\hat {\theta }}_{n}-r)\quad {\xrightarrow[{n\rightarrow \infty }]{\mathcal {D}}}\quad \chi _{Q}^{2},}

dóndeV^norte{\displaystyle {\sombrero {V}}_{n}}es un estimador de la matriz de covarianza. [ 14 ]

Prueba

Suponernorte(θ^norte−θ)→Dnorte(0,V){\displaystyle {\sqrt {n}}({\hat {\theta }}_{n}-\theta )\,\xrightarrow {\mathcal {D}} \,N(0,V)}. Entonces, por el teorema de Slutsky y por las propiedades de la distribución normal , al multiplicar por R se obtiene la distribución:

Rnorte(θ^norte−θ)=norte(Rθ^norte−r)→Dnorte(0,RVR′){\displaystyle R{\sqrt {n}}({\hat {\theta }}_{n}-\theta )={\sqrt {n}}(R{\hat {\theta }}_{n}-r)\,\xrightarrow {\mathcal {D}} \,N(0,RVR')}

Recordemos que una forma cuadrática de distribución normal tiene una distribución chi-cuadrado :

norte(Rθ^norte−r)′[RVR′]−1norte(Rθ^norte−r)→DχQ2{\displaystyle {\sqrt {n}}(R{\hat {\theta }}_{n}-r)'[RVR']^{-1}{\sqrt {n}}(R{\hat {\theta }}_{n}-r)\,\xrightarrow {\mathcal {D}} \,\chi _{Q}^{2}}

Reordenando n finalmente se obtiene:

(Rθ^norte−r)′[R(V/norte)R′]−1(Rθ^norte−r)→DχQ2{\displaystyle (R{\hat {\theta }}_{n}-r)'[R(V/n)R']^{-1}(R{\hat {\theta }}_{n}-r)\quad \xrightarrow {\mathcal {D}} \quad \chi _{Q}^{2}}

¿Qué ocurre si la matriz de covarianza no se conoce a priori y necesita ser estimada a partir de los datos? Si tenemos un estimador consistenteV^norte{\displaystyle {\hat {V}}_{n}} deV{\displaystyle V}de tal manera queV−1V^norte{\displaystyle V^{-1}{\hat {V}}_{n}}tiene un determinante que se distribuyeχnorte−PAG2{\displaystyle \chi _{n-P}^{2}}, entonces, debido a la independencia del estimador de covarianza y la ecuación anterior, tenemos:

(Rθ^norte−r)′[R(V^norte/norte)R′]−1(Rθ^norte−r)/Q→DF(Q,norte−PAG){\displaystyle (R{\hat {\theta }}_{n}-r)'[R({\hat {V}}_{n}/n)R']^{-1}(R{\hat {\theta }}_{n}-r)/Q\quad \xrightarrow {\mathcal {D}} \quad F(Q,n-P)}

hipótesis no lineal

En su forma estándar, la prueba de Wald se utiliza para probar hipótesis lineales que pueden representarse mediante una única matriz R. Si se desea probar una hipótesis no lineal de la forma: 

H0:do(θ)=0{\displaystyle H_{0}:c(\theta )=0}
H1:do(θ)≠0{\displaystyle H_{1}:c(\theta )\neq 0}

El estadístico de prueba se convierte en:

do(θ^norte)′[do′(θ^norte)(V^norte/norte)do′(θ^norte)′]−1do(θ^norte)→DχQ2{\displaystyle c\left({\hat {\theta }}_{n}\right)'\left[c'\left({\hat {\theta }}_{n}\right)\left({\hat {V}}_{n}/n\right)c'\left({\hat {\theta }}_{n}\right)'\right]^{-1}c\left({\hat {\theta }}_{n}\right)\quad {\xrightarrow {\mathcal {D}}}\quad \chi _{Q}^{2}}

dóndedo′(θ^norte){\displaystyle c'({\hat {\theta }}_{n})}es la derivada de c evaluada en el estimador de la muestra. Este resultado se obtiene utilizando el método delta , que utiliza una aproximación de primer orden de la varianza.

No invariancia a las reparametrizaciones

El hecho de utilizar una aproximación de la varianza tiene el inconveniente de que el estadístico de Wald no es invariante ante una transformación/reparametrización no lineal de la hipótesis: puede dar respuestas diferentes a la misma pregunta, dependiendo de cómo se formule. [ 15 ] [ 5 ] Por ejemplo, preguntar si R  =  1 es lo mismo que preguntar si log R = 0; pero el estadístico de Wald para R = 1 no es el mismo que el estadístico de Wald para log R = 0 (porque en general no existe una relación precisa entre los errores estándar de R y log R , por lo que es necesario aproximarlo). [ 16 ]         

Alternativas a la prueba de Wald

Existen varias alternativas a la prueba de Wald, a saber, la prueba de razón de verosimilitud y la prueba del multiplicador de Lagrange (también conocida como prueba de puntuación). Robert F. Engle demostró que estas tres pruebas —la de Wald, la de razón de verosimilitud y la del multiplicador de Lagrange— son asintóticamente equivalentes . [ 17 ] Si bien son asintóticamente equivalentes, en muestras finitas podrían discrepar lo suficiente como para conducir a conclusiones diferentes.

Hay varias razones para preferir la prueba de razón de verosimilitud o el multiplicador de Lagrange a la prueba de Wald: [ 18 ] [ 19 ] [ 20 ]

  • No invariancia: Como se argumentó anteriormente, la prueba de Wald no es invariante bajo reparametrización, mientras que las pruebas de razón de verosimilitud darán exactamente la misma respuesta ya sea que trabajemos con R , log R o cualquier otra transformación monótona de R. [ 5 ]  
  • La otra razón es que la prueba de Wald utiliza dos aproximaciones (que conocemos el error estándar o información de Fisher y la estimación de máxima verosimilitud), mientras que la prueba de razón de verosimilitud depende solo de la razón de las funciones de verosimilitud bajo la hipótesis nula y la hipótesis alternativa.
  • La prueba de Wald requiere una estimación utilizando el argumento de maximización, correspondiente al modelo "completo". En algunos casos, el modelo es más simple bajo la hipótesis nula, por lo que podría preferirse utilizar la prueba de puntuación (también llamada prueba del multiplicador de Lagrange), que tiene la ventaja de poder formularse en situaciones donde la variabilidad del elemento de maximización es difícil de estimar o el cálculo de la estimación según el estimador de máxima verosimilitud es difícil; por ejemplo, la prueba de Cochran-Mantel-Haenzel es una prueba de puntuación. [ 21 ]

Véase también

Referencias

  1. ↑ Fahrmeir, Ludwig; Kneib, Thomas; Lang, Stefan; Marx, Brian (2013). Regresión  : Modelos, métodos y aplicaciones . Berlín: Springer. pág.  663. ISBN 978-3-642-34332-2.
  2. ↑ Ward, Michael D.; Ahlquist, John S. (2018). Máxima verosimilitud para las ciencias sociales : estrategias de análisis . Cambridge University Press . pág. 36. ISBN   978-1-316-63682-4.
  3. 1 2 Martin, Vance; Hurn, Stan; Harris, David (2013). Econometric Modelling with Time Series: Specification, Estimation and Testing . Cambridge University Press. ISBN 978-0-521-13981-6.
  4. ↑ Davidson, Russell; MacKinnon, James G. (1993). «El método de máxima verosimilitud : conceptos fundamentales y notación». Estimación e inferencia en econometría . Nueva York: Oxford University Press. pág. 89. ISBN   0-19-506011-3.
  5. 1 2 3 Gregory, Allan W.; Veall, Michael R. (1985). "Formulación de pruebas de Wald de restricciones no lineales" . Econometrica . 53 (6): 1465– 1468. doi : 10.2307/1913221 . JSTOR 1913221. Archivado del original el 21 de julio de 2018. Recuperado el 5 de septiembre de 2019 . 
  6. ↑ Phillips, PCB ; Park, Joon Y. (1988). "Sobre la formulación de pruebas de Wald de restricciones no lineales" (PDF) . Econometrica . 56 (5): 1065–1083 . doi : 10.2307/1911359 . JSTOR 1911359 . 
  7. ↑ Hayashi, Fumio (2000). Econometría . Princeton: Princeton University Press. págs. 489–491 . ISBN  1-4008-2383-8.,
  8. ↑ Lafontaine, Francine; White, Kenneth J. (1986). "Obteniendo cualquier estadística de Wald que desee". Economics Letters . 21 (1): 35– 40. doi : 10.1016/0165-1765(86)90117-5 .
  9. ↑ Hauck, Walter W. Jr.; Donner, Allan (1977). "La prueba de Wald aplicada a hipótesis en el análisis logístico". Journal of the American Statistical Association . 72 (360a): 851– 853. doi : 10.1080/01621459.1977.10479969 .
  10. ↑ King, Maxwell L.; Goh, Kim-Leng (2002). «Mejoras a la prueba de Wald» . Manual de econometría aplicada e inferencia estadística . Nueva York: Marcel Dekker. págs. 251–276 . ISBN  0-8247-0652-8.
  11. ↑ Yee, Thomas William (2022). "Sobre el efecto Hauck-Donner en las pruebas de Wald: detección, puntos de inflexión y caracterización del espacio de parámetros". Journal of the American Statistical Association . 117 (540): 1763– 1774. arXiv : 2001.08431 . doi : 10.1080/01621459.2021.1886936 .
  12. ↑ Cameron, A. Colin ; Trivedi, Pravin K. (2005). Microeconometría : Métodos y aplicaciones . Nueva York: Cambridge University Press. pág. 137. ISBN   0-521-84805-9.
  13. ↑ Davidson, Russell; MacKinnon, James G. (1993). «El método de máxima verosimilitud : conceptos fundamentales y notación». Estimación e inferencia en econometría . Nueva York: Oxford University Press. pág. 89. ISBN   0-19-506011-3.
  14. ↑ Harrell, Frank E. Jr. (2001). "Sección 9.3.1". Estrategias de modelado de regresión . Nueva York: Springer-Verlag. ISBN 0387952322.
  15. ↑ Fears, Thomas R.; Benichou, Jacques; Gail, Mitchell H. (1996). "Un recordatorio de la falibilidad de la estadística de Wald". The American Statistician . 50 (3): 226– 227. doi : 10.1080/00031305.1996.10474384 .
  16. ↑ Critchley, Frank; Marriott, Paul; Salmon, Mark (1996). "Sobre la geometría diferencial de la prueba de Wald con restricciones no lineales". Econometrica . 64 (5): 1213– 1222. doi : 10.2307/2171963 . hdl : 1814/524 . JSTOR 2171963 . 
  17. ↑ Engle, Robert F. (1983). «Pruebas de Wald, de razón de verosimilitud y del multiplicador de Lagrange en econometría». En Intriligator, MD; Griliches, Z. (eds.). Manual de econometría . Vol. II. Elsevier. pp. 796–801 . ISBN   978-0-444-86185-6.
  18. ↑ Harrell, Frank E. Jr. (2001). "Sección 9.3.3". Estrategias de modelado de regresión . Nueva York: Springer-Verlag. ISBN 0387952322.
  19. ↑ Collett, David (1994). Modelado de datos de supervivencia en la investigación médica . Londres: Chapman & Hall. ISBN 0412448807.
  20. ↑ Pawitan, Yudi (2001). In All Likelihood . Nueva York: Oxford University Press. ISBN 0198507658.
  21. ↑ Agresti, Alan ( 2002). Análisis de datos categóricos (2.ª ed.). Wiley. p. 232. ISBN   0471360937.

Lecturas adicionales

  • Greene, William H. (2012). Análisis econométrico (Séptima  edición internacional). Boston: Pearson. pp. 155-161 . ISBN  978-0-273-75356-8.
  • Kmenta, Jan (1986). Elementos de econometría (Segunda  edición). Nueva York: Macmillan. págs. 492–493 . ISBN  0-02-365070-2.
  • Thomas, RL (1993). Introducción a la econometría: teoría y aplicación (Segunda  edición). Londres: Longman. pp. 73–77 . ISBN  0-582-07378-2.
  • Prueba de Wald sobre los primeros usos conocidos de algunas palabras de matemáticas.