Hispanopedia Wiki
Articulo de referencia

Prueba de puntuación

En estadística , la prueba de puntuación evalúa las restricciones sobre los parámetros estadísticos basándose en el gradiente de la función de verosimilitud —conocida como puntu...

Hispanopedia WikiContenido en espanolLectura gratuita

En estadística , la prueba de puntuación evalúa las restricciones sobre los parámetros estadísticos basándose en el gradiente de la función de verosimilitud —conocida como puntuación— evaluada en el valor del parámetro hipotetizado bajo la hipótesis nula . Intuitivamente, si el estimador restringido está cerca del máximo de la función de verosimilitud, la puntuación no debería diferir de cero en más del error de muestreo . Si bien las distribuciones de muestra finita de las pruebas de puntuación son generalmente desconocidas, tienen una distribución χ² asintótica bajo la hipótesis nula como lo demostró por primera vez CR Rao en 1948, [ 1 ] un hecho que puede usarse para determinar la significancia estadística .

Dado que la maximización de funciones sujeta a restricciones de igualdad se realiza de forma más conveniente mediante una expresión lagrangiana del problema, la prueba de puntuación puede entenderse equivalentemente como una prueba de la magnitud de los multiplicadores de Lagrange asociados a las restricciones, donde, de nuevo, si las restricciones no son vinculantes en la máxima verosimilitud, el vector de multiplicadores de Lagrange no debería diferir de cero en más del error de muestreo. La equivalencia de estos dos enfoques fue demostrada por primera vez por S. D. Silvey en 1959, [ 2 ] lo que dio origen al nombre de prueba del multiplicador de Lagrange (LM), que se ha vuelto más común, particularmente en econometría, desde el artículo de Breusch y Pagan de 1980, muy citado. [ 3 ]

La principal ventaja de la prueba de puntuación sobre la prueba de Wald y la prueba de razón de verosimilitud es que la prueba de puntuación solo requiere el cálculo del estimador restringido. [ 4 ] Esto hace factible la prueba cuando la estimación de máxima verosimilitud sin restricciones es un punto límite en el espacio de parámetros . Además, debido a que la prueba de puntuación solo requiere la estimación de la función de verosimilitud bajo la hipótesis nula, es menos específica que la prueba de razón de verosimilitud con respecto a la hipótesis alternativa. [ 5 ]

Prueba de un solo parámetro

La estadística

DejarL{\displaystyle L}sea ​​la función de verosimilitud que depende de un parámetro univariadoθ{\displaystyle \theta }y dejarincógnita{\displaystyle x}sean los datos. La puntuaciónU(θ){\displaystyle U(\theta )}se define como

U(θ)=∂registro⁡L(θ∣incógnita)∂θ.{\displaystyle U(\theta )={\frac {\partial \log L(\theta \mid x)}{\partial \theta }}.}

La información de Fisher es [ 6 ]

I(θ)=−mi⁡[∂2∂θ2registro⁡F(incógnita;θ)|θ],{\displaystyle I(\theta )=-\operatorname {E} \left[\left.{\frac {\partial ^{2}}{\partial \theta ^{2}}}\log f(X;\theta )\,\right|\,\theta \right]\,,}

donde ƒ es la densidad de probabilidad.

La estadística a probarH0:θ=θ0{\displaystyle {\mathcal {H}}_{0}:\theta =\theta _{0}}es S(θ0)=U(θ0)2I(θ0){\displaystyle S(\theta _{0})={\frac {U(\theta _{0})^{2}}{I(\theta _{0})}}}

que tiene una distribución asintótica deχ12{\displaystyle \chi _{1}^{2}}, cuandoH0{\displaystyle {\mathcal {H}}_{0}}Es cierto. Si bien son asintóticamente idénticos, calcular el estadístico LM utilizando el estimador del producto de gradiente externo de la matriz de información de Fisher puede generar sesgos en muestras pequeñas. [ 7 ]

Nota sobre la notación

Tenga en cuenta que algunos textos utilizan una notación alternativa, en la que la estadísticaS∗(θ)=S(θ){\displaystyle S^{*}(\theta )={\sqrt {S(\theta )}}}Se prueba comparándolo con una distribución normal. Este enfoque es equivalente y da resultados idénticos.

Como la prueba más potente para pequeñas desviaciones

(∂registro⁡L(θ∣incógnita)∂θ)θ=θ0≥do{\displaystyle \left({\frac {\partial \log L(\theta \mid x)}{\partial \theta }}\right)_{\theta =\theta _{0}}\geq C}

dóndeL{\displaystyle L}es la función de verosimilitud ,θ0{\displaystyle \theta _{0}}es el valor del parámetro de interés bajo la hipótesis nula, ydo{\displaystyle C}es un conjunto constante que depende del tamaño de la prueba deseada (es decir, la probabilidad de rechazarH0{\displaystyle H_{0}}siH0{\displaystyle H_{0}}es cierto; véase error de tipo I ).

La prueba de puntuación es la prueba más potente para pequeñas desviaciones deH0{\displaystyle H_{0}}Para comprobarlo, considere realizar una prueba.θ=θ0{\displaystyle \theta =\theta _{0}}versusθ=θ0+h{\displaystyle \theta =\theta _{0}+h}Según el lema de Neyman-Pearson , la prueba más potente tiene la forma

L(θ0+h∣incógnita)L(θ0∣incógnita)≥K;{\displaystyle {\frac {L(\theta _{0}+h\mid x)}{L(\theta _{0}\mid x)}}\geq K;}

Tomando el logaritmo de ambos lados se obtiene

registro⁡L(θ0+h∣incógnita)−registro⁡L(θ0∣incógnita)≥registro⁡K.{\displaystyle \log L(\theta _{0}+h\mid x)-\log L(\theta _{0}\mid x)\geq \log K.}

La prueba de puntuación sigue a la sustitución (mediante el desarrollo en serie de Taylor ).

registro⁡L(θ0+h∣incógnita)≈registro⁡L(θ0∣incógnita)+h×(∂registro⁡L(θ∣incógnita)∂θ)θ=θ0{\displaystyle \log L(\theta _{0}+h\mid x)\approx \log L(\theta _{0}\mid x)+h\times \left({\frac {\partial \log L(\theta \mid x)}{\partial \theta }}\right)_{\theta =\theta _{0}}}

y la identificación de lado{\displaystyle C}arriba conregistro⁡(K){\displaystyle \log(K)}.

Relación con otras pruebas de hipótesis

Si la hipótesis nula es verdadera, la prueba de razón de verosimilitud , la prueba de Wald y la prueba de puntuación son pruebas de hipótesis asintóticamente equivalentes. [ 8 ] [ 9 ] Al probar modelos anidados , las estadísticas de cada prueba convergen a una distribución chi-cuadrado con grados de libertad iguales a la diferencia de grados de libertad en los dos modelos. Sin embargo, si la hipótesis nula no es verdadera, las estadísticas convergen a una distribución chi-cuadrado no central con parámetros de no centralidad posiblemente diferentes.

Múltiples parámetros

Se puede derivar una prueba de puntuación más general cuando hay más de un parámetro. Supongamos queθ^0{\displaystyle {\widehat {\theta }}_{0}}es la estimación de máxima verosimilitud deθ{\displaystyle \theta }bajo la hipótesis nulaH0{\displaystyle H_{0}}mientrasU{\displaystyle U}yI{\displaystyle I}son, respectivamente, el vector de puntuación y la matriz de información de Fisher. Entonces

UT(θ^0)I−1(θ^0)U(θ^0)∼χk2{\displaystyle U^{T}({\widehat {\theta }}_{0})I^{-1}({\widehat {\theta }}_{0})U({\widehat {\theta }}_{0})\sim \chi _{k}^{2}}

asintóticamente bajoH0{\displaystyle H_{0}}, dóndek{\displaystyle k}es el número de restricciones impuestas por la hipótesis nula y

U(θ^0)=∂registro⁡L(θ^0∣incógnita)∂θ{\displaystyle U({\widehat {\theta }}_{0})={\frac {\partial \log L({\widehat {\theta }}_{0}\mid x)}{\partial \theta }}}

y

I(θ^0)=−mi⁡(∂2registro⁡L(θ^0∣incógnita)∂θ∂θ′).{\displaystyle I({\widehat {\theta }}_{0})=-\operatorname {E} \left({\frac {\partial ^{2}\log L({\widehat {\theta }}_{0}\mid x)}{\partial \theta \,\partial \theta '}}\right).}

Esto se puede utilizar para probarH0{\displaystyle H_{0}}.

La fórmula real para el estadístico de prueba depende del estimador de la matriz de información de Fisher que se utilice. [ 10 ]

Casos especiales

En muchas situaciones, la estadística de puntuación se reduce a otra estadística de uso común. [ 11 ]

En la regresión lineal , la prueba del multiplicador de Lagrange se puede expresar como una función de la prueba F. [ 12 ]

Cuando los datos siguen una distribución normal, el estadístico de puntuación es el mismo que el estadístico t .

Cuando los datos consisten en observaciones binarias, el estadístico de puntuación es el mismo que el estadístico chi-cuadrado en la prueba chi-cuadrado de Pearson .

Véase también

Referencias

  1. ↑ Rao, C. Radhakrishna (1948). "Pruebas de muestras grandes de hipótesis estadísticas sobre varios parámetros con aplicaciones a problemas de estimación". Actas Matemáticas de la Sociedad Filosófica de Cambridge . 44 (1): 50– 57. Bibcode : 1948PCPS...44...50R . doi : 10.1017/S0305004100023987 .
  2. ↑ Silvey, SD (1959). "The Lagrangian Multiplier Test" . Annals of Mathematical Statistics . 30 (2): 389– 407. doi : 10.1214/aoms/1177706259 . JSTOR 2237089 . 
  3. ↑ Breusch, TS ; Pagan, AR (1980). "La prueba del multiplicador de Lagrange y sus aplicaciones a la especificación de modelos en econometría". Review of Economic Studies . 47 (1): 239–253 . doi : 10.2307/2297111 . JSTOR 2297111 . 
  4. ↑ Fahrmeir, Ludwig; Kneib, Thomas; Lang, Stefan; Marx, Brian (2013). Regresión : Modelos, métodos y aplicaciones . Berlín: Springer. pp. 663–664 . ISBN   978-3-642-34332-2.
  5. ↑ Kennedy, Peter (1998). Guía de econometría (Cuarta ed.). Cambridge: MIT Press. pág. 68. ISBN   0-262-11235-3.
  6. ↑ Lehmann y Casella, ec. (2.5.16).
  7. ↑ Davidson, Russel; MacKinnon, James G. (1983). "Propiedades de muestras pequeñas de formas alternativas de la prueba del multiplicador de Lagrange". Economics Letters . 12 ( 3–4 ): 269–275 . doi : 10.1016/0165-1765(83)90048-4 .
  8. ↑ Engle, Robert F. (1983). «Pruebas de Wald, de razón de verosimilitud y del multiplicador de Lagrange en econometría». En Intriligator, MD; Griliches, Z. (eds.). Manual de econometría . Vol. II. Elsevier. pp. 796–801 . ISBN   978-0-444-86185-6.
  9. ↑ Burzykowski, Andrzej Gałecki, Tomasz (2013). Modelos lineales de efectos mixtos que utilizan R : un enfoque paso a paso . Nueva York, Nueva York: Springer. ISBN  978-1-4614-3899-1.{{cite book}}: CS1 maint: varios nombres: lista de autores ( enlace )
  10. ↑ Taboga, Marco. "Conferencias sobre teoría de la probabilidad y estadística matemática" . statlect.com . Consultado el 31 de mayo de 2022 .
  11. ↑ Cook, TD; DeMets, DL, eds. (2007). Introducción a los métodos estadísticos para ensayos clínicos . Chapman and Hall. págs. 296–297 . ISBN  978-1-58488-027-1.
  12. ↑ Vandaele, Walter (1981). "Pruebas de Wald, de razón de verosimilitud y del multiplicador de Lagrange como una prueba F". Economics Letters . 8 (4): 361– 365. doi : 10.1016/0165-1765(81)90026-4 .

Lecturas adicionales

  • Buse, A. (1982). "Las pruebas de razón de verosimilitud, Wald y multiplicador de Lagrange: una nota explicativa". The American Statistician . 36 (3a): 153– 157. doi : 10.1080/00031305.1982.10482817 .
  • Godfrey, LG (1988). «La prueba del multiplicador de Lagrange y la prueba de especificación errónea  : un análisis extendido». Pruebas de especificación errónea en econometría . Nueva York: Cambridge University Press. págs. 69-99 . ISBN  0-521-26616-5.
  • Ma, Jun; Nelson, Charles R. (2016). «La superioridad de la prueba LM en una clase de modelos econométricos donde la prueba de Wald tiene un desempeño deficiente». Componentes no observados y econometría de series temporales . Oxford University Press. pp. 310–330 . doi : 10.1093/acprof:oso/9780199683666.003.0014 . ISBN  978-0-19-968366-6.
  • Rao, CR (2005). «Prueba de puntuación: revisión histórica y desarrollos recientes». Avances en clasificación y selección, comparaciones múltiples y fiabilidad . Boston: Birkhäuser. pp. 3–20 . ISBN  978-0-8176-3232-8.