Prueba de razón de verosimilitud

Supongamos que tenemos un modelo estadístico con espacio de parámetros${\displaystyle \Theta }$Una hipótesis nula se suele formular diciendo que el parámetro${\displaystyle \theta }$se encuentra en un subconjunto específico${\displaystyle \Theta _{0}}$de${\displaystyle \Theta }$Por lo tanto , la hipótesis alternativa es que${\displaystyle \theta }$reside en el complemento de${\displaystyle \Theta _{0}}$, es decir en${\displaystyle \Theta ~\backslash ~\Theta _{0}}$, que se denota por${\displaystyle \Theta _{0}^{\text{c}}}$El estadístico de prueba de razón de verosimilitud para la hipótesis nula${\displaystyle H_{0}\,:\,\theta \in \Theta _{0}}$está dado por: ^{[ 8 ]}

$${\displaystyle \lambda _{\text{LR}}=-2\ln \left[{\frac {~\sup _{\theta \in \Theta _{0}}{\mathcal {L}}(\theta )~}{~\sup _{\theta \in \Theta }{\mathcal {L}}(\theta )~}}\right]}$$

donde la cantidad dentro de los paréntesis se llama razón de verosimilitud. Aquí, la${\displaystyle \sup }$La notación se refiere al supremo . Como todas las probabilidades son positivas, y como el máximo restringido no puede exceder el máximo no restringido, la razón de verosimilitud está acotada entre cero y uno, y el estadístico de prueba de la razón de verosimilitud entre 0 e infinito.

A menudo, el estadístico de la prueba de razón de verosimilitud se expresa como una diferencia entre las verosimilitudes logarítmicas.$${\displaystyle \lambda _{\text{LR}}=-2\left[\ell (\theta _{0})-\ell ({\hat {\theta }})\right]}$$ dónde $${\displaystyle \ell ({\hat {\theta }})\equiv \ln \left[\,\sup _{\theta \in \Theta }{\mathcal {L}}(\theta )\,\right]}$$ es el logaritmo de la función de verosimilitud maximizada${\displaystyle {\mathcal {L}}}$, y${\displaystyle \ell (\theta _{0})}$es el valor máximo en el caso especial de que la hipótesis nula sea verdadera (pero no necesariamente un valor que maximice${\displaystyle {\mathcal {L}}}$para los datos muestreados) y $${\displaystyle \theta _{0}\in \Theta _{0}\qquad {\text{ y }}\qquad {\hat {\theta }}\in \Theta ~}$$ denotemos los argumentos respectivos de los máximos y los rangos permitidos en los que están incrustados. Multiplicar por − 2 garantiza matemáticamente que (por el teorema de Wilks )${\displaystyle \lambda _{\text{LR}}}$converge asintóticamente a una distribución χ² si la hipótesis nula resulta ser verdadera. ^{[ 9 ]} Las distribuciones de muestra finita de las estadísticas de razón de verosimilitud son generalmente desconocidas. ^{[ 10 ]}

La prueba de razón de verosimilitud requiere que los modelos estén anidados ; es decir, el modelo más complejo puede transformarse en el más simple imponiendo restricciones a los parámetros del primero. Muchos estadísticos de prueba comunes son pruebas para modelos anidados y pueden expresarse como razones de verosimilitud logarítmica o aproximaciones de las mismas: por ejemplo, la prueba Z , la prueba F , la prueba G y la prueba chi-cuadrado de Pearson ; para una ilustración con la prueba t de una muestra , véase más abajo.

Si los modelos no están anidados, en lugar de la prueba de razón de verosimilitud, se puede utilizar una generalización de la prueba: para más detalles, consulte la verosimilitud relativa .

Una prueba de hipótesis simple contra simple tiene modelos completamente especificados tanto bajo la hipótesis nula como bajo la hipótesis alternativa, que por conveniencia se escriben en términos de valores fijos de un parámetro nocional.${\displaystyle \theta }$:

$${\displaystyle {\begin{aligned}H_{0}&:&\theta =\theta _{0},\\H_{1}&:&\theta =\theta _{1}.\end{aligned}}}$$ En este caso, bajo cualquiera de las hipótesis, la distribución de los datos está completamente especificada: no hay parámetros desconocidos que estimar. Para este caso, está disponible una variante de la prueba de razón de verosimilitud: ^{[ 11 ] [ 12 ]}

$${\displaystyle \Lambda (x)={\frac {~{\mathcal {L}}(\theta _{0}\mid x)~}{~{\mathcal {L}}(\theta _{1}\mid x)~}}.}$$

Algunas referencias más antiguas pueden usar el recíproco de la función anterior como definición. ^{[ 13 ]} Por lo tanto, la razón de verosimilitud es pequeña si el modelo alternativo es mejor que el modelo nulo.

La prueba de razón de verosimilitud proporciona la regla de decisión de la siguiente manera:

Los valores${\displaystyle c}$y${\displaystyle q}$Por lo general, se eligen para obtener un nivel de significancia específico.${\displaystyle \alpha }$, a través de la relación $${\displaystyle q\Pr(\Lambda =c\mid H_{0})~+~\Pr(\Lambda <c\mid H_{0})~=~\alpha ~.}$$ El lema de Neyman-Pearson establece que esta prueba de razón de verosimilitud es la más potente entre todas las de nivel${\displaystyle \alpha }$pruebas para este caso. ^{[ 7 ] [ 12 ]}

El siguiente ejemplo está adaptado y abreviado de Stuart, Ord y Arnold (1999 , §22.2) .

Supongamos que tenemos una muestra aleatoria de tamaño n de una población con distribución normal. Tanto la media, μ , como la desviación estándar, σ , de la población son desconocidas. Queremos comprobar si la media es igual a un valor dado, μ _{= 0} .

Por lo tanto, nuestra hipótesis nula es H ₀ : μ = μ ₀   y nuestra hipótesis alternativa es H ₁ : μ ≠ μ ₀   . La función de verosimilitud es $${\displaystyle {\mathcal {L}}(\mu ,\sigma \mid x)=\left(2\pi \sigma ^{2}\right)^{-n/2}\exp \left(-\sum _{i=1}^{n}{\frac {(x_{i}-\mu )^{2}}{2\sigma ^{2}}}\right)\,.}$$

Mediante algunos cálculos (omitidos aquí), se puede demostrar que $${\displaystyle \lambda _{LR}=n\ln \left(1+{\frac {t^{2}}{n-1}}\right)}$$ donde t es el estadístico t con n − 1 grados de libertad. Por lo tanto, podemos usar la distribución exacta conocida de t _{n − 1} para hacer inferencias.