Articulo de referencia

Distribución normal generalizada

La distribución normal generalizada ( DNG ) o la distribución gaussiana generalizada ( DGG ) pertenecen a dos familias paramétricas de distribuciones de probabilidad continuas e...

La distribución normal generalizada ( DNG ) o la distribución gaussiana generalizada ( DGG ) pertenecen a dos familias paramétricas de distribuciones de probabilidad continuas en la recta real . Ambas familias añaden un parámetro de forma a la distribución normal . Para distinguirlas, se las denomina a continuación "simétricas" y "asimétricas"; sin embargo, esta no es una nomenclatura estándar.

Versión simétrica

La distribución normal generalizada simétrica , también conocida como distribución de Subbotin , [ 3 ] distribución de potencia exponencial o distribución de error generalizada , es una familia paramétrica de distribuciones simétricas . Incluye todas las distribuciones normales y de Laplace , y como casos límite incluye todas las distribuciones uniformes continuas en intervalos acotados de la recta real.

Esta familia incluye la distribución normal cuandoβ=2{\displaystyle \textstyle \beta =2}(con mediaμ{\displaystyle \textstyle \mu }y varianzaα22{\displaystyle \textstyle {\frac {\alpha ^{2}}{2}}}) e incluye la distribución de Laplace cuandoβ=1{\displaystyle \textstyle \beta =1} . Comoβ{\displaystyle \textstyle \beta \rightarrow \infty }, la densidad converge puntualmente a una densidad uniforme en (μα,μ+α){\displaystyle \textstyle (\mu -\alpha ,\mu +\alpha )} .

Esta familia permite colas que son más pesadas de lo normal ( cuandoβ<2{\displaystyle \beta <2} ) ​​o más ligero de lo normal (cuandoβ>2{\displaystyle \beta >2} ). Es una forma útil de parametrizar un continuo de densidades platicúrticas simétricas que se extienden desde la normal (β=2{\displaystyle \textstyle \beta =2} ) ​​a la densidad uniforme (β={\displaystyle \textstyle \beta =\infty } ), y un continuo de densidades simétricas y leptocúrticas que se extienden desde la Laplace (β=1{\displaystyle \textstyle \beta =1} ) ​​a la densidad normal (β=2{\displaystyle \textstyle \beta =2}) . El parámetro de formaβ{\displaystyle \beta }También controla la agudeza visual , además de las colas.

Estimación de parámetros

Se ha estudiado la estimación de parámetros mediante máxima verosimilitud y el método de los momentos . [ 4 ] Las estimaciones no tienen una forma cerrada y deben obtenerse numéricamente. También se han propuesto estimadores que no requieren cálculo numérico. [ 5 ]

La función de log-verosimilitud normal generalizada tiene infinitas derivadas continuas (es decir, pertenece a la clase do{\displaystyle C^{\infty }}de funciones suaves ) solosiβ{\displaystyle \textstyle \beta }es un número entero par positivo. De lo contrario, la función tieneβ{\displaystyle \textstyle \lfloor \beta \rfloor }derivadas continuas. Como resultado, los resultados estándar para consistencia y normalidad asintótica de las estimaciones de máxima verosimilitud deβ{\displaystyle \beta }Solo se aplica cuandoβ2{\displaystyle \textstyle \beta \geq 2} .

estimador de máxima verosimilitud

Es posible ajustar la distribución normal generalizada adoptando un método aproximado de máxima verosimilitud . [ 4 ] [ 6 ] Conμ{\displaystyle \mu }Inicialmente ajustado al primer momento de la muestra .metro1{\displaystyle m_{1}},β{\displaystyle \textstyle \beta } se estima utilizando un procedimiento iterativo de Newton-Raphson , comenzando desde una estimación inicial deβ=β0{\displaystyle \textstyle \beta =\textstyle \beta _{0}} ,

β0=metro1metro2,{\displaystyle \beta _{0}={\frac {m_{1}}{\sqrt {m_{2}}}},}

dónde

metro1=1nortei=1norte|incógnitai|,{\displaystyle m_{1}={1 \over N}\sum _{i=1}^{N}|x_{i}|,}

es el primer momento estadístico de los valores absolutos ymetro2{\displaystyle m_{2}}es el segundo momento estadístico . La iteración es

βi+1=βigramo(βi)gramo(βi),{\displaystyle \beta _{i+1}=\beta _{i}-{\frac {g(\beta _{i})}{g'(\beta _{i})}},}

dónde

gramo(β)=1+ψ(1/β)βLβSβ+registro(βnorteSβ)β,{\displaystyle g(\beta )=1+{\frac {\psi (1/\beta )}{\beta }}-{\frac {L_{\beta }}{S_{\beta }}}+{\frac {\log({\frac {\beta }{N}}S_{\beta })}{\beta }},}
gramo(β)=ψ(1/β)β2ψ(1/β)β3+1β2KβSβ+Lβ2Sβ2+LββSβregistro(βnorteSβ)β2,{\displaystyle {\begin{aligned}g'(\beta )={}&-{\frac {\psi (1/\beta )}{\beta ^{2}}}-{\frac {\psi '(1/\beta )}{\beta ^{3}}}+{\frac {1}{\beta ^{2}}}-{\frac {K_{\beta }}{S_{\beta }}}\\[6pt]&{}+{\frac {L_{\beta }^{2}}{S_{\beta }^{2}}}+{\frac {L_{\beta }}{\beta S_{\beta }}}-{\frac {\log \left({\frac {\beta }{N}}S_{\beta }\right)}{\beta ^{2}}},\end{aligned}}}

Sβ=i=1norte|incógnitaiμ|β,{\displaystyle S_{\beta }=\sum _{i=1}^{N}\left|x_{i}-\mu \right|^{\beta },}Lβ=i=1norte|incógnitaiμ|βregistro|incógnitaiμ|,{\displaystyle L_{\beta }=\sum _{i=1}^{N}\left|x_{i}-\mu \right|^{\beta }\log \left|x_{i}-\mu \right|,}Kβ=i=1norte|incógnitaiμ|β(registro|incógnitaiμ|)2,{\displaystyle K_{\beta }=\sum _{i=1}^{N}\left|x_{i}-\mu \right|^{\beta }\left(\log \left|x_{i}-\mu \right|\right)^{2},} yψ{\displaystyle \psi }yψ{\displaystyle \psi '}son la función digamma y la función trigomma respectivamente.

Dado un valor para β{\displaystyle \textstyle \beta } , es posible estimarμ{\displaystyle \mu }hallando el mínimo de:

minμ=i=1norte|incógnitaiμ|β{\displaystyle \min _{\mu }=\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }}

Finalmenteα{\displaystyle \textstyle \alpha }se evalúa como

α=(βnortei=1norte|incógnitaiμ|β)1/β.{\displaystyle \alpha =\left({\frac {\beta }{N}}\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\right)^{1/\beta }.}

Paraβ1{\displaystyle \beta \leq 1} , la mediana es un estimador más apropiado deμ{\displaystyle \mu } . Una vezμ{\displaystyle \mu }se estima,β{\displaystyle \beta }yα{\displaystyle \alpha }puede estimarse como se describió anteriormente. [ 4 ]

Aplicaciones

La distribución normal generalizada simétrica se ha utilizado en modelos cuando la concentración de valores alrededor de la media y el comportamiento de la cola son de particular interés. [ 7 ] [ 8 ] Se pueden utilizar otras familias de distribuciones si el enfoque está en otras desviaciones de la normalidad. Si la simetría de la distribución es el interés principal, se puede utilizar la familia normal asimétrica o la versión asimétrica de la familia normal generalizada que se analiza más adelante. Si el comportamiento de la cola es el interés principal, se puede utilizar la familia t de Student , que se aproxima a la distribución normal a medida que los grados de libertad crecen hasta el infinito. La distribución t, a diferencia de esta distribución normal generalizada, obtiene colas más pesadas que la normal sin adquirir una cúspide en el origen. Encuentra usos en física de plasmas bajo el nombre de distribución de Langdon resultante de la bremsstrahlung inversa. [ 9 ]

En un problema de regresión lineal modelado comoyGRAMOminortemiralizmidnorteormetroal(incógnitaθ,α,pag){\displaystyle y\sim \mathrm {GeneralizedNormal} (X\cdot \theta ,\alpha ,p)} , el MLE será elargminθincógnitaθypag{\displaystyle \arg \min _{\theta }\|X\cdot \theta -y\|_{p}}donde se utiliza la norma p .

Propiedades

Momentos

Dejarincógnitaβ{\displaystyle X_{\beta }}distribución gaussiana generalizada de media cero de formaβ{\displaystyle \beta }y parámetro de escalaα{\displaystyle \alpha } . Los momentos deincógnitaβ{\displaystyle X_{\beta }} existen y son finitos para cualquierk{\displaystyle k}mayor que1{\displaystyle -1} . Para cualquier entero no negativok{\displaystyle k} , los momentos centrales simples son [ 2 ]

mi[incógnitaβk]={0si k es extraño,αkΓ(k+1β)/Γ(1β)si k es par.{\displaystyle \operatorname {E} \left[X_{\beta }^{k}\right]={\begin{cases}0&{\text{if }}k{\text{ is odd,}}\\\alpha ^{k}\Gamma \left({\frac {k+1}{\beta }}\right){\Big /}\,\Gamma \left({\frac {1}{\beta }}\right)&{\text{if }}k{\text{ is even.}}\end{cases}}}

Conexión con funciones definidas positivas

La función de densidad de probabilidad de la distribución normal generalizada simétrica es una función definida positiva para β(0,2]{\displaystyle \beta \in (0,2]}. [ 10 ] [ 11 ]

Divisibilidad infinita

La distribución gaussiana generalizada simétrica es una distribución infinitamente divisible si y solo siβ(0,1]{2}{\displaystyle \beta \in (0,1]\cup \{2\}} . [ 10 ]

Generalizaciones

La distribución normal generalizada multivariada, es decir, el producto denorte{\displaystyle n}distribuciones de potencia exponencial con la mismaβ{\displaystyle \beta }yα{\displaystyle \alpha }parámetros, es la única densidad de probabilidad que se puede escribir en la formapag(incógnita)=gramo(incógnitaβ){\displaystyle p(\mathbf {x} )=g(\|\mathbf {x} \|_{\beta })}y tiene distribuciones marginales independientes. [ 12 ] Los resultados para el caso especial de la distribución normal multivariada se atribuyen originalmente a Maxwell . [ 13 ]

Versión asimétrica

La distribución normal generalizada asimétrica es una familia de distribuciones de probabilidad continuas en las que el parámetro de forma puede usarse para introducir asimetría o asimetría. [ 14 ] [ 15 ] Cuando el parámetro de forma es cero, se obtiene la distribución normal. Los valores positivos del parámetro de forma producen distribuciones asimétricas a la izquierda acotadas a la derecha, y los valores negativos del parámetro de forma producen distribuciones asimétricas a la derecha acotadas a la izquierda. Solo cuando el parámetro de forma es cero la función de densidad para esta distribución es positiva en toda la recta real: en este caso la distribución es una distribución normal , de lo contrario las distribuciones son distribuciones lognormales desplazadas y posiblemente invertidas .

Estimación de parámetros

Los parámetros pueden estimarse mediante el método de máxima verosimilitud o el método de los momentos. Las estimaciones de los parámetros no tienen una forma cerrada, por lo que se deben utilizar cálculos numéricos para obtenerlas. Dado que el espacio muestral (el conjunto de números reales cuya densidad es distinta de cero) depende del valor real del parámetro, algunos resultados estándar sobre el rendimiento de las estimaciones de parámetros no se aplicarán automáticamente al trabajar con esta familia de parámetros.

Aplicaciones

La distribución normal generalizada asimétrica puede utilizarse para modelar valores que pueden tener una distribución normal, o que pueden presentar asimetría positiva o negativa con respecto a la distribución normal. La distribución normal asimétrica es otra distribución útil para modelar desviaciones de la normalidad debidas a la asimetría. Otras distribuciones utilizadas para modelar datos asimétricos incluyen las distribuciones gamma , lognormal y Weibull , pero estas no incluyen las distribuciones normales como casos particulares.

Divergencia de Kullback-Leibler entre dos funciones de densidad de probabilidad

La divergencia de Kullback-Leibler (KLD) es un método utilizado para calcular la divergencia o similitud entre dos funciones de densidad de probabilidad. [ 16 ]

DejarPAG(incógnita){\displaystyle P(x)}yQ(incógnita){\displaystyle Q(x)}dos distribuciones gaussianas generalizadas con parámetrosα1,β1,μ1{\displaystyle \alpha _{1},\beta _{1},\mu _{1}}yα2,β2,μ2{\displaystyle \alpha _{2},\beta _{2},\mu _{2}}sujeto a la restricciónμ1=μ2=0{\displaystyle \mu _{1}=\mu _{2}=0} . [ 17 ] Entonces, esta divergencia viene dada por:

KLDpagdF(PAG(incógnita)Q(incógnita))=1β1+(α1α2)β2Γ(1+β2β1)Γ(1β1)+registro(α2Γ(1+1β2)α1Γ(1+1β1)){\displaystyle {\rm {KLD_{pdf}}}(P(x)\parallel Q(x))=-{\frac {1}{\beta _{1}}}+{\frac {({\frac {\alpha _{1}}{\alpha _{2}}})^{\beta _{2}}\Gamma ({\frac {1+\beta _{2}}{\beta _{1}}})}{\Gamma ({\frac {1}{\beta _{1}}})}}+\log \left({\frac {\alpha _{2}\Gamma (1+{\frac {1}{\beta _{2}}})}{\alpha _{1}\Gamma (1+{\frac {1}{\beta _{1}}})}}\right)}

Las dos familias normales generalizadas descritas aquí, al igual que la familia normal asimétrica , son familias paramétricas que extienden la distribución normal añadiendo un parámetro de forma. Debido al papel central de la distribución normal en probabilidad y estadística, muchas distribuciones pueden caracterizarse en función de su relación con ella. Por ejemplo, las distribuciones log-normal , normal plegada y normal inversa se definen como transformaciones de un valor con distribución normal, pero a diferencia de las familias normal generalizada y normal asimétrica, estas no incluyen las distribuciones normales como casos particulares.

En realidad, todas las distribuciones con varianza finita están, en el límite, muy relacionadas con la distribución normal. La distribución t de Student, la distribución de Irwin-Hall y la distribución de Bates también extienden la distribución normal e incluyen , en el límite, la distribución normal. Por lo tanto, no hay una razón de peso para preferir la distribución normal "generalizada" de tipo 1, por ejemplo, sobre una combinación de la distribución t de Student y una distribución de Irwin-Hall extendida normalizada; esto incluiría, por ejemplo, la distribución triangular (que no puede modelarse mediante la distribución gaussiana generalizada de tipo 1).

Se podría derivar una distribución simétrica que pueda modelar tanto la cola (larga y corta) como el comportamiento central (como plano, triangular o gaussiano) de forma completamente independiente , por ejemplo, utilizando X = IH/ χ    .

La distribución g y h de Tukey también permite una desviación de la normalidad, tanto por asimetría como por colas pesadas. [ 18 ]

Véase también

Referencias

  1. Griffin, Maryclare. "Trabajando con la distribución de potencia exponencial usando gnorm" . Github, paquete gnorm . Consultado el 26 de junio de 2020 .
  2. 1 2 Nadarajah, Saralees (septiembre de 2005). "Una distribución normal generalizada". Journal of Applied Statistics . 32 (7): 685– 694. Bibcode : 2005JApSt..32..685N . doi : 10.1080/02664760500079464 . S2CID 121914682 . 
  3. Subbotin, MT (1923). "Sobre la ley de frecuencia de error" . Matematicheskii Sbornik . 31 (2): 296–301 . Archivado del original el 6 de octubre de 2024. Consultado el 5 de diciembre de 2025 .
  4. 1 2 3 Varanasi, Mahesh K.; Aazhang, Behnaam (1989-10-01). "Estimación paramétrica de la densidad gaussiana generalizada". The Journal of the Acoustical Society of America . 86 (4): 1404– 1415. Bibcode : 1989ASAJ...86.1404V . doi : 10.1121/1.398700 . ISSN 0001-4966 . 
  5. Domínguez-Molina, J. Armando; González-Farías, Graciela ; Rodríguez-Dagnino, Ramón M. "Un procedimiento práctico para estimar el parámetro de forma en la distribución gaussiana generalizada" (PDF) . Archivado desde el original (PDF) el 28 de septiembre de 2007 . Consultado el 3 de marzo de 2009 .
  6. Do, MN; Vetterli, M. (febrero de 2002). "Recuperación de textura basada en ondículas utilizando densidad gaussiana generalizada y distancia de Kullback-Leibler" . IEEE Transactions on Image Processing . 11 (2): 146– 158. Bibcode : 2002ITIP...11..146D . doi : 10.1109/83.982822 . PMID 18244620 . 
  7. Liang, Faming; Liu, Chuanhai; Wang, Naisyin (abril de 2007). "Un método bayesiano secuencial robusto para la identificación de genes expresados ​​diferencialmente" . Statistica Sinica . 17 (2): 571– 597. Archivado del original el 9 de octubre de 2007. Recuperado el 3 de marzo de 2009 .
  8. Box, George EP ; Tiao, George C. (1992). Inferencia bayesiana en el análisis estadístico . Nueva York: Wiley. ISBN 978-0-471-57428-6.
  9. Milder, Avram L. (2021). Funciones de distribución de velocidad de electrones y dispersión de Thomson (tesis doctoral). Universidad de Rochester. hdl : 1802/36536 .
  10. 1 2 Dytso, Alex; Bustin, Ronit; Poor, H. Vincent; Shamai, Shlomo (2018). "Propiedades analíticas de las distribuciones gaussianas generalizadas" . Journal of Statistical Distributions and Applications . 5 (1): 6. doi : 10.1186/s40488-018-0088-5 .
  11. Bochner, Salomon (1937). "Leyes estables de probabilidad y funciones completamente monótonas" . Duke Mathematical Journal . 3 (4): 726– 728. doi : 10.1215/s0012-7094-37-00360-0 .
  12. Sinz, Fabian; Gerwinn, Sebastian; Bethge, Matthias (mayo de 2009). "Caracterización de la distribución normal generalizada p" . Journal of Multivariate Analysis . 100 (5): 817– 820. doi : 10.1016/j.jmva.2008.07.006 .
  13. Kac, M. (1939). "Sobre una caracterización de la distribución normal". American Journal of Mathematics . 61 (3): 726– 728. doi : 10.2307/2371328 . JSTOR 2371328 . 
  14. Hosking, JRM, Wallis, JR (1997) Análisis de frecuencia regional: un enfoque basado en momentos L , Cambridge University Press. ISBN 0-521-43045-3Sección A.8
  15. Documentación del paquete R lmomco
  16. Kullback, S.; Leibler, RA (1951). "Sobre la información y la suficiencia" . The Annals of Mathematical Statistics . 22 (1): 79– 86. doi : 10.1214/aoms/1177729694 .
  17. Quintero-Rincón, A.; Pereyra, M.; D'Giano, C.; Batatia, H.; Risk, M. (2017). "Un método visual de detección de epilepsia mediante EEG basado en una representación estadística de ondículas y la divergencia de Kullback-Leibler". VII Congreso Latinoamericano de Ingeniería Biomédica CLAIB 2016, Bucaramanga, Santander, Colombia, 26-28 de octubre de 2016. Actas de la IFMBE. Vol. 60. pp. 13-16 . doi : 10.1007/978-981-10-4086-3_4 . hdl : 11336/77054 . ISBN   978-981-10-4085-6.
  18. La distribución g-y-h de Tukey , Yuan Yan, Marc G. Genton Significance, Volumen 16, Número 3, junio de 2019, Páginas 12–13, doi : 10.1111/j.1740-9713.2019.01273.x