Articulo de referencia

Distribución normal-de Wishart

(\\boldsymbol\\mu,\\boldsymbol\\Lambda) \\sim \\mathrm{NW}(\\boldsymbol\\mu_0,\\lambda,\\mathbf{W},\\nu) "},"parameters":{"wt":" \\boldsymbol\\mu_0\\in\\mathbb{R}^D\\, [[locatio...

En teoría de la probabilidad y estadística , la distribución normal-Wishart (o distribución gaussiana-Wishart ) es una familia multivariante de cuatro parámetros de distribuciones de probabilidad continuas . Es la distribución a priori conjugada de una distribución normal multivariante con media desconocida y matriz de precisión (la inversa de la matriz de covarianza ). [ 1 ]

Definición

Suponer

μ|μ0,λ,Λnorte(μ0,(λΛ)1){\displaystyle {\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},\lambda,{\boldsymbol {\Lambda }}\sim {\mathcal {N}}({\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})}

tiene una distribución normal multivariada con mediaμ0{\displaystyle {\boldsymbol {\mu }}_{0}}y matriz de covarianza(λΛ)1{\displaystyle (\lambda {\boldsymbol {\Lambda }})^{-1}}, dónde

Λ|W,νW(Λ|W,ν){\displaystyle {\boldsymbol {\Lambda }}|\mathbf {W} ,\nu \sim {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )}

tiene una distribución de Wishart .(μ,Λ){\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})} tiene una distribución normal-Wishart, denotada como

(μ,Λ)norteW(μ0,λ,W,ν).{\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{0},\lambda,\mathbf {W},\nu ).}

Caracterización

Función de densidad de probabilidad

F(μ,Λ|μ0,λ,W,ν)=norte(μ|μ0,(λΛ)1) W(Λ|W,ν){\displaystyle f({\boldsymbol {\mu }},{\boldsymbol {\Lambda }}|{\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu )={\mathcal {N}}({\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})\ {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )}

Propiedades

Escalada

Distribuciones marginales

Por construcción, la distribución marginal sobreΛ{\displaystyle {\boldsymbol {\Lambda }}}es una distribución de Wishart y la distribución condicional sobreμ{\displaystyle {\boldsymbol {\mu }}}dadoΛ{\displaystyle {\boldsymbol {\Lambda }}}es una distribución normal multivariada . La distribución marginal sobreμ{\displaystyle {\boldsymbol {\mu }}}es una distribución t multivariada .

Distribución posterior de los parámetros

Después de hacernorte{\displaystyle n}observacionesincógnita1,,incógnitanorte{\displaystyle {\boldsymbol {x}}_{1},\dots ,{\boldsymbol {x}}_{n}}, la distribución posterior de los parámetros es

(μ,Λ)norteW(μnorte,λnorte,Wnorte,νnorte),{\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{n},\lambda _ {n},\mathbf {W} _{n},\nu _{n}),}

dónde

λnorte=λ+norte,{\displaystyle \lambda _{n}=\lambda +n,}
μnorte=λμ0+norteincógnita¯λ+norte,{\displaystyle {\boldsymbol {\mu }}_{n}={\frac {\lambda {\boldsymbol {\mu }}_{0}+n{\boldsymbol {\bar {x}}}}{\lambda +n}},}
νnorte=ν+norte,{\displaystyle \nu _ {n}=\nu +n,}
Wnorte1=W1+i=1norte(incógnitaiincógnita¯)(incógnitaiincógnita¯)T+norteλnorte+λ(incógnita¯μ0)(incógnita¯μ0)T.{\displaystyle \mathbf {W} _{n}^{-1}=\mathbf {W} ^{-1}+\sum _{i=1}^{n}({\boldsymbol {x}}_{i}-{\boldsymbol {\bar {x}}})({\boldsymbol {x}}_{i}-{\boldsymbol {\bar {x}}})^{T}+{\frac {n\lambda }{n+\lambda }}({\boldsymbol {\bar {x}}}-{\boldsymbol {\mu }}_{0})({\boldsymbol {\bar {x}}}-{\boldsymbol {\mu }}_{0})^{T}.}[ 2 ]

Generación de variables aleatorias normales de Wishart

La generación de variables aleatorias es sencilla:

  1. MuestraΛ{\displaystyle {\boldsymbol {\Lambda }}}de una distribución de Wishart con parámetrosW{\displaystyle \mathbf {W} }yν{\displaystyle \nu }
  2. Muestraμ{\displaystyle {\boldsymbol {\mu }}}de una distribución normal multivariada con mediaμ0{\displaystyle {\boldsymbol {\mu }}_{0}}y varianza(λΛ)1{\displaystyle (\lambda {\boldsymbol {\Lambda }})^{-1}}

Notas

  1. Bishop, Christopher M. (2006). Reconocimiento de patrones y aprendizaje automático. Springer Science+Business Media. Página 690.
  2. Validado de forma cruzada, https://stats.stackexchange.com/q/324925

Referencias

  • Bishop, Christopher M. (2006). Reconocimiento de patrones y aprendizaje automático. Springer Science+Business Media.