Función generadora de momentos

En teoría de la probabilidad y estadística , la función generadora de momentos de una variable aleatoria de valor real es una función generadora que proporciona una especificación alternativa de la distribución de probabilidad de la variable aleatoria . De este modo, constituye la base de una vía alternativa para obtener resultados analíticos en comparación con el trabajo directo con funciones de densidad de probabilidad o funciones de distribución acumulativa . Existen resultados particularmente sencillos para las funciones generadoras de momentos de distribuciones definidas por sumas ponderadas de variables aleatorias. Sin embargo, no todas las variables aleatorias poseen funciones generadoras de momentos.

Como su nombre lo indica, la función generadora de momentos se puede utilizar para calcular los momentos de una distribución : el n -ésimo momento con respecto a 0 es la n -ésima derivada de la función generadora de momentos, evaluada en 0.

Además de las distribuciones univariadas de valores reales, las funciones generadoras de momentos también pueden definirse para variables aleatorias con valores vectoriales o matriciales, e incluso pueden extenderse a casos más generales.

La función generadora de momentos de una distribución de valores reales no siempre existe, a diferencia de la función característica . Existen relaciones entre el comportamiento de la función generadora de momentos de una distribución y las propiedades de la misma, como la existencia de momentos.

Dejar${\displaystyle X}$sea ​​una variable aleatoria con función de distribución acumulada (CDF)${\displaystyle F_{X}}$. La función generadora de momentos (mgf) de${\displaystyle X}$(o${\displaystyle F_{X}}$), denotado por${\displaystyle M_{X}(t)}$, es

$${\displaystyle M_{X}(t)=\operatorname {E} \left[e^{tX}\right]}$$

siempre que exista esta expectativa${\displaystyle t}$en algún vecindario abierto de 0. Es decir, hay un${\displaystyle h>0}$de tal manera que para todos${\displaystyle t}$satisfactorio ${\displaystyle -h<t<h}$, ${\displaystyle \operatorname {E} \left[e^{tX}\right]}$existe. Si la esperanza no existe en un entorno abierto de 0, decimos que la función generadora de momentos no existe. ^{[ 1 ]}

En otras palabras, la función generadora de momentos de X es la esperanza de la variable aleatoria.${\displaystyle e^{tX}}$. En términos más generales, cuando${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{n})^{\mathrm {T} }}$, un${\displaystyle n}$vector aleatorio de dimensión , y${\displaystyle \mathbf {t} }$es un vector fijo, uno usa${\displaystyle \mathbf {t} \cdot \mathbf {X} =\mathbf {t} ^{\mathrm {T} }\mathbf {X} }$en lugar de ${\displaystyle tX}$:$${\displaystyle M_{\mathbf {X} }(\mathbf {t} ):=\operatorname {E} \left[e^{\mathbf {t} ^{\mathrm {T} }\mathbf {X} }\right].}$$

${\displaystyle M_{X}(0)}$Siempre existe y es igual a  1. Sin embargo, un problema clave con las funciones generadoras de momentos es que los momentos y la función generadora de momentos pueden no existir, ya que las integrales no tienen por qué converger absolutamente. Por el contrario, la función característica o transformada de Fourier siempre existe (porque es la integral de una función acotada en un espacio de medida finita ) y, para algunos fines, puede utilizarse en su lugar.

La función generadora de momentos se denomina así porque se puede utilizar para encontrar los momentos de la distribución. ^{[ 2 ]} El desarrollo en serie de${\displaystyle e^{tX}}$es

$${\displaystyle e^{tX}=1+tX+{\frac {t^{2}X^{2}}{2!}}+{\frac {t^{3}X^{3}}{3!}}+\cdots +{\frac {t^{n}X^{n}}{n!}}+\cdots .}$$

Por eso, $${\displaystyle {\begin{aligned}M_{X}(t)&=\operatorname {E} [e^{tX}]\\[1ex]&=1+t\operatorname {E} [X]+{\frac {t^{2}\operatorname {E} [X^{2}]}{2!}}+{\frac {t^{3}\operatorname {E} [X^{3}]}{3!}}+\cdots +{\frac {t^{n}\operatorname {E} [X^{n}]}{n!}}+\cdots \\[1ex]&=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+{\frac {t^{3}m_{3}}{3!}}+\cdots +{\frac {t^{n}m_{n}}{n!}}+\cdots ,\end{aligned}}}$$

dónde${\displaystyle m_{n}}$es el${\displaystyle n}$-ésimo momento . Diferenciando${\displaystyle M_{X}(t)}$${\displaystyle i}$tiempos con respecto a${\displaystyle t}$y configuración${\displaystyle t=0}$, obtenemos el${\displaystyle i}$-momento sobre el origen,${\displaystyle m_{i}}$.

Si${\displaystyle X}$es una variable aleatoria continua, la siguiente relación entre su función generadora de momentos${\displaystyle M_{X}(t)}$y la transformada de Laplace bilateral de su función de densidad de probabilidad.${\displaystyle f_{X}(x)}$contiene:

$${\displaystyle M_{X}(t)={\mathcal {L}}\{f_{X}\}(-t),}$$

ya que la transformada de Laplace bilateral de la PDF se da como

$${\displaystyle {\mathcal {L}}\{f_{X}\}(s)=\int _{-\infty }^{\infty }e^{-sx}f_{X}(x)\,dx,}$$

y la definición de la función generadora de momentos se expande (por la ley del estadístico inconsciente ) a $${\displaystyle M_{X}(t)=\operatorname {E} \left[e^{tX}\right]=\int _{-\infty }^{\infty }e^{tx}f_{X}(x)\,dx.}$$

Esto es consistente con la función característica de${\displaystyle X}$ser una rotación de Wick de${\displaystyle M_{X}(t)}$cuando existe la función generadora de momentos, como la función característica de una variable aleatoria continua${\displaystyle X}$es la transformada de Fourier de su función de densidad de probabilidad${\displaystyle f_{X}(x)}$y en general cuando una función${\displaystyle f(x)}$es de orden exponencial , la transformada de Fourier de${\displaystyle f}$es una rotación de Wick de su transformada de Laplace bilateral en la región de convergencia. Consulte la relación entre las transformadas de Fourier y Laplace para obtener más información.

Aquí se muestran algunos ejemplos de la función generadora de momentos y la función característica para su comparación. Se puede observar que la función característica es una rotación de Wick de la función generadora de momentos.${\displaystyle M_{X}(t)}$cuando esto último existe.

La función generadora de momentos es la esperanza de una función de la variable aleatoria, y se puede escribir como:

• Para una función de masa de probabilidad discreta ,${\displaystyle M_{X}(t)=\sum _{i=0}^{\infty }e^{tx_{i}}\,p_{i}}$
• Para una función de densidad de probabilidad continua ,${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}f(x)\,dx}$
• En el caso general:${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}\,dF(x)}$, utilizando la integral de Riemann-Stieltjes , y donde${\displaystyle F}$es la función de distribución acumulativa . Esto es simplemente la transformada de Laplace-Stieltjes de${\displaystyle F}$, pero con el signo del argumento invertido.

Tenga en cuenta que para el caso donde${\displaystyle X}$tiene una función de densidad de probabilidad continua${\displaystyle f(x)}$, ${\displaystyle M_{X}(-t)}$es la transformada de Laplace de dos lados de${\displaystyle f(x)}$.

$${\displaystyle {\begin{aligned}M_{X}(t)&=\int _{-\infty }^{\infty }e^{tx}f(x)\,dx\\[1ex]&=\int _{-\infty }^{\infty }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots +{\frac {t^{n}x^{n}}{n!}}+\cdots \right)f(x)\,dx\\[1ex]&=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots +{\frac {t^{n}m_{n}}{n!}}+\cdots ,\end{aligned}}}$$

dónde${\displaystyle m_{n}}$es el${\displaystyle n}$momento .​

Las funciones generadoras de momentos son positivas y log-convexas , con M (0) = 1.

Una propiedad importante de la función generadora de momentos es que determina de forma única la distribución. En otras palabras, si${\displaystyle X}$y${\displaystyle Y}$son dos variables aleatorias y para todos los valores de t , 

$${\displaystyle M_{X}(t)=M_{Y}(t),}$$ entonces $${\displaystyle F_{X}(x)=F_{Y}(x)}$$

para todos los valores de x (o equivalentemente, X e Y tienen la misma distribución). Esta afirmación no es equivalente a la afirmación "si dos distribuciones tienen los mismos momentos, entonces son idénticas en todos los puntos". Esto se debe a que, en algunos casos, los momentos existen, pero la función generadora de momentos no, debido al límite.

$${\displaystyle \lim _{n\to \infty }\sum _{i=0}^{n}{\frac {t^{i}m_{i}}{i!}}}$$

Puede que no exista. La distribución lognormal es un ejemplo de cuándo ocurre esto: sus momentos son${\displaystyle \operatorname {E} [X^{n}]=e^{n\mu +n^{2}\sigma ^{2}/2}}$y son todos finitos, pero su función generadora de momentos${\displaystyle \operatorname {E} \left[e^{tX}\right]}$no está definida para ningún t positivo ya que la integral diverge y, por lo tanto, no está en un entorno de 0; existen otras distribuciones con los mismos momentos. ^{[ 4 ]}

La desigualdad de Jensen proporciona una cota inferior simple para la función generadora de momentos: $${\displaystyle M_{X}(t)\geq e^{\mu t},}$$ dónde${\displaystyle \mu }$es la media de X.

La función generadora de momentos se puede utilizar junto con la desigualdad de Markov para acotar la cola superior de una variable aleatoria real X. Esta afirmación también se denomina cota de Chernoff . Dado que${\displaystyle x\mapsto e^{xt}}$es monótonamente creciente para${\displaystyle t>0}$, tenemos $${\displaystyle \Pr(X\geq a)=\Pr(e^{tX}\geq e^{ta})\leq e^{-at}\operatorname {E} \left[e^{tX}\right]=e^{-at}M_{X}(t)}$$ para cualquier${\displaystyle t>0}$y cualquier a , siempre que${\displaystyle M_{X}(t)}$existe. Por ejemplo, cuando X es una distribución normal estándar y${\displaystyle a>0}$, podemos elegir${\displaystyle t=a}$y recuerda que${\displaystyle M_{X}(t)=e^{t^{2}/2}}$Esto da${\displaystyle \Pr(X\geq a)\leq e^{-a^{2}/2}}$, que está dentro de un factor de 1+ a del valor exacto.

Diversos lemas, como el lema de Hoeffding o la desigualdad de Bennett, proporcionan límites para la función generadora de momentos en el caso de una variable aleatoria acotada con media cero.

Cuando${\displaystyle X}$Si es no negativo, la función generadora de momentos proporciona una cota simple y útil para los momentos: $${\displaystyle \operatorname {E} [X^{m}]\leq \left({\frac {m}{te}}\right)^{m}M_{X}(t),}$$ Para cualquier${\displaystyle X,m\geq 0}$y${\displaystyle t>0}$.

Esto se deduce de la desigualdad.${\displaystyle 1+x\leq e^{x}}$en el que podemos sustituir${\displaystyle x'=tx/m-1}$implica${\displaystyle tx/m\leq e^{tx/m-1}}$para cualquier${\displaystyle x,t,m\in \mathbb {R} }$Ahora bien, si${\displaystyle t>0}$y${\displaystyle x,m\geq 0}$, esto se puede reorganizar a${\displaystyle x^{m}\leq (m/(te))^{m}e^{tx}}$. Tomando la esperanza en ambos lados se obtiene el límite en${\displaystyle \operatorname {E} [X^{m}]}$en términos de${\displaystyle \operatorname {E} [e^{tX}]}$.

Como ejemplo, consideremos${\displaystyle X\sim {\text{Chi-Squared}}}$con${\displaystyle k}$grados de libertad. Luego, a partir de los ejemplos${\displaystyle M_{X}(t)=(1-2t)^{-k/2}}$. Recogiendo${\displaystyle t=m/(2m+k)}$y sustituyendo en el límite: $${\displaystyle \operatorname {E} [X^{m}]\leq {\left(1+2m/k\right)}^{k/2}e^{-m}{\left(k+2m\right)}^{m}.}$$ Sabemos que en este caso el límite correcto es${\displaystyle \operatorname {E} [X^{m}]\leq 2^{m}\Gamma (m+k/2)/\Gamma (k/2)}$Para comparar los límites, podemos considerar el comportamiento asintótico para valores grandes de .${\displaystyle k}$. Aquí el límite de la función generadora de momentos es${\displaystyle k^{m}(1+m^{2}/k+O(1/k^{2}))}$donde el límite real es${\displaystyle k^{m}(1+(m^{2}-m)/k+O(1/k^{2}))}$Por lo tanto, la cota de la función generadora de momentos es muy fuerte en este caso.

Relacionadas con la función generadora de momentos, existen otras transformaciones comunes en la teoría de la probabilidad:

Función característica

La función característica${\displaystyle \varphi _{X}(t)}$está relacionado con la función generadora de momentos a través de${\displaystyle \varphi _{X}(t)=M_{iX}(t)=M_{X}(it):}$La función característica es la función generadora de momentos de iX o la función generadora de momentos de X evaluada en el eje imaginario. Esta función también puede considerarse como la transformada de Fourier de la función de densidad de probabilidad , la cual, por lo tanto, puede deducirse mediante la transformada inversa de Fourier.

Función generadora de cumulantes

La función generadora de cumulantes se define como el logaritmo de la función generadora de momentos; algunos, en cambio, la definen como el logaritmo de la función característica , mientras que otros llaman a esta última la segunda función generadora de cumulantes.

Función generadora de probabilidad

La función generadora de probabilidad se define como${\displaystyle G(z)=\operatorname {E} \left[z^{X}\right].}$Esto implica inmediatamente que${\displaystyle G(e^{t})=\operatorname {E} \left[e^{tX}\right]=M_{X}(t).}$

• Función característica (teoría de la probabilidad)
• Función generadora de momentos factoriales
• función de tasa
• Problema del momento de la hamburguesa