Función característica (teoría de la probabilidad)

La biyección enunciada anteriormente entre distribuciones de probabilidad y funciones características es secuencialmente continua . Es decir, siempre que una sucesión de funciones de distribución F _j ( x ) converge (débilmente) a alguna distribución F ( x ) , la sucesión correspondiente de funciones características φ _j ( t ) también convergerá, y el límite φ ( t ) corresponderá a la función característica de la ley F . Más formalmente, esto se enuncia como

Teorema de continuidad de Lévy : Una sucesión X _j devariables aleatorias n -variadas converge en distribución a la variable aleatoria X si y solo si la sucesión φ _{X j} converge puntualmente a una función φ que es continua en el origen. Donde ^φ es la función característica de X. ^{[ 14} ]

Este teorema puede utilizarse para demostrar la ley de los grandes números y el teorema del límite central .

Existe una correspondencia biunívoca entre las funciones de distribución acumulativa y las funciones características, por lo que es posible hallar una de ellas si conocemos la otra. La fórmula en la definición de función característica nos permite calcular φ cuando conocemos la función de distribución F (o densidad f ). Si, por otro lado, conocemos la función característica φ y queremos hallar la función de distribución correspondiente, entonces podemos utilizar uno de los siguientes teoremas de inversión .

Teorema . Si la función característica φ _X de una variable aleatoria X es integrable , entonces F _X es absolutamente continua y, por lo tanto, X tiene una función de densidad de probabilidad . En el caso univariado (es decir, cuando X es escalar), la función de densidad viene dada por $${\displaystyle f_{X}(x)=F_{X}'(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{-itx}\varphi _{X}(t)\,dt.}$$

En el caso multivariado es $${\displaystyle f_{X}(x)={\frac {1}{(2\pi )^{n}}}\int _{\mathbf {R} ^{n}}e^{-i(t\cdot x)}\varphi _{X}(t)\lambda (dt)}$$

dónde${\textstyle t\cdot x}$es el producto escalar .

La función de densidad es la derivada de Radon-Nikodym de la distribución μ _X con respecto a la medida de Lebesgue λ : $${\displaystyle f_{X}(x)={\frac {d\mu _{X}}{d\lambda }}(x).}$$

Teorema (Lévy) . ^{[ nota 1 ]} Si φ _X es la función característica de la función de distribución F _X , dos puntos a < b son tales que { x | a < x < b } es un conjunto de continuidad de μ _X (en el caso univariado esta condición es equivalente a la continuidad de F _X en los puntos a y b ), entonces

• Si X es escalar:$${\displaystyle F_{X}(b)-F_{X}(a)={\frac {1}{2\pi }}\lim _{T\to \infty }\int _{-T}^{+T}{\frac {e^{-ita}-e^{-itb}}{it}}\,\varphi _{X}(t)\,dt.}$$Esta fórmula se puede reformular de una forma más conveniente para el cálculo numérico como ^{[ 15 ].}$${\displaystyle {\frac {F(x+h)-F(x-h)}{2h}}={\frac {1}{2\pi }}\int _{-\infty }^{\infty }{\frac {\sin ht}{ht}}e^{-itx}\varphi _{X}(t)\,dt.}$$Para una variable aleatoria acotada inferiormente se puede obtener${\displaystyle F(b)}$tomando${\displaystyle a}$de tal manera que${\displaystyle F(a)=0.}$De lo contrario, si una variable aleatoria no está acotada inferiormente, el límite para${\displaystyle a\to -\infty }$da${\displaystyle F(b)}$, pero es numéricamente impracticable. ^{[ 15 ]}
• Si X es una variable aleatoria vectorial:$${\displaystyle \mu _{X}{\big (}\{a<x<b\}{\big )}={\frac {1}{(2\pi )^{n}}}\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\int \limits _{-T_{1}\leq t_{1}\leq T_{1}}\cdots \int \limits _{-T_{n}\leq t_{n}\leq T_{n}}\prod _{k=1}^{n}\left({\frac {e^{-it_{k}a_{k}}-e^{-it_{k}b_{k}}}{it_{k}}}\right)\varphi _{X}(t)\lambda (dt_{1}\times \cdots \times dt_{n})}$$

Teorema . Si a es (posiblemente) un átomo de X (en el caso univariado esto significa un punto de discontinuidad de F _X ) entonces

• Si X es escalar:$${\displaystyle F_{X}(a)-F_{X}(a-0)=\lim _{T\to \infty }{\frac {1}{2T}}\int _{-T}^{+T}e^{-ita}\varphi _{X}(t)\,dt}$$
• Si X es una variable aleatoria vectorial: ^{[ 16 ]}$${\displaystyle \mu _{X}(\{a\})=\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\left(\prod _{k=1}^{n}{\frac {1}{2T_{k}}}\right)\int \limits _{[-T_{1},T_{1}]\times \dots \times [-T_{n},T_{n}]}e^{-i(t\cdot a)}\varphi _{X}(t)\lambda (dt)}$$

Teorema (Gil-Pelaez) . ^{[ 17 ]} Para una variable aleatoria univariada X , si x es un punto de continuidad de F _X entonces

${\displaystyle F_{X}(x)={\frac {1}{2}}-{\frac {1}{\pi }}\int _{0}^{\infty }{\frac {\operatorname {Im} [e^{-itx}\varphi _{X}(t)]}{t}}\,dt}$

donde la parte imaginaria de un número complejo${\displaystyle z}$es dado por${\displaystyle \mathrm {Im} (z)=(z-z^{*})/2i}$.

Y su función de densidad es:

${\displaystyle f_{X}(x)={\frac {1}{\pi }}\int _{0}^{\infty }\operatorname {Re} [e^{-itx}\varphi _{X}(t)]\,dt}$

La integral puede no ser integrable de Lebesgue ; por ejemplo, cuando X es la variable aleatoria discreta que siempre es 0, se convierte en la integral de Dirichlet .

Existen fórmulas de inversión para distribuciones multivariadas. ^{[ 15 ] [ 18 ]}

El conjunto de todas las funciones características es cerrado bajo ciertas operaciones:

• Una combinación lineal convexa${\textstyle \sum _{n}a_{n}\varphi _{n}(t)}$(con${\textstyle a_{n}\geq 0,\ \sum _{n}a_{n}=1}$) de un número finito o contable de funciones características es también una función característica.
• El producto de un número finito de funciones características es también una función característica. Lo mismo ocurre con un producto infinito, siempre que converja a una función continua en el origen.
• Si φ es una función característica y α es un número real, entonces${\displaystyle {\bar {\varphi }}}$, Re( φ ), | φ | ² , y φ ( αt ) también son funciones características.

Es bien sabido que cualquier función càdlàg no decreciente F con límites F (−∞) = 0 , F (+∞) = 1 corresponde a una función de distribución acumulativa de alguna variable aleatoria. También existe interés en encontrar criterios simples similares para determinar cuándo una función dada φ podría ser la función característica de alguna variable aleatoria. El resultado central aquí es el teorema de Bochner , aunque su utilidad es limitada porque la condición principal del teorema, la no negatividad definida , es muy difícil de verificar. También existen otros teoremas, como los de Khinchine, Mathias o Cramér, aunque su aplicación es igualmente difícil. El teorema de Pólya , por otro lado, proporciona una condición de convexidad muy simple que es suficiente pero no necesaria. Las funciones características que satisfacen esta condición se denominan de tipo Pólya. ^{[ 19 ]}

Teorema de Bochner . Una función arbitraria φ  : R ⁿ → C es la función característica de alguna variable aleatoria si y solo si φ es definida positiva , continua en el origen y si φ (0) = 1 .

Criterio de Khinchine . Una función φ de valores complejos, absolutamente continua , con φ (0) = 1 , es una función característica si y solo si admite la representación

${\displaystyle \varphi (t)=\int _{\mathbf {R} }g(t+\theta ){\overline {g(\theta )}}\,d\theta .}$

Teorema de Mathias . Una función φ , par, continua, absolutamente integrable y de valor real , con φ (0) = 1 , es una función característica si y solo si

${\displaystyle (-1)^{n}\left(\int _{\mathbf {R} }\varphi (pt)e^{-t^{2}/2}H_{2n}(t)\,dt\right)\geq 0}$

para n = 0,1,2,... , y todo p > 0 . Aquí H _{2 n} denota el polinomio de Hermite de grado 2 n .

Teorema de Pólya . Si${\displaystyle \varphi }$es una función continua, par y de valor real que satisface las condiciones

• ${\displaystyle \varphi (0)=1}$,
• ${\displaystyle \varphi }$es convexo para${\displaystyle t>0}$,
• ${\displaystyle \varphi (\infty )=0}$,

entonces φ ( t ) es la función característica de una distribución absolutamente continua simétrica respecto a 0.

Las funciones características son particularmente útiles para tratar con funciones lineales de variables aleatorias independientes . Por ejemplo, si X ₁ , X ₂ , ..., X _n es una secuencia de variables aleatorias independientes (y no necesariamente idénticamente distribuidas), y

${\displaystyle S_{n}=\sum _{i=1}^{n}a_{i}X_{i},\,\!}$

donde las a _i son constantes, entonces la función característica para S _n viene dada por

${\displaystyle \varphi _{S_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\varphi _{X_{2}}(a_{2}t)\cdots \varphi _{X_{n}}(a_{n}t)\,\!}$

En particular, φ _X+Y ( t ) = φ _X ( t ) φ _Y ( t ) . Para ver esto, escriba la definición de función característica:

${\displaystyle \varphi _{X+Y}(t)=\operatorname {E} \left[e^{it(X+Y)}\right]=\operatorname {E} \left[e^{itX}e^{itY}\right]=\operatorname {E} \left[e^{itX}\right]\operatorname {E} \left[e^{itY}\right]=\varphi _{X}(t)\varphi _{Y}(t)}$

La independencia de X e Y es necesaria para establecer la igualdad de la tercera y la cuarta expresión.

Otro caso especial de interés para variables aleatorias idénticamente distribuidas es cuando a _i = 1 / n y entonces S _n es la media muestral. En este caso, escribiendo X para la media,

${\displaystyle \varphi _{\overline {X}}(t)=\varphi _{X}\!\left({\tfrac {t}{n}}\right)^{n}}$

Las funciones características también pueden utilizarse para hallar los momentos de una variable aleatoria. Si existe el n - ^ésimo momento, la función característica puede derivarse n veces:

$${\displaystyle \operatorname {E} \left[X^{n}\right]=i^{-n}\left[{\frac {d^{n}}{dt^{n}}}\varphi _{X}(t)\right]_{t=0}=i^{-n}\varphi _{X}^{(n)}(0),\!}$$

Esto se puede escribir formalmente utilizando las derivadas de la función delta de Dirac :$${\displaystyle f_{X}(x)=\sum _{n=0}^{\infty }{\frac {(-1)^{n}}{n!}}\delta ^{(n)}(x)\operatorname {E} [X^{n}]}$$lo que permite una solución formal al problema del momento . Por ejemplo, supongamos que X tiene una distribución de Cauchy estándar . Entonces φ _X ( t ) = e ^{−| t |} . Esto no es diferenciable en t = 0 , lo que muestra que la distribución de Cauchy no tiene esperanza . Además, la función característica de la media muestral X de n observaciones independientes tiene la función característica φ _X ( t ) = ( e ^{−| t |/ n} ) ⁿ = e ^{−| t |} , utilizando el resultado de la sección anterior. Esta es la función característica de la distribución de Cauchy estándar: por lo tanto, la media muestral tiene la misma distribución que la población misma.

Como ejemplo adicional, supongamos que X sigue una distribución gaussiana , es decir${\displaystyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2})}$. Entonces${\displaystyle \varphi _{X}(t)=e^{\mu it-{\frac {1}{2}}\sigma ^{2}t^{2}}}$y

${\displaystyle \operatorname {E} \left[X\right]=i^{-1}\left[{\frac {d}{dt}}\varphi _{X}(t)\right]_{t=0}=i^{-1}\left[(i\mu -\sigma ^{2}t)\varphi _{X}(t)\right]_{t=0}=\mu }$

Un cálculo similar muestra${\displaystyle \operatorname {E} \left[X^{2}\right]=\mu ^{2}+\sigma ^{2}}$y es más fácil de llevar a cabo que aplicar la definición de expectativa y utilizar la integración por partes para evaluar${\displaystyle \operatorname {E} \left[X^{2}\right]}$.

El logaritmo de una función característica es una función generadora de cumulantes , que es útil para encontrar cumulantes ; algunos definen la función generadora de cumulantes como el logaritmo de la función generadora de momentos y llaman al logaritmo de la función característica la segunda función generadora de cumulantes.

Las funciones características pueden utilizarse como parte de procedimientos para ajustar distribuciones de probabilidad a muestras de datos. Los casos en los que esto proporciona una opción práctica en comparación con otras posibilidades incluyen el ajuste de la distribución estable, ya que no se dispone de expresiones de forma cerrada para la densidad, lo que dificulta la implementación de la estimación de máxima verosimilitud . Existen procedimientos de estimación que hacen coincidir la función característica teórica con la función característica empírica , calculada a partir de los datos. Paulson et al. (1975) ^{[ 20 ]} y Heathcote (1977) ^{[ 21 ]} proporcionan algunos antecedentes teóricos para dicho procedimiento de estimación. Además, Yu (2004) ^{[ 22 ]} describe aplicaciones de funciones características empíricas para ajustar modelos de series temporales donde los procedimientos de verosimilitud son imprácticos. Las funciones características empíricas también han sido utilizadas por Ansari et al. (2020) ^{[ 23 ]} y Li et al. (2020) ^{[ 24 ]} para entrenar redes generativas adversarias .

La distribución gamma con parámetro de escala θ y parámetro de forma k tiene la función característica

${\displaystyle (1-\theta it)^{-k}.}$

Ahora supongamos que tenemos

${\displaystyle X~\sim \Gamma (k_{1},\theta ){\mbox{ and }}Y\sim \Gamma (k_{2},\theta )}$

con X e Y independientes entre sí, y deseamos saber cuál es la distribución de X + Y. Las funciones características son

${\displaystyle \varphi _{X}(t)=(1-\theta it)^{-k_{1}},\,\qquad \varphi _{Y}(t)=(1-\theta it)^{-k_{2}}}$

lo cual, por independencia y las propiedades básicas de la función característica, conduce a

${\displaystyle \varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)=(1-\theta it)^{-k_{1}}(1-\theta it)^{-k_{2}}=\left(1-\theta it\right)^{-(k_{1}+k_{2})}.}$

Esta es la función característica del parámetro de escala θ y del parámetro de forma k ₁ + k ₂ de la distribución gamma , y ​​por lo tanto concluimos

${\displaystyle X+Y\sim \Gamma (k_{1}+k_{2},\theta )}$

El resultado se puede extender a n variables aleatorias independientes con distribución gamma con el mismo parámetro de escala y obtenemos

${\displaystyle \forall i\in \{1,\ldots ,n\}:X_{i}\sim \Gamma (k_{i},\theta )\qquad \Rightarrow \qquad \sum _{i=1}^{n}X_{i}\sim \Gamma \left(\sum _{i=1}^{n}k_{i},\theta \right).}$