Demostraciones de convergencia de variables aleatorias

Este artículo complementa el texto sobre “ Convergencia de variables aleatorias ” y proporciona demostraciones de algunos resultados seleccionados.

Se establecerán varios resultados utilizando el lema de la secuencia : Una sucesión { X _n } converge en distribución a X si y solo si se cumple alguna de las siguientes condiciones:

1. ${\displaystyle \mathbb {E} [f(X_{n})]\to \mathbb {E} [f(X)]}$para todas las funciones acotadas y continuas${\displaystyle f}$;
2. ${\displaystyle \mathbb {E} [f(X_{n})]\to \mathbb {E} [f(X)]}$para todas las funciones acotadas de Lipschitz${\displaystyle f}$;
3. ${\displaystyle \limsup \operatorname {Pr} (X_{n}\in C)\leq \operatorname {Pr} (X\in C)}$para todos los conjuntos cerrados${\displaystyle C}$;

${\displaystyle X_{n}\ {\overset {\mathrm {as} }{\rightarrow }}\ X\quad \Rightarrow \quad X_{n}\ {\overset {p}{\rightarrow }}\ X}$

Prueba: Si${\displaystyle \{X_{n}\}}$converge a${\displaystyle X}$casi con seguridad, significa que el conjunto de puntos${\displaystyle O=\{\omega$ :\lim X_{n}(\omega )\neq X(\omega )\}} tiene medida cero. Ahora fijemos${\displaystyle \varepsilon >0}$y consideremos una secuencia de conjuntos

${\displaystyle A_{n}=\bigcup _{m\geq n}\left\{\omega$ :\left|X_{m}(\omega )-X(\omega )\right|>\varepsilon \right\}}

Esta secuencia de conjuntos es decreciente (${\displaystyle A_{n}\supseteq A_{n+1}\supseteq \ldots }$) hacia el conjunto

${\displaystyle A_{\infty }=\bigcap _{n\geq 1}A_{n}.}$

Las probabilidades de esta secuencia también están disminuyendo, por lo tanto${\displaystyle \lim \operatorname {Pr} (A_{n})=\operatorname {Pr} (A_{\infty })}$Ahora demostraremos que este número es igual a cero. Ahora, para cualquier punto${\displaystyle \omega }$fuera de${\displaystyle O}$tenemos${\displaystyle \lim X_{n}(\omega )=X(\omega )}$, lo que implica que${\displaystyle \left|X_{n}(\omega )-X(\omega )\right|<\varepsilon }$a pesar de${\displaystyle n\geq N}$para algunos${\displaystyle N}$. En particular, para tales${\displaystyle N}$el punto${\displaystyle \omega }$no mentirá en${\displaystyle A_{N}}$y por lo tanto no mentirá en${\displaystyle A_{\infty }}$. Por lo tanto,${\displaystyle A_{\infty }\subseteq O}$y entonces${\displaystyle \operatorname {Pr} (A_{\infty })=0}$.

Finalmente, por continuidad desde arriba (véase aquí una demostración elemental de continuidad desde arriba),

${\displaystyle \operatorname {Pr} \left(|X_{n}-X|>\varepsilon \right)\leq \operatorname {Pr} (A_{n})\ {\underset {n\to \infty }{\rightarrow }}0,}$

lo cual por definición significa que${\displaystyle X_{n}}$converge en probabilidad a${\displaystyle X}$.

Si X _n son variables aleatorias independientes que toman el valor uno con probabilidad 1/ n y cero en caso contrario, entonces X _n converge a cero en probabilidad, pero no casi con seguridad. Esto se puede verificar utilizando los lemas de Borel-Cantelli .

${\displaystyle X_{n}\ {\xrightarrow {p}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {d}}\ X,}$

${\displaystyle X_{n}\ {\xrightarrow {d}}\ c\quad \Rightarrow \quad X_{n}\ {\xrightarrow {p}}\ c,}$siempre que c sea una constante.

Demostración: Fijemos ε > 0. Sea B _ε ( c ) la bola abierta de radio ε alrededor del punto c , y B _ε ( c ) ^c su complemento. Entonces

${\displaystyle \operatorname {Pr} \left(|X_{n}-c|\geq \varepsilon \right)=\operatorname {Pr} \left(X_{n}\in B_{\varepsilon }(c)^{c}\right).}$

Por el lema de la combinación (parte C), si X _n converge en distribución a c , entonces el limsup de esta última probabilidad debe ser menor o igual que Pr( c ∈ B _ε ( c ) ^c ), que obviamente es igual a cero. Por lo tanto,

${\displaystyle {\begin{aligned}\lim _{n\to \infty }\operatorname {Pr} \left(\left|X_{n}-c\right|\geq \varepsilon \right)&\leq \limsup _{n\to \infty }\operatorname {Pr} \left(\left|X_{n}-c\right|\geq \varepsilon \right)\\&=\limsup _{n\to \infty }\operatorname {Pr} \left(X_{n}\in B_{\varepsilon }(c)^{c}\right)\\&\leq \operatorname {Pr} \left(c\in B_{\varepsilon }(c)^{c}\right)=0\end{aligned}}}$

lo que por definición significa que X _n converge a c en probabilidad.

${\displaystyle |Y_{n}-X_{n}|\ {\xrightarrow {p}}\ 0,\ \ X_{n}\ {\xrightarrow {d}}\ X\ \quad \Rightarrow \quad Y_{n}\ {\xrightarrow {d}}\ X}$

Demostración: Demostraremos este teorema utilizando el lema de la función conjunta, parte B. Como se requiere en ese lema, consideremos cualquier función acotada f (es decir, | f ( x )| ≤ M ) que también sea Lipschitz:

${\displaystyle \exists K>0,\forall x,y:\quad |f(x)-f(y)|\leq K|x-y|.}$

Toma algún ε > 0 y mayoriza la expresión |E[ f ( Y _n )] − E[ f ( X _n )]| como

${\displaystyle {\begin{aligned}\left|\operatorname {E} \left[f(Y_{n})\right]-\operatorname {E} \left[f(X_{n})\right]\right|&\leq \operatorname {E} \left[\left|f(Y_{n})-f(X_{n})\right|\right]\\&=\operatorname {E} \left[\left|f(Y_{n})-f(X_{n})\right|\mathbf {1} _{\left\{|Y_{n}-X_{n}|<\varepsilon \right\}}\right]+\operatorname {E} \left[\left|f(Y_{n})-f(X_{n})\right|\mathbf {1} _{\left\{|Y_{n}-X_{n}|\geq \varepsilon \right\}}\right]\\&\leq \operatorname {E} \left[K\left|Y_{n}-X_{n}\right|\mathbf {1} _{\left\{|Y_{n}-X_{n}|<\varepsilon \right\}}\right]+\operatorname {E} \left[2M\mathbf {1} _{\left\{|Y_{n}-X_{n}|\geq \varepsilon \right\}}\right]\\&\leq K\varepsilon \operatorname {Pr} \left(\left|Y_{n}-X_{n}\right|<\varepsilon \right)+2M\operatorname {Pr} \left(\left|Y_{n}-X_{n}\right|\geq \varepsilon \right)\\&\leq K\varepsilon +2M\operatorname {Pr} \left(\left|Y_{n}-X_{n}\right|\geq \varepsilon \right)\end{aligned}}}$

(aquí 1 _{...} denota la función indicadora ; la esperanza de la función indicadora es igual a la probabilidad del evento correspondiente). Por lo tanto,

${\displaystyle {\begin{aligned}\left|\operatorname {E} \left[f(Y_{n})\right]-\operatorname {E} \left[f(X)\right]\right|&\leq \left|\operatorname {E} \left[f(Y_{n})\right]-\operatorname {E} \left[f(X_{n})\right]\right|+\left|\operatorname {E} \left[f(X_{n})\right]-\operatorname {E} \left[f(X)\right]\right|\\&\leq K\varepsilon +2M\operatorname {Pr} \left(|Y_{n}-X_{n}|\geq \varepsilon \right)+\left|\operatorname {E} \left[f(X_{n})\right]-\operatorname {E} \left[f(X)\right]\right|.\end{aligned}}}$

Si tomamos el límite en esta expresión cuando n → ∞, el segundo término tenderá a cero ya que { Y _n −X _n } converge a cero en probabilidad; y el tercer término también convergerá a cero, por el lema de la combinación y el hecho de que X _n converge a X en distribución. Por lo tanto,

${\displaystyle \lim _{n\to \infty }\left|\operatorname {E} \left[f(Y_{n})\right]-\operatorname {E} \left[f(X)\right]\right|\leq K\varepsilon .}$

Dado que ε era arbitrario, concluimos que el límite debe ser igual a cero y, por lo tanto, E[ f ( Y _n )] → E[ f ( X )], lo que, según el lema de la combinación, implica que { Y _n } converge a X en distribución. QED.

${\displaystyle X_{n}\ {\xrightarrow {d}}\ X,\ \ Y_{n}\ {\xrightarrow {p}}\ c\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {d}}\ (X,c)}$siempre que c sea una constante.

Demostración: Demostraremos esta afirmación utilizando el lema de la palabra compuesta, parte A.

Primero queremos demostrar que ( X _n , c ) converge en distribución a ( X , c ). Por el lema de la función conjunta, esto será cierto si podemos demostrar que E[ f ( X _n , c )] → E[ f ( X , c )] para cualquier función continua acotada f ( x , y ). Así pues, sea f una función continua acotada arbitraria. Ahora consideremos la función de una sola variable g ( x )  := f ( x , c ). Obviamente, esta también será acotada y continua, y por lo tanto, por el lema de la función conjunta para la sucesión { X _n } que converge en distribución a X , tendremos que E[ g ( X _n )] → E[ g ( X )]. Sin embargo, la última expresión es equivalente a “E[ f ( X _n , c )] → E[ f ( X , c )]”, y por lo tanto ahora sabemos que ( X _n , c ) converge en distribución a ( X , c ).

En segundo lugar, consideremos |( X _n , Y _n ) − ( X _n , c )| = | Y _n − c |. Esta expresión converge en probabilidad a cero porque Y _n converge en probabilidad a c . Por lo tanto, hemos demostrado dos hechos:

${\displaystyle {\begin{cases}\left|(X_{n},Y_{n})-(X_{n},c)\right|\ {\xrightarrow {p}}\ 0,\\(X_{n},c)\ {\xrightarrow {d}}\ (X,c).\end{cases}}}$

Por la propiedad demostrada anteriormente , estos dos hechos implican que ( X _n , Y _n ) convergen en distribución a ( X , c ).

${\displaystyle X_{n}\ {\xrightarrow {p}}\ X,\ \ Y_{n}\ {\xrightarrow {p}}\ Y\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {p}}\ (X,Y)}$

Prueba:

${\displaystyle {\begin{aligned}\operatorname {Pr} \left(\left|(X_{n},Y_{n})-(X,Y)\right|\geq \varepsilon \right)&\leq \operatorname {Pr} \left(|X_{n}-X|+|Y_{n}-Y|\geq \varepsilon \right)\\&\leq \operatorname {Pr} \left(|X_{n}-X|\geq \varepsilon /2\right)+\operatorname {Pr} \left(|Y_{n}-Y|\geq \varepsilon /2\right)\end{aligned}}}$

donde el último paso se deduce del principio del palomar y la subaditividad de la medida de probabilidad . Cada una de las probabilidades del lado derecho converge a cero cuando n → ∞ por definición de la convergencia de { X _n } y { Y _n } en probabilidad a X e Y respectivamente. Tomando el límite, concluimos que el lado izquierdo también converge a cero y, por lo tanto, la secuencia {( X _n , Y _n )} converge en probabilidad a {( X , Y )}.

• Convergencia de variables aleatorias