En teoría de la probabilidad , existen diversas nociones de convergencia de secuencias de variables aleatorias , como la convergencia en probabilidad , la convergencia en distribución y la convergencia casi segura . Estas nociones capturan distintas propiedades de la secuencia, siendo algunas más fuertes que otras. Por ejemplo, la convergencia en distribución nos informa sobre la distribución límite de una secuencia de variables aleatorias. Esta noción es menos precisa que la convergencia en probabilidad, que nos informa sobre el valor que tomará una variable aleatoria, en lugar de solo sobre su distribución.
Este concepto es importante en la teoría de la probabilidad y sus aplicaciones a la estadística y los procesos estocásticos . En matemáticas más generales, estos mismos conceptos se conocen como convergencia estocástica y formalizan la idea de que ciertas propiedades de una secuencia de eventos esencialmente aleatorios o impredecibles pueden, en ocasiones, estabilizarse en un comportamiento prácticamente invariable al estudiar elementos suficientemente avanzados en la secuencia. Las diferentes nociones posibles de convergencia se relacionan con la forma en que se puede caracterizar dicho comportamiento: dos comportamientos fácilmente comprensibles son que la secuencia finalmente alcance un valor constante y que los valores de la secuencia continúen cambiando, pero puedan describirse mediante una distribución de probabilidad invariable.
Fondo
La "convergencia estocástica" formaliza la idea de que una secuencia de eventos esencialmente aleatorios o impredecibles a veces puede esperarse que se estabilice en un patrón. El patrón puede ser, por ejemplo,
- Convergencia en el sentido clásico hacia un valor fijo, que tal vez provenga de un evento aleatorio.
- Una creciente similitud de los resultados con lo que produciría una función puramente determinista.
- Una creciente preferencia por un resultado determinado
- Una creciente "aversión" a alejarse demasiado de un resultado determinado.
- Que la distribución de probabilidad que describe el siguiente resultado puede volverse cada vez más similar a una determinada distribución.
Algunos patrones menos obvios y más teóricos podrían ser
- Que la serie formada al calcular el valor esperado de la distancia del resultado a un valor particular puede converger a 0.
- Que la varianza de la variable aleatoria que describe el siguiente evento se hace cada vez más pequeña.
Estos otros tipos de patrones que pueden surgir se reflejan en los diferentes tipos de convergencia estocástica que se han estudiado.
Si bien la discusión anterior se ha relacionado con la convergencia de una sola serie a un valor límite, la noción de convergencia de dos series entre sí también es importante, pero esto se maneja fácilmente estudiando la sucesión definida como la diferencia o la razón de las dos series.
Por ejemplo, si el promedio de n variables aleatorias independientes, todos con la misma media y varianza finitas , viene dado por
entonces comotiende al infinito,converge en probabilidad (ver más abajo) a la media común ,, de las variables aleatoriasEste resultado se conoce como la ley débil de los grandes números . Otras formas de convergencia son importantes en otros teoremas útiles, incluido el teorema del límite central .
A lo largo de lo que sigue, asumimos quees una secuencia de variables aleatorias, yes una variable aleatoria, y todas ellas están definidas en el mismo espacio de probabilidad..
Convergencia en la distribución
En términos generales, con este modo de convergencia, esperamos que el siguiente resultado en una secuencia de experimentos aleatorios se ajuste cada vez mejor a una distribución de probabilidad dada . Más precisamente, la distribución de la variable aleatoria asociada en la secuencia se aproxima arbitrariamente a una distribución fija específica.
La convergencia en distribución es la forma más débil de convergencia que se suele analizar, ya que está implícita en todos los demás tipos de convergencia mencionados en este artículo. Sin embargo, la convergencia en distribución se utiliza con mucha frecuencia en la práctica; generalmente surge de la aplicación del teorema del límite central .
Definición
Una secuenciade variables aleatorias de valor real , con funciones de distribución acumulativaSe dice que converge en distribución , o converge débilmente , o converge en ley a una variable aleatoria.con función de distribución acumulativasi
por cada númeroen el cuales continuo .
El requisito de que solo los puntos de continuidad dedebe considerarse esencial. Por ejemplo, sise distribuyen uniformemente en intervalos, entonces esta secuencia converge en distribución a la variable aleatoria degenerada. En efecto,a pesar decuando, ya pesar decuandoSin embargo, para esta variable aleatoria límite, a pesar dea pesar dePor lo tanto, la convergencia de las funciones de distribución acumulada falla en el puntodóndees discontinuo.
La convergencia en la distribución puede denotarse como
dóndees la ley (distribución de probabilidad) de. Por ejemplo, sies normal estándar podemos escribir.
Para vectores aleatoriosLa convergencia en distribución se define de manera similar. Decimos que esta sucesión converge en distribución a una distribución aleatoria.-vectorsi
por cadaque es un conjunto de continuidad de.
La definición de convergencia en distribución puede extenderse desde vectores aleatorios a elementos aleatorios más generales en espacios métricos arbitrarios , e incluso a las “variables aleatorias” que no son medibles, situación que se presenta, por ejemplo, en el estudio de procesos empíricos . Esta es la “convergencia débil de leyes sin que se definan leyes”, excepto asintóticamente. [ 1 ]
En este caso, el término convergencia débil es preferible (véase convergencia débil de medidas ), y decimos que una secuencia de elementos aleatoriosconverge débilmente a(denominado como) si
para todas las funciones continuas acotadas. [ 2 ] Aquídenota la expectativa externa , es decir, la expectativa de una “función medible más pequeña”.que domina”.
Propiedades
- Desde, la convergencia en la distribución significa que la probabilidad deestar en un rango determinado es aproximadamente igual a la probabilidad de que el valor deestá en ese rango, siempre quees suficientemente grande .
- En general, la convergencia en la distribución no implica que la secuencia de funciones de densidad de probabilidad correspondientes también converja. Como ejemplo, se pueden considerar variables aleatorias con densidadesEstas variables aleatorias convergen en distribución a una distribución uniforme., mientras que sus densidades no convergen en absoluto. [ 3 ]
- Sin embargo, según el teorema de Scheffé , la convergencia de las funciones de densidad de probabilidad implica la convergencia en la distribución. [ 4 ]
- El lema de la combinación proporciona varias definiciones equivalentes de convergencia en distribución. Aunque estas definiciones son menos intuitivas, se utilizan para demostrar varios teoremas estadísticos. El lema establece queconverge en distribución asi y solo si alguna de las siguientes afirmaciones es verdadera: [ 5 ]
- para todos los puntos de continuidad de;
- para todas las funciones acotadas y continuas(dóndedenota el operador de valor esperado );
- para todas las funciones acotadas de Lipschitz;
- para todas las funciones continuas no negativas;
- para cada conjunto abierto;
- para cada conjunto cerrado;
- para todos los conjuntos de continuidadde variable aleatoria;
- para cada función semicontinua superiorlimitado por encima;
- para cada función semicontinua inferiordelimitado por debajo.
- El teorema de la aplicación continua establece que para una función continua, si la secuenciaconverge en distribución a, entoncesconverge en distribución a.
- Sin embargo, tenga en cuenta que la convergencia en la distribución deayaen general no implica convergencia en la distribución deao dea.
- Teorema de continuidad de Lévy : La sucesiónconverge en distribución asi y solo si la secuencia de funciones características correspondientesconverge puntualmente a la función característicade.
- La convergencia en la distribución es metrizable mediante la métrica de Lévy-Prokhorov .
- Un vínculo natural con la convergencia en la distribución es el teorema de representación de Skorokhod .
Convergencia en probabilidad
La idea básica que subyace a este tipo de convergencia es que la probabilidad de un resultado "inusual" se vuelve cada vez más pequeña a medida que avanza la secuencia.
El concepto de convergencia en probabilidad se utiliza con frecuencia en estadística. Por ejemplo, un estimador se considera consistente si converge en probabilidad a la cantidad que se está estimando. La convergencia en probabilidad es también el tipo de convergencia que establece la ley débil de los grandes números .
Definición
Una secuenciade variables aleatorias converge en probabilidad hacia la variable aleatoriasi para todos
Más explícitamente, dejemossea la probabilidad de queestá fuera de la bola de radiocentrado en. EntoncesSe dice que converge en probabilidad asi por alguna razóny cualquierexiste un número(que puede depender dey) tal que para todo,(la definición de límite).
Nótese que para que se cumpla la condición, no es posible que para cadalas variables aleatoriasyson independientes (y por lo tanto la convergencia en probabilidad es una condición sobre las funciones de distribución acumulada conjuntas, a diferencia de la convergencia en distribución, que es una condición sobre las funciones de distribución acumulada individuales), a menos quees determinista como para la ley débil de los grandes números. Al mismo tiempo, el caso de un deterministaCuando el valor determinista es un punto de discontinuidad (no aislado), no puede ser manejado por la convergencia en distribución, donde los puntos de discontinuidad deben ser excluidos explícitamente.
La convergencia en probabilidad se denota añadiendo la letrasobre una flecha que indica convergencia, o utilizando el operador de límite de probabilidad "plim":
Para elementos aleatoriosen un espacio métrico separable, la convergencia en probabilidad se define de manera similar por [ 6 ]
Propiedades
- La convergencia en probabilidad implica la convergencia en distribución. [prueba]
- En sentido contrario, la convergencia en la distribución implica la convergencia en la probabilidad cuando la variable aleatoria límite X es una constante. [demostración]
- La convergencia en probabilidad no implica una convergencia casi segura. [prueba]
- El teorema de la aplicación continua establece que para cada función continua, si, entonces también.
- La convergencia en probabilidad define una topología en el espacio de variables aleatorias sobre un espacio de probabilidad fijo. Esta topología es metrizable mediante la métrica de Ky Fan : [ 7 ]o alternativamente por esta métrica
Contraejemplos
No toda secuencia de variables aleatorias que converge a otra variable aleatoria en distribución también converge en probabilidad a esa variable aleatoria. Como ejemplo, consideremos una secuencia de variables aleatorias normales estándar.y una segunda secuencia. Observe que la distribución dees igual a la distribución dea pesar de, pero:
que no converge a. Por lo tanto, no tenemos convergencia en probabilidad.
Convergencia casi segura
Este es el tipo de convergencia estocástica que es más similar a la convergencia puntual conocida del análisis real elemental .
Definición
Decir que la sucesión X n converge casi con seguridad o casi en todas partes o con probabilidad 1 o fuertemente haciasignifica que
Esto significa que los valores deacercarse al valor de, en el sentido de que eventos para los cualesno converge atener probabilidad(véase Casi con seguridad ). Utilizando el espacio de probabilidady el concepto de la variable aleatoria como una función dea, esto es equivalente a la afirmación :\lim _{n\to \infty }X_{n}(\omega )=X(\omega ){\Bigr )}=1.}
Utilizando la noción del límite superior de una sucesión de conjuntos , la convergencia casi segura también puede definirse de la siguiente manera: :|X_{n}(\omega )-X(\omega )|>\varepsilon {\bigr \}}{\Bigr )}=0\quad {\text{para todo}}\quad \varepsilon >0.}
Casi seguro que la convergencia se suele indicar añadiendo las letras " as" sobre una flecha que indica convergencia:
Para elementos aleatorios genéricosen un espacio métricoLa convergencia casi con seguridad se define de manera similar:
Propiedades
- La convergencia casi segura implica convergencia en probabilidad (según el lema de Fatou ) y, por lo tanto, implica convergencia en distribución. Es la noción de convergencia utilizada en la ley fuerte de los grandes números .
- El concepto de convergencia casi segura no proviene de una topología en el espacio de variables aleatorias. Esto significa que no existe ninguna topología en el espacio de variables aleatorias tal que las secuencias casi seguramente convergentes sean exactamente las secuencias convergentes con respecto a dicha topología. En particular, no existe una métrica de convergencia casi segura.
Contraejemplos
Consideremos una secuenciade variables aleatorias independientes tales queyPara todos.tenemosque converge a 0. Por lo tantoen probabilidad.
Desdey los eventosson independientes, el segundo lema de Borel-Cantelli garantiza quePor lo tanto, la secuenciacasi en todas partes no converge a 0 (de hecho, el conjunto en el que esta secuencia no converge a 0 tiene probabilidad 1).
Convergencia segura o convergencia puntual
Decir que la secuencia de variables aleatoriasdefinido sobre el mismo espacio de probabilidad (es decir, un proceso aleatorio ) converge seguramente o en todas partes o puntualmente hacia X medias
dóndees el espacio muestral del espacio de probabilidad subyacente sobre el cual se definen las variables aleatorias.
Esta es la noción de convergencia puntual de una secuencia de funciones extendida a una secuencia de variables aleatorias . (Nótese que las variables aleatorias son, a su vez, funciones).
:\lim _{n\to \infty }X_{n}(\omega )=X(\omega )\right\}=\Omega .}
La convergencia segura de una variable aleatoria implica todos los demás tipos de convergencia mencionados anteriormente, pero en teoría de la probabilidad no hay ninguna ventaja en usar la convergencia segura en comparación con la convergencia casi segura. La diferencia entre ambas solo existe en conjuntos con probabilidad cero. Por eso, el concepto de convergencia segura de variables aleatorias se usa muy raramente.
Convergencia en media
Dado un número real, decimos que la secuenciaconverge en el-ésima media (o en la norma L r ) hacia la variable aleatoria, si el-momentos absolutosyde X n yexisten y
donde el operadordenota el valor esperado . Convergencia en-th significa que la expectativa de la-ésima potencia de la diferencia entreyconverge a cero.
Este tipo de convergencia se suele denotar añadiendo la letrasobre una flecha que indica convergencia:
Los casos más importantes de convergencia en-th significan:
- Cuandoconverge en-th significapara, decimos queconverge en media a.
- Cuandoconverge en-th significapara, decimos queconverge en media cuadrática (o en media cuadrática ) a.
Convergencia en la-th significa, para, implica convergencia en probabilidad (por la desigualdad de Markov ). Además, si, convergencia en-ésima media implica convergencia en-ésima media. Por lo tanto, la convergencia en media cuadrática implica convergencia en media.
Además,
Lo contrario no es necesariamente cierto, sin embargo, es cierto si(mediante una versión más general del lema de Scheffé ).
Propiedades
Siempre que el espacio de probabilidad sea completo :
- Siy, entoncescasi con seguridad .
- Siy, entoncescasi con seguridad.
- Siy, entoncescasi con seguridad.
- Siy, entonces(para cualquier número real)y) y.
- Siy, entonces(para cualquier número real)yy.
- Siy, entonces(para cualquier número real)y).
- Ninguna de las afirmaciones anteriores es cierta para la convergencia en la distribución.
La cadena de implicaciones entre las diversas nociones de convergencia se señala en sus respectivas secciones. Son, utilizando la notación de flechas:
Estas propiedades, junto con otros casos especiales, se resumen en la siguiente lista:
- La convergencia casi segura implica convergencia en probabilidad: [ 8 ] [prueba]
- La convergencia en probabilidad implica que existe una subsecuencia.que casi con seguridad converge: [ 9 ]
- La convergencia en probabilidad implica convergencia en distribución: [ 8 ] [prueba]
- Convergencia enLa media de orden -ésimo implica convergencia en probabilidad:
- Convergencia enLa media de orden -ésimo implica convergencia en la media de orden inferior, suponiendo que ambos órdenes sean mayores o iguales que uno:
- proporcionó.
- Siconverge en distribución a una constante, entoncesconverge en probabilidad a: [ 8 ] [prueba]
- proporcionóes una constante.
- Siconverge en distribución ay la diferencia entreyconverge en probabilidad a cero, entoncestambién converge en distribución a: [ 8 ] [prueba]
- Siconverge en distribución ay 'converge en distribución a una constante, entonces el vector conjuntoconverge en distribución a: [ 8 ] [prueba]
- siempre que c sea una constante.
- Tenga en cuenta que la condición queEs importante que converja a una constante, si tuviera que converger a una variable aleatoria.entonces no podríamos concluir queconverge a.
- Siconverge en probabilidad ayconverge en probabilidad a, entonces el vector conjuntoconverge en probabilidad a: [ 8 ] [prueba]
- Siconverge en probabilidad ay sia pesar dey algunos, entoncesconverge enel significado dea pesar de. En otras palabras, siconverge en probabilidad ay todas las variables aleatoriasestán casi con seguridad limitados arriba y abajo, entoncesconverge atambién en cualquierla media. [ 10 ]
- Representación casi segura . Por lo general, la convergencia en distribución no implica convergencia casi segura. Sin embargo, para una secuencia dadaque converge en distribución aSiempre es posible encontrar un nuevo espacio de probabilidad.y variables aleatoriasdefinido en él de tal manera quees igual en distribución apara cada, yconverge acasi con seguridad. [ 11 ] [ 12 ]
- Si para todos,
- entonces decimos queconverge casi completamente , o casi en probabilidad hacia. Cuandoconverge casi completamente haciaentonces también converge casi con seguridad a. En otras palabras, siconverge en probabilidad asuficientemente rápido (es decir, la secuencia anterior de probabilidades de cola es sumable para todos), entoncestambién converge casi con seguridad aEsto es una implicación directa del lema de Borel-Cantelli .
- Sies una suma devariables aleatorias reales independientes:
- entoncesconverge casi con seguridad si y solo siconverge en probabilidad. La demostración se puede encontrar en la página 126 (Teorema 5.3.4) del libro de Kai Lai Chung . [ 13 ]
- Sin embargo, para una secuencia de variables aleatorias mutuamente independientes, la convergencia en probabilidad no implica una convergencia casi segura. [ 14 ]
- El teorema de convergencia dominada proporciona condiciones suficientes para que la convergencia casi segura implique-convergencia:
- Una condición necesaria y suficiente paraLa convergencia esy la secuenciaes uniformemente integrable .
- Si, los siguientes son equivalentes [ 15 ]
- ,
- ,
- es uniformemente integrable .
- Siyes uniformemente integrable , entoncesy. [ 16 ]
Véase también
- Demostraciones de convergencia de variables aleatorias
- Convergencia de medidas
- Convergencia en la medida
- Proceso estocástico continuo : la cuestión de la continuidad de un proceso estocástico es esencialmente una cuestión de convergencia, y muchos de los conceptos y relaciones utilizados anteriormente se aplican a la cuestión de la continuidad.
- Distribución asintótica
- Notación de probabilidad Big O
- Teorema de representación de Skorokhod
- El teorema de convergencia de Tweedie
- Teorema de Slutsky
- Teorema de la aplicación continua
Notas
- ↑ Bickel et al. 1998 , A.8, página 475
- ↑ van der Vaart y Wellner 1996 , pág. 4
- ↑ Romano y Siegel 1985 , Ejemplo 5.26
- ↑ Durrett, Rick (2010). Probabilidad: Teoría y ejemplos . pág. 84.
- ↑ van der Vaart 1998 , Lema 2.2
- ↑ Dudley 2002 , Capítulo 9.2, página 287
- ↑ Dudley 2002 , pág. 289
- 1 2 3 4 5 6 van der Vaart 1998 , Teorema 2.7
- ↑ Gut, Allan (2005). Probabilidad: Un curso de posgrado . Teorema 3.4: Springer. ISBN 978-0-387-22833-4.
{{cite book}}: CS1 mantenimiento: ubicación ( enlace ) - ↑ Grimmett y Stirzaker 2020 , pág. 354
- ↑ van der Vaart 1998 , Th.2.19
- ↑ Fristedt y Gray 1997 , Teorema 14.5
- ↑ Chung, Kai-lai (2001). Un curso de teoría de la probabilidad . pág. 126.
- ↑ "Pruebas de convergencia de variables aleatorias" . Wikipedia . Consultado el 23 de septiembre de 2024 .
- ↑ "análisis real - Generalización del lema de Scheffe utilizando únicamente la convergencia en probabilidad" . Mathematics Stack Exchange . Consultado el 12 de marzo de 2022 .
- ↑ Billingsley 1986 , Teorema 25.12
Referencias
- Bickel, Peter J.; Klaassen, Chris AJ; Ritov, Ya'acov; Wellner, Jon A. (1998). Estimación eficiente y adaptativa para modelos semiparamétricos . Nueva York: Springer-Verlag. ISBN 978-0-387-98473-5.
- Billingsley, Patrick (1986). Probabilidad y medida . Serie Wiley en probabilidad y estadística matemática (2.ª ed.). Wiley.
- Billingsley, Patrick (1999). Convergencia de medidas de probabilidad (2.ª ed.). John Wiley & Sons. págs. 1–28 . ISBN 978-0-471-19745-4.
- Dudley, RM (2002). Análisis real y probabilidad . Cambridge, Reino Unido: Cambridge University Press. ISBN 978-0-521-80972-6.
- Fristedt, Bert; Gray, Lawrence (1997). Un enfoque moderno de la teoría de la probabilidad . Nueva York: Springer Science+Business Media. doi : 10.1007/978-1-4899-2837-5 . ISBN 978-1-4899-2837-5.
- Grimmett, GR; Stirzaker, DR (1992). Probabilidad y procesos aleatorios (2.ª ed.). Clarendon Press, Oxford. pp. 271–285 . ISBN 978-0-19-853665-9.
- Jacobsen, M. (1992). Videregående Sandsynlighedsregning (Teoría de la probabilidad avanzada) (3ª ed.). HCØ-tryk, Copenhague. págs. 18 a 20. ISBN 978-87-91180-71-2.
- Ledoux, Michel; Talagrand, Michel (1991). Probabilidad en espacios de Banach . Berlín: Springer-Verlag. pp. xii+480. ISBN 978-3-540-52013-9MR 1102015 .
- Romano, Joseph P.; Siegel, Andrew F. (1985). Contraejemplos en probabilidad y estadística . Gran Bretaña: Chapman & Hall. ISBN 978-0-412-98901-8.
- Grimmett, Geoffrey R.; Stirzaker, David R. (2020). Probabilidad y procesos aleatorios (4.ª ed.). Oxford University Press. ISBN 978-0-198-84760-1.
- van der Vaart, Aad W .; Wellner, Jon A. (1996). Convergencia débil y procesos empíricos . Nueva York: Springer-Verlag. ISBN 978-0-387-94640-5.
- van der Vaart, Aad W. (1998). Estadísticas asintóticas . Nueva York: Cambridge University Press. ISBN 978-0-521-49603-2.
- Williams, D. (1991). Probabilidad con martingalas . Cambridge University Press. ISBN 978-0-521-40605-5.
- Wong, E.; Hájek, B. (1985). Procesos estocásticos en sistemas de ingeniería . Nueva York: Springer–Verlag.
- Zitkovic, Gordan (17 de noviembre de 2013). "Lección 7: Convergencia débil" (PDF) .
Este artículo incorpora material del artículo de Citizendium " Convergencia estocástica ", que está bajo la licencia Creative Commons Attribution-ShareAlike 3.0 Unported , pero no bajo la GFDL .
- Procesos estocásticos
- Convergencia (matemáticas)