Proceso empírico

En teoría de probabilidad , un proceso empírico es un proceso estocástico que caracteriza la desviación de la función de distribución empírica respecto de su expectativa. En teoría de campo medio , se consideran los teoremas límite (a medida que aumenta el número de objetos) y se generaliza el teorema límite central para medidas empíricas . Las aplicaciones de la teoría de procesos empíricos surgen en las estadísticas no paramétricas . ^[1]

Para X ₁ , X ₂ , ... X _n variables aleatorias independientes e idénticamente distribuidas en R con función de distribución acumulativa común F ( x ), la función de distribución empírica se define por

${\displaystyle F_{n}(x)={\frac {1}{n}}\sum _{i=1}^{n}I_{(-\infty ,x]}(X_{i}),}$

donde I _C es la función indicadora del conjunto C .

Para cada x (fijo) , F _n ( x ) es una secuencia de variables aleatorias que convergen a F ( x ) casi con seguridad por la ley fuerte de los grandes números . Es decir, F _n converge a F puntualmente . Glivenko y Cantelli reforzaron este resultado al demostrar la convergencia uniforme de F _n a F mediante el teorema de Glivenko-Cantelli . ^[2]

Una versión centrada y escalada de la medida empírica es la medida con signo.

${\displaystyle G_{n}(A)={\sqrt {n}}(P_{n}(A)-P(A))}$

Induce un mapa sobre funciones mensurables f dado por

${\displaystyle f\mapsto G_{n}f={\sqrt {n}}(P_{n}-P)f={\sqrt {n}}\left({\frac {1}{n}}\sum _{i=1}^{n}f(X_{i})-\mathbb {E} f\right)}$

Por el teorema del límite central , converge en distribución a una variable aleatoria normal N (0,  P ( A )(1 −  P ( A ))) para un conjunto medible fijo A . De manera similar, para una función fija f , converge en distribución a una variable aleatoria normal , siempre que existan y .$Estilo de visualización G_{n}(A)}$ $Estilo de visualización Gnf$${\displaystyle N(0,\mathbb {E} (f-\mathbb {E} f)^{2})}$${\displaystyle \mathbb {E} f}$${\displaystyle \mathbb {E} f^{2}}$

Definición

${\displaystyle {\bigl (}G_{n}(c){\bigr )}_{c\in {\mathcal {C}}}}$Se denomina proceso empírico a un índice de , una colección de subconjuntos mensurables de S .${\displaystyle {\mathcal {C}}}$

${\displaystyle {\bigl (}G_{n}f{\bigr )}_{f\in {\mathcal {F}}}}$ Se denomina proceso empírico a un índice de , una colección de funciones mensurables desde S hasta .${\displaystyle {\mathcal {F}}}$${\displaystyle \mathbb {R}}$

Un resultado significativo en el área de los procesos empíricos es el teorema de Donsker . Ha llevado al estudio de las clases de Donsker : conjuntos de funciones con la propiedad útil de que los procesos empíricos indexados por estas clases convergen débilmente a un determinado proceso gaussiano . Si bien se puede demostrar que las clases de Donsker son clases de Glivenko-Cantelli , lo inverso no es cierto en general.

Como ejemplo, considere las funciones de distribución empíricas . Para las variables aleatorias iid de valor real X ₁ , X ₂ , ..., X _{n ,} están dadas por

${\displaystyle F_{n}(x)=P_{n}((-\infty ,x])=P_{n}I_{(-\infty ,x]}.}$

En este caso, los procesos empíricos están indexados por una clase Se ha demostrado que es una clase Donsker, en particular, ${\displaystyle {\mathcal {C}}=\{(-\infty ,x]:x\in \mathbb {R} \}.}$${\displaystyle {\mathcal {C}}}$

${\displaystyle {\sqrt {n}}(F_{n}(x)-F(x))}$converge débilmente en un puente browniano B ( F ( x )).${\displaystyle \ell ^{\infty }(\mathbb {R} )}$

• Transformación de Khmaladze
• Débil convergencia de medidas
• Teorema de Glivenko-Cantelli

• Billingsley, P. (1995). Probabilidad y medida (tercera edición). Nueva York: John Wiley and Sons. ISBN 0471007102.
• Donsker, MD (1952). "Justificación y extensión del enfoque heurístico de Doob a los teoremas de Kolmogorov-Smirnov". Anales de estadística matemática . 23 (2): 277–281. doi : 10.1214/aoms/1177729445 .
• Dudley, RM (1978). "Teoremas del límite central para medidas empíricas". Anales de probabilidad . 6 (6): 899–929. doi : 10.1214/aop/1176995384 .
• Dudley, RM (1999). Teoremas del límite central uniforme . Cambridge Studies in Advanced Mathematics. Vol. 63. Cambridge, Reino Unido: Cambridge University Press.
• Kosorok, MR (2008). Introducción a los procesos empíricos y a la inferencia semiparamétrica . Springer Series in Statistics. doi :10.1007/978-0-387-74978-5. ISBN 978-0-387-74977-8.
• Shorack, GR ; Wellner, JA (2009). Procesos empíricos con aplicaciones a la estadística . doi :10.1137/1.9780898719017. ISBN 978-0-89871-684-9.
• van der Vaart, Aad W. ; Wellner, Jon A. (2000). Convergencia débil y procesos empíricos: con aplicaciones a la estadística (2.ª ed.). Springer. ISBN 978-0-387-94640-5.
• Dzhaparidze, KO; Nikulin, MS (1982). "Distribuciones de probabilidad de las estadísticas de Kolmogorov y omega-cuadrado para distribuciones continuas con parámetros de desplazamiento y escala". Revista de Matemáticas Soviéticas . 20 (3): 2147. doi :10.1007/BF01239992. S2CID  123206522.

• Procesos empíricos: teoría y aplicaciones, de David Pollard, un libro de texto disponible en línea.
• Introducción a los procesos empíricos y la inferencia semiparamétrica, por Michael Kosorok, otro libro de texto disponible en línea.