Proceso empírico

En teoría de la probabilidad , un proceso empírico es un proceso estocástico que caracteriza la desviación de la función de distribución empírica respecto de su valor esperado. En teoría de campo medio , se consideran teoremas límite (a medida que aumenta el número de objetos) que generalizan el teorema del límite central para medidas empíricas . Las aplicaciones de la teoría de procesos empíricos surgen en la estadística no paramétrica . ^{[ 1 ]}

Para X ₁ , X ₂ , ... X _n variables aleatorias independientes e idénticamente distribuidas con valores en${\displaystyle \mathbb {R} }$y la función de distribución acumulativa F ( x ), la función de distribución empírica se define como

${\displaystyle F_{n}(x)={\frac {1}{n}}\sum _{i=1}^{n}I_{(-\infty ,x]}(X_{i}),}$

donde I _C es la función indicadora del conjunto C .

Para cada x (fijo) , F _n ( x ) es una sucesión de variables aleatorias que convergen a F ( x ) casi con seguridad según la ley fuerte de los grandes números . Es decir, F _n converge a F puntualmente . Glivenko y Cantelli reforzaron este resultado demostrando la convergencia uniforme de F _n a F mediante el teorema de Glivenko-Cantelli . ^{[ 2 ]}

Una versión centrada y escalada de la medida empírica es la medida con signo.

${\displaystyle G_{n}(A)={\sqrt {n}}(P_{n}(A)-P(A))}$

Induce una aplicación sobre funciones medibles f dadas por

${\displaystyle f\mapsto G_{n}f={\sqrt {n}}(P_{n}-P)f={\sqrt {n}}\left({\frac {1}{n}}\sum _{i=1}^{n}f(X_{i})-\mathbb {E} f\right)}$

Por el teorema del límite central ,${\displaystyle G_{n}(A)}$converge en distribución a una variable aleatoria normal N (0, P ( A )(1 − P ( A ))) para un conjunto medible fijo A . De manera similar, para una función fija f ,   ${\displaystyle G_{n}f}$converge en distribución a una variable aleatoria normal${\displaystyle N(0,\mathbb {E} (f-\mathbb {E} f)^{2})}$, siempre que${\displaystyle \mathbb {E} f}$y${\displaystyle \mathbb {E} f^{2}}$existir.

Definición

${\displaystyle {\bigl (}G_{n}(c){\bigr )}_{c\in {\mathcal {C}}}}$se denomina proceso empírico indexado por${\displaystyle {\mathcal {C}}}$, una colección de subconjuntos medibles de S.

${\displaystyle {\bigl (}G_{n}f{\bigr )}_{f\in {\mathcal {F}}}}$ se denomina proceso empírico indexado por${\displaystyle {\mathcal {F}}}$, una colección de funciones medibles de S a${\displaystyle \mathbb {R} }$.

Un resultado significativo en el campo de los procesos empíricos es el teorema de Donsker . Este teorema ha propiciado el estudio de las clases de Donsker : conjuntos de funciones con la útil propiedad de que los procesos empíricos indexados por estas clases convergen débilmente a un cierto proceso gaussiano . Si bien se puede demostrar que las clases de Donsker son clases de Glivenko-Cantelli , lo contrario no es cierto en general.

Como ejemplo, consideremos las funciones de distribución empíricas . Para variables aleatorias i.i.d. de valor real X ₁ , X ₂ , ..., X _n, están dadas por

${\displaystyle F_{n}(x)=P_{n}((-\infty ,x])=P_{n}I_{(-\infty ,x]}.}$

En este caso, los procesos empíricos están indexados por una clase.${\displaystyle {\mathcal {C}}=\{(-\infty ,x]:x\in \mathbb {R} \}.}$Se ha demostrado que${\displaystyle {\mathcal {C}}}$es una clase Donsker, en particular,

${\displaystyle {\sqrt {n}}(F_{n}(x)-F(x))}$converge débilmente en${\displaystyle \ell ^{\infty }(\mathbb {R} )}$a un puente browniano B ( F ( x )) .

• Transformación de Khmaladze
• Convergencia débil de medidas
• Teorema de Glivenko-Cantelli

• Billingsley, P. (1995). Probabilidad y medida (Tercera  ed.). Nueva York: John Wiley and Sons. ISBN 0471007102.
• Donsker, MD (1952). "Justificación y extensión del enfoque heurístico de Doob a los teoremas de Kolmogorov-Smirnov" . The Annals of Mathematical Statistics . 23 (2): 277– 281. doi : 10.1214/aoms/1177729445 .
• Dudley, RM (1978). "Teoremas del límite central para medidas empíricas" . The Annals of Probability . 6 (6): 899– 929. doi : 10.1214/aop/1176995384 .
• Dudley, RM (1999). Teoremas del límite central uniforme . Estudios de matemáticas avanzadas de Cambridge. Vol.  63. Cambridge, Reino Unido: Cambridge University Press.
• Kosorok, MR (2008). Introducción a los procesos empíricos y la inferencia semiparamétrica . Springer Series in Statistics. doi : 10.1007/978-0-387-74978-5 . ISBN 978-0-387-74977-8.
• Shorack, GR ; Wellner, JA (2009). Procesos empíricos con aplicaciones a la estadística . doi : 10.1137/1.9780898719017 . ISBN 978-0-89871-684-9.
• van der Vaart, Aad W. ; Wellner, Jon A. (2000). Convergencia débil y procesos empíricos: con aplicaciones a la estadística (2.ª  ed.). Springer. ISBN 978-0-387-94640-5.
• Dzhaparidze, KO; Nikulin, MS (1982). "Distribuciones de probabilidad de las estadísticas de Kolmogorov y omega-cuadrado para distribuciones continuas con parámetros de desplazamiento y escala". Journal of Soviet Mathematics . 20 (3): 2147. doi : 10.1007/BF01239992 . S2CID 123206522 . 

• Procesos empíricos: teoría y aplicaciones , de David Pollard, un libro de texto disponible en línea.
• Introducción a los procesos empíricos y la inferencia semiparamétrica , de Michael Kosorok, otro libro de texto disponible en línea.