Teoría de la probabilidad

Consideremos un experimento que puede producir varios resultados. El conjunto de todos los resultados se denomina espacio muestral del experimento. El conjunto potencia del espacio muestral (o, equivalentemente, el espacio de eventos) se forma al considerar todas las colecciones diferentes de resultados posibles. Por ejemplo, lanzar un dado honesto produce uno de seis resultados posibles. Una colección de resultados posibles corresponde a obtener un número impar. Por lo tanto, el subconjunto {1, 3, 5} es un elemento del conjunto potencia del espacio muestral de lanzamientos de dados. Estas colecciones se denominan eventos . En este caso, {1, 3, 5} es el evento de que el dado caiga en un número impar. Si los resultados que ocurren corresponden a un evento dado, se dice que dicho evento ha ocurrido.

La probabilidad es una forma de asignar a cada "evento" un valor entre cero y uno, con el requisito de que al evento compuesto por todos los resultados posibles (en nuestro ejemplo, el evento {1,2,3,4,5,6}) se le asigne un valor de uno. Para que se considere una distribución de probabilidad , la asignación de valores debe cumplir el requisito de que, si se observa un conjunto de eventos mutuamente excluyentes (eventos que no contienen resultados comunes, por ejemplo, los eventos {1,6}, {3} y {2,4} son todos mutuamente excluyentes), la probabilidad de que ocurra cualquiera de estos eventos viene dada por la suma de las probabilidades de los eventos. ^{[ 10 ]}

La probabilidad de que ocurra cualquiera de los eventos {1,6}, {3} o {2,4} es 5/6. Esto equivale a decir que la probabilidad del evento {1,2,3,4,6} es 5/6. Este evento abarca la posibilidad de que salga cualquier número excepto el cinco. El evento mutuamente excluyente {5} tiene una probabilidad de 1/6, y el evento {1,2,3,4,5,6} tiene una probabilidad de 1, es decir, certeza absoluta.

Al realizar cálculos utilizando los resultados de un experimento, es necesario que a todos esos eventos elementales se les asigne un número. Esto se hace utilizando una variable aleatoria . Una variable aleatoria es una función que asigna a cada evento elemental en el espacio muestral un número real . Esta función se suele denotar con una letra mayúscula. ^{[ 11 ]} En el caso de un dado, la asignación de un número a ciertos eventos elementales se puede hacer utilizando la función identidad . Esto no siempre funciona. Por ejemplo, al lanzar una moneda, los dos resultados posibles son "cara" y "cruz". En este ejemplo, la variable aleatoria X podría asignar al resultado "cara" el número "0" (${\textstyle X({\text{caras}})=0}$) y al resultado "colas" el número "1" (${\displaystyle X({\text{colas}})=1}$).

La teoría de la probabilidad discreta se ocupa de los eventos que ocurren en espacios muestrales numerables .

Ejemplos: lanzar dados , experimentos con barajas de cartas , paseo aleatorio y lanzar monedas .

Definición clásica : Inicialmente, la probabilidad de que ocurriera un evento se definía como el número de casos favorables para el evento, dividido entre el número total de resultados posibles en un espacio muestral equiprobable: véase Definición clásica de probabilidad .

Por ejemplo, si el evento es "ocurrencia de un número par al lanzar un dado", la probabilidad viene dada por${\displaystyle {\tfrac {3}{6}}={\tfrac {1}{2}}}$, ya que 3 de las 6 caras tienen números pares y cada cara tiene la misma probabilidad de aparecer.

Definición moderna : La definición moderna comienza con un conjunto finito o numerable llamado espacio muestral , que se relaciona con el conjunto de todos los resultados posibles en el sentido clásico, denotado por${\displaystyle \Omega }$. Entonces se supone que para cada elemento${\displaystyle x\in \Omega \,}$, un valor de "probabilidad" intrínseco${\displaystyle f(x)\,}$Se adjunta un elemento que satisface las siguientes propiedades:

1. ${\displaystyle f(x)\in [0,1]{\mbox{ para todo }}x\in \Omega \,;}$
2. ${\displaystyle \sum _{x\in \Omega }f(x)=1\,.}$

Es decir, la función de probabilidad f ( x ) se encuentra entre cero y uno para cada valor de x en el espacio muestral Ω , y la suma de f ( x ) sobre todos los valores x en el espacio muestral Ω es igual a 1. Un evento se define como cualquier subconjunto${\displaystyle E\,}$del espacio muestral${\displaystyle \Omega \,}$. La probabilidad del evento${\displaystyle E\,}$se define como

${\displaystyle \mathbb {P} (E)=\sum _{x\in E}f(x)\,.}$

Por lo tanto, la probabilidad de todo el espacio muestral es 1, y la probabilidad del evento nulo es 0.

La función${\displaystyle f(x)\,}$La función que asigna un valor de "probabilidad" a un punto en el espacio muestral se denomina función de masa de probabilidad, abreviada como pmf .

La teoría de la probabilidad continua se ocupa de los eventos que ocurren en un espacio muestral continuo.

Definición clásica : La definición clásica falla al enfrentarse al caso continuo. Véase la paradoja de Bertrand .

Definición moderna : Si el espacio muestral de una variable aleatoria X es el conjunto de números reales (${\displaystyle \mathbb {R} }$) o un subconjunto de los mismos, entonces una función llamada función de distribución acumulativa ( CDF )${\displaystyle F\,}$existe, definido por${\displaystyle F(x)=\mathbb {P} (X\leq x)\,}$. Es decir, F ( x ) devuelve la probabilidad de que X sea menor o igual que x .

La función de distribución acumulada (CDF) necesariamente satisface las siguientes propiedades.

1. ${\displaystyle F\,}$es una función monótonamente no decreciente y continua por la derecha ;
2. ${\displaystyle \lim _{x\rightarrow -\infty }F(x)=0\,;}$
3. ${\displaystyle \lim _{x\rightarrow \infty }F(x)=1\,.}$

La variable aleatoria${\displaystyle X}$Se dice que tiene una distribución de probabilidad continua si la CDF correspondiente${\displaystyle F}$es continuo. Si${\displaystyle F\,}$Si es absolutamente continua , entonces su derivada existe casi en todas partes e integrando la derivada obtenemos de nuevo la función de distribución acumulada (FDA). En este caso, se dice que la variable aleatoria X tiene una función de densidad de probabilidad ( FDP ) o simplemente densidad.${\displaystyle f(x)={\frac {dF(x)}{dx}}\,.}$

Para un conjunto${\displaystyle E\subseteq \mathbb {R} }$, la probabilidad de que la variable aleatoria X esté en${\displaystyle E\,}$es

${\displaystyle \mathbb {P} (X\in E)=\int _{x\in E}dF(x)\,.}$

En caso de que exista el PDF, esto se puede escribir como

${\displaystyle \mathbb {P} (X\in E)=\int _{x\in E}f(x)\,dx\,.}$

Mientras que la PDF existe solo para variables aleatorias continuas, la CDF existe para todas las variables aleatorias (incluidas las variables aleatorias discretas) que toman valores en${\displaystyle \mathbb {R} \,.}$

Estos conceptos pueden generalizarse para casos multidimensionales en${\displaystyle \mathbb {R} ^{n}}$y otros espacios muestrales continuos.

La utilidad del tratamiento de la probabilidad basado en la teoría de la medida radica en que unifica los casos discretos y continuos, y reduce la diferencia a una cuestión de qué medida se utilice. Además, abarca distribuciones que no son ni discretas ni continuas, ni tampoco combinaciones de ambas.

Un ejemplo de tales distribuciones podría ser una mezcla de distribuciones discretas y continuas; por ejemplo, una variable aleatoria que es 0 con probabilidad 1/2 y toma un valor aleatorio de una distribución normal con probabilidad 1/2. Aún se puede estudiar hasta cierto punto considerando que tiene una función de densidad de probabilidad (PDF) de${\displaystyle (\delta [x]+\varphi (x))/2}$, dónde${\displaystyle \delta [x]}$es la función delta de Dirac y${\displaystyle \varphi (x)}$es la función de densidad de probabilidad de la distribución normal.

Otras distribuciones pueden ni siquiera ser una mezcla; por ejemplo, la distribución de Cantor no tiene probabilidad positiva para ningún punto individual, ni tampoco tiene densidad. El enfoque moderno de la teoría de la probabilidad resuelve estos problemas utilizando la teoría de la medida para definir el espacio de probabilidad :

Dado cualquier conjunto${\displaystyle \Omega \,}$(también llamado espacio muestral ) y un álgebra σ${\displaystyle {\mathcal {F}}\,}$sobre ella, una medida${\displaystyle \mathbb {P} }$definido en${\displaystyle {\mathcal {F}}\,}$se denomina medida de probabilidad si${\displaystyle \mathbb {P} (\Omega )=1.\,}$

Si${\displaystyle {\mathcal {F}}\,}$es el σ-álgebra de Borel en el conjunto de los números reales, entonces existe una medida de probabilidad única en${\displaystyle {\mathcal {F}}\,}$para cualquier función de distribución acumulada (FDA), y viceversa. Se dice que la medida correspondiente a una FDA es inducida por la FDA. Esta medida coincide con la función de masa de probabilidad (FMP) para variables discretas y la función de densidad de probabilidad (FDP) para variables continuas, lo que hace que el enfoque de la teoría de la medida esté libre de falacias.

La probabilidad de un conjunto${\displaystyle E\,}$en el álgebra σ${\displaystyle {\mathcal {F}}\,}$se define como

${\displaystyle \mathbb {P} (E)=\int _{\omega \in E}\mu _{F}(d\omega )\,}$

donde la integración se realiza con respecto a la medida${\displaystyle \mu _{F}\,}$inducido por${\displaystyle F\,.}$

Además de proporcionar una mejor comprensión y unificación de las probabilidades discretas y continuas, el tratamiento basado en la teoría de la medida también nos permite trabajar con probabilidades fuera de${\displaystyle \mathbb {R} ^{n}}$, como en la teoría de los procesos estocásticos . Por ejemplo, para estudiar el movimiento browniano , la probabilidad se define en un espacio de funciones.

Cuando resulta conveniente trabajar con una medida dominante, se utiliza el teorema de Radon-Nikodym para definir una densidad como la derivada de Radon-Nikodym de la distribución de probabilidad de interés con respecto a dicha medida. Las densidades discretas se definen habitualmente como esta derivada con respecto a una medida de conteo sobre el conjunto de todos los resultados posibles. Las densidades para distribuciones absolutamente continuas se definen habitualmente como esta derivada con respecto a la medida de Lebesgue . Si un teorema puede demostrarse en este contexto general, es válido tanto para distribuciones discretas como continuas, así como para otras; no se requieren demostraciones separadas para distribuciones discretas y continuas.

La intuición común sugiere que si se lanza una moneda justa muchas veces, aproximadamente la mitad de las veces saldrá cara y la otra mitad cruz . Además, cuanto más se lance la moneda, más probable será que la proporción entre el número de caras y el de cruces se aproxime a la unidad. La teoría moderna de la probabilidad proporciona una versión formal de esta idea intuitiva, conocida como la ley de los grandes números . Esta ley es notable porque no se presupone en los fundamentos de la teoría de la probabilidad, sino que surge de estos fundamentos como un teorema. Dado que vincula las probabilidades derivadas teóricamente con su frecuencia real de ocurrencia en el mundo real, la ley de los grandes números se considera un pilar en la historia de la teoría estadística y ha tenido una amplia influencia. ^{[ 12 ]}

La ley de los grandes números (LLN) establece que el promedio de la muestra

${\displaystyle {\overline {X}}_{n}={\frac {1}{n}}{\sum _{k=1}^{n}X_{k}}}$

de una secuencia de variables aleatorias independientes e idénticamente distribuidas${\displaystyle X_{k}}$converge hacia su expectativa común (valor esperado)${\displaystyle \mu }$, siempre que la expectativa de${\displaystyle |X_{k}|}$es finito.

Es en las diferentes formas de convergencia de variables aleatorias donde se separan la ley débil y la ley fuerte de los grandes números ^{[ 13 ].}

Ley débil:${\displaystyle \displaystyle {\overline {X}}_{n}\,\xrightarrow {\mathbb {P} } \,\mu }$para${\displaystyle n\to \infty }$

Ley fuerte:${\displaystyle \displaystyle {\overline {X}}_{n}\,{\xrightarrow {\mathrm {a.\,s.} }}\,\mu }$para${\displaystyle n\to \infty .}$

De la LLN se deduce que si un evento de probabilidad p se observa repetidamente durante experimentos independientes, la razón entre la frecuencia observada de ese evento y el número total de repeticiones converge hacia p .

Por ejemplo, si${\displaystyle Y_{1},Y_{2},...\,}$son variables aleatorias de Bernoulli independientes que toman valores 1 con probabilidad p y 0 con probabilidad 1- p , entonces${\displaystyle {\textrm {E}}(Y_{i})=p}$para todo i , de modo que${\displaystyle {\bar {Y}}_{n}}$converge a p casi con seguridad .

El teorema del límite central (TLC) explica la aparición ubicua de la distribución normal en la naturaleza, y este teorema, según David Williams, "es uno de los grandes resultados de las matemáticas". ^{[ 14 ]}

El teorema establece que el promedio de muchas variables aleatorias independientes e idénticamente distribuidas con varianza finita tiende a una distribución normal, independientemente de la distribución que sigan las variables aleatorias originales. Formalmente, sea${\displaystyle X_{1},X_{2},\dots \,}$sean variables aleatorias independientes con media${\displaystyle \mu }$y varianza${\displaystyle \sigma ^{2}>0.\,}$Luego, la secuencia de variables aleatorias

${\displaystyle Z_{n}={\frac {\sum _{i=1}^{n}(X_{i}-\mu )}{\sigma {\sqrt {n}}}}\,}$

converge en distribución a una variable aleatoria normal estándar .

Para ciertas clases de variables aleatorias, el teorema clásico del límite central funciona con bastante rapidez, como se ilustra en el teorema de Berry-Esseen . Por ejemplo, las distribuciones con primer, segundo y tercer momento finitos de la familia exponencial ; por otro lado, para algunas variables aleatorias de cola pesada y cola gruesa , funciona muy lentamente o puede que no funcione en absoluto: en tales casos se puede utilizar el Teorema Generalizado del Límite Central (TGLC).

• Catálogo de artículos sobre teoría de la probabilidad
• Lista de temas de probabilidad
• Lista de publicaciones en estadística
• Lista de temas estadísticos