Modelo de urna de Pólya

En teoría de la probabilidad y estadística , un modelo de urna de Pólya (también conocido como esquema de urna de Pólya o simplemente como urna de Pólya ), que recibe su nombre de George Pólya , es una familia de modelos de urna que se pueden utilizar para interpretar muchos modelos estadísticos de uso común .

El modelo representa los objetos de interés (como átomos, personas, automóviles, etc.) como bolas de colores en una urna . En el modelo básico de la urna de Pólya, el experimentador coloca x bolas blancas e y bolas negras en una urna. En cada paso, se extrae una bola al azar de la urna y se observa su color; luego se devuelve a la urna y se añade otra bola del mismo color.

Si por azar se extraen más bolas negras que blancas en las primeras extracciones, aumentará la probabilidad de que se extraigan más bolas negras posteriormente, y lo mismo ocurrirá con las blancas. Por lo tanto, la urna tiene una propiedad de autorrefuerzo (" los ricos se hacen más ricos "). Es lo opuesto al muestreo sin reemplazo , donde cada vez que se observa un valor particular, es menos probable que se vuelva a observar, mientras que en un modelo de urna de Pólya, un valor observado tiene más probabilidades de volver a observarse. En un modelo de urna de Pólya, los actos sucesivos de medición a lo largo del tiempo tienen cada vez menos efecto en las mediciones futuras, mientras que en el muestreo sin reemplazo, ocurre lo contrario: después de un cierto número de mediciones de un valor particular, ese valor nunca volverá a verse.

También se diferencia del muestreo con reemplazo, donde la bola se devuelve a la urna pero sin añadir bolas nuevas. En este caso, no existe ni autorrefuerzo ni contra-autorrefuerzo.

Las cuestiones de interés son la evolución de la población de urnas y la secuencia de colores de las bolas extraídas.

Después${\displaystyle n}$sorteos, la probabilidad de que la urna contenga${\displaystyle (x+n_{1})}$bolas blancas y${\displaystyle (y+n_{2})}$bolas negras (para${\displaystyle 0\leq n_{1},n_{2}\leq n\,\,,n_{1}+n_{2}=n}$) es $${\displaystyle {\binom {n}{n_{1}}}{\frac {x^{{\bar {n}}_{1}}y^{{\bar {n}}_{2}}}{(x+y)^{\bar {n}}}}}$$ donde la barra superior denota el factorial ascendente . Esto se puede demostrar dibujando el triángulo de Pascal de todas las configuraciones posibles.

En particular, comenzando con una bola blanca y una bola negra (es decir,${\displaystyle x=y=1}$) la probabilidad de tener cualquier número${\displaystyle 1\leq n_{1}+1\leq n+1}$de bolas blancas en la urna después${\displaystyle n}$los sorteos son los mismos, ${\displaystyle {\frac {1}{n+1}}}$.

En términos más generales, si la urna comienza con${\displaystyle a_{i}}$bolas de color${\displaystyle i}$, con${\displaystyle i=1,2,...,k}$, luego después${\displaystyle n}$sorteos, la probabilidad de que la urna contenga${\displaystyle (a_{i}+n_{i})}$bolas de color${\displaystyle i}$es$${\displaystyle {\binom {n}{n_{1},\cdots ,n_{k}}}{\frac {\prod _{i=1}^{k}a_{i}^{{\bar {n}}_{i}}}{(\sum _{i}a_{i})^{\bar {n}}}}}$$donde utilizamos el coeficiente multinomial .

Condicionado a que la urna termine con${\displaystyle (a_{i}+n_{i})}$bolas de color${\displaystyle i}$después${\displaystyle n}$sorteos, hay${\displaystyle {\binom {n}{n_{1},\cdots ,n_{k}}}}$diferentes trayectorias que podrían haber conducido a ese estado final. La probabilidad condicional de cada trayectoria es la misma:${\displaystyle {\binom {n}{n_{1},\cdots ,n_{k}}}^{-1}}$.

• Distribución beta-binomial : La distribución del número de extracciones exitosas (ensayos), por ejemplo, el número de extracciones de bola blanca, dado${\displaystyle n}$Se extrae de una urna de Pólya.
• Distribución binomial negativa beta : La distribución del número de bolas blancas observadas hasta que se observa un número fijo de bolas negras.
• Distribución multinomial de Dirichlet (también conocida como distribución de Pólya multivariada ): La distribución sobre el número de bolas de cada color, dado${\displaystyle n}$se extrae de una urna de Pólya donde hay${\displaystyle k}$diferentes colores en lugar de solo dos.
• Distribución multinomial negativa de Dirichlet : La distribución sobre el número de bolas de cada color hasta que se observa un número fijo de bolas de color que se detienen.
• Martingalas , la distribución beta-binomial y la distribución beta : Sean w y b el número de bolas blancas y negras inicialmente en la urna, y${\displaystyle w+n_{w}}$el número de bolas blancas que hay actualmente en la urna después de n extracciones. Luego, la secuencia de valores${\displaystyle {\frac {w+n_{w}}{w+b+n}}}$para${\displaystyle n=1,2,3,\dots }$es una versión normalizada de la distribución beta-binomial . Es una martingala y converge a la distribución beta cuando n  →  ∞.
• Proceso de Dirichlet , proceso del restaurante chino , urna de Hoppe : Imaginemos un esquema de urna de Pólya modificado como sigue. Comenzamos con una urna con${\displaystyle \alpha }$bolas negras. Al extraer una bola de la urna, si extraemos una bola negra, la devolvemos junto con una nueva bola de un nuevo color distinto del negro, generada aleatoriamente a partir de una distribución uniforme sobre un conjunto infinito de colores disponibles, y consideramos el nuevo color generado como el "valor" de la extracción. De lo contrario, devolvemos la bola junto con otra bola del mismo color, como en el esquema estándar de la urna de Pólya. Los colores de una secuencia infinita de extracciones de este esquema modificado de la urna de Pólya siguen un proceso de restaurante chino . Si, en lugar de generar un nuevo color, extraemos un valor aleatorio de una distribución base dada y usamos ese valor para etiquetar la bola, las etiquetas de una secuencia infinita de extracciones siguen un proceso de Dirichlet . ^{[ 1 ]}
• Modelo de Moran : Un modelo de urna utilizado para modelar la deriva genética en genética de poblaciones teórica . Es muy similar al modelo de urna de Pólya, excepto que, además de añadir una nueva bola del mismo color, se extrae una bola al azar de la urna. El número de bolas en la urna permanece constante. El muestreo continuo conduce finalmente a una urna con todas las bolas de un mismo color, cuya probabilidad es igual a la proporción de ese color en la urna original. Existen variantes del modelo de Moran que exigen que la bola extraída de la urna sea diferente de las extraídas originalmente en ese paso, y variantes que realizan la extracción inmediatamente después de colocar la nueva bola en la urna, de modo que esta sea una de las bolas disponibles para ser extraídas. Esto produce una pequeña diferencia en el tiempo necesario para alcanzar el estado en el que todas las bolas son del mismo color. El proceso de Moran modela la deriva genética en una población con generaciones superpuestas.

La urna de Polya es un ejemplo por excelencia de un proceso de intercambio .

Supongamos que tenemos una urna que contiene${\displaystyle \gamma }$bolas blancas y${\displaystyle \alpha }$bolas negras. Procedemos a extraer bolas al azar de la urna. En el${\displaystyle i}$-ésima extracción, definimos una variable aleatoria ,${\displaystyle X_{i}}$, por${\displaystyle X_{i}=1}$si la bola es negra y${\displaystyle X_{i}=0}$de lo contrario. Luego devolvemos la bola a la urna, con una bola adicional del mismo color. Para un dado${\displaystyle i}$, si tenemos eso${\displaystyle X_{j}=1}$para muchos${\displaystyle j<i}$, entonces es más probable que${\displaystyle X_{i}=1}$, porque se han añadido más bolas negras a la urna. Por lo tanto, estas variables no son independientes entre sí.

La secuencia${\displaystyle X_{1},X_{2},X_{3},\dots }$Sin embargo, exhibe la propiedad más débil de intercambiabilidad. ^{[ 2 ]} Recordemos que una secuencia (finita o infinita) de variables aleatorias se denomina intercambiable si su distribución conjunta es invariante bajo permutaciones de índices.

Para demostrar la intercambiabilidad de la secuencia${\displaystyle X_{1},X_{2},X_{3},\dots }$, supongamos que${\displaystyle n}$Se sacan bolas de la urna y de entre estas${\displaystyle n}$bolas,${\displaystyle k}$Las bolas son negras y${\displaystyle nk}$son blancas. En el primer sorteo, el número de bolas en la urna es${\displaystyle \gamma +\alpha }$; en el segundo sorteo es ${\displaystyle \gamma +\alpha +1}$y así sucesivamente. En el${\displaystyle i}$-º sorteo, el número de bolas será${\displaystyle \gamma +\alpha +i-1}$. La probabilidad de que saquemos todos${\displaystyle k}$Primero las bolas negras, y luego todas${\displaystyle n-k}$Las bolas blancas se dan por

${\displaystyle \mathbb {P} \left(X_{1}=1,\dots ,X_{k}=1,X_{k+1}=0,\dots ,X_{n}=0\right)}$${\displaystyle ={\frac {\alpha }{\gamma +\alpha }}\times {\frac {\alpha +1}{\gamma +\alpha +1}}\times \cdots \times {\frac {\alpha +k-1}{\gamma +\alpha +k-1}}\times {\frac {\gamma }{\gamma +\alpha +k}}\times {\frac {\gamma +1}{\gamma +\alpha +k+1}}\times \cdots \times {\frac {\gamma +n-k-1}{\gamma +\alpha +n-1}}}$

Ahora debemos demostrar que si se permuta el orden de las bolas blancas y negras, no hay cambio en la probabilidad. Como en la expresión anterior, incluso después de permutar las extracciones, la${\displaystyle i}$El denominador siempre será${\displaystyle \gamma +\alpha +i-1}$, ya que este es el número de bolas en la urna en esa ronda.

Si vemos${\displaystyle j}$-la bola negra en redondo${\displaystyle t}$, la probabilidad${\displaystyle X_{t}=1}$será igual a${\displaystyle {\frac {\alpha +j-1}{\gamma +\alpha +t-1}}}$, es decir, el numerador será igual a${\displaystyle \alpha +j-1}$. Con el mismo argumento, podemos calcular la probabilidad de que salgan bolas blancas. Por lo tanto, para cualquier secuencia${\displaystyle x_{1},x_{2},x_{3},\dots }$en el cual${\displaystyle 1}$ocurre${\displaystyle k}$tiempos y${\displaystyle 0}$ocurre${\displaystyle n-k}$veces (es decir, una secuencia con${\displaystyle k}$bolas negras y${\displaystyle n-k}$bolas blancas extraídas en algún orden) la probabilidad final será igual a la siguiente expresión, donde aprovechamos la conmutatividad de la multiplicación en el numerador:$${\displaystyle {\begin{aligned}\mathbb {P} (X_{1}=x_{1},X_{2}=x_{2},...,X_{n}=x_{n})&={\frac {\prod _{i=1}^{k}\left(\alpha +i-1\right)\times \prod _{i=1}^{n-k}\left(\gamma +i-1\right)}{\prod _{i=1}^{n}\left(\gamma +\alpha +i-1\right)}}\\&={\frac {\left(\alpha +k-1\right)!\times \left(\gamma +n-k-1\right)!\times \left(\alpha +\gamma -1\right)!}{\left(\alpha -1\right)!\times \left(\gamma -1\right)!\left(\alpha +\gamma +n-1\right)!}}\end{aligned}}}$$Esta probabilidad no está relacionada con el orden en que se ven las bolas blancas y negras y solo depende del número total de bolas blancas y del número total de bolas negras. ^{[ 2 ]}

Según el teorema de De Finetti , debe existir una distribución a priori única tal que la distribución conjunta de observar la secuencia sea una mezcla bayesiana de las probabilidades de Bernoulli. Se puede demostrar que esta distribución a priori es una distribución beta con parámetros${\displaystyle \beta \left(\cdot$ ;\,\alpha ,\,\gamma \right)} . En el teorema de De Finetti, si reemplazamos${\displaystyle \pi (\cdot )}$con${\displaystyle \beta \left(\cdot$ ;\,\alpha ,\,\gamma \right)} , entonces obtenemos la ecuación anterior: ^{[ 2 ]}$${\displaystyle {\begin{aligned}p(X_{1}=x_{1},X_{2}=x_{2},...,X_{n}=x_{n})&=\int \theta ^{\left({\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n-{\sum _{i=1}^{n}x_{i}}\right)}\,\beta \left(\theta$$ ;\alpha ,\,\gamma \right)d\left(\theta \right)\\&=\int \theta ^{\left({\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n-{\sum _{i=1}^{n}x_{i}}\right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}\theta ^{\alpha -1}(1-\theta )^{\gamma -1}d\left(\theta \right)\\&=\int \theta ^{\left({\alpha -1+\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n+\gamma -1-{\sum _{i=1}^{n}x_{i}}\right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}d\left(\theta \right)\\&=\int \theta ^{\left({\alpha +k-1}\right)}\times \left(1-\theta \right)^{\left(nk-1+\gamma \right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}d\left(\theta \right)\\&={\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}\int \theta ^{\left({\alpha +k-1}\right)}\times \left(1-\theta \right)^{\left(n-k+\gamma -1\right)}\,d\left(\theta \right)\\&={\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}{\dfrac {\Gamma (\gamma +nk)\Gamma (\alpha +k)}{\Gamma (\alpha +\gamma +n)}}\\&={\dfrac {\left(\alpha +k-1\right)!\times \left(\gamma +nk-1\right)!\times \left(\alpha +\gamma -1\right)!}{\left(\alpha -1\right)!\times \left(\gamma -1\right)!\left(\alpha +\gamma +n-1\right)!}}\end{aligned}}} En esta ecuación${\displaystyle k=\sum _{i=1}^{n}x_{i}}$.

• Problema de urna
• Proceso Pitman-Yor
• Proceso de Moran
• Proceso de Yule
• Teorema de De Finetti
• proceso del restaurante chino

• Eggenberger, F.; Polia, G. (1923). "Über die Statistik verketteter Vorgänge". Z. Angew. Matemáticas. Mec . 3 (4): 2379– 289. Bibcode : 1923ZaMM....3..279E . doi : 10.1002/zamm.19230030407 .
• Alajaji, F.; Fuja, T. (1994). "Un canal de comunicación modelado en el contagio". IEEE Transactions on Information Theory . 40 (6): 2035– 2041. Bibcode : 1994ITIT...40.2035A . doi : 10.1109/18.340476 . hdl : 1903/5422 .
• Banerjee, A.; Burlina, P.; Alajaji, F. (1999). "Segmentación y etiquetado de imágenes mediante el modelo de urna de Pólya". IEEE Transactions on Image Processing . 8 (9): 1243– 1253. Bibcode : 1999ITIP....8.1243B . doi : 10.1109/83.784436 . PMID 18267541 . 

• NL Johnson y S. Kotz, (1977) "Modelos de urnas y su aplicación". John Wiley.
• Hosam Mahmoud, (2008) "Modelos de urnas de Pólya". Chapman and Hall/CRC. ISBN 978-1420059830.