Teorema de De Finetti

En teoría de la probabilidad , el teorema de De Finetti establece que las observaciones intercambiables son condicionalmente independientes con respecto a alguna variable latente . A esta variable se le puede asignar entonces una distribución de probabilidad epistémica . Recibe su nombre en honor a Bruno de Finetti , y uno de sus usos consiste en proporcionar un enfoque pragmático a la conocida máxima de De Finetti: «La probabilidad no existe». ^{[ 1 ]}

Para el caso especial de una secuencia intercambiable de variables aleatorias de Bernoulli , se afirma que dicha secuencia es una " mezcla " de secuencias de variables aleatorias de Bernoulli independientes e idénticamente distribuidas (iid).

Una secuencia de variables aleatorias se denomina intercambiable si su distribución conjunta permanece inalterada ante cualquier permutación de un conjunto finito de índices. En general, si bien las variables de la secuencia intercambiable no son independientes entre sí , sino solo intercambiables, existe una familia subyacente de variables aleatorias i.i.d. Es decir, existen cantidades subyacentes, generalmente inobservables, que son i.i.d.; las secuencias intercambiables son mezclas de secuencias i.i.d.

Un estadístico bayesiano suele buscar la distribución de probabilidad condicional de una cantidad aleatoria dados los datos. El concepto de intercambiabilidad fue introducido por de Finetti. El teorema de De Finetti explica una relación matemática entre independencia e intercambiabilidad. ^{[ 2 ]}

Una secuencia infinita

${\displaystyle X_{1},X_{2},X_{3},\dots }$

Se dice que un conjunto de variables aleatorias es intercambiable si para cualquier número natural n y cualquier secuencia finita i ₁ , ..., i _n y cualquier permutación de la secuencia π:{ i ₁ , ..., i _n } → { i ₁ , ..., i _n },

${\displaystyle (X_{i_{1}},\dots ,X_{i_{n}}){\text{ y }}(X_{\pi (i_{1})},\dots ,X_{\pi (i_{n})})}$

ambos tienen la misma distribución de probabilidad conjunta .

Si una secuencia idénticamente distribuida es independiente , entonces la secuencia es intercambiable; sin embargo, lo contrario es falso: existen variables aleatorias intercambiables que no son estadísticamente independientes, por ejemplo, el modelo de la urna de Pólya .

Una variable aleatoria X tiene una distribución de Bernoulli si${\displaystyle \Pr(X=1)=p}$y${\displaystyle \Pr(X=0)=1-p}$para algunos${\displaystyle p\in (0,1)}$.

El teorema de De Finetti establece que la distribución de probabilidad de cualquier secuencia infinita e intercambiable de variables aleatorias de Bernoulli es una " mezcla " de las distribuciones de probabilidad de secuencias independientes e idénticamente distribuidas de variables aleatorias de Bernoulli. "Mezcla", en este contexto, significa un promedio ponderado, pero esto no implica necesariamente un promedio ponderado finito o infinitamente numerable (es decir, discreto): puede ser una integral sobre una medida en lugar de una suma.

Más precisamente, supongamos que${\displaystyle X_{1},X_{2},X_{3},\ldots }$es una secuencia infinita intercambiable de variables aleatorias con distribución de Bernoulli. Entonces hay alguna medida de probabilidad.${\displaystyle m}$en el intervalo${\displaystyle [0,1]}$y alguna variable aleatoria${\displaystyle Y}$de tal manera que

• La medida de probabilidad de${\displaystyle Y}$es${\displaystyle m}$, y
• La distribución de probabilidad condicional de toda la secuencia${\displaystyle X_{1},X_{2},X_{3},\ldots }$dado el valor de${\displaystyle Y}$se describe diciendo que
  • ${\displaystyle X_{1},X_{2},X_{3},\ldots }$son condicionalmente independientes dado${\displaystyle Y}$, y
  • Para cualquier${\displaystyle i\in \{1,2,3,\ldots \}}$, la probabilidad condicional de que${\displaystyle X_{1}=1}$, dado el valor de${\displaystyle Y}$, es${\displaystyle Y}$.

Como ejemplo concreto, construimos una secuencia

${\displaystyle X_{1},X_{2},X_{3},\dots }$

de variables aleatorias, "mezclando" dos secuencias i.i.d. de la siguiente manera.

Suponemos que p = 2/3 con probabilidad 1/2 y p = 9/10 con probabilidad 1/2. Dado el evento p = 2/3, la distribución condicional de la secuencia es que los X _i son independientes e idénticamente distribuidos y X ₁  =  1 con probabilidad 2/3 y X ₁  =  0 con probabilidad 1 − 2/3. Dado el evento p = 9/10, la distribución condicional de la secuencia es que los X _i son independientes e idénticamente distribuidos y X ₁ = 1 con probabilidad 9/10 y X ₁ = 0 con probabilidad 1 − 9/10.        

Esto se puede interpretar de la siguiente manera: Crea dos monedas trucadas, una que muestre "cara" con una probabilidad de 2/3 y otra que muestre "cara" con una probabilidad de 9/10. Lanza una moneda justa una vez para decidir qué moneda trucada usar para todos los lanzamientos que se registren. Aquí, "cara" en el lanzamiento i significa X _i = 1.

La independencia que se afirma aquí es una independencia condicional , es decir, las variables aleatorias de Bernoulli en la secuencia son condicionalmente independientes dado el evento de que p  =  2/3, y son condicionalmente independientes dado el evento de que p  =  9/10. Pero no son incondicionalmente independientes; están correlacionadas positivamente .

En vista de la ley fuerte de los grandes números , podemos decir que

${\displaystyle \lim _{n\rightarrow \infty }{\frac {X_{1}+\cdots +X_{n}}{n}}={\begin{cases}2/3&{\text{con probabilidad }}1/2,\\9/10&{\text{con probabilidad }}1/2.\end{cases}}}$

En lugar de concentrar la probabilidad 1/2 en cada uno de los dos puntos entre 0 y 1, la "distribución mixta" puede ser cualquier distribución de probabilidad que se encuentre en el intervalo de 0 a 1; cuál sea depende de la distribución conjunta de la secuencia infinita de variables aleatorias de Bernoulli.

La definición de intercambiabilidad y el enunciado del teorema también tienen sentido para secuencias de longitud finita.

${\displaystyle X_{1},\dots ,X_{n},}$

Pero el teorema no es generalmente cierto en ese caso. Es cierto si la secuencia puede extenderse a una secuencia intercambiable de longitud infinita. El ejemplo más simple de una secuencia intercambiable de variables aleatorias de Bernoulli que no puede extenderse de esta manera es aquella en la que X₁ = 1 ₋ X₂ y X₁ _{es 0 o 1} , cada uno con probabilidad 1/2. Esta secuencia es intercambiable, pero no puede extenderse a una secuencia intercambiable de longitud 3, y mucho menos a una de longitud infinita .  

El teorema de De Finetti puede expresarse como un límite categórico en la categoría de núcleos de Markov . ^{[ 3 ] [ 4 ] [ 5 ]}

Dejar${\displaystyle (X,{\mathcal {A}})}$Sea un espacio de Borel estándar , y consideremos el espacio de sucesiones en${\displaystyle X}$, el producto contable${\displaystyle X^{\mathbb {N} }}$(equipado con el álgebra sigma de producto ).

Dada una permutación finita${\displaystyle \sigma }$, denotemos nuevamente por${\displaystyle \sigma }$la acción de permutación en${\displaystyle X^{\mathbb {N} }}$, así como el núcleo de Markov${\displaystyle X^{\mathbb {N} }\to X^{\mathbb {N} }}$inducido por ello. En términos de teoría de categorías , tenemos un diagrama con un solo objeto,${\displaystyle X^{\mathbb {N} }}$y un número contable de flechas, una por cada permutación.

Recordemos ahora que una medida de probabilidad${\displaystyle p}$es equivalente a un núcleo de Markov del espacio medible de un punto. Una medida de probabilidad${\displaystyle p}$en${\displaystyle X^{\mathbb {N} }}$es intercambiable si y solo si, como núcleos de Markov,${\displaystyle \sigma \circ p=p}$para cada permutación${\displaystyle \sigma }$. De manera más general, dado cualquier espacio estándar de Borel${\displaystyle Y}$Se puede llamar núcleo de Markov${\displaystyle k:Y\to X}$intercambiable si${\displaystyle \sigma \circ k=k}$por cada${\displaystyle \sigma }$, es decir, si el siguiente diagrama conmuta,

dando un cono .

El teorema de De Finetti ahora puede enunciarse como el hecho de que el espacio${\displaystyle PX}$de medidas de probabilidad sobre${\displaystyle X}$( La mónada de Giry ) forma un cono universal (o límite ). ^{[ 4 ]} Más detalladamente, considérese el núcleo de Markov.${\displaystyle \mathrm {iid} _{\mathbb {N} }:PX\to X^{\mathbb {N} }}$construido de la siguiente manera, utilizando el teorema de extensión de Kolmogorov :

${\displaystyle \mathrm {iid} _{\mathbb {N} }(A_{1}\times \dots \times A_{n}\times X\times \dots |p)=p(A_{1})\cdots p(A_{n})}$

para todos los subconjuntos medibles${\displaystyle A_{1},\dots ,A_{n}}$de${\displaystyle X}$Nótese que podemos interpretar este núcleo como una medida de probabilidad.${\displaystyle p\in PX}$como entrada y devolviendo una secuencia iid en${\displaystyle X^{\mathbb {N} }}$distribuido según${\displaystyle p}$. Dado que las secuencias iid son intercambiables,${\displaystyle \mathrm {iid} _{\mathbb {N} }:PX\to X^{\mathbb {N} }}$es un núcleo intercambiable en el sentido definido anteriormente. El núcleo${\displaystyle \mathrm {iid} _{\mathbb {N} }:PX\to X^{\mathbb {N} }}$no solo forma un cono, sino un cono límite : dado cualquier núcleo intercambiable${\displaystyle k:Y\to X}$Existe un núcleo único${\displaystyle {\tilde {k}}:Y\to PX}$de tal manera que${\displaystyle k=\mathrm {iid} _ {\mathbb {N} }\circ {\tilde {k}}}$, es decir, haciendo que el siguiente diagrama sea conmutativo:

En particular, para cualquier medida de probabilidad intercambiable${\displaystyle p}$en${\displaystyle X^{\mathbb {N} }}$Existe una medida de probabilidad única.${\displaystyle {\tilde {p}}}$en${\displaystyle PX}$(es decir, una medida de probabilidad sobre medidas de probabilidad) tal que${\displaystyle p=\mathrm {iid} _ {\mathbb {N} }\circ {\tilde {p}}}$, es decir, de tal manera que para todos los subconjuntos medibles${\displaystyle A_{1},\dots ,A_{n}}$de${\displaystyle X}$,

${\displaystyle p(A_{1}\times \dots \times A_{n}\times X\times \dots )=\int _{PX}\mathrm {iid} _{\mathbb {N} }(A_{1}\times \dots \times A_{n}\times X\times \dots |q)\,{\tilde {p}}(dq)=\int _{PX}q(A_{1})\cdots q(A_{n})\,{\tilde {p}}(dq).}$

En otras palabras,${\displaystyle p}$es una mezcla de medidas iid en${\displaystyle X}$(los formados por${\displaystyle q}$en la integral anterior).

Diaconis y Freedman, así como Kerns y Szekely, demostraron versiones del  teorema de De Finetti para secuencias intercambiables finitas ^{[ 6 ] [ 7 ]} y para secuencias intercambiables de Markov  ^{[ 8 ]} . Dos nociones de intercambiabilidad parcial de arreglos, conocidas como intercambiabilidad separada y conjunta, dieron lugar a extensiones del  teorema de De Finetti para arreglos por parte de Aldous y Hoover ^{[ 9 ] .}

El  teorema de De Finetti computable muestra que si un programa informático proporciona una secuencia intercambiable de variables aleatorias reales, entonces se puede recuperar automáticamente un programa que muestrea a partir de la medida de mezcla. ^{[ 10 ]}

En el contexto de la probabilidad libre , existe una extensión no conmutativa del teorema de De Finetti que caracteriza secuencias no conmutativas invariantes bajo permutaciones cuánticas. ^{[ 11 ]}

Se ha comprobado que las extensiones del teorema de De Finetti a estados cuánticos son útiles en información cuántica , ^{[ 12 ] [ 13 ] [ 14 ]} en temas como la distribución de claves cuánticas ^{[ 15 ]} y la detección de entrelazamiento . ^{[ 16 ]} Una extensión multivariada del teorema de De Finetti puede utilizarse para derivar la estadística de Bose-Einstein a partir de la estadística de partículas clásicas (es decir, independientes). ^{[ 17 ]}

• Teoría de Choquet
• Ley cero-uno de Hewitt-Savage
• Teorema de Krein-Milman
• Álgebra sigma invariante

• Accardi, L. (2001) [1994], "Teorema de De Finetti" , Enciclopedia de Matemáticas , EMS Press
• ¿Qué tiene de fascinante el teorema de representación de De Finetti?
• El teorema de De Finetti en el Laboratorio n