Probabilidad bayesiana

La probabilidad bayesiana ( / ˈ b eɪ z i ə n / BAY -zee-ən o / ˈ b eɪ ʒ ən / BAY -zhən ) ^{[ 1 ]} es una interpretación del concepto de probabilidad , en la que, en lugar de la frecuencia o propensión de algún fenómeno, la probabilidad se interpreta como una expectativa razonable ^{[ 2 ]} que representa un estado de conocimiento ^{[ 3 ]} o como una cuantificación de una creencia personal. ^{[ 4 ]}

La interpretación bayesiana de la probabilidad puede considerarse una extensión de la lógica proposicional que permite razonar con hipótesis ; ^{[ 5 ] [ 6 ]} es decir, con proposiciones cuya veracidad o falsedad se desconoce. En la perspectiva bayesiana, se asigna una probabilidad a una hipótesis, mientras que en la inferencia frecuentista , una hipótesis se suele contrastar sin asignarle una probabilidad.

La probabilidad bayesiana pertenece a la categoría de probabilidades basadas en la evidencia; para evaluar la probabilidad de una hipótesis, el probabilista bayesiano especifica una probabilidad a priori . Esta, a su vez, se actualiza a una probabilidad a posteriori a la luz de nuevos datos relevantes (evidencia). ^{[ 7 ]} La interpretación bayesiana proporciona un conjunto estándar de procedimientos y fórmulas para realizar este cálculo.

El término bayesiano deriva del matemático y teólogo inglés del siglo XVIII Thomas Bayes , quien proporcionó el primer tratamiento matemático de un problema no trivial de análisis de datos estadísticos utilizando lo que ahora se conoce como inferencia bayesiana . ^{[ 8 ] : 131} El matemático Pierre-Simon Laplace fue pionero y popularizó lo que ahora se denomina probabilidad bayesiana. ^{[ 8 ] : 97-98}

Los métodos bayesianos se caracterizan por los siguientes conceptos y procedimientos:

• El uso de variables aleatorias , o cantidades desconocidas más generalmente, ^{[ 9 ]} para modelar todas las fuentes de incertidumbre en los modelos estadísticos, incluida la incertidumbre resultante de la falta de información (véase también incertidumbre aleatoria y epistémica ).
• La necesidad de determinar la distribución de probabilidad previa teniendo en cuenta la información disponible (previa).
• El uso secuencial del teorema de Bayes : a medida que se dispone de más datos, se calcula la distribución posterior utilizando el teorema de Bayes; posteriormente, la distribución posterior se convierte en la siguiente distribución previa.
• Mientras que para el frecuentista una hipótesis es una proposición (que debe ser verdadera o falsa ), de modo que la probabilidad frecuentista de una hipótesis es 0 o 1, en la estadística bayesiana, la probabilidad que se puede asignar a una hipótesis también puede estar en un rango de 0 a 1 si el valor de verdad es incierto.

En términos generales, existen dos interpretaciones de la probabilidad bayesiana. Para los objetivistas, que interpretan la probabilidad como una extensión de la lógica , la probabilidad cuantifica la expectativa razonable de que todo aquel (incluso un "robot") que comparte el mismo conocimiento debería compartirlo de acuerdo con las reglas de la estadística bayesiana, lo cual puede justificarse mediante el teorema de Cox . ^{[ 3 ] [ 10 ]} Para los subjetivistas, la probabilidad corresponde a una creencia personal. ^{[ 4 ]} La racionalidad y la coherencia permiten una variación sustancial dentro de las restricciones que imponen; dichas restricciones se justifican mediante el argumento del libro holandés o mediante la teoría de la decisión y el teorema de de Finetti . ^{[ 4 ]} Las variantes objetiva y subjetiva de la probabilidad bayesiana difieren principalmente en su interpretación y construcción de la probabilidad a priori.

El término bayesiano deriva de Thomas Bayes (1702-1761), quien demostró un caso especial de lo que ahora se conoce como el teorema de Bayes en un artículo titulado " Un ensayo para resolver un problema en la doctrina de las probabilidades ". ^{[ 11 ]} En ese caso especial, las distribuciones previa y posterior eran distribuciones beta y los datos provenían de ensayos de Bernoulli . Fue Pierre-Simon Laplace (1749-1827) quien introdujo una versión general del teorema y la utilizó para abordar problemas en mecánica celeste , estadística médica, fiabilidad y jurisprudencia . ^{[ 12 ]} La inferencia bayesiana temprana, que utilizaba distribuciones previas uniformes siguiendo el principio de razón insuficiente de Laplace , se denominó " probabilidad inversa " (porque infiere hacia atrás desde las observaciones a los parámetros, o desde los efectos a las causas). ^{[ 13 ]} Después de la década de 1920, la "probabilidad inversa" fue suplantada en gran medida por un conjunto de métodos que llegaron a denominarse estadística frecuentista . ^{[ 13 ]}

En el siglo XX, las ideas de Laplace se desarrollaron en dos direcciones, dando lugar a corrientes objetivas y subjetivas en la práctica bayesiana. La Teoría de la Probabilidad de Harold Jeffreys (publicada por primera vez en 1939) desempeñó un papel importante en el resurgimiento de la visión bayesiana de la probabilidad, seguida por los trabajos de Abraham Wald (1950) y Leonard J. Savage (1954). El adjetivo bayesiano data de la década de 1950; el bayesianismo derivado , neobayesianismo, es de la década de 1960. ^{[ 14 ] [ 15 ] [ 16 ]} En la corriente objetivista, el análisis estadístico depende únicamente del modelo asumido y de los datos analizados. ^{[ 17 ]} No es necesario que intervengan decisiones subjetivas. Por el contrario, los estadísticos "subjetivistas" niegan la posibilidad de un análisis completamente objetivo para el caso general.

En la década de 1980, se produjo un crecimiento espectacular en la investigación y las aplicaciones de los métodos bayesianos, atribuido principalmente al descubrimiento de los métodos de Monte Carlo de cadena de Markov y la consiguiente eliminación de muchos de los problemas computacionales, así como a un creciente interés en aplicaciones complejas y no estándar. ^{[ 18 ]} Si bien la estadística frecuentista sigue siendo fuerte (como lo demuestra el hecho de que gran parte de la enseñanza de pregrado se basa en ella ^{[ 19 ]} ), los métodos bayesianos son ampliamente aceptados y utilizados, por ejemplo, en el campo del aprendizaje automático . ^{[ 20 ]}

El uso de probabilidades bayesianas como base de la inferencia bayesiana ha sido respaldado por varios argumentos, como los axiomas de Cox , el argumento del libro holandés , argumentos basados ​​en la teoría de la decisión y el teorema de De Finetti .

Tras el trabajo de Ramsey y von Neumann sobre la teoría de la utilidad esperada , los teóricos de la decisión han explicado el comportamiento racional mediante una distribución de probabilidad para el agente . Johann Pfanzagl completó la Teoría de los Juegos y del Comportamiento Económico al proporcionar una axiomatización de la probabilidad y la utilidad subjetivas , una tarea que von Neumann y Oskar Morgenstern dejaron inconclusa : su teoría original suponía, por conveniencia, que todos los agentes tenían la misma distribución de probabilidad. ^{[ 31 ]} La axiomatización de Pfanzagl fue respaldada por Oskar Morgenstern: «Von Neumann y yo nos anticipamos... [a la cuestión de si las probabilidades] podrían, quizás más típicamente, ser subjetivas y afirmamos específicamente que, en este último caso, se podrían encontrar axiomas a partir de los cuales derivar la utilidad numérica deseada junto con un valor para las probabilidades (cf. pág. 19 de La Teoría de los Juegos y del Comportamiento Económico). Nosotros no lo llevamos a cabo; Pfanzagl lo demostró... con todo el rigor necesario». ^{[ 32 ]}

Ramsey y Savage observaron que la distribución de probabilidad del agente individual podía estudiarse objetivamente en experimentos. Los procedimientos para probar hipótesis sobre probabilidades (utilizando muestras finitas) se deben a Ramsey (1931) y de Finetti (1931, 1937, 1964, 1970). Tanto Bruno de Finetti ^{[ 33 ] [ 34 ]} como Frank P. Ramsey ^{[ 34 ] [ 35 ]} reconocen su deuda con la filosofía pragmática , en particular (para Ramsey) con Charles S. Peirce . ^{[ 34 ] [ 35 ]}

La «prueba de Ramsey» para evaluar distribuciones de probabilidad es teóricamente viable y ha mantenido ocupados a los psicólogos experimentales durante medio siglo. ^{[ 36 ]} Este trabajo demuestra que las proposiciones de probabilidad bayesiana pueden ser falsadas y, por lo tanto, cumplen con un criterio empírico de Charles S. Peirce , cuyo trabajo inspiró a Ramsey. (Este criterio de falsabilidad fue popularizado por Karl Popper . ^{[ 37 ] [ 38 ]} )

Los trabajos modernos sobre la evaluación experimental de probabilidades personales utilizan los procedimientos de aleatorización, enmascaramiento y decisión booleana del experimento de Peirce-Jastrow. ^{[ 39 ]} Dado que los individuos actúan de acuerdo con diferentes juicios de probabilidad, las probabilidades de estos agentes son "personales" (pero susceptibles de estudio objetivo).

Las probabilidades personales resultan problemáticas para la ciencia y para ciertas aplicaciones donde quienes toman decisiones carecen del conocimiento o el tiempo necesarios para especificar una distribución de probabilidad fundamentada (sobre la cual estén dispuestos a actuar). Para satisfacer las necesidades de la ciencia y las limitaciones humanas, los estadísticos bayesianos han desarrollado métodos "objetivos" para especificar probabilidades a priori.

De hecho, algunos bayesianos han argumentado que el estado previo del conocimiento define la distribución de probabilidad previa (única) para problemas estadísticos "regulares"; cf. problemas bien planteados . Encontrar el método adecuado para construir tales distribuciones previas "objetivas" (para clases apropiadas de problemas regulares) ha sido la búsqueda de teóricos estadísticos desde Laplace hasta John Maynard Keynes , Harold Jeffreys y Edwin Thompson Jaynes . Estos teóricos y sus sucesores han sugerido varios métodos para construir distribuciones previas "objetivas" (desafortunadamente, no siempre está claro cómo evaluar la "objetividad" relativa de las distribuciones previas propuestas bajo estos métodos):

• entropía máxima
• Análisis de grupos de transformación
• Análisis de referencia

Cada uno de estos métodos aporta distribuciones a priori útiles para problemas monoparamétricos "regulares", y cada una puede manejar algunos modelos estadísticos complejos (con "irregularidad" o varios parámetros). Cada uno de estos métodos ha sido útil en la práctica bayesiana. De hecho, bayesianos declarados subjetivos (o "personales") como James Berger ( Universidad de Duke ) y José-Miguel Bernardo ( Universitat de València ) han desarrollado métodos para construir distribuciones a priori "objetivas" (o "por defecto" o de "ignorancia"), simplemente porque dichas distribuciones a priori son necesarias para la práctica bayesiana, particularmente en la ciencia. ^{[ 40 ]} La búsqueda del "método universal para construir distribuciones a priori" sigue atrayendo a teóricos de la estadística. ^{[ 40 ]}

Por lo tanto, el estadístico bayesiano necesita utilizar distribuciones a priori informadas (basándose en conocimientos especializados relevantes o datos previos) o elegir entre los métodos en competencia para construir distribuciones a priori "objetivas".