Fuente de información de Markov

En matemáticas , una fuente de información de Markov , o simplemente una fuente de Markov , es una fuente de información cuya dinámica subyacente viene dada por una cadena de Markov finita estacionaria .

Una fuente de información es una secuencia de variables aleatorias que abarcan un alfabeto finito.${\displaystyle \Gamma }$, teniendo una distribución estacionaria .

Una fuente de información de Markov es entonces una cadena de Markov (estacionaria).${\displaystyle M}$, junto con una función

${\displaystyle f:S\to \Gamma }$

que mapea estados${\displaystyle S}$en la cadena de Markov a las letras del alfabeto${\displaystyle \Gamma }$.

Una fuente de Markov unifilar es una fuente de Markov para la cual los valores${\displaystyle f(s_{k})}$son distintos cuando cada uno de los estados${\displaystyle s_{k}}$Se puede acceder a ellas, en un solo paso, desde un estado previo común. Las fuentes unifilares destacan porque muchas de sus propiedades son mucho más fáciles de analizar, en comparación con el caso general.

Las fuentes de Markov se utilizan comúnmente en la teoría de la comunicación como modelo de transmisor . También aparecen en el procesamiento del lenguaje natural , donde se emplean para representar significados ocultos en un texto. Dada la salida de una fuente de Markov, cuya cadena de Markov subyacente se desconoce, la tarea de descifrar dicha cadena se lleva a cabo mediante técnicas de modelos ocultos de Markov , como el algoritmo de Viterbi .

• Tasa de entropía

• Robert B. Ash, Teoría de la información , (1965) Dover Publications. ISBN 0-486-66521-6