Recursive Bayesian estimation

In probability theory, statistics, and machine learning, recursive Bayesian estimation, also known as a Bayes filter, is a general probabilistic approach for estimating an unknown probability density function (PDF) recursively over time using incoming measurements and a mathematical process model. The process relies heavily upon mathematical concepts and models that are theorized within a study of prior and posterior probabilities known as Bayesian statistics.

A Bayes filter is an algorithm used in computer science for calculating the probabilities of multiple beliefs to allow a robot to infer its position and orientation. Essentially, Bayes filters allow robots to continuously update their most likely position within a coordinate system, based on the most recently acquired sensor data. This is a recursive algorithm. It consists of two parts: prediction and innovation. If the variables are normally distributed and the transitions are linear, the Bayes filter becomes equal to the Kalman filter.

In a simple example, a robot moving throughout a grid may have several different sensors that provide it with information about its surroundings. The robot may begin with certainty that it is at position (0,0). However, as it moves further and further from its original position, the robot has continuously less certainty about its position; using a Bayes filter, a probability can be assigned to the robot's belief about its current position, and that probability can be continuously updated from additional sensor information.

The measurements ${\displaystyle z}$ are the manifestations of a hidden Markov model (HMM), which means the true state ${\displaystyle x}$ is assumed to be an unobserved Markov process. The following picture presents a Bayesian network of a HMM.

Because of the Markov assumption, the probability of the current true state given the immediately previous one is conditionally independent of the other earlier states.

${\displaystyle p({\textbf {x}}_{k}|{\textbf {x}}_{k-1},{\textbf {x}}_{k-2},\dots,{\textbf {x}}_{0})=p({\textbf {x}}_{k}|{\textbf {x}}_{k-1})}$

Similarly, the measurement at the k-th timestep is dependent only upon the current state, so is conditionally independent of all other states given the current state.

${\displaystyle p({\textbf {z}}_{k}|{\textbf {x}}_{k},{\textbf {x}}_{k-1},\dots,{\textbf {x}}_{0})=p({\textbf {z}}_{k}|{\textbf {x}}_{k})}$

Using these assumptions the probability distribution over all states of the HMM can be written simply as

${\displaystyle p({\textbf {x}}_{0},\dots ,{\textbf {x}}_{k},{\textbf {z}}_{1},\dots ,{\textbf {z}}_{k})=p({\textbf {x}}_{0})\prod _{i=1}^{k}p({\textbf {z}}_{i}|{\textbf {x}}_{i})p({\textbf {x}}_{i}|{\textbf {x}}_{i-1}).}$

Sin embargo, al utilizar el filtro de Kalman para estimar el estado x , la distribución de probabilidad de interés se asocia con los estados actuales condicionados a las mediciones hasta el paso de tiempo actual. (Esto se logra marginalizando los estados anteriores y dividiendo por la probabilidad del conjunto de mediciones).

Esto lleva a los pasos de predicción y actualización del filtro de Kalman escritos probabilísticamente. La distribución de probabilidad asociada con el estado predicho es la suma (integral) de los productos de la distribución de probabilidad asociada con la transición del paso de tiempo ( k -1) al k -ésimo y la distribución de probabilidad asociada con el estado anterior, sobre todos los posibles${\displaystyle x_{k-1}}$.

${\displaystyle p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})=\int p({\textbf {x}}_{k}|{\textbf {x}}_{k-1})p({\textbf {x}}_{k-1}|{\textbf {z}}_{1:k-1})\,d{\textbf {x}}_{k-1}}$

La distribución de probabilidad de actualización es proporcional al producto de la probabilidad de medición y el estado predicho.

${\displaystyle p({\textbf {x}}_{k}|{\textbf {z}}_{1:k})={\frac {p({\textbf {z}}_{k}|{\textbf {x}}_{k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})}{p({\textbf {z}}_{k}|{\textbf {z}}_{1:k-1})}}\propto p({\textbf {z}}_{k}|{\textbf {x}}_{k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})}$

El denominador

${\displaystyle p({\textbf {z}}_{k}|{\textbf {z}}_{1:k-1})=\int p({\textbf {z}}_{k}|{\textbf {x}}_{k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})d{\textbf {x}}_{k}}$

es constante en relación con${\displaystyle x}$, por lo que siempre podemos sustituirlo por un coeficiente${\displaystyle \alpha }$, que en la práctica suele ignorarse. El numerador se puede calcular y luego simplemente normalizar, ya que su integral debe ser igual a la unidad.

• Filtro de Kalman , un filtro bayesiano recursivo para distribuciones normales multivariadas.
• Filtro de partículas , una técnica basada en Monte Carlo secuencial (SMC), que modela la PDF utilizando un conjunto de puntos discretos.
• Estimadores basados ​​en cuadrícula , que subdividen la PDF en una cuadrícula discreta determinista.

El filtrado bayesiano secuencial es una extensión de la estimación bayesiana para el caso en que el valor observado cambia con el tiempo. Es un método para estimar el valor real de una variable observada que evoluciona en el tiempo.

Existen varias variantes:

filtración

al estimar el valor actual dadas las observaciones pasadas y actuales,

alisado

al estimar valores pasados ​​a partir de observaciones pasadas y actuales, y

predicción

al estimar un valor futuro probable a partir de observaciones pasadas y presentes.

El concepto de filtrado bayesiano secuencial se utiliza ampliamente en control y robótica .

• Arulampalam, M. Sanjeev; Maskell, Simon; Gordon, Neil (2002). "Un tutorial sobre filtros de partículas para el seguimiento bayesiano no lineal/no gaussiano en línea". IEEE Transactions on Signal Processing . 50 (2): 174– 188. Bibcode : 2002ITSP...50..174A . CiteSeerX 10.1.1.117.1144 . doi : 10.1109/78.978374 . 
• Burkhart, Michael C. (2019). "Capítulo 1. Una visión general del filtrado bayesiano". Un enfoque discriminativo del filtrado bayesiano con aplicaciones a la decodificación neuronal humana . Providence, RI, EE. UU.: Universidad de Brown. doi : 10.26300/nhfp-xv22 .
• Chen, Zhe Sage (2003). "Filtrado bayesiano: de los filtros de Kalman a los filtros de partículas y más allá". Statistics: A Journal of Theoretical and Applied Statistics . 182 (1): 1– 69.
• Diard, Julien; Bessière, Pierre; Mazer, Emmanuel (2003). "Un estudio de modelos probabilísticos, utilizando la metodología de programación bayesiana como marco unificador" (PDF) . cogprints.org.
• Särkkä, Simo (2013). Filtrado y suavizado bayesiano (PDF) . Prensa de la Universidad de Cambridge.
• Volkov, Alexander (2015). "Límites de precisión del seguimiento bayesiano no gaussiano en un entorno sin línea de visión". Procesamiento de señales . 108 : 498–508 . Bibcode : 2015SigPr.108..498V . doi : 10.1016/j.sigpro.2014.10.025 .