Filtrado iterativo

Los algoritmos de filtrado iterativo son una herramienta para la inferencia de máxima verosimilitud en sistemas dinámicos parcialmente observados . Se utilizan perturbaciones estocásticas en los parámetros desconocidos para explorar el espacio de parámetros . La aplicación de Monte Carlo secuencial (el filtro de partículas ) a este modelo extendido da como resultado la selección de los valores de los parámetros que son más consistentes con los datos. Los procedimientos construidos adecuadamente, iterando con perturbaciones sucesivamente disminuidas, convergen a la estimación de máxima verosimilitud. ^{[ 1 ] [ 2 ] [ 3 ]} Los métodos de filtrado iterativo se han utilizado hasta ahora de forma más extensa para estudiar la dinámica de transmisión de enfermedades infecciosas. Los estudios de caso incluyen cólera , ^{[ 4 ] [ 5 ]} virus del Ébola , ^{[ 6 ]} influenza , ^{[ 7 ] [ 8 ] [ 9 ] [ 10 ]} malaria , ^{[ 11 ] [ 12 ] [ 13 ]} VIH , ^{[ 14 ]} tos ferina , ^{[ 15 ] [ 16 ]} poliovirus ^{[ 17 ]} y sarampión . ^{[ 5 ] [ 18 ]} Otras áreas que se han propuesto como adecuadas para estos métodos incluyen dinámica ecológica ^{[ 19 ] [ 20 ]} y finanzas . ^{[ 21 ] [ 22 ]}

Las perturbaciones en el espacio de parámetros desempeñan diversas funciones. En primer lugar, suavizan la superficie de verosimilitud, lo que permite al algoritmo superar las características a pequeña escala de la verosimilitud durante las primeras etapas de la búsqueda global. En segundo lugar, la variación de Monte Carlo permite que la búsqueda escape de los mínimos locales. En tercer lugar, la actualización iterativa del filtrado utiliza los valores de los parámetros perturbados para construir una aproximación a la derivada de la log-verosimilitud, aunque esta cantidad no suele estar disponible en forma cerrada. En cuarto lugar, las perturbaciones de los parámetros ayudan a superar las dificultades numéricas que pueden surgir durante el método de Monte Carlo secuencial.

Los datos son una serie temporal${\displaystyle y_{1},\dots,y_{N}}$recogido en ocasiones${\displaystyle t_{1}<t_{2}<\dots <t_{N}}$El sistema dinámico se modela mediante un proceso de Markov .${\displaystyle X(t)}$que es generada por una función${\displaystyle f(x,s,t,\theta ,W)}$en el sentido de que

${\displaystyle X(t_{n}^{})=f(X(t_{n-1}^{}),t_{n-1}^{},t_{n}^{},\theta ,W)}$

dónde${\displaystyle \theta }$es un vector de parámetros desconocidos y${\displaystyle W}$es una cantidad aleatoria que se extrae independientemente cada vez${\displaystyle f(.)}$Se evalúa. Una condición inicial${\displaystyle X(t_{0})}$en algún momento${\displaystyle t_{0}<t_{1}}$se especifica mediante una función de inicialización,${\displaystyle X(t_{0})=h(\theta )}$. Una densidad de medición${\displaystyle g(y_{n}|X_{n},t_{n},\theta )}$Completa la especificación de un proceso de Markov parcialmente observado. Presentamos un algoritmo básico de filtrado iterado (IF1) ^{[ 1 ] [ 2 ]} seguido de un algoritmo de filtrado iterado que implementa un mapa de Bayes perturbado iterado (IF2). ^{[ 3 ] [ 23 ]}

Entrada: Un modelo de Markov parcialmente observado especificado como se indicó anteriormente; tamaño de la muestra de Monte Carlo${\displaystyle J}$; número de iteraciones${\displaystyle M}$; parámetros de refrigeración${\displaystyle 0<a<1}$y ${\displaystyle b}$; matriz de covarianza${\displaystyle \Phi }$; vector de parámetros inicial${\displaystyle \theta ^{(1)}}$

para${\displaystyle m_{}^{}=1}$a${\displaystyle M_{}^{}}$

dibujar${\displaystyle \Theta _{F}(t_{0}^{},j)\sim \mathrm {Normal} (\theta ^{(m)},ba^{m-1}\Phi )}$ para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{},j){\big )}}$para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle {\bar {\theta }}(t_{0}^{})=\theta ^{(m)}}$

para${\displaystyle n_{}^{}=1}$a${\displaystyle N_{}^{}}$

dibujar${\displaystyle \Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},j),a^{m-1}\Phi )}$ para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n},j),W)}$para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle w(n,j)=g(y_{n}|X_{P}(t_{n}^{},j),t_{n}^{},\Theta _{P}(t_{n},j))}$para ${\displaystyle j=1,\dots ,J}$

dibujar${\displaystyle k_{1}^{},\dots ,k_{J}^{}}$de tal manera que${\displaystyle P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )}$

colocar${\displaystyle X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{j}^{})}$y${\displaystyle \Theta _{F}(t_{n}^{},j)=\Theta _{P}(t_{n}^{},k_{j}^{})}$para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle {\bar {\theta }}_{i}^{}(t_{n}^{})}$a la media muestral de${\displaystyle \{\Theta _{F,i}^{}(t_{n}^{},j),j=1,\dots ,J\}}$, donde el vector${\displaystyle \Theta _{F}^{}}$tiene componentes${\displaystyle \{\Theta _{F,i}^{}\}}$

colocar${\displaystyle V_{i}^{}(t_{n}^{})}$a la varianza de la muestra de${\displaystyle \{\Theta _{P,i}^{}(t_{n}^{},j),j=1,\dots ,J\}}$

colocar${\displaystyle \theta _{i}^{(m+1)}=\theta _{i}^{(m)}+V_{i}(t_{1})\sum _{n=1}^{N}V_{i}^{-1}(t_{n})({\bar {\theta }}_{i}(t_{n})-{\bar {\theta }}_{i}(t_{n-1}))}$

Salida: Estimación de máxima verosimilitud${\displaystyle {\hat {\theta }}=\theta ^{(M+1)}}$

1. Para IF1, los parámetros que ingresan al modelo solo en la especificación de la condición inicial ,${\displaystyle X(t_{0})}$, merecen una atención algorítmica especial ya que la información sobre ellos en los datos puede estar concentrada en una pequeña parte de la serie temporal . ^{[ 1 ]}
2. En teoría, cualquier distribución con la media y la varianza requeridas podría utilizarse en lugar de la distribución normal . Lo habitual es usar la distribución normal y reparametrizarla para eliminar las restricciones sobre los posibles valores de los parámetros.
3. Se han propuesto modificaciones al algoritmo IF1 para obtener un rendimiento asintótico superior. ^{[ 24 ] [ 25 ]}

Entrada: Un modelo de Markov parcialmente observado especificado como se indicó anteriormente; tamaño de la muestra de Monte Carlo${\displaystyle J}$; número de iteraciones${\displaystyle M}$; parámetro de enfriamiento${\displaystyle 0<a<1}$; matriz de covarianza${\displaystyle \Phi }$; vectores de parámetros iniciales${\displaystyle \{\Theta _{j},j=1,\dots ,J\}}$

para${\displaystyle m_{}^{}=1}$a${\displaystyle M_{}^{}}$

colocar${\displaystyle \Theta _{F}(t_{0}^{},j)\sim \mathrm {Normal} (\Theta _{j},a^{m-1}\Phi )}$ para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{},j){\big )}}$para ${\displaystyle j=1,\dots ,J}$

para${\displaystyle n_{}^{}=1}$a${\displaystyle N_{}^{}}$

dibujar${\displaystyle \Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},k_{j}^{}),a^{m-1}\Phi )}$ para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n},j),W)}$para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle w(n,j)=g(y_{n}|X_{P}(t_{n}^{},j),t_{n}^{},\Theta _{P}(t_{n},j))}$para ${\displaystyle j=1,\dots ,J}$

dibujar${\displaystyle k_{1}^{},\dots ,k_{J}^{}}$de tal manera que${\displaystyle P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )}$

colocar${\displaystyle X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{j}^{})}$ y${\displaystyle \Theta _{F}(t_{n}^{},j)=\Theta _{P}(t_{n}^{},k_{j}^{})}$para ${\displaystyle j=1,\dots ,J}$

colocar${\displaystyle \Theta _{j}=\Theta _{F}(t_{N}^{},j)}$ para ${\displaystyle j=1,\dots ,J}$

Salida: Vectores de parámetros que aproximan la estimación de máxima verosimilitud,${\displaystyle \{\Theta _{j},j=1,\dots ,J\}}$

"pomp: inferencia estadística para procesos de Markov parcialmente observados"  : paquete de R.