Articulo de referencia

Iteración de Landweber

La iteración de Landweber o algoritmo de Landweber es un algoritmo para resolver problemas inversos lineales mal condicionados , y se ha extendido para resolver problemas no lin...

La iteración de Landweber o algoritmo de Landweber es un algoritmo para resolver problemas inversos lineales mal condicionados , y se ha extendido para resolver problemas no lineales que implican restricciones. El método fue propuesto por primera vez en la década de 1950 por Louis Landweber [ 1 ] y actualmente puede considerarse un caso particular de muchos otros métodos más generales [ 2 ] .

Algoritmo básico

El algoritmo original de Landweber [ 1 ] intenta recuperar una señal x a partir de mediciones (ruidosas) y . La versión lineal supone quey=Aincógnita{\displaystyle y=Ax}para un operador lineal A. Cuando el problema está en dimensiones finitas , A es simplemente una matriz.

Cuando A no es singular , entonces una solución explícita esincógnita=A1y{\displaystyle x=A^{-1}y}Sin embargo, si A está mal condicionada , la solución explícita es una mala elección, ya que es sensible a cualquier ruido en los datos y . Si A es singular , esta solución explícita ni siquiera existe. El algoritmo de Landweber es un intento de regularizar el problema y es una de las alternativas a la regularización de Tikhonov . Podemos considerar que el algoritmo de Landweber resuelve:

minincógnitaAincógnitay22/2{\displaystyle \min _{x}\|Ax-y\|_{2}^{2}/2}

utilizando un método iterativo . El algoritmo viene dado por la actualización.

incógnitak+1=incógnitakωA(Aincógnitaky).{\displaystyle x_{k+1}=x_{k}-\omega A^{*}(Ax_{k}-y).}

donde el factor de relajaciónω{\displaystyle \omega }Satisface0<ω<2/σ12{\displaystyle 0<\omega <2/\sigma _{1}^{2}}. Aquíσ1{\displaystyle \sigma _{1}}es el mayor valor singular deA{\displaystyle A}. Si escribimosF(incógnita)=Aincógnitay22/2{\displaystyle f(x)=\|Ax-y\|_{2}^{2}/2}Entonces, la actualización se puede escribir en términos del gradiente.

incógnitak+1=incógnitakωF(incógnitak){\displaystyle x_{k+1}=x_{k}-\omega \nabla f(x_{k})}

y por lo tanto el algoritmo es un caso especial de descenso de gradiente .

Para problemas mal condicionados , el método iterativo debe detenerse en un índice de iteración adecuado, ya que converge parcialmente. Esto significa que las iteraciones se aproximan a una solución regularizada durante las primeras iteraciones, pero se vuelven inestables en iteraciones posteriores. El recíproco del índice de iteración1/k{\displaystyle 1/k}actúa como un parámetro de regularización. Se encuentra un parámetro adecuado cuando el desajusteAincógnitaky22{\displaystyle \|Ax_{k}-y\|_{2}^{2}}se aproxima al nivel de ruido.

El uso de la iteración de Landweber como algoritmo de regularización se ha discutido en la literatura. [ 3 ] [ 4 ]

extensión no lineal

En general, las actualizaciones generadas por incógnitak+1=incógnitakτF(incógnitak){\displaystyle x_{k+1}=x_{k}-\tau \nabla f(x_{k})} generará una secuenciaF(incógnitak){\displaystyle f(x_{k})}que converge a un minimizador de f siempre que f sea convexa y el tamaño del pasoτ{\displaystyle \tau }se elige de tal manera que0<τ<2/(F2){\displaystyle 0<\tau <2/(\|\nabla f\|^{2})}dónde{\displaystyle \|\cdot \|}es la norma espectral .

Dado que se trata de un tipo especial de descenso de gradiente, actualmente no hay mucho beneficio en analizarlo de forma aislada como el método de Landweber no lineal, pero históricamente, muchas comunidades que desconocían la existencia de marcos unificadores realizaron dicho análisis.

El problema de Landweber no lineal ha sido estudiado en muchos artículos en muchas comunidades; véase, por ejemplo, [ 5 ] .

Extensión a problemas con restricciones

Si f es una función convexa y C es un conjunto convexo , entonces el problema

minincógnitadoF(incógnita){\displaystyle \min _{x\in C}f(x)}

puede resolverse mediante la iteración de Landweber no lineal con restricciones, dada por:

incógnitak+1=PAGdo(incógnitakτF(incógnitak)){\displaystyle x_{k+1}={\mathcal {P}}_{C}(x_{k}-\tau \nabla f(x_{k}))}

dóndePAG{\displaystyle {\mathcal {P}}}es la proyección sobre el conjunto C. La convergencia está garantizada cuando0<τ<2/(A2){\displaystyle 0<\tau <2/(\|A\|^{2})}. [ 6 ] Este es nuevamente un caso especial del descenso de gradiente proyectado (que es un caso especial del algoritmo hacia adelante-hacia atrás ) como se discute en. [ 2 ]

Aplicaciones

Dado que el método existe desde la década de 1950, ha sido adoptado y redescubierto por numerosas comunidades científicas, especialmente aquellas que estudian problemas mal condicionados. En tomografía computarizada de rayos X se denomina técnica de reconstrucción iterativa simultánea (SIRT). También se ha utilizado en la comunidad de visión por computadora [ 7 ] y en la comunidad de restauración de señales [ 8 ] . Asimismo, se emplea en el procesamiento de imágenes , ya que muchos problemas de imagen, como la deconvolución , son mal condicionados. Variantes de este método también se han utilizado en problemas de aproximación dispersa y en entornos de detección comprimida [ 9 ] .

Referencias

  1. 1 2 Landweber, L. (1951). "Una fórmula de iteración para ecuaciones integrales de Fredholm de primer tipo". American Journal of Mathematics . 73 (3): 615– 624. doi : 10.2307/2372313 . JSTOR 2372313 . 
  2. 1 2 Combettes, PL; Pesquet, J.-C. (2011). "Métodos de división proximal en el procesamiento de señales". En Bauschke, HH; Burachik, RS ; et al. (eds.). Algoritmos de punto fijo para problemas inversos en ciencia e ingeniería . Nueva York: Springer. pp. 185–212 . arXiv : 0912.3522 . doi : 10.1007/978-1-4419-9569-8_10 . ISBN   978-1-4419-9568-1.
  3. ^ Luis, Alaska (1989). Inverse und schlecht gestellte Probleme [ Problemas inversos y mal planteados ] (en alemán). Stuttgart: Teubner. ISBN 3-519-02084-X.
  4. ^ Vainikko, GM, Veretennikov, AY (1986): Procedimientos de iteración en problemas mal planteados. Moscú, Nauka (en ruso)
  5. ^ Hanke, Martín; Neubauer, Andreas; Scherzer, Otmar (1995). "Un análisis de convergencia de la iteración de Landweber para problemas no lineales mal planteados". Matemática numérica . 72 (1): 21– 37. doi : 10.1007/s002110050158 .
  6. Eicke, B. (1992). "Métodos iterativos para problemas mal condicionados con restricciones convexas en espacios de Hilbert". Análisis funcional numérico y optimización . 13 ( 5– 6): 413– 429. doi : 10.1080/01630569208816489 .
  7. Johansson, B.; et al. (2006). "La aplicación de un método de Landweber proyectado oblicuo a un modelo de aprendizaje supervisado". Mathematical and Computer Modelling . 43 ( 7– 8): 892– 909. doi : 10.1016/j.mcm.2005.12.010 . 
  8. Trussell, HJ; Civanlar, MR (1985). "La iteración de Landweber y la proyección sobre conjuntos convexos". IEEE Transactions on Acoustics, Speech, and Signal Processing . 33 (6): 1632– 1634. Bibcode : 1985ITASS..33.1632T . doi : 10.1109/TASSP.1985.1164752 .
  9. Kyrillidis, Anastasios; Cevher, Volkan (2011). "Recetas sobre métodos de umbralización estricta" . 4.º Taller Internacional IEEE de 2011 sobre Avances Computacionales en Procesamiento Adaptativo Multisensor (CAMSAP) . págs. 353–356 . Bibcode : 2011cams.conf...93K . doi : 10.1109/CAMSAP.2011.6136024 . ISBN  978-1-4577-2105-2. S2CID 14996037 .