La solución del filtro de mínimos cuadrados converge a la solución del filtro de Wiener , suponiendo que el sistema desconocido es LTI y el ruido es estacionario . Ambos filtros pueden utilizarse para identificar la respuesta impulsional de un sistema desconocido, conociendo únicamente la señal de entrada original y la salida del sistema. Al relajar el criterio de error para reducir el error de muestreo actual en lugar de minimizar el error total sobre todos los n, el algoritmo LMS puede derivarse del filtro de Wiener.
Derivación del filtro de Wiener para la identificación de sistemas. Dada una señal de entrada conocida , la salida de un sistema LTI desconocido se puede expresar como: s [ norte ] {\displaystyle s[n]} incógnita [ norte ] {\displaystyle x[n]}
incógnita [ norte ] = ∑ k = 0 norte − 1 h k s [ norte − k ] + w [ norte ] {\displaystyle x[n]=\sum _ {k=0}^{N-1}h_{k}s[nk]+w[n]}
donde es un coeficiente de derivación de filtro desconocido y es ruido. h k {\displaystyle h_{k}} w [ norte ] {\displaystyle w[n]}
El sistema modelo , utilizando una solución de filtro de Wiener de orden N, se puede expresar como: incógnita ^ [ norte ] {\displaystyle {\hat {x}}[n]}
incógnita ^ [ norte ] = ∑ k = 0 norte − 1 h ^ k s [ norte − k ] {\displaystyle {\hat {x}}[n]=\sum _{k=0}^{N-1}{\hat {h}}_{k}s[nk]}
¿Dónde se deben determinar los coeficientes de las tomas del filtro? h ^ k {\displaystyle {\sombrero {h}}_{k}}
El error entre el modelo y el sistema desconocido se puede expresar como:
mi [ norte ] = incógnita [ norte ] − incógnita ^ [ norte ] {\displaystyle e[n]=x[n]-{\hat {x}}[n]}
El error cuadrático total se puede expresar como: mi {\displaystyle E}
mi = ∑ norte = − ∞ ∞ mi [ norte ] 2 {\displaystyle E=\sum _ {n=-\infty }^{\infty }e[n]^{2}}
mi = ∑ norte = − ∞ ∞ ( incógnita [ norte ] − incógnita ^ [ norte ] ) 2 {\displaystyle E=\sum _{n=-\infty }^{\infty }\left(x[n]-{\hat {x}}[n]\right)^{2}}
mi = ∑ norte = − ∞ ∞ ( incógnita [ norte ] 2 − 2 incógnita [ norte ] incógnita ^ [ norte ] + incógnita ^ [ norte ] 2 ) {\displaystyle E=\sum _{n=-\infty }^{\infty }\left(x[n]^{2}-2x[n]{\hat {x}}[n]+{\hat {x}}[n]^{2}\right)}
Utilice el criterio de mínimo error cuadrático medio sobre todos los valores, estableciendo su pendiente en cero: norte {\displaystyle n}
∇ mi = 0 {\displaystyle \nabla E=0} ∂ mi ∂ h ^ i = 0 {\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}=0} i = 0 , 1 , 2 , . . . , norte − 1 {\displaystyle i=0,1,2,...,N-1}
∂ mi ∂ h ^ i = ∂ ∂ h ^ i ∑ norte = − ∞ ∞ [ incógnita [ norte ] 2 − 2 incógnita [ norte ] incógnita ^ [ norte ] + incógnita ^ [ norte ] 2 ] {\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}={\frac {\partial }{\partial {\hat {h}}_{i}}}\sum _{n=-\infty }^{\infty }\left[x[n]^{2}-2x[n]{\hat {x}}[n]+{\hat {x}}[n]^{2}\right]}
Sustituya la definición de : incógnita ^ [ norte ] {\displaystyle {\hat {x}}[n]}
∂ mi ∂ h ^ i = ∂ ∂ h ^ i ∑ norte = − ∞ ∞ [ incógnita [ norte ] 2 − 2 incógnita [ norte ] ∑ k = 0 norte − 1 h ^ k s [ norte − k ] + ( ∑ k = 0 norte − 1 h ^ k s [ norte − k ] ) 2 ] {\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}={\frac {\partial }{\partial {\hat {h}}_{i}}}\sum _{n=-\infty }^{\infty }\left[x[n]^{2}-2x[n]\sum _{k=0}^{N-1}{\hat {h}}_{k}s[nk]+\left(\sum _{k=0}^{N-1}{\hat {h}}_{k}s[nk]\right)^{2}\right]}
Distribuye la derivada parcial :
∂ mi ∂ h ^ i = ∑ norte = − ∞ ∞ [ − 2 incógnita [ norte ] s [ norte − i ] + 2 ( ∑ k = 0 norte − 1 h ^ k s [ norte − k ] ) s [ norte − i ] ] {\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}=\sum _{n=-\infty }^{\infty }\left[-2x[n]s[ni]+2\left(\sum _{k=0}^{N-1}{\hat {h}}_{k}s[nk]\right)s[ni]\right]}
Utilizando la definición de correlación cruzada discreta :
R incógnita y ( i ) = ∑ norte = − ∞ ∞ incógnita [ norte ] y [ norte − i ] {\displaystyle R_{xy}(i)=\sum _{n=-\infty }^{\infty }x[n]y[ni]}
∂ mi ∂ h ^ i = − 2 R incógnita s [ i ] + 2 ∑ k = 0 norte − 1 h ^ k R s s [ i − k ] = 0 {\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}=-2R_{xs}[i]+2\sum _{k=0}^{N-1}{\hat {h}}_{k}R_{ss}[ik]=0}
Reordena los términos:
R incógnita s [ i ] = ∑ k = 0 norte − 1 h ^ k R s s [ i − k ] {\displaystyle R_{xs}[i]=\sum _{k=0}^{N-1}{\hat {h}}_{k}R_{ss}[ik]} i = 0 , 1 , 2 , . . . , norte − 1 {\displaystyle i=0,1,2,...,N-1}
Este sistema de N ecuaciones con N incógnitas puede determinarse.
Los coeficientes resultantes del filtro de Wiener se pueden determinar mediante: , donde es el vector de correlación cruzada entre y . W = R incógnita incógnita − 1 PAG incógnita s {\displaystyle W=R_{xx}^{-1}P_{xs}} PAG incógnita s {\displaystyle P_{xs}} incógnita {\displaystyle x} s {\displaystyle s}
Derivación del algoritmo LMS Al relajar la suma infinita del filtro de Wiener a solo el error en el tiempo , se puede derivar el algoritmo LMS. norte {\displaystyle n}
El error cuadrático se puede expresar como:
mi = ( d [ norte ] − y [ norte ] ) 2 {\displaystyle E=(d[n]-y[n])^{2}}
Utilizando el criterio de mínimo error cuadrático medio, tome el gradiente:
∂ mi ∂ w = ∂ ∂ w ( d [ norte ] − y [ norte ] ) 2 {\displaystyle {\frac {\partial E}{\partial w}}={\frac {\partial }{\partial w}}(d[n]-y[n])^{2}}
Aplique la regla de la cadena y sustituya la definición de y[n].
∂ mi ∂ w = 2 ( d [ norte ] − y [ norte ] ) ∂ ∂ w ( d [ norte ] − ∑ k = 0 norte − 1 w ^ k incógnita [ norte − k ] ) {\displaystyle {\frac {\partial E}{\partial w}}=2\left(d[n]-y[n]\right){\frac {\partial }{\partial w}}\left(d[n]-\sum _{k=0}^{N-1}{\hat {w}}_{k}x[nk]\right)}
∂ mi ∂ w i = − 2 ( mi [ norte ] ) ( incógnita [ norte − i ] ) {\displaystyle {\frac {\partial E}{\partial w_{i}}}=-2(e[n])(x[ni])}
Utilizando el descenso de gradiente y un tamaño de paso : μ {\displaystyle \mu }
w [ norte + 1 ] = w [ norte ] − μ ∂ mi ∂ w {\displaystyle w[n+1]=w[n]-\mu {\frac {\partial E}{\partial w}}}
lo cual se convierte, para i = 0, 1, ..., N-1,
w i [ norte + 1 ] = w i [ norte ] + 2 μ ( mi [ norte ] ) ( incógnita [ norte − i ] ) {\displaystyle w_{i}[n+1]=w_{i}[n]+2\mu (e[n])(x[ni])}
Esta es la ecuación de actualización del LMS.
Véase también
Referencias JG Proakis y DG Manolakis, Procesamiento digital de señales: principios, algoritmos y aplicaciones, Prentice-Hall, 4.ª ed., 2007. 
Hispanopedia Wiki![{\displaystyle s[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ffe878c033cc70d1aa3ffbd156394791aa8dffde)
![{\displaystyle x[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/864cbbefbdcb55af4d9390911de1bf70167c4a3d)
![{\displaystyle x[n]=\sum _ {k=0}^{N-1}h_{k}s[nk]+w[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/29d41ffb9167c860cce2987a1c1d7cff8030c784)
![{\displaystyle w[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/2a4e3e5afc2a8c6da9020b8c6b21450959101a18)
![{\displaystyle {\hat {x}}[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/fee9146195da61b726bebb68b2d9999c22b32375)
![{\displaystyle {\hat {x}}[n]=\sum _{k=0}^{N-1}{\hat {h}}_{k}s[nk]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/9e99c12580f9be872405e0fe1e438d2ea3bd4a49)
![{\displaystyle e[n]=x[n]-{\hat {x}}[n]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ce6a7691f1713e4f03cf5267dc298e154f673615)
![{\displaystyle E=\sum _ {n=-\infty }^{\infty }e[n]^{2}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/74020f9287004f13d8a581ff697af14465459553)
![{\displaystyle E=\sum _{n=-\infty }^{\infty }\left(x[n]-{\hat {x}}[n]\right)^{2}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/019a8a0e4ef823580e30a80d623905ef3ee44f89)
![{\displaystyle E=\sum _{n=-\infty }^{\infty }\left(x[n]^{2}-2x[n]{\hat {x}}[n]+{\hat {x}}[n]^{2}\right)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3c42cf2a1f256ef15c69c759dcac269b60c822fe)
![{\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}={\frac {\partial }{\partial {\hat {h}}_{i}}}\sum _{n=-\infty }^{\infty }\left[x[n]^{2}-2x[n]{\hat {x}}[n]+{\hat {x}}[n]^{2}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c75023b6dd148dc0ff56231d20c39516eba355b7)
![{\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}={\frac {\partial }{\partial {\hat {h}}_{i}}}\sum _{n=-\infty }^{\infty }\left[x[n]^{2}-2x[n]\sum _{k=0}^{N-1}{\hat {h}}_{k}s[nk]+\left(\sum _{k=0}^{N-1}{\hat {h}}_{k}s[nk]\right)^{2}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/96cddc3b7946c30210df81a8c57ba2115e328e6d)
![{\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}=\sum _{n=-\infty }^{\infty }\left[-2x[n]s[ni]+2\left(\sum _{k=0}^{N-1}{\hat {h}}_{k}s[nk]\right)s[ni]\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a1a1426ee0524258f7f9dd57e55e2ce4bd882a30)
![{\displaystyle R_{xy}(i)=\sum _{n=-\infty }^{\infty }x[n]y[ni]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6dd0be6cdff7c6826db2c50ef465cc70c6a6c560)
![{\displaystyle {\frac {\partial E}{\partial {\hat {h}}_{i}}}=-2R_{xs}[i]+2\sum _{k=0}^{N-1}{\hat {h}}_{k}R_{ss}[ik]=0}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a3725ae5e10c4be1368fc3815e6e8c110ba0cce4)
![{\displaystyle R_{xs}[i]=\sum _{k=0}^{N-1}{\hat {h}}_{k}R_{ss}[ik]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6322bb6368aff651f5397cafde1e2472c4559fa3)
![{\displaystyle E=(d[n]-y[n])^{2}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/992c761863a1024e1abe940e681b112c2f19f420)
![{\displaystyle {\frac {\partial E}{\partial w}}={\frac {\partial }{\partial w}}(d[n]-y[n])^{2}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/8e782154b068787c1b580dae3f0890d434e65024)
![{\displaystyle {\frac {\partial E}{\partial w}}=2\left(d[n]-y[n]\right){\frac {\partial }{\partial w}}\left(d[n]-\sum _{k=0}^{N-1}{\hat {w}}_{k}x[nk]\right)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0c36f4d06021dd2fefb1be8298f106c335af48b7)
![{\displaystyle {\frac {\partial E}{\partial w_{i}}}=-2(e[n])(x[ni])}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5d03c1011cfacbdd64160c7e09337bdeb1fe7599)
![{\displaystyle w[n+1]=w[n]-\mu {\frac {\partial E}{\partial w}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/f68ce4b36bdb6c59f24ea7dd309ff9fa00dc0fba)
![{\displaystyle w_{i}[n+1]=w_{i}[n]+2\mu (e[n])(x[ni])}](https://wikimedia.org/api/rest_v1/media/math/render/svg/12a8a0b31c71c2f62a444aba32ac66e4efd2cd6d)