Articulo de referencia

memoria asociativa bidireccional

La memoria asociativa bidireccional ( BAM ) es un tipo de red neuronal recurrente . Fue introducida por Bart Kosko en 1988. [ 1 ] Existen dos tipos de memoria asociativa: autoas...

La memoria asociativa bidireccional ( BAM ) es un tipo de red neuronal recurrente . Fue introducida por Bart Kosko en 1988. [ 1 ] Existen dos tipos de memoria asociativa: autoasociativa y heteroasociativa. La BAM es heteroasociativa, lo que significa que, dado un patrón, puede devolver otro patrón que potencialmente sea de diferente tamaño. Es similar a la red de Hopfield en que ambas son formas de memoria asociativa . Sin embargo, las redes de Hopfield devuelven patrones del mismo tamaño.

Se dice que es bidireccional ya que puede responder a entradas tanto de la capa de entrada como de la de salida. [ 2 ]

Topología

Un BAM contiene dos capas de neuronas , que denominaremos X e Y. Las capas X e Y están completamente interconectadas. Una vez establecidos los pesos, la entrada a la capa X reproduce el patrón de la capa Y, y viceversa.

Las capas se pueden conectar en ambas direcciones (bidireccional) con el resultado de que la matriz de pesos enviada desde la capa X a la capa Y esW{\displaystyle W}y la matriz de pesos para las señales enviadas desde la capa Y a la capa X esWT{\displaystyle W^{T}}. Por lo tanto, la matriz de pesos se calcula en ambas direcciones. [ 2 ]

Procedimiento

Aprendiendo

Imaginemos que queremos almacenar dos asociaciones, A1:B1 y A2:B2.

  • A1 = (1, 0, 1, 0, 1, 0), B1 = (1, 1, 0, 0)
  • A2 = (1, 1, 1, 0, 0, 0), B2 = (1, 0, 1, 0)

Estas se transforman luego en las formas bipolares:

  • X1 = (1, -1, 1, -1, 1, -1), Y1 = (1, 1, -1, -1)
  • X2 = (1, 1, 1, -1, -1, -1), Y2 = (1, -1, 1, -1)

A partir de ahí, calculamosMETRO=incógnitaiTYi{\displaystyle M=\sum {\!X_{i}^{T}Y_{i}}}dóndeincógnitaiT{\displaystyle X_{i}^{T}}denota la transpuesta. Entonces,

METRO=[200202202002200202202002]{\displaystyle M=\left[{\begin{array}{*{10}c}2&0&0&-2\\0&-2&2&0\\2&0&0&-2\\-2&0&0&2\\0&2&-2&0\\-2&0&0&2\\\end{array}}\right]}

Recordar

Para recuperar la asociación A1, la multiplicamos por M para obtener (4, 2, -2, -4), que, al pasar por un umbral, produce (1, 1, 0, 0), que es B1. Para hallar la asociación inversa, multiplicamos esta por la transpuesta de M.

Capacidad

La capacidad de memoria o almacenamiento de BAM se puede expresar comomin(metro,norte){\displaystyle \min(m,n)}, dónde "norte{\displaystyle n}" es el número de unidades en la capa X y "metro{\displaystyle m}" es el número de unidades en la capa Y. [ 3 ]

La matriz interna tiene n x p grados de libertad independientes, donde n es la dimensión del primer vector (6 en este ejemplo) y p es la dimensión del segundo vector (4). Esto permite que la BAM pueda almacenar y recuperar de forma fiable un total de hasta min(n,p) pares de vectores independientes, o min(6,4) = 4 en este ejemplo. [ 1 ] La capacidad puede incrementarse a costa de la fiabilidad (bits incorrectos en la salida).

Estabilidad

Un par(A,B){\displaystyle (A,B)}define el estado de un BAM. Para almacenar un patrón, el valor de la función de energía para ese patrón debe ocupar un punto mínimo en el paisaje energético.

El análisis de estabilidad de un BAM se basa en la definición de la función de Lyapunov (función de energía).mi{\displaystyle E}, con cada estado(A,B){\displaystyle (A,B)}Cuando un patrón emparejado(A,B){\displaystyle (A,B)}Cuando se presenta a BAM, las neuronas cambian de estado hasta alcanzar un estado estable bidireccional.(AF,BF){\displaystyle (A_{f},B_{f})}Se alcanza un valor que Kosko demostró que corresponde a un mínimo local de la función de energía. Se demuestra que el BAM discreto converge a un estado estable.

La función de energía propuesta por Kosko esmi(A,B)=AMETROBT{\displaystyle E(A,B)=-AMB^{T}}para el caso bidireccional, que para un caso particularA=B{\displaystyle A=B}corresponde a la función de energía autoasociativa de Hopfield . [ 3 ] (es decir,mi(A,B)=AMETROAT{\displaystyle E(A,B)=-AMA^{T}}).

Véase también

Referencias

  1. 1 2 Kosko, B. (1988). "Memorias asociativas bidireccionales" (PDF) . IEEE Transactions on Systems, Man, and Cybernetics . 18 (1): 49– 60. doi : 10.1109/21.87054 .
  2. 1 2 "Principios de computación blanda, 3.ª ed." . www.wileyindia.com . Consultado el 15 de agosto de 2020 .
  3. 1 2 RAJASEKARAN, S.; PAI, GA VIJAYALAKSHMI (2003-01-01). REDES NEURONALES, LÓGICA DIFUSA Y ALGORITMO GENÉTICO: SÍNTESIS Y APLICACIONES (CON CD) . PHI Learning Pvt. Ltd. ISBN 978-81-203-2186-1.
  • Memoria asociativa bidireccional: código fuente en Python para el artículo de la Wiki.
  • Memorias asociativas bidireccionales – Referencia del portal ACM