Máquina de Boltzmann restringida

Una máquina de Boltzmann restringida ( RBM ) (también llamada modelo de Sherrington-Kirkpatrick restringido con campo externo o modelo estocástico restringido de Ising-Lenz-Little ) es una red neuronal artificial estocástica generativa que puede aprender una distribución de probabilidad sobre su conjunto de entradas. ^{[ 1 ]}

Las RBM fueron propuestas inicialmente bajo el nombre de Harmonium por Paul Smolensky en 1986, ^{[ 2 ]} y alcanzaron prominencia después de que Geoffrey Hinton y colaboradores utilizaran algoritmos de aprendizaje rápido para ellas a mediados de la década de 2000. Las RBM han encontrado aplicaciones en la reducción de dimensionalidad , ^{[ 3 ]} clasificación , ^{[ 4 ]} filtrado colaborativo , ^{[ 5 ]} aprendizaje de características , ^{[ 6 ]} modelado de temas , ^{[ 7 ]} inmunología , ^{[ 8 ]} e incluso mecánica cuántica de muchos cuerpos . ^{[ 9 ] [ 10 ] [ 11 ]}

Pueden recibir formación de forma supervisada o no supervisada , dependiendo de la tarea.

Como su nombre lo indica, las RBM son una variante de las máquinas de Boltzmann , con la restricción de que sus neuronas deben formar un grafo bipartito :

• Un par de nodos de cada uno de los dos grupos de unidades (comúnmente denominados unidades "visibles" y "ocultas" respectivamente) pueden tener una conexión simétrica entre ellos; y
• No existen conexiones entre los nodos dentro de un grupo.

Por el contrario, las máquinas de Boltzmann "sin restricciones" pueden tener conexiones entre unidades ocultas . Esta restricción permite algoritmos de entrenamiento más eficientes que los disponibles para la clase general de máquinas de Boltzmann, en particular el algoritmo de divergencia contrastiva basado en gradiente . ^{[ 12 ]}

Las máquinas de Boltzmann restringidas también pueden utilizarse en redes de aprendizaje profundo . En particular, las redes de creencias profundas pueden formarse "apilando" RBM y, opcionalmente, ajustando la red profunda resultante con descenso de gradiente y retropropagación . ^{[ 13 ]}

El tipo estándar de RBM tiene unidades ocultas y visibles de valor binario ( booleano ) y consta de una matriz de pesos.${\displaystyle W}$de tamaño${\displaystyle m\times n}$Cada elemento de peso${\displaystyle (w_{i,j})}$de la matriz está asociada con la conexión entre la unidad visible (de entrada)${\displaystyle v_{i}}$y la unidad oculta${\displaystyle h_{j}}$Además, existen ponderaciones de sesgo (desplazamientos).${\displaystyle a_{i}}$para${\displaystyle v_{i}}$y${\displaystyle b_{j}}$para${\displaystyle h_{j}}$Dados los pesos y sesgos, la energía de una configuración (par de vectores booleanos) ( v , h ) se define como

${\displaystyle E(v,h)=-\sum _{i}a_{i}v_{i}-\sum _{j}b_{j}h_{j}-\sum _{i}\sum _{j}v_{i}w_{i,j}h_{j}}$

o, en notación matricial,

${\displaystyle E(v,h)=-a^{\mathrm {T} }vb^{\mathrm {T} }hv^{\mathrm {T} }Wh.}$

Esta función de energía es análoga a la de una red de Hopfield . Al igual que con las máquinas de Boltzmann generales, la distribución de probabilidad conjunta para los vectores visibles y ocultos se define en términos de la función de energía como sigue, ^{[ 14 ]}

${\displaystyle P(v,h)={\frac {1}{Z}}e^{-E(v,h)}}$

dónde${\displaystyle Z}$es una función de partición definida como la suma de${\displaystyle e^{-E(v,h)}}$sobre todas las configuraciones posibles, lo que puede interpretarse como una constante de normalización para asegurar que las probabilidades sumen 1. La probabilidad marginal de un vector visible es la suma de${\displaystyle P(v,h)}$sobre todas las posibles configuraciones de la capa oculta, ^{[ 14 ]}

${\displaystyle P(v)={\frac {1}{Z}}\sum _{\{h\}}e^{-E(v,h)}}$,

y viceversa. Dado que la estructura gráfica subyacente de la RBM es bipartita (lo que significa que no hay conexiones dentro de la capa), las activaciones de las unidades ocultas son mutuamente independientes dadas las activaciones de las unidades visibles. Recíprocamente, las activaciones de las unidades visibles son mutuamente independientes dadas las activaciones de las unidades ocultas. ^{[ 12 ]} Es decir, para m unidades visibles y n unidades ocultas, la probabilidad condicional de una configuración de las unidades visibles v , dada una configuración de las unidades ocultas h , es

${\displaystyle P(v|h)=\prod _{i=1}^{m}P(v_{i}|h)}$.

Por el contrario, la probabilidad condicional de h dado v es

${\displaystyle P(h|v)=\prod _ {j=1}^{n}P(h_{j}|v)}$.

Las probabilidades de activación individuales vienen dadas por

${\displaystyle P(h_{j}=1|v)=\sigma \left(b_{j}+\sum _{i=1}^{m}w_{i,j}v_{i}\right)}$y${\displaystyle \,P(v_{i}=1|h)=\sigma \left(a_{i}+\sum _{j=1}^{n}w_{i,j}h_{j}\right)}$

dónde${\displaystyle \sigma }$denota la sigmoide logística .

Las unidades visibles de la máquina de Boltzmann restringida pueden ser multinomiales , aunque las unidades ocultas sean de Bernoulli . En este caso, la función logística para las unidades visibles se reemplaza por la función softmax.

${\displaystyle P(v_{i}^{k}=1|h)={\frac {\exp(a_{i}^{k}+\Sigma _{j}W_{ij}^{k}h_{j})}{\Sigma _{k'=1}^{K}\exp(a_{i}^{k'}+\Sigma _{j}W_{ij}^{k'}h_{j})}}}$

donde K es el número de valores discretos que tienen los valores visibles. Se aplican en el modelado de temas, ^{[ 7 ]} y en sistemas de recomendación . ^{[ 5 ]}

Las máquinas de Boltzmann restringidas se entrenan para maximizar el producto de las probabilidades asignadas a un conjunto de entrenamiento.${\displaystyle V}$(una matriz, cada fila de la cual se trata como un vector visible)${\displaystyle v}$),

${\displaystyle \arg \max _{W}\prod _{v\in V}P(v)}$

o, equivalentemente, para maximizar la probabilidad logarítmica esperada de una muestra de entrenamiento.${\displaystyle v}$seleccionado aleatoriamente de${\displaystyle V}$: ^{[ 15 ] [ 16 ]}

${\displaystyle \arg \max _{W}\mathbb {E} \left[\log P(v)\right]}$

El algoritmo más utilizado para entrenar RBM, es decir, para optimizar la matriz de pesos.${\displaystyle W}$, es el algoritmo de divergencia contrastiva (CD) debido a Hinton , desarrollado originalmente para entrenar modelos PoE ( producto de expertos ). ^{[ 18 ] [ 19 ]} El algoritmo realiza muestreo de Gibbs y se utiliza dentro de un procedimiento de descenso de gradiente (similar a la forma en que se utiliza la retropropagación dentro de dicho procedimiento cuando se entrenan redes neuronales de alimentación directa) para calcular la actualización de pesos.

El procedimiento básico de divergencia contrastiva de un solo paso (CD-1) para una sola muestra se puede resumir de la siguiente manera:

1. Toma una muestra de entrenamiento v , calcula las probabilidades de las unidades ocultas y muestrea un vector de activación oculto h a partir de esta distribución de probabilidad.
2. Calcula el producto exterior de v y h y llámalo gradiente positivo .
3. A partir de h , se obtiene una reconstrucción v' de las unidades visibles y, a partir de ella, se vuelven a muestrear las activaciones ocultas h' . (Paso de muestreo de Gibbs)
4. Calcula el producto exterior de v' y h' y llámalo gradiente negativo .
5. Permitir la actualización de la matriz de pesos${\displaystyle W}$Sea el gradiente positivo menos el gradiente negativo, multiplicado por alguna tasa de aprendizaje:${\displaystyle \Delta W=\epsilon (vh^{\mathsf {T}}-v'h'^{\mathsf {T}})}$.
6. Actualizar los sesgos a y b de forma análoga:${\displaystyle \Delta a=\epsilon (vv')}$,${\displaystyle \Delta b=\epsilon (hh')}$.

Una guía práctica para el entrenamiento de RBM escrita por Hinton se puede encontrar en su página web. ^{[ 14 ]}

• La diferencia entre las Máquinas de Boltzmann Restringidas Apiladas (RBM) y las RBM radica en que las RBM tienen conexiones laterales dentro de una capa que están prohibidas para facilitar el análisis. Por otro lado, las Máquinas de Boltzmann Apiladas consisten en una combinación de una red de tres capas no supervisada con pesos simétricos y una capa superior supervisada y ajustada para reconocer tres clases.
• El uso de Stacked Boltzmann se centra en la comprensión del lenguaje natural , la recuperación de documentos , la generación de imágenes y la clasificación. Estas funciones se entrenan mediante preentrenamiento no supervisado y/o ajuste fino supervisado. A diferencia de la capa superior simétrica no dirigida, que utiliza una capa asimétrica bidireccional para la conexión de RBM, la conexión de Boltzmann restringida consta de tres capas con pesos asimétricos, y dos redes se combinan en una sola.
• El algoritmo Stacked Boltzmann comparte similitudes con la máquina de Boltzmann restringida (RBM). La neurona del Stacked Boltzmann es una neurona de Hopfield binaria estocástica, idéntica a la de la máquina de Boltzmann restringida. La energía tanto del algoritmo de Boltzmann restringida como de la RBM viene dada por la medida de probabilidad de Gibbs.${\displaystyle E=-{\frac {1}{2}}\sum _{i,j}{w_{ij}{s_{i}}{s_{j}}}+\sum _{i}{\theta _{i}}{s_{i}}}$El proceso de entrenamiento de Boltzmann restringido es similar al de RBM. Boltzmann restringido entrena una capa a la vez y aproxima el estado de equilibrio con un paso de 3 segmentos, sin realizar retropropagación. Boltzmann restringido utiliza tanto aprendizaje supervisado como no supervisado en diferentes RBM para el preentrenamiento para clasificación y reconocimiento. El entrenamiento utiliza divergencia contrastiva con muestreo de Gibbs: Δw _ij = e*(p _ij - p' _ij ).
• La ventaja del algoritmo de Boltzmann restringido es que realiza una transformación no lineal, lo que facilita su expansión y permite crear una capa jerárquica de características. Su desventaja radica en la complejidad de los cálculos de neuronas con valores enteros y reales. No sigue el gradiente de ninguna función, por lo que la aproximación de la divergencia contrastiva a la máxima verosimilitud es improvisada. ^{[ 14 ]}

• Fischer, Asja; Igel, Christian (2012), "Introducción a las máquinas de Boltzmann restringidas", Avances en reconocimiento de patrones, análisis de imágenes, visión por computadora y aplicaciones , Lecture Notes in Computer Science, vol.  7441, Berlín, Heidelberg: Springer Berlin Heidelberg, pp. 14–36 , doi : 10.1007/978-3-642-33275-3_2 , ISBN  978-3-642-33274-6{{citation}}: CS1 mantenimiento: parámetro de trabajo con ISBN ( enlace )

• Autoencoder
• Máquina de Helmholtz

• Chen, Edwin (18 de julio de 2011). "Introducción a las máquinas de Boltzmann restringidas" . Blog de Edwin Chen .
• Nicholson, Chris; Gibson, Adam. "Tutorial para principiantes sobre máquinas de Boltzmann restringidas" . Documentación de Deeplearning4j . Archivado del original el 11 de febrero de 2017. Consultado el 15 de noviembre de 2018 .{{cite web}}: CS1 maint: bot: estado de la URL original desconocido ( enlace )
• Nicholson, Chris; Gibson, Adam. "Understanding RBMs" . Documentación de Deeplearning4j . Archivado del original el 20 de septiembre de 2016. Consultado el 29 de diciembre de 2014 .

• Implementación en Python de la RBM de Bernoulli y tutorial
• SimpleRBM es un código RBM muy pequeño (24 kB) que te resultará útil para aprender cómo aprenden y funcionan las RBM.
• Implementación en Julia de máquinas de Boltzmann restringidas: https://github.com/cossio/RestrictedBoltzmannMachines.jl