Aprendizaje no supervisado

Durante la fase de aprendizaje, una red no supervisada intenta imitar los datos que recibe y utiliza el error en su salida imitada para corregirse (es decir, corregir sus pesos y sesgos). A veces, el error se expresa como una baja probabilidad de que ocurra la salida errónea, o bien como un estado de alta energía inestable en la red.

A diferencia del uso predominante de la retropropagación en los métodos supervisados , el aprendizaje no supervisado también emplea otros métodos, entre los que se incluyen: la regla de aprendizaje de Hopfield, la regla de aprendizaje de Boltzmann, la divergencia contrastiva , el método Wake Sleep , la inferencia variacional , la máxima verosimilitud , la máxima probabilidad a posteriori , el muestreo de Gibbs y la retropropagación de errores de reconstrucción o reparametrizaciones de estados ocultos. Consulte la tabla a continuación para obtener más detalles.

Una función de energía es una medida macroscópica del estado de activación de una red. En las máquinas de Boltzmann, desempeña el papel de la función de coste. Esta analogía con la física está inspirada en el análisis de Ludwig Boltzmann sobre la energía macroscópica de un gas a partir de las probabilidades microscópicas del movimiento de las partículas.${\displaystyle p\propto e^{-E/kT}}$donde k es la constante de Boltzmann y T es la temperatura. En la red RBM la relación es${\displaystyle p=e^{-E}/Z}$, ^{[ 5 ]} donde${\displaystyle p}$y${\displaystyle E}$varían en todos los posibles patrones de activación y${\displaystyle \textstyle {Z=\sum _{\scriptscriptstyle {\text{Todos los patrones}}}e^{-E({\text{patrón}})}}}$Para ser más precisos,${\displaystyle p(a)=e^{-E(a)}/Z}$, dónde${\displaystyle a}$es un patrón de activación de todas las neuronas (visibles y ocultas). Por lo tanto, algunas redes neuronales tempranas llevan el nombre de Máquina de Boltzmann. Paul Smolensky la llama${\displaystyle -E\,}$La armonía . Una red busca baja energía, lo que equivale a alta armonía.

Esta tabla muestra diagramas de conexión de diversas redes no supervisadas, cuyos detalles se explicarán en la sección Comparación de Redes. Los círculos representan neuronas y las aristas entre ellas, pesos de conexión. A medida que cambia el diseño de la red, se añaden características para habilitar nuevas capacidades o se eliminan para acelerar el aprendizaje. Por ejemplo, las neuronas cambian entre deterministas (Hopfield) y estocásticas (Boltzmann) para permitir una salida robusta, se eliminan pesos dentro de una capa (RBM) para acelerar el aprendizaje o se permite que las conexiones sean asimétricas (Helmholtz).

De las redes que llevan nombres de personas, solo Hopfield trabajó directamente con redes neuronales. Boltzmann y Helmholtz precedieron a las redes neuronales artificiales, pero su trabajo en física y fisiología inspiró los métodos analíticos que se utilizaron.

Aquí destacamos algunas características de redes seleccionadas. Los detalles de cada una se presentan en la tabla comparativa a continuación.

Red Hopfield

Las redes de Hopfield se inspiraron en el ferromagnetismo. Una neurona corresponde a un dominio de hierro con momentos magnéticos binarios Arriba y Abajo, y las conexiones neuronales corresponden a la influencia mutua entre los dominios. Las conexiones simétricas permiten una formulación energética global. Durante la inferencia, la red actualiza cada estado mediante la función de activación estándar. Los pesos simétricos y las funciones energéticas adecuadas garantizan la convergencia a un patrón de activación estable. Los pesos asimétricos son difíciles de analizar. Las redes de Hopfield se utilizan como memorias de contenido direccionable (CAM).

Máquina de Boltzmann

Estas son redes de Hopfield estocásticas. Su valor de estado se muestrea a partir de esta pdf de la siguiente manera: supongamos que una neurona binaria se activa con la probabilidad de Bernoulli p(1) = 1/3 y se desactiva con p(0) = 2/3. Se muestrea a partir de ella tomando un número aleatorio y con distribución uniforme y sustituyéndolo en la función de distribución acumulativa inversa , que en este caso es la función escalón con un umbral de 2/3. La función inversa = { 0 si x <= 2/3, 1 si x > 2/3 }.

Red de creencias sigmoidea

Introducida por Radford Neal en 1992, esta red aplica ideas de modelos gráficos probabilísticos a redes neuronales. Una diferencia clave es que los nodos en los modelos gráficos tienen significados preasignados, mientras que las características de las neuronas de Belief Net se determinan después del entrenamiento. La red es un grafo dirigido acíclico escasamente conectado, compuesto por neuronas estocásticas binarias. La regla de aprendizaje proviene de la máxima verosimilitud en p(X): Δw _ij${\displaystyle \propto }$s _j * (s _i - p _i ), donde p _i = 1 / ( 1 + e ^{entradas ponderadas en la neurona i} ). Los s _j son activaciones de una muestra no sesgada de la distribución posterior y esto es problemático debido al problema de la explicación errónea planteado por Judea Perl. Los métodos bayesianos variacionales utilizan una distribución posterior sustituta e ignoran flagrantemente esta complejidad.

Red de Creencias Profundas

Introducida por Hinton, esta red es un híbrido de RBM y red de creencias sigmoide. Las dos primeras capas son una RBM y la segunda capa hacia abajo forma una red de creencias sigmoide. Se entrena mediante el método RBM apilado y luego se descartan los pesos de reconocimiento por debajo de la RBM superior. En 2009, 3-4 capas parecían ser la profundidad óptima. ^{[ 6 ]}

Máquina de Helmholtz

Estas son las primeras inspiraciones para los autocodificadores variacionales. Sus 2 redes combinadas en una: los pesos hacia adelante operan el reconocimiento y los pesos hacia atrás implementan la imaginación. Es quizás la primera red en hacer ambas cosas. Helmholtz no trabajó en aprendizaje automático, pero inspiró la visión de "motor de inferencia estadística cuya función es inferir las causas probables de la entrada sensorial". ^{[ 7 ]} la neurona binaria estocástica produce una probabilidad de que su estado sea 0 o 1. La entrada de datos normalmente no se considera una capa, pero en el modo de generación de la máquina de Helmholtz, la capa de datos recibe entrada de la capa intermedia y tiene pesos separados para este propósito, por lo que se considera una capa. Por lo tanto, esta red tiene 3 capas.

autoencoder variacional

Estos sistemas se inspiran en las máquinas de Helmholtz y combinan redes de probabilidad con redes neuronales. Un autoencoder es una red CAM de tres capas, donde la capa intermedia representa internamente los patrones de entrada. La red neuronal codificadora es una distribución de probabilidad q _φ (z dado x) y la red decodificadora es p _θ (x dado z). Los pesos se denominan phi y theta en lugar de W y V, como en Helmholtz; una diferencia meramente estética. Estas dos redes pueden estar completamente conectadas o utilizar otro esquema de red neuronal.

El ejemplo clásico de aprendizaje no supervisado en el estudio de redes neuronales es el principio de Donald Hebb , es decir, las neuronas que se activan juntas se conectan entre sí. ^{[ 8 ]} En el aprendizaje hebbiano , la conexión se refuerza independientemente de un error, pero es exclusivamente una función de la coincidencia entre los potenciales de acción de las dos neuronas. ^{[ 9 ]} Una versión similar que modifica los pesos sinápticos tiene en cuenta el tiempo entre los potenciales de acción ( plasticidad dependiente del tiempo de los picos o STDP). Se ha planteado la hipótesis de que el aprendizaje hebbiano subyace a una serie de funciones cognitivas, como el reconocimiento de patrones y el aprendizaje experiencial.

Entre los modelos de redes neuronales , el mapa autoorganizado (SOM) y la teoría de resonancia adaptativa (ART) se utilizan comúnmente en algoritmos de aprendizaje no supervisado. El SOM es una organización topográfica en la que las ubicaciones cercanas en el mapa representan entradas con propiedades similares. El modelo ART permite que el número de clústeres varíe con el tamaño del problema y permite al usuario controlar el grado de similitud entre los miembros de los mismos clústeres mediante una constante definida por el usuario llamada parámetro de vigilancia. Las redes ART se utilizan para muchas tareas de reconocimiento de patrones, como el reconocimiento automático de objetivos y el procesamiento de señales sísmicas. ^{[ 10 ]}

Algunos de los algoritmos más comunes utilizados en el aprendizaje no supervisado incluyen: (1) Agrupamiento, (2) Detección de anomalías, (3) Enfoques para el aprendizaje de modelos de variables latentes. Cada enfoque utiliza varios métodos, como se detalla a continuación:

• Los métodos de agrupamiento incluyen: agrupamiento jerárquico , ^{[ 13 ]} k-medias , ^{[ 14 ]} modelos de mezcla , agrupamiento basado en modelos , DBSCAN y el algoritmo OPTICS.
• Los métodos de detección de anomalías incluyen: factor de valores atípicos locales y bosque de aislamiento.
• Enfoques para el aprendizaje de modelos de variables latentes como el algoritmo de expectativa-maximización (EM), el método de los momentos y las técnicas de separación de señales ciegas (análisis de componentes principales, análisis de componentes independientes , factorización de matrices no negativas , descomposición en valores singulares ).

Uno de los enfoques estadísticos para el aprendizaje no supervisado es el método de los momentos . En este método, los parámetros desconocidos (de interés) del modelo se relacionan con los momentos de una o más variables aleatorias, lo que permite estimar dichos parámetros a partir de los momentos. Los momentos se suelen estimar empíricamente a partir de muestras. Los momentos básicos son de primer y segundo orden. Para un vector aleatorio, el momento de primer orden es el vector de medias , y el de segundo orden es la matriz de covarianza (cuando la media es cero). Los momentos de orden superior se representan generalmente mediante tensores , que son la generalización de las matrices a órdenes superiores como arreglos multidimensionales.

En particular, se demuestra que el método de los momentos es eficaz para aprender los parámetros de los modelos de variables latentes . Los modelos de variables latentes son modelos estadísticos donde, además de las variables observadas, existe un conjunto de variables latentes que no se observan. Un ejemplo muy práctico de modelos de variables latentes en el aprendizaje automático es el modelado de temas , que es un modelo estadístico para generar las palabras (variables observadas) en un documento basándose en el tema (variable latente) del mismo. En el modelado de temas, las palabras del documento se generan según diferentes parámetros estadísticos cuando cambia el tema del documento. Se demuestra que el método de los momentos (técnicas de descomposición tensorial) recupera de forma consistente los parámetros de una gran clase de modelos de variables latentes bajo ciertas suposiciones. ^{[ 15 ]}

El algoritmo de Expectación-Maximización (EM) es uno de los métodos más prácticos para el aprendizaje de modelos de variables latentes. Sin embargo, puede quedarse atascado en óptimos locales y no se garantiza su convergencia hacia los parámetros desconocidos reales del modelo. En cambio, el método de los momentos garantiza la convergencia global bajo ciertas condiciones.