Mapa topográfico generativo

El mapa topográfico generativo ( GTM ) es un método de aprendizaje automático que constituye una contraparte probabilística del mapa autoorganizado (SOM), es probablemente convergente y no requiere una vecindad decreciente ni un tamaño de paso decreciente. Es un modelo generativo : se supone que los datos surgen al seleccionar probabilísticamente un punto en un espacio de baja dimensión, mapear dicho punto al espacio de entrada de alta dimensión observado (mediante una función suave) y, posteriormente, añadir ruido a ese espacio. Los parámetros de la distribución de probabilidad de baja dimensión, el mapa suave y el ruido se aprenden a partir de los datos de entrenamiento mediante el algoritmo de expectativa-maximización (EM) . El GTM fue presentado en 1996 en un artículo de Christopher Bishop , Markus Svensen y Christopher KI Williams.

Este enfoque está estrechamente relacionado con las redes de densidad , que utilizan muestreo de importancia y un perceptrón multicapa para formar un modelo de variables latentes no lineal . En el GTM, el espacio latente es una cuadrícula discreta de puntos que se supone se proyecta de forma no lineal en el espacio de datos. A continuación, se asume un ruido gaussiano en el espacio de datos, de modo que el modelo se convierte en una mezcla restringida de gaussianas . Posteriormente, la verosimilitud del modelo se puede maximizar mediante EM.

En teoría, se podría utilizar una deformación paramétrica no lineal arbitraria. Los parámetros óptimos podrían hallarse mediante descenso de gradiente, etc.

El enfoque propuesto para el mapeo no lineal consiste en utilizar una red de funciones de base radial (RBF) para crear un mapeo no lineal entre el espacio latente y el espacio de datos. Los nodos de la red RBF forman un espacio de características , y el mapeo no lineal puede considerarse como una transformación lineal de dicho espacio. Este enfoque presenta la ventaja, frente al enfoque de red de densidad propuesto, de que puede optimizarse analíticamente.

En el análisis de datos, los modelos de mezcla gaussiana (GTM) son como una versión no lineal del análisis de componentes principales , que permite modelar datos de alta dimensión como resultado de la adición de ruido gaussiano a fuentes en un espacio latente de menor dimensión. Por ejemplo, para ubicar acciones en un espacio 2D trazable en función de la forma de sus series temporales de alta dimensión. Otras aplicaciones pueden requerir menos fuentes que puntos de datos, como por ejemplo los modelos de mezcla.

En el modelado deformacional generativo , los espacios latente y de datos tienen las mismas dimensiones, por ejemplo, imágenes 2D u ondas sonoras 1D. Se añaden dimensiones "vacías" adicionales a la fuente (conocida como "plantilla" en este tipo de modelado), por ejemplo, ubicando la onda sonora 1D en un espacio 2D. A continuación, se añaden dimensiones no lineales adicionales, producidas mediante la combinación de las dimensiones originales. El espacio latente ampliado se proyecta de nuevo en el espacio de datos 1D. La probabilidad de una proyección dada viene dada, como antes, por el producto de la verosimilitud de los datos bajo el modelo de ruido gaussiano con la distribución a priori del parámetro de deformación. A diferencia del modelado de deformación convencional basado en resortes, este método tiene la ventaja de ser analíticamente optimizable. La desventaja es que se trata de un enfoque de "minería de datos", es decir, es improbable que la forma de la distribución a priori de la deformación sea significativa como explicación de las posibles deformaciones, ya que se basa en un espacio latente no lineal muy elevado, artificial y construido arbitrariamente. Por este motivo, la información previa se aprende a partir de datos en lugar de ser creada por un experto humano, como es posible en los modelos basados ​​en resortes.

Mientras que los nodos en el mapa autoorganizado (SOM) pueden moverse libremente, los nodos del modelo de transformación gaussiana (GTM) están limitados por las transformaciones permitidas y sus probabilidades. Si las deformaciones se comportan adecuadamente, se conserva la topología del espacio latente.

El SOM se creó como un modelo biológico de neuronas y es un algoritmo heurístico. Por el contrario, el GTM no tiene nada que ver con la neurociencia ni la cognición y es un modelo basado en principios probabilísticos. Por lo tanto, presenta varias ventajas sobre el SOM, a saber:

• Formula explícitamente un modelo de densidad sobre los datos.
• Utiliza una función de coste que cuantifica la eficacia con la que se ha entrenado el mapa.
• Utiliza un procedimiento de optimización de sonido ( algoritmo EM ).

El método GTM fue presentado por Bishop, Svensen y Williams en su Informe Técnico de 1997 (Informe Técnico NCRG/96/015, Universidad de Aston, Reino Unido), publicado posteriormente en Neural Computation. También fue descrito en la tesis doctoral de Markus Svensen (Aston, 1998).

• Mapa autoorganizado (SOM)
• Red neuronal (aprendizaje automático), también conocida como red neuronal artificial (RNA).
• Conexionismo
• minería de datos
• Aprendizaje automático
• Reducción de dimensionalidad no lineal
• Software de redes neuronales
• Reconocimiento de patrones

• Artículo de Bishop, Svensen y Williams sobre cartografía topográfica generativa
• Mapeo topográfico generativo desarrollado en el Grupo de Investigación en Computación Neuronal de la Universidad de Aston (Reino Unido). (Caja de herramientas de Matlab)