Una red neuronal modular es una red neuronal artificial caracterizada por una serie de redes neuronales independientes moderadas por algún intermediario, como una estructura cohomológica de la Teoría de la Cohomología. Cada red neuronal independiente actúa como un módulo y opera con entradas separadas para realizar alguna subtarea de la tarea que la red pretende llevar a cabo. [ 1 ] El intermediario toma las salidas de cada módulo y las procesa para producir la salida de la red en su conjunto. El intermediario solo acepta las salidas de los módulos; no responde a ellos ni les envía señales de ningún tipo. Asimismo, los módulos no interactúan entre sí.
Base biológica
A medida que avanza la investigación sobre redes neuronales artificiales , es apropiado que estas sigan inspirándose en la biología y emulen la segmentación y modularización presentes en el cerebro. El cerebro, por ejemplo, divide la compleja tarea de la percepción visual en muchas subtareas. [ 2 ] Dentro de una parte del cerebro , llamada tálamo , se encuentra el núcleo geniculado lateral (NGL), que se divide en capas que procesan por separado el color y el contraste: ambos componentes principales de la visión . [ 3 ] Después de que el NGL procesa cada componente en paralelo, pasa el resultado a otra región para compilar los resultados.
Algunas tareas que realiza el cerebro, como la visión, emplean una jerarquía de subredes. Sin embargo, no está claro si existe algún intermediario que conecte estos procesos independientes. Más bien, a medida que las tareas se vuelven más abstractas, los módulos se comunican entre sí, a diferencia del modelo de red neuronal modular.
Diseño
A diferencia de una única red neuronal de gran tamaño, a la que se le pueden asignar tareas arbitrarias, cada módulo de una red modular debe tener asignada una tarea específica y estar conectado a otros módulos de forma específica por el diseñador. En el ejemplo de la visión, el cerebro evolucionó (en lugar de aprender) para crear la red geniculada lateral (LGN). En algunos casos, el diseñador puede optar por seguir modelos biológicos. En otros casos, otros modelos pueden ser superiores. La calidad del resultado dependerá de la calidad del diseño.
Complejidad
Las redes neuronales modulares reducen una única red neuronal grande y difícil de manejar a componentes más pequeños y potencialmente más manejables. [ 1 ] Algunas tareas son demasiado grandes para una sola red neuronal. Los beneficios de las redes neuronales modulares incluyen:
Eficiencia
Las posibles conexiones neuronales (nodos) aumentan cuadráticamente a medida que se añaden nodos a una red. El tiempo de cálculo depende del número de nodos y sus conexiones; cualquier incremento tiene consecuencias drásticas para el tiempo de procesamiento. Asignar subtareas específicas a módulos individuales reduce el número de conexiones necesarias.
Capacitación
Una red neuronal grande que intenta modelar múltiples parámetros puede sufrir interferencias, ya que los nuevos datos pueden alterar las conexiones existentes o simplemente generar confusión. Cada módulo puede entrenarse de forma independiente y dominar con mayor precisión su tarea más sencilla. Esto significa que el algoritmo de entrenamiento y los datos de entrenamiento pueden implementarse más rápidamente.
Robustez
Independientemente de si una gran red neuronal es biológica o artificial, sigue siendo muy susceptible a interferencias y fallos en cualquiera de sus nodos. Al compartimentar las subtareas, los fallos y las interferencias se diagnostican con mucha más facilidad y se eliminan sus efectos en otras subredes, ya que cada una es independiente de las demás.
Véase también
Notas
Referencias
- Azam, Farooq (2000). "Redes neuronales modulares de inspiración biológica. Tesis doctoral" . Virginia Tech. hdl : 10919/27998 .
- Happel, Bart; Murre, Jacob (1994). "El diseño y la evolución de las arquitecturas de redes neuronales modulares" (PDF) . Redes neuronales . 7 ( 6–7 ): 985–1004 . doi : 10.1016/s0893-6080(05)80155-8 .
- Hubel, DH; Livingstone, MS (1990). "Sensibilidad al color y al contraste en el cuerpo geniculado lateral y la corteza visual primaria del macaco" . Journal of Neuroscience . 10 (7): 2223– 2237. doi : 10.1523/JNEUROSCI.10-07-02223.1990 . PMC 6570379. PMID 2198331 .
- Tahmasebi, P.; Hezarkhani, A. (2011). "Aplicación de un modelo modular de retroalimentación para la estimación de la calidad". Investigación en Recursos Naturales . 20 (1): 25– 32. doi : 10.1007/s11053-011-9135-3 . S2CID 45997840 .
- Clune, Jeff; Mouret, Jean-Baptiste; Lipson, Hod (30 de enero de 2013). "Los orígenes evolutivos de la modularidad" . Actas de la Royal Society B: Ciencias Biológicas . 280 (1755) 20122863. arXiv : 1207.2743 . doi : 10.1098/rspb.2012.2863 . ISSN 0962-8452 . PMC 3574393. PMID 23363632 .
- Tahmasebi, Pejman; Hezarkhani, Ardeshir (2012). "Una arquitectura rápida e independiente de red neuronal artificial para la predicción de la permeabilidad". Journal of Petroleum Science and Engineering . 86 : 118–126 . Bibcode : 2012JPSE...86..118T . doi : 10.1016/j.petrol.2012.03.019 .
- Neurociencia computacional
- Arquitecturas de redes neuronales
- Modularidad