La memoria de trabajo de la corteza prefrontal y los ganglios basales ( PBWM ) es un algoritmo que modela la memoria de trabajo en la corteza prefrontal y los ganglios basales . [ 1 ]
Se puede comparar con la memoria a corto y largo plazo (LSTM) en cuanto a su funcionalidad, pero es más explicable biológicamente. [ 1 ] [ 2 ]
Utiliza el modelo de valor aprendido de valor primario para entrenar el sistema de actualización de la memoria de trabajo de la corteza prefrontal, basado en la biología de la corteza prefrontal y los ganglios basales. [ 3 ]
Se utiliza como parte del marco de Leabra y se implementó en Emergent en 2019.
Abstracto
Se ha creído durante mucho tiempo que la corteza prefrontal interviene tanto en la memoria de trabajo (el almacenamiento de información disponible para su procesamiento) como en las funciones ejecutivas (la decisión de cómo gestionar la memoria de trabajo y realizar el procesamiento). Si bien se han desarrollado numerosos modelos computacionales de la memoria de trabajo , la base mecanicista de la función ejecutiva sigue siendo un misterio.
PBWM es un modelo computacional de la corteza prefrontal que controla tanto su propia actividad como otras áreas cerebrales de forma estratégica y adaptada a la tarea. Estos mecanismos de aprendizaje se basan en estructuras subcorticales del mesencéfalo, los ganglios basales y la amígdala, que en conjunto forman una arquitectura actor-crítico. El sistema crítico aprende qué representaciones prefrontales son relevantes para la tarea y entrena al actor, que a su vez proporciona un mecanismo de control dinámico para la actualización de la memoria de trabajo. Desde el punto de vista computacional, el mecanismo de aprendizaje está diseñado para resolver simultáneamente los problemas de asignación de crédito temporal y estructural.
El rendimiento del modelo se compara favorablemente con los mecanismos de aprendizaje temporal estándar basados en retropropagación en la desafiante tarea de memoria de trabajo 1-2-AX y otras tareas de memoria de trabajo de referencia. [ 1 ]
Modelo
En primer lugar, existen múltiples franjas separadas (grupos de unidades) en la corteza prefrontal y el cuerpo estriado . Cada franja puede actualizarse de forma independiente, de modo que este sistema puede recordar varias cosas diferentes al mismo tiempo, cada una con una "política de actualización" distinta sobre cuándo se actualizan y mantienen los recuerdos. El mantenimiento activo de la memoria se produce en la corteza prefrontal (CPF), y las señales de actualización (y la política de actualización en general) provienen de las unidades del cuerpo estriado (un subconjunto de las unidades de los ganglios basales ). [ 3 ]
PVLV proporciona señales de aprendizaje por refuerzo para entrenar el sistema de compuertas dinámicas en los ganglios basales.
Entrada sensorial y salida motora
La información sensorial está conectada a la corteza posterior , que a su vez está conectada a la respuesta motora. La información sensorial también está vinculada al sistema PVLV .
corteza posterior
La corteza posterior forma las capas ocultas del mapeo de entrada/salida. La corteza prefrontal está conectada con la corteza posterior para contextualizar este mapeo de entrada/salida.
PFC
El PFC (para control de salida) tiene una representación localista uno a uno de las unidades de entrada para cada franja. Por lo tanto, se pueden observar estas representaciones del PFC y ver directamente qué información mantiene la red. El PFC mantiene la memoria de trabajo necesaria para realizar la tarea.
Cuerpo estriado
Este es el sistema de activación dinámica que representa las unidades del cuerpo estriado de los ganglios basales . Cada unidad de índice par dentro de una franja representa "Go", mientras que las unidades de índice impar representan "NoGo". Las unidades Go provocan la actualización de la corteza prefrontal (CPF), mientras que las unidades NoGo hacen que la CPF mantenga su representación de memoria existente.
Hay grupos de unidades para cada franja.
En el modelo PBWM de Emergent , las matrices representan el cuerpo estriado.
PVLV
Todas estas capas forman parte del sistema PVLV . El sistema PVLV controla la modulación dopaminérgica de los ganglios basales (GB). De este modo, GB/PVLV conforman una arquitectura actor-crítico en la que el sistema PVLV aprende cuándo actualizarse.
SNrThal
SNrThal representa la sustancia negra pars reticulata (SNr) y el área asociada del tálamo , que generan una competencia entre las unidades Go/NoGo dentro de una franja determinada y median dicha competencia mediante una dinámica de "k ganadores se lo llevan todo" . Si hay mayor actividad Go general en una franja determinada, la unidad SNrThal asociada se activa e impulsa la actualización en la corteza prefrontal. Hay una unidad SNrThal por cada franja.
VTA y SNc
El área tegmental ventral (ATV) y la sustancia negra pars compacta (SNc) forman parte de la capa dopaminérgica . Esta capa modela las neuronas dopaminérgicas del mesencéfalo y controla la modulación dopaminérgica de los ganglios basales.
Véase también
Referencias
- 1 2 3 O'Reilly, RC y Frank, MJ (2006). "Haciendo funcionar la memoria de trabajo: un modelo computacional del aprendizaje en la corteza frontal y los ganglios basales" . Neural Computation . 18 (2): 283– 328. doi : 10.1162/089976606775093909 . PMID 16378516. S2CID 8912485 .
- ↑ Jeevanandam, Nivash (13 de septiembre de 2021). "Conceptos de ML subestimados pero fascinantes n.° 5: CST, PBWM, SARSA y mapeo de Sammon" . Analytics India Magazine . Consultado el 4 de diciembre de 2021 .
- 1 2 "Leabra PBWM" . CCNLab.
- algoritmos de aprendizaje automático
- Neurociencia computacional