Articulo de referencia

DeepDream

La Mona Lisa con efecto DeepDream usando la red VGG16 entrenada en ImageNet. DeepDream es un programa de visión artificial creado por el ingeniero de Google Alexander Mordvintse...

La Mona Lisa con efecto DeepDream usando la red VGG16 entrenada en ImageNet.

DeepDream es un programa de visión artificial creado por el ingeniero de Google Alexander Mordvintsev que utiliza una red neuronal convolucional para encontrar y realzar patrones en imágenes mediante pareidolia algorítmica , creando así una apariencia onírica que recuerda a una experiencia psicodélica en las imágenes deliberadamente sobreprocesadas. [ 1 ] [ 2 ] [ 3 ]

El programa de Google popularizó el término "soñar profundo" para referirse a la generación de imágenes que producen las activaciones deseadas en una red neuronal profunda entrenada , y ahora el término se refiere a un conjunto de enfoques relacionados.

Historia

El software DeepDream, originado en una red convolucional profunda con nombre en clave "Inception" en honor a la película del mismo nombre , [ 1 ] [ 2 ] [ 3 ] fue desarrollado para el ImageNet Large-Scale Visual Recognition Challenge (ILSVRC) en 2014 [ 3 ] y lanzado en julio de 2015.

La idea y el nombre de "soñar" se popularizaron en internet en 2015 gracias al programa DeepDream de Google. La idea se remonta a los inicios de las redes neuronales, [ 4 ] y se han utilizado métodos similares para sintetizar texturas visuales. [ 5 ] Varios grupos de investigación desarrollaron ideas de visualización relacionadas (antes del trabajo de Google). [ 6 ] [ 7 ]

Después de que Google publicara sus técnicas y liberara su código como código abierto , [ 8 ] aparecieron en el mercado varias herramientas en forma de servicios web, aplicaciones móviles y software de escritorio para permitir a los usuarios transformar sus propias fotos. [ 9 ]

Proceso

Una imagen de medusas sobre un fondo azul.
Una imagen de medusas procesada con DeepDream después de diez iteraciones.
Una imagen de medusas procesada con DeepDream después de cincuenta iteraciones.
La imagen original (arriba) después de aplicar diez (centro) y cincuenta (abajo) iteraciones de DeepDream, donde la red fue entrenada para percibir perros y luego correr hacia atrás.

El software está diseñado para detectar rostros y otros patrones en imágenes, con el objetivo de clasificar imágenes automáticamente. [ 10 ] Sin embargo, una vez entrenada, la red también puede ejecutarse en sentido inverso, pidiéndole que ajuste ligeramente la imagen original para que una neurona de salida determinada (por ejemplo, la de rostros o ciertos animales) produzca una puntuación de confianza más alta. Esto puede utilizarse para visualizaciones que permitan comprender mejor la estructura emergente de la red neuronal, y es la base del concepto DeepDream. Este procedimiento de reversión nunca es perfectamente claro ni inequívoco porque utiliza un proceso de mapeo de uno a muchos . [ 11 ] Sin embargo, después de suficientes reiteraciones, incluso las imágenes inicialmente desprovistas de las características buscadas se ajustarán lo suficiente como para que se produzca una forma de pareidolia , mediante la cual se generan algorítmicamente imágenes psicodélicas y surrealistas . La optimización se asemeja a la retropropagación ; sin embargo, en lugar de ajustar los pesos de la red, estos se mantienen fijos y se ajusta la entrada.

Por ejemplo, se puede modificar una imagen existente para que se parezca más a un gato, y la imagen mejorada resultante se puede volver a introducir en el procedimiento. [ 2 ] Este uso se asemeja a la actividad de buscar animales u otros patrones en las nubes.

Aplicar el descenso de gradiente de forma independiente a cada píxel de la entrada produce imágenes en las que los píxeles adyacentes tienen poca relación y, por lo tanto, la imagen tiene demasiada información de alta frecuencia. Las imágenes generadas se pueden mejorar considerablemente incluyendo un regularizador o un prior que prefiera entradas que tengan estadísticas de imagen naturales (sin preferencia por ninguna imagen en particular), o que sean simplemente suaves. [ 7 ] [ 12 ] [ 13 ] Por ejemplo, Mahendran et al. [ 12 ] utilizaron el regularizador de variación total que prefiere imágenes que son constantes por partes. Varios regularizadores se discuten con más detalle en Yosinski et al. [ 13 ] Una exploración visual en profundidad de las técnicas de visualización de características y regularización se publicó más recientemente. [ 14 ]

La similitud citada de las imágenes con las alucinaciones inducidas por LSD y psilocibina sugiere una similitud funcional entre las redes neuronales artificiales y capas particulares de la corteza visual. [ 15 ]

Las redes neuronales como DeepDream tienen analogías biológicas que permiten comprender el procesamiento cerebral y la formación de la conciencia. Los alucinógenos como el DMT alteran la función del sistema serotoninérgico, presente en las capas de la corteza visual. Las redes neuronales se entrenan con vectores de entrada y se modifican mediante variaciones internas durante el proceso de entrenamiento. Las modificaciones de entrada e internas representan el procesamiento de señales exógenas y endógenas, respectivamente, en la corteza visual. A medida que se modifican las variaciones internas en las redes neuronales profundas, la imagen de salida refleja estos cambios. Esta manipulación específica demuestra cómo los mecanismos cerebrales internos son análogos a las capas internas de las redes neuronales. Las modificaciones del nivel de ruido interno representan cómo los alucinógenos omiten la información sensorial externa, lo que lleva a que las concepciones preconcebidas internas influyan fuertemente en la percepción visual. [ 16 ]

Uso

Una fotografía de tres hombres en una piscina, procesada intensamente con DeepDream.

La idea del sueño se puede aplicar a neuronas ocultas (internas) distintas de las de la salida, lo que permite explorar las funciones y representaciones de varias partes de la red. [ 13 ] También es posible optimizar la entrada para satisfacer a una sola neurona (este uso a veces se denomina Maximización de la Actividad) [ 17 ] o a una capa completa de neuronas.

Aunque soñar se usa con mayor frecuencia para visualizar redes o producir arte por computadora, recientemente se ha propuesto que agregar entradas "soñadas" al conjunto de entrenamiento puede mejorar los tiempos de entrenamiento para abstracciones en Ciencias de la Computación. [ 18 ]

También se ha demostrado que el modelo DeepDream tiene aplicaciones en el campo de la historia del arte . [ 19 ]

DeepDream se utilizó para el video musical de Foster the People para la canción " Doing It for the Money ". [ 20 ]

En 2017, un grupo de investigación de la Universidad de Sussex creó una Máquina de Alucinaciones , aplicando el algoritmo DeepDream a un video panorámico pregrabado, lo que permite a los usuarios explorar entornos de realidad virtual para imitar la experiencia de sustancias psicoactivas y/o condiciones psicopatológicas. [ 21 ] Lograron demostrar que las experiencias subjetivas inducidas por la Máquina de Alucinaciones diferían significativamente de los videos de control (no 'alucinógenos'), a la vez que presentaban similitudes fenomenológicas con el estado psicodélico (tras la administración de psilocibina).

En 2021, un estudio publicado en la revista Entropy demostró la similitud entre DeepDream y la experiencia psicodélica real con evidencia neurocientífica . [ 22 ] Los autores registraron la electroencefalografía (EEG) de participantes humanos durante la visión pasiva de un fragmento de película y su contraparte generada por DeepDream. Encontraron que el video de DeepDream desencadenó una mayor entropía en la señal de EEG y un mayor nivel de conectividad funcional entre áreas cerebrales, [ 22 ] ambos biomarcadores bien conocidos de la experiencia psicodélica real. [ 23 ]

En 2022, un grupo de investigación coordinado por la Universidad de Trento "midió la flexibilidad cognitiva y la creatividad de los participantes después de la exposición a videos panorámicos de realidad virtual y sus contrapartes de tipo alucinatorio generadas por el algoritmo DeepDream... después de la exposición psicodélica simulada, los individuos exhibieron... una contribución atenuada del proceso automático y la dinámica caótica subyacente a sus procesos de toma de decisiones, presumiblemente debido a una reorganización en la dinámica cognitiva que facilita la exploración de estrategias de decisión poco comunes e inhibe las elecciones automatizadas". [ 24 ]

Véase también

Referencias

  1. 1 2 Mordvintsev, Alexander; Olah, Christopher; Tyka, Mike (2015). "DeepDream: un ejemplo de código para visualizar redes neuronales" . Google Research. Archivado del original el 8 de julio de 2015.
  2. 1 2 3 Mordvintsev, Alexander; Olah, Christopher; Tyka, Mike (2015). "Inceptionism: Going Deeper into Neural Networks" . Google Research. Archivado del original el 3 de julio de 2015.
  3. 1 2 3 Szegedy, Christian; Liu, Wei; Jia, Yangqing; Sermanet, Pierre; Reed, Scott E.; Anguelov, Dragomir; Erhan, Dumitru; Vanhoucke, Vincent; Rabinovich, Andrew (2015). "Going deeper with convolutions". Conferencia IEEE sobre Visión por Computadora y Reconocimiento de Patrones, CVPR 2015, Boston, MA, EE. UU., 7-12 de junio de 2015. IEEE Computer Society. págs. 1-9 . arXiv : 1409.4842 . doi : 10.1109/CVPR.2015.7298594 . ISBN  978-1-4673-6964-0.
  4. Lewis, JP (1988). "Creación por refinamiento: un paradigma de creatividad para redes de aprendizaje por descenso de gradiente". Conferencia Internacional IEEE sobre Redes Neuronales . Conferencia Internacional IEEE sobre Redes Neuronales. págs. 229-233 vol.2. doi : 10.1109/ICNN.1988.23933 . ISBN  0-7803-0999-5.
  5. Portilla, J; Simoncelli, Eero (2000). "Un modelo de textura paramétrico basado en estadísticas conjuntas de coeficientes de ondículas complejas". International Journal of Computer Vision . 40 : 49–70 . doi : 10.1023/A:1026553619983 . S2CID 2475577 . 
  6. Erhan, Dumitru. (2009). Visualizing Higher-Layer Features of a Deep Network . International Conference on Machine Learning Workshop on Learning Feature Hierarchies. S2CID 15127402 . 
  7. 1 2 Simonyan, Karen; Vedaldi, Andrea; Zisserman, Andrew (2014). Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps . International Conference on Learning Representations Workshop. arXiv : 1312.6034 .
  8. deepdream en GitHub
  9. Daniel Culpan (3 de julio de 2015). "Estas imágenes de Google 'Deep Dream' son extrañamente hipnotizantes" . Wired . Consultado el 25 de julio de 2015 .
  10. Rich McCormick (7 de julio de 2015). "Miedo y asco en Las Vegas es aterrador visto a través de los ojos de una computadora" . The Verge . Consultado el 25 de julio de 2015 .
  11. Hayes, Brian (2015). "Visión por computadora y alucinaciones por computadora" . American Scientist . 103 (6): 380. doi : 10.1511/2015.117.380 . ISSN 0003-0996 . 
  12. 1 2 Mahendran, Aravindh; Vedaldi, Andrea (2015). "Understanding Deep Image Representations by Inverting Them". 2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR) . IEEE Conference on Computer Vision and Pattern Recognition. pp. 5188–5196 . arXiv : 1412.0035 . doi : 10.1109 /CVPR.2015.7299155 . ISBN  978-1-4673-6964-0.
  13. 1 2 3 Yosinski, Jason; Clune, Jeff; Nguyen, Anh; Fuchs, Thomas (2015). Comprensión de las redes neuronales mediante visualización profunda . Taller de aprendizaje profundo, Conferencia internacional sobre aprendizaje automático (ICML) Taller de aprendizaje profundo. arXiv : 1506.06579 .
  14. Olah, Chris; Mordvintsev, Alexander; Schubert, Ludwig (2017-11-07). "Visualización de características" . Distill . 2 (11). doi : 10.23915/distill.00007 . ISSN 2476-0757 . 
  15. LaFrance, Adrienne (3 de septiembre de 2015). "Cuando los robots alucinan" . The Atlantic . Consultado el 24 de septiembre de 2015 .
  16. Timmermann, Christopher (12 de diciembre de 2020). "Modelos de redes neuronales para las alucinaciones visuales inducidas por DMT" . Neuroscience of Consciousness . 2020 (1) niaa024. NIH. doi : 10.1093/nc/niaa024 . PMC 7734438. PMID 33343929 .  
  17. Nguyen, Anh; Dosovitskiy, Alexey; Yosinski, Jason; Brox, Thomas (2016). Síntesis de las entradas preferidas para neuronas en redes neuronales mediante redes generadoras profundas . arxiv. arXiv : 1605.09304 . Bibcode : 2016arXiv160509304N .
  18. Arora, Sanjeev; Liang, Yingyu; Tengyu, Ma (2016). ¿Por qué son reversibles las redes profundas?: Una teoría simple, con implicaciones para el entrenamiento . arxiv. arXiv : 1511.05653 . Bibcode : 2015arXiv151105653A .
  19. Spratt, Emily L. (2017). "Dream Formulations and Deep Neural Networks: Humanistic Themes in the Iconology of the Machine-Learned Image" (PDF) . Kunsttexte . 4. Humboldt-Universität zu Berlin. arXiv : 1802.01274 . Bibcode : 2018arXiv180201274S .
  20. fosterthepeopleVEVO (11/08/2017), Foster The People - Doing It for the Money , consultado el 15/08/2017
  21. Suzuki, Keisuke (22 de noviembre de 2017). "Una plataforma de realidad virtual de sueños profundos para estudiar la fenomenología perceptiva alterada" . Sci Rep . 7 (1): 15982. Bibcode : 2017NatSR...715982S . doi : 10.1038/ s41598-017-16316-2 . PMC 5700081. PMID 29167538 .  
  22. 1 2 Greco, Antonino; Gallitto, Giuseppe; D'Alessandro, Marco; Rastelli, Clara (julio de 2021). "Aumento de la dinámica cerebral entrópica durante la fenomenología perceptiva alterada inducida por sueños profundos" . Entropía . 23 (7): 839. Bibcode : 2021Entrp..23..839G . doi : 10.3390/e23070839 . ISSN 1099-4300 . PMC 8306862. PMID 34208923 .   
  23. Carhart-Harris, Robin ; Leech, Robert; Hellyer, Peter; Shanahan, Murray; Feilding, Amanda; Tagliazucchi, Enzo; Chialvo, Dante; Nutt, David (2014). "El cerebro entrópico: una teoría de los estados conscientes informada por la investigación de neuroimagen con drogas psicodélicas" . Frontiers in Human Neuroscience . 8 : 20. doi : 10.3389/fnhum.2014.00020 . ISSN 1662-5161 . PMC 3909994. PMID 24550805 .   
  24. ^ Rastelli, Clara; Greco, Antonino; Kennett, Yoed; Finocchiaro, Chiara; De Pisapia, Nicola (7 de marzo de 2022). "Las alucinaciones visuales simuladas en realidad virtual mejoran la flexibilidad cognitiva" . Representante de ciencia . 12 (1): 4027. Código Bib : 2022NatSR..12.4027R . doi : 10.1038/s41598-022-08047-w . PMC 8901713 . PMID 35256740 .  
  • Deep Dream, cuaderno de Python en GitHub
  • Mordvintsev, Alexander; Olah, Christopher; Tyka, Mike (17 de junio de 2015). "Inceptionism: Going Deeper into Neural Networks" . Archivado del original el 3 de julio de 2015.