Hispanopedia Wiki
Articulo de referencia

Neuroprivacidad

La neuroprivacidad , o «privacidad cerebral», es un concepto que se refiere a los derechos que tienen las personas con respecto a la obtención de imágenes, la extracción y el an...

Hispanopedia WikiContenido en espanolLectura gratuita

La neuroprivacidad , o «privacidad cerebral», es un concepto que se refiere a los derechos que tienen las personas con respecto a la obtención de imágenes, la extracción y el análisis de datos neuronales de sus cerebros . [ 1 ] Este concepto está estrechamente relacionado con campos como la neuroética , la neuroseguridad y el neuroderecho , y ha adquirido cada vez mayor relevancia con el desarrollo y el avance de diversas tecnologías de neuroimagen . La neuroprivacidad es un aspecto de la neuroética que se refiere específicamente al uso de información neuronal en casos legales, neuromarketing , vigilancia y otros fines externos, así como a las implicaciones sociales y éticas correspondientes. La investigación en neurología clínica ha enfatizado que los datos neuronales son heterogéneos y que las salvaguardas adecuadas deben depender de la fuente, la sensibilidad, el contexto y el uso previsto de los datos. [ 2 ]

Historia

Conceptos neuroéticos como la neuroprivacidad se desarrollaron inicialmente en la década de 2000, tras la invención y el desarrollo de técnicas de neuroimagen como la tomografía por emisión de positrones (PET), la electroencefalografía (EEG) y la resonancia magnética funcional (fMRI). [ 3 ] A medida que la neuroimagen se popularizó y se estudió ampliamente en la década de 1990, también comenzó a entrar en el mercado comercial, ya que los emprendedores buscaban comercializar las aplicaciones prácticas de la neurociencia, como el neuromarketing, la neuroestimulación y la detección de mentiras . La neuroprivacidad comprende los problemas de privacidad que plantean tanto la investigación en neurociencia como los usos aplicados de las técnicas de neuroimagen. La relevancia del debate sobre la neuroprivacidad aumentó significativamente después de los atentados terroristas del 11 de septiembre , lo que impulsó un mayor uso de la neuroimagen en el contexto de la detección de información/amenazas y la vigilancia . [ 4 ] [ 5 ]

Técnicas de neuroanálisis

Huellas cerebrales

La huella cerebral es una técnica de EEG controvertida y no probada que se basa en la identificación del potencial evocado P300 , [ 6 ] que se correlaciona con el reconocimiento de algún estímulo. [ 7 ] El propósito de esta técnica es determinar si una persona tiene información o recuerdos incriminatorios . En su estado actual, la huella cerebral solo puede determinar la existencia de información y no puede proporcionar detalles específicos sobre esa información. [ 8 ] Su creador, el Dr. Lawrence Farwell, afirma que la huella cerebral es altamente confiable y casi imposible de engañar, [ 7 ] pero algunos estudios cuestionan su confiabilidad y la falta de contramedidas. [ 9 ] [ 10 ] Algunas posibles contramedidas incluyen pensar en otra cosa en lugar de procesar los estímulos reales, la supresión mental del reconocimiento o simplemente no cooperar con la prueba. [ 9 ] Ha habido preocupaciones sobre el posible uso de fármacos que suprimen la memoria, como el propranolol, para burlar la huella cerebral. [ 11 ] Sin embargo, algunos estudios han demostrado que el propranolol en realidad atenúa la excitación emocional asociada con un recuerdo en lugar del recuerdo en sí, lo que podría incluso mejorar el recuerdo del recuerdo. [ 12 ]

Una técnica de EEG comparable es el perfilado de la firma de oscilación eléctrica cerebral ( BEOS ), que es muy similar a la huella cerebral, ya que detecta la presencia de información o recuerdos específicos. A pesar de la importante falta de estudios científicos que confirmen la validez del perfilado BEOS, esta técnica se ha utilizado en la India para aportar pruebas en investigaciones criminales. [ 10 ] [ 13 ]

Evaluación y predicción de las facultades mentales y morales.

La tecnología actual de neuroimagen ha podido detectar correlatos neuronales de atributos humanos como la memoria y la moralidad. [ 14 ] [ 15 ] Los datos neuronales pueden utilizarse para diagnosticar y predecir trastornos y patrones de comportamiento como la psicopatía y el comportamiento antisocial, ambos factores que influyen en el cálculo de la probabilidad de un comportamiento delictivo futuro. [ 16 ] [ 17 ] Esta capacidad para evaluar competencias, sesgos y facultades mentales podría ser relevante para entidades gubernamentales o corporativas con fines de vigilancia o neuromarketing, especialmente si los datos neuronales pueden recopilarse sin el conocimiento o consentimiento de los sujetos. [ 18 ] El uso de datos neuronales para predecir comportamientos y acciones futuras podría ayudar a crear o fundamentar medidas preventivas para tratar a las personas antes de que surjan problemas; sin embargo, esto plantea cuestiones éticas sobre cómo la sociedad define el comportamiento "moral" o "aceptable". [ 17 ]

Detección de mentiras

Es posible utilizar la neuroimagen como método para detectar mentiras. Partiendo de la premisa de que el engaño requiere un aumento de los procesos cognitivos para desarrollar una historia alternativa, la diferencia en los estados mentales entre decir la verdad y mentir debería ser perceptible. [ 8 ] Sin embargo, esto se basa en supuestos que aún no se han determinado de forma concluyente, por lo que la detección neurológica de mentiras aún no es fiable ni se comprende completamente. Esto contrasta con el polígrafo estándar , que se basa en el análisis de mecanismos biológicos bien conocidos, pero que aún no son necesariamente fiables. [ 19 ]

Aplicaciones de datos neuronales personales

Los sistemas jurídicos de la mayoría de los países generalmente no aceptan datos de neuroimagen como prueba admisible, con algunas excepciones. India ha permitido las pruebas BEOS como prueba legal, y un tribunal de apelaciones italiano utilizó evidencia de neuroimagen en un caso de 2009, siendo el primer tribunal europeo en hacerlo. [ 8 ] Los tribunales canadienses y estadounidenses han sido más cautelosos al permitir datos de neuroimagen como prueba legal. [ 19 ] Una de las razones por las que los sistemas jurídicos han tardado en adoptar los datos de neuroimagen como una forma aceptada de evidencia es el posible error y las malas interpretaciones que podrían resultar de una tecnología tan nueva; los tribunales en los EE. UU. generalmente siguen el estándar Daubert establecido para la evaluación de evidencia por el caso Daubert v. Merrell Dow Pharmaceuticals, Inc. de la Corte Suprema, que estableció que la validez de la evidencia científica debe ser determinada por el juez de primera instancia. [ 10 ] El estándar Daubert sirve como salvaguarda para la confiabilidad de la evidencia científica y requiere una cantidad significativa de pruebas para que cualquier técnica de neuroimagen sea considerada para que sea considerada como evidencia. Aunque la técnica de huella cerebral fue aceptada técnicamente en el caso Harrington v. Iowa , el juez declaró específicamente que la evidencia del EEG no debía presentarse ante un jurado, por lo que dicha evidencia no sentó un precedente significativo. [ 8 ]

Vigilancia y seguridad

La vigilancia neurológica es relevante para entidades gubernamentales, corporativas, académicas y tecnológicas, ya que la mejora de la tecnología aumenta la cantidad de información que se puede extrapolar de las neuroimágenes. [ 20 ] La vigilancia con la tecnología actual de neuroimágenes se considera difícil, dado que los datos de fMRI son difíciles de recopilar e interpretar incluso en entornos de laboratorio; los estudios de fMRI generalmente requieren que los sujetos estén inmóviles y colaboren. [ 18 ] Sin embargo, a medida que la tecnología mejora, puede ser posible superar estos requisitos.

Hipotéticamente, existen beneficios al utilizar la neurociencia en el contexto de la vigilancia y la seguridad. [ 5 ] Sin embargo, existe un debate sobre si hacerlo violaría la neuroprivacidad en una medida inaceptable. [ 4 ] [ 21 ]

Neuromarketing

Los datos neuronales son valiosos para las entidades de publicidad y marketing por su potencial para identificar cómo y por qué las personas reaccionan a diferentes estímulos, con el fin de influir mejor en los consumidores. [ 22 ] Esta capacidad de examinar las reacciones y percepciones directamente desde el cerebro genera nuevos debates éticos, como la definición de los límites aceptables de la manipulación mental y cómo evitar dirigirse a grupos demográficos vulnerables o receptivos. En cierto modo, estos debates no son necesariamente nuevos, sino que añaden nuevas dimensiones a discusiones ya existentes.

Controversia y debate

argumentos científicos

Los principales argumentos científicos sobre la neuroprivacidad giran principalmente en torno a las limitaciones de la comprensión actual de los neurodatos. Muchos de los argumentos en contra del uso de neuroimágenes en contextos legales, de vigilancia y otros se basan en la falta de una base científica sólida, lo que significa que el potencial de error y mala interpretación es demasiado alto. [ 10 ] La huella cerebral, una de las formas más popularizadas de neuroanálisis, ha sido promovida por su creador, Lawrence Farwell, a pesar de la falta de consenso científico sobre su fiabilidad. [ 23 ] [ 24 ] [ 9 ] Actualmente, incluso existe una falta de comprensión científica sobre qué se puede interpretar de los neurodatos, lo que dificulta limitar y categorizar los diferentes tipos de neurodatos y, por lo tanto, complica la neuroprivacidad. [ 25 ] Otra complicación es que los neurodatos son altamente personales y esencialmente inseparables del sujeto, lo que los hace extremadamente sensibles y difíciles de anonimizar.

Otro problema es la confusión entre el conocimiento científico y las creencias sobre las relaciones entre constructos filosóficos, neuronales y sociales. [ 4 ] La popularización y el exceso de confianza en las técnicas científicas pueden llevar a suposiciones o interpretaciones erróneas de lo que realmente describen los datos neuronales, cuando en realidad existen límites a lo que se puede interpretar a partir de las correlaciones entre la actividad neuronal y el significado semántico. [ 26 ]

Existen diversos argumentos legales sobre cómo se cubre la neuroprivacidad bajo las protecciones y derechos actuales y cómo deberían implementarse las leyes futuras para definir y proteger la neuroprivacidad, dado que la neurociencia tiene el potencial de cambiar significativamente el statu quo legal. [ 8 ] La definición legal de neuroprivacidad aún no se ha establecido adecuadamente, pero parece haber un consenso general de que se debe establecer una base legal y ética para los derechos de neuroprivacidad antes de que la neuroimagen sea ampliamente aceptada en los contextos legales, corporativos y de seguridad. [ 20 ] [ 4 ] [ 19 ] [ 10 ] [ 25 ] [ 1 ] [ 14 ] [ 18 ] [ 5 ] Dado que la neuroprivacidad constituye un asunto internacional, puede ser necesario un consenso internacional para establecer la base legal y ética necesaria. [ 8 ]

Se ha argumentado que la incorporación de la neurociencia a los contextos legales tiene ciertos beneficios. Los tipos actuales de testimonio legal, como el testimonio de testigos presenciales y las pruebas de polígrafo , presentan deficiencias significativas que posiblemente se estén pasando por alto debido a precedentes históricos y tradicionales. [ 27 ] [ 28 ] La neurociencia podría resolver algunos de estos problemas mediante el examen directo del cerebro, dada la confianza científica en las técnicas de neuroimagen. [ 5 ] Sin embargo, esto plantea interrogantes sobre cómo equilibrar el uso legal de la neurociencia con la protección de la neuroprivacidad. [ 18 ]

En Estados Unidos, existen ciertos derechos que podrían interpretarse como protectores de la neuroprivacidad. La Quinta Enmienda , que protege a los ciudadanos de la autoincriminación, podría interpretarse como una protección contra la autoincriminación cerebral. [ 18 ] Sin embargo, la interpretación actual es que la Quinta Enmienda protege a los ciudadanos del testimonio autoincriminatorio; si la neuroimagen constituye evidencia física en lugar de testimonio, la Quinta Enmienda podría no proteger contra la evidencia de neuroimagen. [ 21 ] Las Enmiendas Novena y Decimocuarta ayudan a proteger derechos no especificados y procedimientos justos, que pueden o no incluir la neuroprivacidad en cierta medida. [ 18 ]

Una interpretación de la evidencia de neuroimagen consiste en categorizarla como evidencia forense en lugar de testimonio pericial científico; la detección de recuerdos e información sobre un delito podría compararse con la recolección de residuos forenses de la escena del crimen. Esta distinción la diferenciaría categóricamente de una prueba de polígrafo y aumentaría su admisibilidad legal en los sistemas jurídicos canadiense y estadounidense. [ 19 ]

Necesidad de un marco ético

Las lagunas regulatorias actuales permiten la decodificación y el comercio sin restricciones de datos neuronales, lo que amenaza la privacidad individual. Por lo tanto, los investigadores abogan por la adopción de principios éticos y directrices de derechos humanos, junto con medidas técnicas como el cifrado de datos para garantizar la protección. El aprendizaje federado, un método de inteligencia artificial, permite entrenar modelos con datos distribuidos en múltiples ubicaciones (como teléfonos u hospitales) sin necesidad de centralizarlos. Los científicos también defienden la clasificación de todos los datos derivados del cerebro como información sanitaria sensible y la aplicación de las regulaciones médicas correspondientes. Finalmente, proponen establecer un juramento profesional para los especialistas en neurotecnología —similar al Juramento Hipocrático— para fortalecer los valores éticos. Un compromiso social colectivo y consciente de rechazar el mal uso de los datos neuronales serviría como brújula moral para guiar el desarrollo responsable de este campo. [ 29 ]

Argumentos éticos

Algunas preocupaciones éticas generales con respecto a la neuroprivacidad giran en torno a los derechos personales y el control sobre la información personal. A medida que la tecnología mejora, es posible que la recopilación de neurodatos sin consentimiento o conocimiento sea más fácil o común en el futuro. Un argumento es que la recopilación de neurodatos constituye una violación tanto de la propiedad personal como de la propiedad intelectual, ya que implica el escaneo del cuerpo y el análisis del pensamiento. [ 21 ]

Una de las principales controversias éticas en torno a la neuroprivacidad se relaciona con el tema del libre albedrío y el problema mente-cuerpo . Una posible preocupación es el alcance desconocido de la capacidad de los neurodatos para predecir acciones y pensamientos; actualmente se desconoce si la actividad física del cerebro es la única o definitiva responsable de los pensamientos y las acciones. [ 30 ] Examinar el cerebro como una forma de prevenir delitos o trastornos antes de que se manifiesten plantea la cuestión de si es posible que las personas ejerzan su capacidad de decisión a pesar de su condición neurológica. Incluso el uso de neurodatos para tratar ciertos trastornos y enfermedades de forma preventiva plantea interrogantes sobre la identidad, la capacidad de decisión y cómo la sociedad define la moralidad. [ 16 ]

  • En la serie de televisión Westworld , los sombreros se utilizan como dispositivos de neuroimagen que registran experiencias y datos sin el consentimiento ni el conocimiento de los usuarios. [ 31 ] Estos datos se utilizan principalmente para la investigación en neuromarketing y con fines comerciales, concretamente en la búsqueda de la inmortalidad.
  • En la novela El Bosque Oscuro de Liu Cixin , uno de los proyectos desarrollados para asegurar la supervivencia de la humanidad implicaba un mapeo cerebral humano exhaustivo para desarrollar formas de mejorar la cognición. [ 32 ] Este proyecto se utilizó finalmente para imprimir en los cerebros humanos "sellos mentales", creencias inquebrantables implantadas artificialmente en la psique de una persona.
  • En la serie de Harry Potter de J.K. Rowling , la privacidad cerebral puede verse vulnerada mediante el uso de Legilimens , que implica la extracción del contenido mental, como pensamientos y emociones. [ 33 ] Una forma de aumentar la neuroprivacidad en el mundo de Harry Potter es practicando Oclumancia, que consiste en defender la mente contra Legilimens y otras formas de invasión mental. [ 34 ]

Véase también

Referencias

  1. 1 2 El Comité de Ciencia y Derecho (2005). "¿Son tus pensamientos tuyos?: 'Neuroprivacidad' y las implicaciones legales de las imágenes cerebrales" (PDF) . The Record of the Association of the Bar of the City of New York . 60 (2): 407– 37.
  2. ↑ Young, Michael J. (26 de mayo de 2026). "Protección de datos neuronales" . Neurology . 106 (10) e214942. doi : 10.1212/WNL.0000000000214942 . PMID 42060878 . 
  3. ↑ Vidal, Fernando (2015). «Perspectivas históricas y éticas de la neuroimagen moderna». Manual de neuroética . págs. 535–550 . doi : 10.1007/978-94-007-4707-4_27 . ISBN  978-94-007-4706-7.
  4. 1 2 3 4 Littlefield, Melissa (29 de abril de 2008). "Construyendo el órgano del engaño". Ciencia, tecnología y valores humanos . 34 (3): 365– 392. doi : 10.1177/0162243908328756 . S2CID 144932944 . 
  5. 1 2 3 4 McCormick, Brian (2006). "Tus pensamientos pueden engañarte: las implicaciones constitucionales de la tecnología de huellas cerebrales y cómo puede usarse para proteger nuestros cielos". Revista de Derecho y Psicología . 30 : 171–184 .
  6. ↑ Brandom, Russell (2 de febrero de 2015). "¿Es la 'huella cerebral' un avance o una farsa?" . The Verge .
  7. 1 2 Farwell, Lawrence A.; Richardson, Drew C.; Richardson, Graham M. (5 de diciembre de 2012). "Estudios de campo de huella cerebral que comparan las respuestas de ondas cerebrales P300-MERMER y P300 en la detección de información oculta" . Neurodinámica Cognitiva . 7 (4): 263– 299. doi : 10.1007/s11571-012-9230-0 . PMC 3713201. PMID 23869200 .  
  8. 1 2 3 4 5 6 Church, Dominique J. (2012). "Neurociencia en los tribunales: una preocupación internacional" . William & Mary Law Review . 53 (5): 1825– 54.
  9. 1 2 3 Rosenfeld, J. Peter (11 de marzo de 2019). "P300 en la detección de información oculta y engaño: una revisión". Psicofisiología . 57 ( 7) e13362. doi : 10.1111/psyp.13362 . PMID 30859600. S2CID 75139733 .  
  10. 1 2 3 4 5 Gaudet, Lyn M. (2011). "Huellas cerebrales, evidencia científica y Daubert: una lección de advertencia de la India". Jurimetrics . 51 (3): 293– 318. JSTOR 41307131 . 
  11. ↑ McGorrery, Paul (19 de septiembre de 2017). "Una crítica adicional a la huella cerebral: la posibilidad del uso de propranolol por parte de delincuentes". Alternative Law Journal . 42 (3): 216– 220. doi : 10.1177/1037969X17730204 . S2CID 148737891 . 
  12. ↑ Elsey, James; Kindt, Merel (30 de julio de 2018). "¿Pueden los delincuentes usar propranolol para borrar recuerdos relacionados con el crimen? Una respuesta a McGorrery (2017)" . Alternative Law Journal . 43 (2): 136–138 . doi : 10.1177/1037969X18765204 .
  13. ↑ Pulice, Erin B. Pulice (2010). "El derecho al silencio en riesgo: detección de mentiras basada en la neurociencia en el Reino Unido, India y Estados Unidos" (PDF) . George Washington International Law Review . 42 (4): 865–96 .
  14. 1 2 Bzdok, Danilo; Groß, Dominik; Eickhoff, Simon B. (2015). «La neurobiología de la cognición moral: relación con la teoría de la mente, la empatía y la divagación mental». Manual de neuroética . págs. 127–148 . doi : 10.1007/978-94-007-4707-4_161 . ISBN  978-94-007-4706-7.
  15. ↑ Murty, Vishnu P.; Ritchey, Maureen; Adcock, R. Alison; LaBar, Kevin S. (marzo de 2011). "Reimpresión de: estudios de fMRI sobre la codificación exitosa de la memoria emocional: un metaanálisis cuantitativo". Neuropsychologia . 49 (4): 695–705 . doi : 10.1016/j.neuropsychologia.2011.02.031 . PMID 21414466. S2CID 30117407 .  
  16. 1 2 Jotterand, Fabrice; Giordano, James (2015). «Resonancia magnética funcional en tiempo real: interfaz cerebro-computadora en la evaluación y el tratamiento de la psicopatía: potencial y desafíos». Manual de neuroética . págs. 763–781 . doi : 10.1007/978-94-007-4707-4_43 . ISBN  978-94-007-4706-7.
  17. 1 2 Glenn, Andrea L.; Focquaert, Farah; Raine, Adrian (2015). "Predicción del comportamiento antisocial". Manual de neuroética . págs. 1689–1701 . doi : 10.1007/978-94-007-4707-4_149 . ISBN  978-94-007-4706-7.
  18. 1 2 3 4 5 6 Roskies, Adina L. (2015). «Lectura de la mente, detección de mentiras y privacidad». Manual de neuroética . págs. 679–695 . doi : 10.1007/978-94-007-4707-4_123 . ISBN  978-94-007-4706-7.
  19. 1 2 3 4 Frederiksen, Soren (junio de 2011). "Huella cerebral o detector de mentiras: ¿se aplica la jurisprudencia canadiense sobre el polígrafo a las tecnologías emergentes de la neurociencia forense?". Information & Communications Technology Law . 20 (2): 115– 132. doi : 10.1080/13600834.2011.578930 . S2CID 62189984 . 
  20. 1 2 Pearlman, Ellen (12 de noviembre de 2015). "El cerebro como espacio performativo de vigilancia específico del sitio". Revista Internacional de Artes Escénicas y Medios Digitales . 11 (2): 219– 234. doi : 10.1080/14794713.2015.1084810 . S2CID 147411962 . 
  21. 1 2 3 Moore, Adam D. (4 de noviembre de 2016). "Privacidad, neurociencia y neurovigilancia". Res Publica . 23 (2): 159– 177. doi : 10.1007/s11158-016-9341-2 . S2CID 147684655 . 
  22. ↑ Matthews, Steve (2015). «Neuromarketing: ¿Qué es y supone una amenaza para la privacidad?». Manual de Neuroética . págs. 1627–1645 . doi : 10.1007/978-94-007-4707-4_154 . ISBN  978-94-007-4706-7.
  23. ↑ Meijer, Ewout H.; Ben-Shakhar, Gershon; Verschuere, Bruno; Donchin, Emanuel (14 de agosto de 2012). "Un comentario sobre Farwell (2012): huella cerebral: una revisión tutorial exhaustiva de la detección de información oculta con potenciales cerebrales relacionados con eventos" . Neurodinámica Cognitiva . 7 (2): 155– 158. doi : 10.1007/s11571-012-9217-x . PMC 3595430. PMID 23493984 .  
  24. ↑ Farwell, Lawrence A.; Richardson, Drew C. (9 de enero de 2013). "Huella cerebral: centrémonos en la ciencia: una respuesta a Meijer, Ben-Shakhar, Verschuere y Donchin" . Neurodinámica Cognitiva . 7 (2): 159– 166. doi : 10.1007/s11571-012-9238-5 . PMC 3595431. PMID 23494087 .  
  25. 1 2 Hallinan, Dara; Schütz, Philip; Friedewald, Michael; De Hert, Paul (20 de noviembre de 2013). "Neurodatos y neuroprivacidad: ¿Protección de datos obsoleta?" . Surveillance & Society . 12 (1): 55– 72. doi : 10.24908/ss.v12i1.4500 .
  26. ↑ Roskies, Adina L. (2015). «Neuroimagen y neuroética: Introducción». Manual de neuroética . págs. 659–663 . doi : 10.1007/978-94-007-4707-4_34 . ISBN  978-94-007-4706-7.
  27. ↑ Christianson, SA (septiembre de 1992). "Estrés emocional y memoria de testigos oculares: una revisión crítica". Psychological Bulletin . 112 (2): 284– 309. doi : 10.1037/0033-2909.112.2.284 . PMID 1454896 . 
  28. ↑ Proverbio, Alice Mado; La Mastra, Francesca; Zani, Alberto; Hills, Peter James (21 de septiembre de 2016). "Cómo el sesgo social negativo afecta la memoria de los rostros: un estudio de neuroimagen eléctrica" . PLOS ONE . 11 (9) e0162671. Bibcode : 2016PLoSO..1162671P . doi : 10.1371/journal.pone.0162671 . PMC 5031436. PMID 27655327 .  
  29. ↑ Yuste, Rafael (octubre de 2023). "Abogando por la privacidad de los neurodatos y la regulación de la neurotecnología" . Nature Protocols . 18 (10): 2869– 2875. doi : 10.1038/s41596-023-00873-0 . ISSN 1754-2189 . 
  30. ↑ Reyna, Stephen (2015). «Libre albedrío, agencia y el cerebro cultural y reflexivo». Manual de neuroética . págs. 323–342 . doi : 10.1007/978-94-007-4707-4_138 . ISBN  978-94-007-4706-7.
  31. ↑ Barrett, Brian. "El verdadero villano de 'Westworld' siempre ha sido su política de privacidad" . Wired . ISSN 1059-1028 . Consultado el 11 de agosto de 2023 . 
  32. ↑ Liu, Cixin. 2008. El bosque oscuro . Tor Books.
  33. ↑ "Características - Mundo Mágico" . www.wizardingworld.com . Consultado el 11 de agosto de 2023 .
  34. ↑ "Una guía útil sobre Oclumancia | Mundo Mágico" . www.wizardingworld.com . Consultado el 11 de agosto de 2023 .