¿Te importa subirlo?

En teoría, si la información y los procesos de una mente pueden disociarse de un cuerpo biológico, ya no están ligados a los límites y la duración de ese cuerpo. Además, la información dentro de un cerebro podría copiarse o transferirse parcial o totalmente a uno o más sustratos (incluido el almacenamiento digital u otro cerebro), reduciendo o eliminando así, desde una perspectiva puramente mecanicista, el "riesgo de mortalidad" de dicha información. Esta propuesta general fue discutida en 1971 por el biogerontólogo George M. Martin de la Universidad de Washington . ^{[ 17 ]} Desde la perspectiva del cerebro biológico, el cerebro simulado podría ser simplemente una copia, incluso si es consciente y tiene un carácter indistinguible. Por lo tanto, el ser biológico original, antes de la carga, podría considerar al gemelo digital un ser nuevo e independiente en lugar de un yo futuro. ^{[ 18 ]}

En los vuelos espaciales tripulados, se podría utilizar un «astronauta virtual» en lugar de un astronauta «en vivo» , evitando así los peligros de la gravedad cero , el vacío del espacio y la radiación cósmica para el cuerpo humano. Esto permitiría el uso de naves espaciales más pequeñas, como el StarChip propuesto , y posibilitaría distancias de viaje interestelar prácticamente ilimitadas . ^{[ 19 ]}

Algunos investigadores creen que editar cerebros humanos es físicamente posible en teoría, por ejemplo, mediante neurocirugía con nanobots , pero requeriría tecnología particularmente avanzada. Editar una mente digitalizada sería mucho más fácil, siempre que se conozcan las modificaciones exactas que se realizarán. ^{[ 20 ]} Esto facilitaría la mejora cognitiva y el control preciso del bienestar, las motivaciones y la personalidad de los seres emulados. ^{[ 21 ]}

Aunque el número de conexiones neuronales en el cerebro humano es muy grande (alrededor de 100 billones ^{[ 22 ]} ), la frecuencia de activación de las neuronas biológicas se limita a unos 200  Hz, mientras que el hardware electrónico puede operar fácilmente a varios GHz. Con suficiente paralelismo de hardware, un cerebro simulado podría, en teoría, funcionar más rápido que un cerebro biológico. Por lo tanto, los seres transferidos podrían no solo ser más eficientes, sino también tener una tasa de experiencia subjetiva más rápida que los cerebros biológicos (por ejemplo, experimentar una hora de vida en un solo segundo de tiempo real). ^{[ 23 ]}

En relación con la idea de "descarga débilmente acoplada" (LCOL) de usar autoinformes y diarios de vida para aproximar aspectos del contenido mental de una persona, algunas aplicaciones de consumo usan texto proporcionado por el usuario (por ejemplo, diarios) para construir compañeros de IA conversacionales o "yoes digitales"; esto difiere de la emulación de todo el cerebro porque no implica escaneo cerebral ni simulación de tejido cerebral. Ejemplos incluyen servicios de compañeros/chatbots de IA como Replika y Character.AI, ^{[ 25 ] [ 26 ]} y una aplicación móvil llamada Mind Upload que se describe a sí misma como permitiendo a los usuarios "subir su conciencia" enviando pensamientos y recuerdos. ^{[ 27 ]}

Quienes defienden la transferencia de la mente a otra entidad se basan en la ley de Moore para argumentar que la capacidad de procesamiento necesaria estará disponible en pocas décadas. Sin embargo, los requisitos computacionales reales para el funcionamiento de una mente humana transferida son muy difíciles de cuantificar, lo que podría invalidar dicho argumento.

Independientemente de las técnicas utilizadas para capturar o recrear el funcionamiento de la mente humana, es probable que las exigencias de procesamiento sean inmensas, debido a la gran cantidad de neuronas en el cerebro humano, junto con la considerable complejidad de cada neurona.

La capacidad computacional requerida depende en gran medida del nivel de escala del modelo de simulación elegido: ^{[ 7 ]}

Al modelar y simular un cerebro específico, se debe extraer un mapa cerebral o una base de datos de conectividad que muestre las conexiones entre las neuronas a partir de un modelo anatómico del cerebro. Para la simulación de todo el cerebro, este mapa debe mostrar la conectividad de todo el sistema nervioso , incluyendo la médula espinal , los receptores sensoriales y las células musculares . El escaneo destructivo de una pequeña muestra de tejido del cerebro de un ratón, incluyendo detalles sinápticos, es posible desde 2010. ^{[ 29 ]}

Pero si la memoria a corto plazo y la memoria de trabajo incluyen la activación prolongada o repetida de neuronas, así como procesos dinámicos intraneuronales, el estado de la señal eléctrica y química de las sinapsis y las neuronas puede ser difícil de extraer. La mente cargada podría entonces percibir una pérdida de memoria de los eventos y procesos mentales inmediatamente anteriores al escaneo cerebral. ^{[ 7 ]}

Se ha estimado que un mapa cerebral completo ocuparía menos de 2 × ^10¹⁶ bytes (20 000 TB) y almacenaría las direcciones de las neuronas conectadas, el tipo de sinapsis y el "peso" de cada una de las 10¹⁵ ^sinapsis del cerebro. ^{[ 30 ]} Pero las complejidades biológicas de la verdadera función cerebral (los estados epigenéticos de las neuronas, los componentes proteicos con múltiples estados funcionales, etc.) pueden impedir una predicción precisa del volumen de datos binarios necesarios para representar fielmente una mente humana en funcionamiento.

Un posible método para la carga de la mente es el seccionamiento en serie, en el que el tejido cerebral y quizás otras partes del sistema nervioso se congelan y luego se escanean y analizan capa por capa, lo que, para muestras congeladas a nanoescala, requiere un crio- ultramicrótomo , que captura la estructura de las neuronas y sus interconexiones. ^{[ 31 ] [ 32 ]} La superficie expuesta del tejido nervioso congelado se escanearía y registraría, y luego se eliminaría la capa superficial del tejido. Si bien esto sería muy lento y laborioso, se está investigando para automatizar la recolección y la microscopía de secciones en serie. ^{[ 33 ]} Luego se analizarían los escaneos y se recrearía un modelo de la red neuronal en el sistema en el que se cargaría la mente.

Existe incertidumbre con este enfoque utilizando las técnicas de microscopía actuales. Si es posible replicar la función neuronal a partir únicamente de su estructura visible, entonces la resolución que ofrece un microscopio electrónico de barrido sería suficiente para dicha técnica. ^{[ 33 ]} Pero como la función del tejido cerebral está parcialmente determinada por eventos moleculares (particularmente en las sinapsis , pero también en otros lugares de la membrana celular de la neurona ), esto puede no ser suficiente para capturar y simular las funciones neuronales. Podría ser posible extender las técnicas de seccionamiento seriado y capturar la composición molecular interna de las neuronas, mediante el uso de sofisticados métodos de tinción inmunohistoquímica que luego podrían leerse mediante microscopía confocal de barrido láser . Pero como la génesis fisiológica de la mente no se conoce actualmente, este método puede no ser capaz de acceder a toda la información bioquímica necesaria para recrear un cerebro humano con suficiente fidelidad.

Es posible crear mapas funcionales 3D de la actividad cerebral mediante técnicas avanzadas de neuroimagen , como la resonancia magnética funcional (RMf, para mapear los cambios en el flujo sanguíneo), la magnetoencefalografía (MEG, para mapear las corrientes eléctricas) o combinaciones de varios métodos, para construir un modelo tridimensional detallado del cerebro utilizando técnicas no invasivas y no destructivas. Actualmente, la RMf se combina frecuentemente con la MEG para crear mapas funcionales de la corteza cerebral humana durante tareas cognitivas más complejas, ya que ambos métodos se complementan. Si bien la tecnología de imagen actual carece de la resolución espacial necesaria para recopilar la información requerida para este tipo de escaneo, se prevé que importantes avances recientes y futuros mejoren sustancialmente tanto la resolución espacial como la temporal. ^{[ 35 ]}

Las interfaces cerebro-computadora (ICC) a veces se discuten como indirectamente relevantes para la transferencia de la mente en la medida en que buscan registrar (y en algunos casos estimular) la actividad neuronal, pero por sí solas no proporcionan los datos estructurales y bioquímicos de alta resolución que se suelen asumir en las propuestas de emulación de cerebro completo. Neuralink es una empresa que desarrolla una ICC implantable que utiliza "hilos" de electrodos flexibles insertados por un robot neuroquirúrgico, descritos en un informe técnico de 2019 en el Journal of Medical Internet Research . ^{[ 36 ]} En 2024, Neuralink informó sobre su primer implante en humanos; los científicos señalaron que el trabajo está dirigido principalmente a ayudar a personas con parálisis y que aún existen importantes desafíos para la seguridad y el rendimiento a largo plazo. ^{[ 37 ] [ 38 ]}

El trabajo actual en simulación cerebral incluye simulaciones parciales y completas de algunos animales. ^{[ 4 ]} Por ejemplo, el gusano redondo C. elegans , ^{[ 39 ]} la mosca de la fruta Drosophila , ^{[ 40 ]} y el ratón ^{[ 41 ]} han sido simulados en diversos grados.

El Proyecto Cerebro Azul , iniciado por el Instituto del Cerebro y la Mente de la Escuela Politécnica Federal de Lausana , es un intento de crear un cerebro sintético mediante la ingeniería inversa de los circuitos cerebrales de los mamíferos para acelerar la investigación experimental sobre el cerebro. ^{[ 42 ]} En 2009, después de una simulación exitosa de parte del cerebro de una rata, el director, Henry Markram , dijo: "Se puede construir un cerebro humano artificial detallado y funcional en los próximos 10 años". ^{[ 43 ]} En 2013, Markram se convirtió en el director del nuevo Proyecto Cerebro Humano , que duraría una década . Menos de dos años después, se reconoció que el proyecto estaba mal gestionado y sus afirmaciones eran exageradas, y se le pidió a Markram que renunciara. ^{[ 44 ] [ 45 ]}

One approach to digital immortality is gradually "replacing" neurons in the brain with advanced medical technology such as nanobiotechnology, possibly using wetware computer technology or using nanobots to read brain structure, as described by Alexey Turchin.^[47]

The main philosophical problem faced by mind uploading is the hard problem of consciousness: the difficulty of explaining how a physical entity such as a human can have^[48]qualia, phenomenal consciousness, or subjective experience.^[49] Many philosophical responses to the hard problem entail that mind uploading is fundamentally impossible, while others are compatible with mind uploading. Many proponents of mind uploading defend its feasibility by recourse to non-reductive physicalism, which includes the belief that consciousness is an emergent feature that arises from large neural network high-level patterns of organization that could be realized in other processing devices. Mind uploading relies on the idea that the human mind reduces to neural network paths and the weights of synapses in the brain. In contrast, many dualistic and idealistic accounts seek to avoid the hard problem of consciousness by explaining it in terms of immaterial (and presumably inaccessible) substances, which pose a fundamental challenge to the feasibility of artificial consciousness in general.^[50]

Suponiendo que el fisicalismo sea cierto, la mente puede definirse como el estado de información del cerebro, por lo que existe solo en el mismo sentido que el contenido de información de un archivo de datos o el estado de un software informático. En este caso, los datos que especifican el estado de información de una red neuronal podrían capturarse y copiarse como un "archivo informático" del cerebro e implementarse en una forma física diferente. ^{[ 51 ]} Esto no niega que las mentes estén ricamente adaptadas a sus sustratos. ^{[ 52 ]} Una analogía con la carga de la mente es copiar el estado de información de un programa informático de la memoria del ordenador en el que se está ejecutando a otro ordenador y luego continuar su ejecución en el segundo ordenador. El segundo ordenador puede tener una arquitectura de hardware diferente, pero emula el hardware del primero.

Estas cuestiones filosóficas tienen una larga historia. En 1775, Thomas Reid escribió: «Me gustaría saber... si cuando mi cerebro haya perdido su estructura original, y cuando unos cien años después los mismos materiales se fabriquen de forma tan curiosa como para convertirse en un ser inteligente, si, digo, ese ser seré yo; o, si, dos o tres seres de ese tipo se formaran a partir de mi cerebro; si todos ellos serán yo, y por consiguiente un mismo ser inteligente». ^{[ 53 ]} Aunque el término « problema difícil de la conciencia» se acuñó en 1994, el debate sobre el tema es antiguo. Agustín de Hipona argumentó contra los «académicos» fisicalistas en el siglo V, escribiendo que la conciencia no puede ser una ilusión porque solo un ser consciente puede ser engañado o experimentar una ilusión. ^{[ 54 ]} René Descartes , el fundador del dualismo mente-cuerpo , hizo una objeción similar en el siglo XVII, acuñando la popular frase «Je pense, donc je suis» ( «Pienso, luego existo» ). ^{[ 55 ]} Aunque el fisicalismo se propuso en la antigüedad, Thomas Huxley fue uno de los primeros en describir la experiencia mental como un mero epifenómeno de las interacciones dentro del cerebro, sin poder causal propio y totalmente derivado de la actividad cerebral. ^{[ 56 ]}

Muchos transhumanistas ^{[ 57 ]} y singularitarios esperan alcanzar la inmortalidad mediante la creación de una o varias copias funcionales no biológicas de sus cerebros, abandonando así su «envoltura biológica». Sin embargo, la filósofa y transhumanista Susan Schneider afirma que, en el mejor de los casos, la carga de la conciencia crearía una copia de la mente original. ^{[ 58 ]} Schneider coincide en que la conciencia tiene una base computacional, pero no en que esto implique la supervivencia de una persona tras la carga. Según ella, la carga probablemente resultaría en la muerte del cerebro, y solo otros podrían mantener la ilusión de que la persona original sobrevivió. Es inverosímil pensar que la conciencia pueda abandonar el cerebro para trasladarse a otro lugar; los objetos físicos ordinarios no se comportan de esta manera. Los objetos ordinarios (rocas, mesas, etc.) no están simultáneamente aquí y en otro lugar. En el mejor de los casos, se crea una copia. ^{[ 58 ]}

Otros han argumentado en contra de tales conclusiones. Por ejemplo, el transhumanista budista James Hughes ha señalado que esta consideración tiene sus límites: si uno cree que el yo es una ilusión, las preocupaciones sobre la supervivencia no son razones para evitar la carga, ^{[ 59 ]} y Keith Wiley ha presentado un argumento según el cual todas las mentes resultantes de un procedimiento de carga tienen los mismos derechos sobre la identidad original, de modo que la supervivencia del yo se determina retroactivamente desde una posición estrictamente subjetiva. ^{[ 60 ] [ 61 ]} Algunos también han afirmado que la conciencia es parte de un sistema extrabiológico aún por descubrir y, por lo tanto, aún no puede ser comprendida completamente. Sin transferencia de conciencia, la verdadera carga o la inmortalidad perpetua no pueden lograrse en la práctica. ^{[ 62 ]}

Otra posible consecuencia de la transferencia de la mente es que la decisión de transferirla puede crear un manipulador de símbolos sin mente en lugar de una mente consciente (un zombi filosófico ). ^{[ 63 ] [ 64 ]} Si una computadora pudiera procesar entradas sensoriales para generar las mismas salidas que una mente humana (habla, movimientos musculares, etc.) sin tener experiencia consciente, podría ser imposible determinar si la mente transferida es consciente y no simplemente un autómata que se comporta como un ser consciente. Experimentos mentales como el de la habitación china plantean preguntas fundamentales sobre la transferencia de la mente: si una transferencia se comporta de maneras altamente indicativas de consciencia, o insiste en que es consciente, ¿es consciente? ^{[ 65 ]} También podría haber un límite superior absoluto en la velocidad de procesamiento por encima del cual la consciencia no puede mantenerse. La subjetividad de la consciencia impide una respuesta definitiva a esta pregunta. ^{[ 66 ]}

Muchos científicos, entre ellos Ray Kurzweil , creen que es imposible saber con certeza si una entidad separada es consciente, ya que la conciencia es inherentemente subjetiva (véase solipsismo ). Sin embargo, algunos científicos creen que la conciencia es consecuencia de procesos computacionales independientes del sustrato. Otros científicos, como Roger Penrose , creen que la conciencia puede surgir de alguna forma de computación cuántica que depende de un sustrato orgánico (véase mente cuántica ). ^{[ 67 ] [ 68 ] [ 69 ]}

Ante la incertidumbre sobre si las mentes cargadas son conscientes, Sandberg propone un enfoque cauteloso: ^{[ 70 ]}

Principio de asumir lo máximo (PAM): Suponer que cualquier sistema emulado podría tener las mismas propiedades mentales que el sistema original y tratarlo en consecuencia.

El proceso de desarrollo de la tecnología de emulación plantea cuestiones éticas relacionadas con el bienestar animal y la conciencia artificial . ^{[ 70 ]} La neurociencia necesaria para desarrollar la emulación cerebral requeriría experimentación con animales, primero en invertebrados y luego en pequeños mamíferos antes de pasar a los humanos. A veces, bastaría con sacrificar a los animales para extraer, cortar y escanear sus cerebros, pero en ocasiones se requerirían mediciones conductuales e in vivo , lo que podría causar dolor a los animales vivos. ^{[ 70 ]}

Además, las emulaciones animales resultantes podrían sufrir, dependiendo de las opiniones sobre la conciencia. ^{[ 70 ]} Bancroft argumenta a favor de la plausibilidad de la conciencia en simulaciones cerebrales basándose en el experimento mental de " qualia desvaneciéndose " de David Chalmers . Bancroft concluye: ^{[ 72 ]} "Si, como argumento anteriormente, una simulación computacional suficientemente detallada del cerebro es potencialmente operacionalmente equivalente a un cerebro orgánico, se deduce que debemos considerar extender las protecciones contra el sufrimiento a las simulaciones". Chalmers ha argumentado que tales realidades virtuales serían realidades genuinas. ^{[ 73 ]} Pero si ocurre la carga de la mente y las cargas no son conscientes, puede haber un costo de oportunidad significativo. En Superinteligencia , Nick Bostrom expresa su preocupación de que se pueda construir un "Disneylandia sin niños". ^{[ 74 ]}

Podría ayudar a reducir el sufrimiento en la emulación desarrollar equivalentes virtuales de anestesia y omitir el procesamiento relacionado con el dolor y/o la conciencia. Sin embargo, algunos experimentos podrían requerir una emulación animal completamente funcional y que sufra. Los animales también podrían sufrir accidentalmente debido a fallas y falta de conocimiento sobre qué partes de sus cerebros están sufriendo. ^{[ 70 ]} También surgen preguntas sobre el estatus moral de las emulaciones cerebrales parciales y sobre la creación de emulaciones neuromórficas inspiradas en cerebros biológicos pero construidas de manera diferente. ^{[ 72 ]}

Las emulaciones cerebrales podrían ser borradas por virus informáticos o malware sin destruir el hardware subyacente. Esto podría facilitar el asesinato en comparación con el caso de seres humanos físicos. El atacante podría utilizar la capacidad de procesamiento para sus propios fines. ^{[ 75 ]}

Surgen muchas preguntas respecto a la personalidad jurídica de las emulaciones. ^{[ 76 ]} ¿Se les otorgarían los derechos de los seres humanos biológicos? Si una persona crea una copia emulada de sí misma y luego muere, ¿hereda la emulación sus propiedades y cargos oficiales? ¿Podría la emulación solicitar la desconexión cuando su versión biológica estuviera en fase terminal o en coma? ¿Sería útil tratar a las emulaciones como adolescentes durante algunos años para que el creador biológico mantuviera un control temporal? ¿Recibirían las emulaciones criminales la pena de muerte, o se les aplicaría una modificación forzada de datos como forma de "rehabilitación"? ¿Podría una carga tener derechos de matrimonio y de custodia de hijos? ^{[ 76 ]}

Si las mentes simuladas tuvieran derechos, sería difícil garantizar su protección. Por ejemplo, los investigadores de ciencias sociales podrían verse tentados a exponer secretamente mentes simuladas, o sociedades enteras y aisladas de mentes simuladas, a experimentos controlados en los que muchas copias de las mismas mentes se exponen (de forma secuencial o simultánea) a diferentes condiciones de prueba.

Las emulaciones podrían estar precedidas por una carrera armamentística tecnológica impulsada por ventajas de primer ataque . Su aparición y existencia pueden conducir a un mayor riesgo de guerra, incluyendo desigualdad, luchas de poder, fuerte lealtad y disposición a morir entre las emulaciones, y nuevas formas de racismo, xenofobia y prejuicio religioso. ^{[ 79 ] [ 75 ] [ 80 ]} Si las emulaciones avanzan mucho más rápido que los humanos, podría no haber tiempo suficiente para que los líderes humanos tomen decisiones acertadas o negocien. Los humanos podrían reaccionar violentamente al creciente poder de las emulaciones, especialmente si reduce los salarios humanos. Las emulaciones podrían no confiar entre sí, e incluso las medidas defensivas bien intencionadas podrían interpretarse como una ofensiva . ^{[ 75 ]}

El libro de Robin Hanson , The Age of Em, plantea muchas hipótesis sobre la naturaleza de una sociedad de mentes transferidas, incluyendo que las mentes más comunes serían copias de adultos con personalidades propicias para largas horas de trabajo especializado y productivo. ^{[ 81 ]}

Kenneth D. Miller, profesor de neurociencia en la Universidad de Columbia y codirector del Centro de Neurociencia Teórica, ha planteado dudas sobre la viabilidad de la transferencia de la mente a un ordenador. Su principal argumento es que reconstruir las neuronas y sus conexiones es una tarea formidable, pero dista mucho de ser suficiente. El funcionamiento del cerebro depende de la dinámica del intercambio de señales eléctricas y bioquímicas entre neuronas, por lo que capturarlas en un único estado "congelado" podría resultar insuficiente. Además, la naturaleza de estas señales podría requerir modelado a nivel molecular e incluso superior. Por lo tanto, si bien no rechaza la idea en principio, Miller cree que la complejidad de la duplicación "absoluta" de una mente será insuperable durante varios siglos. ^{[ 82 ]}

Las tecnologías de neurociencia y hardware informático que podrían posibilitar la emulación cerebral son muy deseadas por otros motivos, y presumiblemente su desarrollo continuará. Es posible que las personas también cuenten con emulaciones cerebrales durante un período breve pero significativo en el camino hacia una IA de nivel humano no basada en emulación . ^{[ 81 ]} Si la tecnología de emulación llega a materializarse, es discutible si su avance debería acelerarse o ralentizarse. ^{[ 75 ]}

Argumentos a favor de acelerar la investigación sobre la emulación cerebral:

• Si la neurociencia, en lugar de la capacidad de procesamiento, es el cuello de botella para la emulación cerebral, los avances en emulación podrían ser más erráticos e impredecibles según el momento en que se produzcan nuevos descubrimientos científicos. ^{[ 75 ] [ 83 ] [ 84 ]} Una capacidad de procesamiento limitada implicaría que las primeras emulaciones se ejecutarían más lentamente y, por lo tanto, serían más fáciles de adaptar, y habría más tiempo para que la tecnología se integrara en la sociedad. ^{[ 84 ]}
• Las mejoras en la fabricación, la impresión 3D y la nanotecnología pueden acelerar la producción de hardware, ^{[ 75 ]} lo que podría aumentar el "exceso de computación" ^{[ 85 ]} derivado del exceso de hardware en relación con la neurociencia.
• Si un grupo de desarrollo de IA tuviera ventaja en tecnología de emulación, dispondría de más tiempo para ganar una carrera armamentística y construir la primera IA sobrehumana. Al no tener tanta prisa, tendría más libertad para considerar los riesgos de la IA. ^{[ 86 ] [ 87 ]}

Argumentos para ralentizar la investigación sobre la emulación cerebral:

• Una mayor inversión en emulación cerebral y ciencia cognitiva asociada podría mejorar la capacidad de los investigadores de IA para crear algoritmos "neuromórficos" (inspirados en el cerebro), como redes neuronales, aprendizaje por refuerzo y percepción jerárquica. Esto podría acelerar los riesgos de una IA no controlada . ^{[ 75 ] [ 87 ]} Los participantes en un taller de IA de 2011 estimaron una probabilidad del 85 % de que la IA neuromórfica llegara antes que la emulación cerebral. Esto se basó en la idea de que la emulación cerebral requeriría la comprensión del funcionamiento y las funciones de los componentes del cerebro, junto con el conocimiento tecnológico para emular neuronas. Pero la ingeniería inversa del código base de Microsoft Windows ya es difícil, y la ingeniería inversa del cerebro probablemente sea mucho más difícil. Por un margen muy estrecho, los participantes se inclinaron por la opinión de que acelerar la emulación cerebral aumentaría el riesgo esperado de la IA. ^{[ 86 ]}
• La espera podría dar a la sociedad más tiempo para pensar en las consecuencias de la emulación cerebral y desarrollar instituciones para mejorar la cooperación. ^{[ 75 ] [ 87 ]}

La investigación sobre emulación también aceleraría la neurociencia en su conjunto, lo que podría acelerar los avances médicos, la mejora cognitiva, los detectores de mentiras y la manipulación psicológica . ^{[ 87 ]}

Las emulaciones podrían ser más fáciles de controlar que la IA de novo porque:

1. Las capacidades humanas, las tendencias de comportamiento y las vulnerabilidades se comprenden mejor, por lo que las medidas de control podrían ser más intuitivas y fáciles de planificar. ^{[ 86 ] [ 87 ]}
2. Las emulaciones podrían heredar más fácilmente las motivaciones humanas. ^{[ 87 ]}
3. Las emulaciones son más difíciles de manipular que la IA de novo , porque los cerebros son desordenados y complicados; esto podría reducir los riesgos de su rápido despegue. ^{[ 75 ] [ 87 ]} Además, las emulaciones pueden ser más voluminosas y requerir más hardware que la IA, lo que también ralentizaría la velocidad de una transición. ^{[ 87 ]} A diferencia de la IA, una emulación no podría expandirse rápidamente más allá del tamaño de un cerebro humano. ^{[ 87 ]} Las emulaciones que funcionan a velocidades digitales tendrían una menor diferencia de inteligencia con respecto a la IA y, por lo tanto, podrían controlar más fácilmente la IA. ^{[ 87 ]}

Como contrapunto a estas consideraciones, Bostrom señala algunas desventajas:

1. Aunque el comportamiento humano se comprenda mejor, la evolución del comportamiento de emulación en el marco del auto-mejoramiento podría ser mucho menos predecible que la evolución de una IA de novo segura en el marco del auto-mejoramiento. ^{[ 87 ]}
2. Las emulaciones podrían no heredar todas las motivaciones humanas. Tal vez heredarían las motivaciones más oscuras de las personas o se comportarían de manera anormal en el entorno desconocido del ciberespacio. ^{[ 87 ]}
3. Aunque el despegue hacia las emulaciones sea lento, posteriormente se produciría una segunda transición hacia la IA de novo . Dos explosiones de inteligencia podrían implicar un mayor riesgo total. ^{[ 87 ]}

Debido a las dificultades postuladas que una superinteligencia generada mediante emulación de todo el cerebro plantearía para el problema del control, el científico informático Stuart J. Russell , en su libro Human Compatible , rechaza su creación, calificándola de "una idea obviamente mala". ^{[ 88 ]}