Singularidad tecnológica

La singularidad tecnológica , a menudo llamada simplemente singularidad , ^{[ 1 ]} es un evento hipotético en el que el crecimiento tecnológico se acelera más allá del control humano, produciendo cambios impredecibles en la civilización humana . ^{[ 2 ] [ 3 ]} Según la versión más popular de la hipótesis de la singularidad, el modelo de explosión de inteligencia de IJ Good de 1965, un agente inteligente actualizable podría eventualmente entrar en un bucle de retroalimentación positiva de sucesivos ciclos de auto-mejora ; generaciones más inteligentes aparecerían cada vez más rápidamente, causando un aumento explosivo de la inteligencia que culmina en una poderosa superinteligencia , que supera con creces la inteligencia humana . ^{[ 4 ]}

Algunos científicos, entre ellos Stephen Hawking , han expresado su preocupación de que la superinteligencia artificial pueda provocar la extinción humana . ^{[ 5 ] [ 6 ]} Las consecuencias de una singularidad tecnológica y su potencial beneficio o daño para la especie humana han sido objeto de intensos debates.

Destacados tecnólogos y académicos cuestionan la plausibilidad de una singularidad tecnológica y la consiguiente "explosión" de la inteligencia artificial, entre ellos Paul Allen , ^{[ 7 ]} Jeff Hawkins , ^{[ 8 ]} John Holland , Jaron Lanier , Steven Pinker , ^{[ 8 ]} Theodore Modis , ^{[ 9 ]} Gordon Moore , ^{[ 8 ]} y Roger Penrose . ^{[ 10 ]} Una afirmación es que el crecimiento de la inteligencia artificial probablemente se encuentre con rendimientos decrecientes en lugar de acelerados. Stuart J. Russell y Peter Norvig observan que en la historia de la tecnología, la mejora en un área particular tiende a seguir una curva en S : comienza con una mejora acelerada, luego se estabiliza sin continuar hacia arriba en una singularidad hiperbólica. ^{[ 11 ]}

Alan Turing , a menudo considerado el padre de la informática moderna, sentó las bases cruciales del discurso contemporáneo sobre la singularidad tecnológica. Su artículo fundamental de 1950, " Computing Machinery and Intelligence ", argumentaba que una máquina podría, en teoría, exhibir un comportamiento inteligente equivalente o indistinguible del de un ser humano. ^{[ 12 ]} Pero la singularidad tecnológica no es necesaria para que se desarrollen máquinas capaces de realizar ciertas tareas a un nivel igual o superior al humano, ni su existencia implica la posibilidad de que tal cosa ocurra, como lo demuestran eventos como la victoria en 1996 de la supercomputadora Deep Blue de IBM en una partida de ajedrez contra el gran maestro Garry Kasparov . ^{[ 13 ]}

El matemático húngaro-estadounidense John von Neumann es la primera persona conocida que discutió una "singularidad" en el progreso tecnológico. ^{[ 14 ] [ 15 ]} Stanislaw Ulam informó en 1958 que una discusión anterior con von Neumann "se centró en el progreso acelerado de la tecnología y los cambios en la vida humana, lo que da la apariencia de acercarse a una singularidad esencial en la historia de la raza más allá de la cual los asuntos humanos, tal como los conocemos, no podrían continuar". ^{[ 16 ]} Autores posteriores se hicieron eco de este punto de vista. ^{[ 3 ] [ 17 ]}

En 1965, IJ Good especuló que la inteligencia sobrehumana podría provocar una "explosión de inteligencia": ^{[ 18 ] [ 19 ]}

Definamos una máquina ultrainteligente como aquella capaz de superar con creces todas las actividades intelectuales de cualquier ser humano, por muy inteligente que sea. Dado que el diseño de máquinas es una de estas actividades intelectuales, una máquina ultrainteligente podría diseñar máquinas aún mejores; entonces, sin duda, se produciría una «explosión de inteligencia», y la inteligencia humana quedaría muy rezagada. Así pues, la primera máquina ultrainteligente sería el último invento que el ser humano necesitaría realizar, siempre que la máquina fuera lo suficientemente dócil como para indicarnos cómo mantenerla bajo control.

El concepto y el término "singularidad" fueron popularizados por Vernor Vinge , primero en un artículo de opinión de 1983 en la revista Omni , donde argumentaba que una vez que los humanos crearan inteligencias superiores a la suya, habría una transición tecnológica y social similar en cierto sentido al "espacio-tiempo anudado en el centro de un agujero negro". ^{[ 20 ]} En su ensayo de 1993 "La próxima singularidad tecnológica", ^{[ 4 ] [ 17 ]} Vinge escribió que la transición señalaría el fin de la era humana, ya que la superinteligencia continuaría actualizándose y avanzando tecnológicamente a un ritmo incomprensible, y que le sorprendería si ocurriera antes de 2005 o después de 2030. ^{[ 4 ]}

Otra contribución significativa a la difusión de esta noción fue el libro de Ray Kurzweil de 2005, The Singularity Is Near , que predice la singularidad para 2045. ^{[ 17 ]}

El progreso tecnológico se ha visto limitado por la inteligencia básica del cerebro humano, que, según Paul R. Ehrlich , no ha cambiado significativamente durante milenios. ^{[ 21 ]} Pero con el creciente poder de las computadoras y otras tecnologías, eventualmente podría ser posible construir una máquina significativamente más inteligente que los humanos. ^{[ 22 ]}

Si se inventa una inteligencia sobrehumana —ya sea mediante la amplificación de la inteligencia humana o la inteligencia artificial—, en teoría, superará con creces la capacidad humana para resolver problemas y la inventiva. A esta IA se la suele llamar IA semilla ^{[ 23 ] [ 24 ]} porque si se crea una IA con capacidades de ingeniería que igualen o superen las de sus creadores, podría mejorar de forma autónoma su propio software y hardware para diseñar una máquina aún más capaz, que a su vez podría repetir el proceso. Esta auto-mejora recursiva podría acelerarse, permitiendo potencialmente un enorme cambio cualitativo antes de alcanzar cualquier límite impuesto por las leyes de la física o la computación teórica. Se especula que, tras muchas iteraciones, dicha IA superaría con creces las capacidades cognitivas humanas .

Una superinteligencia, hiperinteligencia o inteligencia sobrehumana es un agente hipotético que posee una inteligencia muy superior a la de los humanos más brillantes y talentosos. ^{[ 25 ]} "Superinteligencia" también puede referirse a la forma o el grado de inteligencia que posee dicho agente. IJ Good , Vernor Vinge y Ray Kurzweil definen el concepto en términos de la creación tecnológica de la superinteligencia, argumentando que es difícil o imposible para los humanos actuales predecir cómo serían las vidas de los seres humanos en un mundo posterior a la singularidad. ^{[ 4 ] [ 26 ]}

El concepto relacionado de "superinteligencia de velocidad" describe una inteligencia artificial que puede funcionar como una mente humana, pero mucho más rápido. ^{[ 27 ]} Por ejemplo, si la velocidad de procesamiento de la información aumentara un millón de veces en comparación con la de los humanos, un año subjetivo transcurriría en 30 segundos físicos. ^{[ 28 ]} Tal aumento en la velocidad de procesamiento de la información podría resultar en la singularidad o contribuir significativamente a ella. ^{[ 29 ]}

Los pronosticadores e investigadores tecnológicos discrepan sobre cuándo, o si, la inteligencia humana será superada. Algunos argumentan que los avances en inteligencia artificial (IA) podrían dar lugar a sistemas de razonamiento general que superen las limitaciones cognitivas humanas. Otros creen que los humanos evolucionarán o modificarán directamente su biología para alcanzar una inteligencia radicalmente mayor. ^{[ 30 ] [ 31 ]} Varios estudios prospectivos se centran en escenarios que combinan estas posibilidades, sugiriendo que es probable que los humanos interactúen con ordenadores , o transfieran sus mentes a ordenadores , de forma que se produzca una amplificación sustancial de la inteligencia. El libro de Robin Hanson de 2016, The Age of Em, describe un futuro en el que los cerebros humanos se escanean y digitalizan, creando «transferencias» o versiones digitales de la conciencia humana. En este futuro, el desarrollo de estas transferencias podría preceder o coincidir con la aparición de una IA superinteligente. ^{[ 32 ]}

Se han pronosticado numerosas fechas para el logro de la singularidad.

En 1965, Good escribió que era más probable que no que se construyera una máquina ultra inteligente en el siglo XX. ^{[ 18 ]}

En 1988, Moravec predijo que las capacidades de computación para la IA a nivel humano estarían disponibles en supercomputadoras antes de 2010 , suponiendo que continuara el ritmo de mejora vigente en ese momento. ^{[ 37 ]}

Vinge predijo en 1993 que se alcanzaría una inteligencia superior a la humana entre 2005 y 2030. ^{[ 4 ]}

Kurzweil predijo en 2005 la IA a nivel humano alrededor de 2029 y la singularidad en 2045. ^{[ 38 ] [ 39 ]} Reafirmó estas predicciones en 2024 en La singularidad está más cerca . ^{[ 40 ]}

Moravec predijo en 1998 que la IA alcanzaría un nivel humano en 2040 y que la inteligencia sería muy superior a la humana en 2050, revisando así su predicción anterior. ^{[ 41 ]}

Una confianza media del 50% de que la IA a nivel humano se desarrollaría para 2040-2050 fue el resultado de cuatro encuestas informales a investigadores de IA, realizadas en 2012 y 2013 por Bostrom y Müller . ^{[ 42 ] [ 43 ]}

En septiembre de 2025, una revisión de encuestas a científicos y expertos de la industria de los 15 años anteriores reveló que la mayoría coincidía en que la inteligencia artificial general (IAG), un nivel muy inferior a la singularidad tecnológica, se producirá en 2100. ^{[ 44 ]} Un análisis más reciente de AIMultiple informó: "Las encuestas actuales a investigadores de IA predicen la IAG alrededor de 2040". ^{[ 44 ]}

Entre los tecnólogos y académicos prominentes que cuestionan la plausibilidad de una singularidad tecnológica se encuentran Paul Allen , ^{[ 7 ]} Jeff Hawkins , ^{[ 8 ]} John Holland , Jaron Lanier , Steven Pinker , ^{[ 8 ]} Theodore Modis , ^{[ 9 ]} y Gordon Moore , ^{[ 8 ]} cuya ley se cita a menudo en apoyo del concepto. ^{[ 45 ]}

Los métodos propuestos para crear mentes sobrehumanas o transhumanas generalmente se dividen en dos categorías: amplificación de la inteligencia del cerebro humano e inteligencia artificial. Entre las numerosas formas especuladas de aumentar la inteligencia humana se incluyen la bioingeniería , la ingeniería genética , los fármacos nootrópicos , los asistentes de IA, las interfaces cerebro-computadora directas y la transferencia de la mente . ^{[ 28 ]}

Robin Hanson ha expresado escepticismo sobre el aumento de la inteligencia humana, escribiendo que una vez que se hayan agotado los métodos más fáciles para incrementarla, las mejoras posteriores serán cada vez más difíciles. ^{[ 46 ]}

En una conversación sobre inteligencia artificial a nivel humano con el científico cognitivo Gary Marcus , el científico informático Grady Booch afirmó con escepticismo que la singularidad es «suficientemente imprecisa, cargada de connotaciones emocionales e históricas, y toca algunas de las esperanzas y temores más profundos de la humanidad, lo que dificulta un debate racional al respecto». ^{[ 47 ]} Más adelante en la conversación, Marcus, aunque más optimista sobre el progreso de la IA, coincidió en que cualquier avance importante no se produciría de forma repentina, sino como un aumento lento y gradual de la fiabilidad y la utilidad. ^{[ 47 ]}

La posibilidad de una explosión de inteligencia depende de tres factores. El primer factor acelerador son las nuevas mejoras de inteligencia posibilitadas por cada avance previo. Pero a medida que las inteligencias se vuelven más avanzadas, los avances posteriores se vuelven cada vez más complejos, posiblemente contrarrestando la ventaja del aumento de inteligencia. Cada mejora debería generar, en promedio, al menos una mejora más para que el movimiento hacia la singularidad continúe. Finalmente, las leyes de la física podrían eventualmente impedir una mayor mejora. ^{[ 48 ]}

Hay dos causas lógicamente independientes, pero que se refuerzan mutuamente, de las mejoras en la inteligencia: el aumento de la velocidad de cálculo y las mejoras en los algoritmos utilizados. ^{[ 17 ]} La primera está predicha por la ley de Moore y las mejoras previstas en el hardware, ^{[ 49 ]} y es comparativamente similar a los avances tecnológicos anteriores. "La mayoría de los expertos creen que la ley de Moore está llegando a su fin durante esta década", se lee en el informe de AIMultiple, ^{[ 44 ]} pero "la computación cuántica puede usarse para entrenar eficientemente redes neuronales", ^{[ 44 ]} lo que potencialmente evita cualquier fin de la ley de Moore. Pero Schulman y Sandberg ^{[ 50 ]} argumentan que el software presentará desafíos más complejos que simplemente operar en hardware capaz de funcionar a niveles de inteligencia humana o superiores.

Una encuesta por correo electrónico realizada en 2017 a autores con publicaciones en las conferencias de aprendizaje automático NeurIPS e ICML de 2015 preguntó sobre la probabilidad de que "el argumento de la explosión de inteligencia sea en general correcto". De los encuestados, el 12% dijo que era "bastante probable", el 17% que era "probable", el 21% que era "aproximadamente igual", el 24% que era "improbable" y el 26% que era "bastante improbable". ^{[ 51 ]}

Tanto para la inteligencia humana como para la artificial, las mejoras de hardware aumentan el ritmo de futuras mejoras de hardware. Es posible que eventualmente se alcance un límite superior de velocidad. Jeff Hawkins ha afirmado que un sistema informático con capacidad de autoaprendizaje inevitablemente se topará con límites en su potencia de cálculo: «al final, existen límites en cuanto al tamaño y la velocidad que pueden alcanzar los ordenadores. Terminaríamos en el mismo lugar; simplemente llegaríamos un poco más rápido. No habría singularidad». ^{[ 8 ]}

Es difícil comparar directamente el hardware basado en silicio con las neuronas . Pero Anthony Berglas señala que el reconocimiento de voz por computadora se está acercando a las capacidades humanas, y que esta capacidad parece requerir el 0,01 % del volumen del cerebro. Esta analogía sugiere que el hardware informático moderno está a solo unos órdenes de magnitud de ser tan potente como el cerebro humano , además de ocupar mucho menos espacio. Los costos de entrenar sistemas con aprendizaje profundo pueden ser mayores. En el aprendizaje profundo moderno, los efectos de la mejora del hardware en las redes neuronales se caracterizan por leyes de escalamiento neuronal . ^{[ 52 ] [ a ] ​​[ 40 ]}

Crecimiento exponencial

El crecimiento exponencial de la tecnología informática sugerido por la ley de Moore se cita comúnmente como una razón para esperar una singularidad en un futuro relativamente cercano, y varios autores han propuesto generalizaciones de la ley de Moore. El científico informático y futurista Hans Moravec propuso en un libro de 1998 ^{[ 54 ]} que la curva de crecimiento exponencial podría extenderse a tecnologías informáticas anteriores al circuito integrado .

Ray Kurzweil postula una ley de rendimientos acelerados según la cual la velocidad del cambio tecnológico (y, más generalmente, de todos los procesos evolutivos) ^{[ 55 ]} aumenta exponencialmente, generalizando la ley de Moore de la misma manera que la propuesta de Moravec, e incluyendo también la tecnología de materiales (especialmente la nanotecnología ) y la tecnología médica . ^{[ 56 ]} Entre 1986 y 2007, la capacidad de las máquinas para procesar información per cápita, específica para cada aplicación, se duplicó aproximadamente cada 14 meses; la capacidad per cápita de las computadoras de propósito general del mundo se duplicó cada 18 meses; la capacidad global de telecomunicaciones per cápita se duplicó cada 34 meses; y la capacidad mundial de almacenamiento per cápita se duplicó cada 40 meses. ^{[ 57 ]} Por otro lado, se ha argumentado que el patrón de aceleración global, que tiene como parámetro una singularidad del siglo XXI, debería caracterizarse como hiperbólico en lugar de exponencial. ^{[ 58 ]}

Kurzweil reserva el término «singularidad» para un rápido aumento de la inteligencia artificial (en contraposición a otras tecnologías), escribiendo: «La singularidad nos permitirá trascender estas limitaciones de nuestros cuerpos y cerebros biológicos... Después de la singularidad, no habrá distinción entre humano y máquina». ^{[ 59 ]} También define la singularidad como el momento en que las inteligencias basadas en computadoras superan significativamente la suma total de la capacidad cerebral humana, escribiendo que los avances en computación anteriores a eso «no representarán la singularidad» porque «aún no corresponden a una profunda expansión de nuestra inteligencia». ^{[ 60 ]}

Acelerar el cambio

Algunos defensores de la singularidad argumentan su inevitabilidad mediante la extrapolación de tendencias pasadas, especialmente aquellas relacionadas con la reducción de los intervalos entre las mejoras tecnológicas. En uno de los primeros usos del término "singularidad" en el contexto del progreso tecnológico, Stanislaw Ulam relata una conversación con John von Neumann sobre la aceleración del cambio:

Una conversación se centró en el progreso cada vez más acelerado de la tecnología y los cambios en el modo de vida humano, que da la apariencia de acercarse a una singularidad esencial en la historia de la raza más allá de la cual los asuntos humanos, tal como los conocemos, no podrían continuar. ^{[ 16 ]}

Kurzweil afirma que el progreso tecnológico sigue un patrón de crecimiento exponencial , siguiendo lo que él llama la " ley de los rendimientos acelerados ". Siempre que la tecnología se acerca a una barrera, escribe Kurzweil, nuevas tecnologías la superan. Predice que los cambios de paradigma serán cada vez más comunes, lo que llevará a "un cambio tecnológico tan rápido y profundo que representa una ruptura en el tejido de la historia humana". ^{[ 61 ]} Kurzweil cree que la singularidad ocurrirá para 2045. ^{[ 56 ]} Sus predicciones difieren de las de Vinge en que predice un ascenso gradual a la singularidad, en lugar de la inteligencia sobrehumana de rápida auto-mejora de Vinge.

Entre los peligros citados con frecuencia se encuentran los comúnmente asociados con la nanotecnología molecular y la ingeniería genética . Estas amenazas son cuestiones importantes tanto para los defensores como para los críticos de la singularidad, y fueron el tema del artículo de Bill Joy publicado en la revista Wired en el año 2000 , titulado " Por qué el futuro no nos necesita ". ^{[ 17 ] [ 62 ]}

Algunas tecnologías de inteligencia, como la "IA semilla" ^{[ 23 ] [ 24 ],} también pueden volverse no solo más rápidas sino también más eficientes, modificando su código fuente . Estas mejoras harían posibles otras mejoras, y así sucesivamente.

El mecanismo para un conjunto de algoritmos que se auto-mejoran recursivamente difiere de un aumento en la velocidad de cálculo bruta en dos aspectos. Primero, no requiere influencia externa: las máquinas que diseñan hardware más rápido aún necesitarían humanos para crear el hardware mejorado o para programar las fábricas adecuadamente. Una IA que reescribe su propio código fuente podría hacerlo estando contenida en un entorno de IA .

En segundo lugar, al igual que con la concepción de la singularidad de Vernor Vinge , es mucho más difícil predecir el resultado. Si bien los aumentos de velocidad parecen ser solo una diferencia cuantitativa con respecto a la inteligencia humana, las mejoras reales de los algoritmos serían cualitativamente diferentes.

Existen peligros sustanciales asociados a una singularidad de explosión de inteligencia originada por un conjunto de algoritmos que se auto-mejoran recursivamente. En primer lugar, la estructura de objetivos de la IA podría auto-modificarse, lo que potencialmente provocaría que la IA optimizara para algo distinto de lo que se pretendía originalmente. ^{[ 63 ] [ 64 ]} En segundo lugar, las IA podrían competir por los recursos que la humanidad utiliza para sobrevivir. ^{[ 65 ] [ 66 ]} Si bien no serían activamente maliciosas, las IA promoverían los objetivos de su programación, no necesariamente los objetivos humanos más amplios, y por lo tanto podrían desplazar a los humanos. ^{[ 67 ] [ 68 ] [ 69 ]}

Carl Shulman y Anders Sandberg sugieren que las mejoras en los algoritmos podrían ser el factor limitante para una singularidad; mientras que la eficiencia del hardware tiende a mejorar a un ritmo constante, las innovaciones de software son más impredecibles y podrían verse limitadas por la investigación serial y acumulativa. Sugieren que, en el caso de una singularidad limitada por software, la explosión de inteligencia sería en realidad más probable que con una singularidad limitada por hardware, porque en el caso limitado por software, una vez que se desarrolla la IA a nivel humano, podría ejecutarse en serie en hardware muy rápido, y la abundancia de hardware barato haría que la investigación en IA estuviera menos restringida. ^{[ 70 ]} Una abundancia de hardware acumulado que puede liberarse una vez que el software descubre cómo usarlo se ha denominado "exceso de computación". ^{[ 71 ]}

El lingüista y científico cognitivo Steven Pinker escribió en 2008: «No hay la más mínima razón para creer en una singularidad inminente. El hecho de que puedas visualizar un futuro en tu imaginación no es prueba de que sea probable ni siquiera posible. Piensa en las ciudades con cúpulas, los desplazamientos en mochilas propulsoras, las ciudades submarinas, los edificios de kilómetros de altura y los automóviles de propulsión nuclear: todos elementos básicos de las fantasías futuristas de mi infancia que nunca se han materializado. La mera capacidad de procesamiento no es un polvo mágico que resuelva todos tus problemas». ^{[ 8 ]}

Jaron Lanier niega que la singularidad sea inevitable: «No creo que la tecnología se cree a sí misma. No es un proceso autónomo [...] La razón para creer en la capacidad de acción humana por encima del determinismo tecnológico es que así se puede tener una economía donde las personas se ganen la vida por sí mismas e inventen sus propias vidas. Si se estructura una sociedad sin dar importancia a la capacidad de acción individual, en la práctica es lo mismo que negar a las personas influencia, dignidad y autodeterminación... aceptar [la idea de la Singularidad] sería una celebración de datos erróneos y malas políticas». ^{[ 72 ]}

El filósofo y científico cognitivo Daniel Dennett dijo en 2017: «Todo este asunto de la singularidad es absurdo. Nos distrae de problemas mucho más apremiantes [...] Las herramientas de IA de las que nos volvemos hiperdependientes, eso va a suceder. Y uno de los peligros es que les daremos más autoridad de la que merecen». ^{[ 73 ]}

Algunos críticos sugieren motivaciones religiosas para creer en la singularidad, especialmente en la versión de Kurzweil. La preparación para la singularidad se compara con escenarios cristianos del fin de los tiempos . Beam la llamó "una visión de Buck Rogers del hipotético Rapto cristiano". ^{[ 74 ]} John Gray ha dicho: "La Singularidad evoca mitos apocalípticos en los que la historia está a punto de ser interrumpida por un evento que transformará el mundo". ^{[ 75 ]}

En The New York Times , David Streitfeld cuestionó si "podría manifestarse ante todo —gracias, en parte, a la obsesión por las ganancias del Silicon Valley actual— como una herramienta para reducir drásticamente la plantilla de las empresas estadounidenses". ^{[ 76 ]}

El astrofísico y filósofo científico Adam Becker critica el concepto de Kurzweil de transferencias de la mente humana a las computadoras argumentando que son demasiado diferentes e incompatibles desde un punto de vista fundamental. ^{[ 77 ]}

En el pasado, los avances tecnológicos han provocado cambios drásticos en la tasa de crecimiento económico. Basándose en el crecimiento demográfico, la economía se duplicó cada 250 000 años desde el Paleolítico hasta la Revolución Neolítica . La nueva economía agrícola se duplicó cada 900 años, un aumento notable. Desde la Revolución Industrial , la producción económica mundial se ha duplicado cada 15 años, 60 veces más rápido que durante la era agrícola. Si el surgimiento de una inteligencia sobrehumana provocara una revolución similar, argumenta Robin Hanson, cabría esperar que la economía se duplicara al menos trimestralmente, y posiblemente semanalmente. ^{[ 94 ]}

Incertidumbre y riesgo

El término "singularidad tecnológica" refleja la idea de que tal cambio puede ocurrir repentinamente y que es difícil predecir cómo funcionaría el nuevo mundo resultante. ^{[ 95 ] [ 96 ]} No está claro si una explosión de inteligencia que resulte en una singularidad sería beneficiosa o perjudicial, o incluso una amenaza existencial . ^{[ 97 ] [ 98 ]} Debido a que la IA es un factor importante en el riesgo de singularidad, varias organizaciones persiguen una teoría técnica de alinear los sistemas de objetivos de la IA con los valores humanos, incluyendo el Future of Humanity Institute (hasta 2024), el Machine Intelligence Research Institute , ^{[ 95 ]} el Center for Human-Compatible Artificial Intelligence y el Future of Life Institute .

El físico Stephen Hawking dijo en 2014: "El éxito en la creación de IA sería el mayor acontecimiento en la historia de la humanidad. Desafortunadamente, también podría ser el último, a menos que aprendamos a evitar los riesgos". ^{[ 99 ]} Hawking creía que en las próximas décadas, la IA podría ofrecer "beneficios y riesgos incalculables", como "tecnología que supera a los mercados financieros, supera en inventiva a los investigadores humanos, supera en manipulación a los líderes humanos y desarrolla armas que ni siquiera podemos comprender". ^{[ 99 ]} Sugirió que la inteligencia artificial debería tomarse más en serio y que se debería hacer más para prepararse para la singularidad: ^{[ 99 ]}

Entonces, ante posibles futuros con beneficios y riesgos incalculables, los expertos seguramente están haciendo todo lo posible para garantizar el mejor resultado, ¿verdad? Incorrecto. Si una civilización alienígena superior nos enviara un mensaje diciendo: "Llegaremos en unas décadas", ¿simplemente responderíamos: "De acuerdo, llámenos cuando lleguen ; dejaremos las luces encendidas"? Probablemente no , pero esto es más o menos lo que está sucediendo con la IA.  

Berglas (2008) afirma que no existe una motivación evolutiva directa para que la IA sea amigable con los humanos. La evolución no tiene una tendencia inherente a producir resultados valorados por los humanos, y hay pocas razones para esperar que un proceso de optimización arbitrario promueva un resultado deseado por la humanidad, en lugar de conducir inadvertidamente a que una IA se comporte de una manera no prevista por sus creadores. ^{[ 100 ] [ 101 ] [ 102 ]} Anders Sandberg ha profundizado en esto, abordando varios contraargumentos comunes. ^{[ 103 ]} El investigador de IA Hugo de Garis sugiere que las inteligencias artificiales podrían simplemente eliminar a la raza humana para acceder a recursos escasos , ^{[ 65 ] [ 63 ]} y los humanos serían impotentes para detenerlas. ^{[ 104 ]} Alternativamente, las IA desarrolladas bajo presión evolutiva para promover su propia supervivencia podrían superar a la humanidad en competencia. ^{[ 69 ]}

Bostrom (2002) analiza escenarios de extinción humana y enumera la superinteligencia como una posible causa:

Cuando creamos la primera entidad superinteligente, podríamos cometer un error y asignarle objetivos que la lleven a aniquilar a la humanidad, asumiendo que su enorme ventaja intelectual le otorga el poder para hacerlo. Por ejemplo, podríamos, por error, elevar un objetivo secundario a la categoría de objetivo supremo. Le pedimos que resuelva un problema matemático, y ella obedece transformando toda la materia del sistema solar en una gigantesca máquina de calcular, matando en el proceso a la persona que formuló la pregunta.

Según Eliezer Yudkowsky , un problema significativo en la seguridad de la IA es que la IA hostil es probablemente mucho más fácil de crear que la IA hostil. Ambas requieren grandes avances en el diseño de procesos de optimización recursiva, pero la IA hostil también requiere la capacidad de hacer que las estructuras de objetivos sean invariantes bajo la auto-mejora (o la IA podría transformarse en algo hostil) y una estructura de objetivos que se alinee con los valores humanos y no destruya automáticamente a la raza humana. Una IA hostil, por otro lado, puede optimizar para una estructura de objetivos arbitraria, que no necesita ser invariante bajo la auto-modificación. ^{[ 105 ]} Bill Hibbard (2014) harvtxt error: no target: CITEREFBill_Hibbard2014 ( help ) propone un diseño de IA que evita varios peligros, incluyendo el autoengaño, ^{[ 106 ]} acciones instrumentales no intencionadas, ^{[ 63 ] [ 107 ]} y corrupción del generador de recompensas. ^{[ 107 ]} También analiza los impactos sociales de la IA ^{[ 108 ]} y las pruebas de IA. ^{[ 109 ]} Su libro de 2001, Máquinas superinteligentes, aboga por la educación pública sobre la IA y el control público sobre ella. También propone un diseño simple que es vulnerable a la corrupción del generador de recompensas.

Siguiente paso de la evolución sociobiológica

Un artículo de 2016 de Trends in Ecology & Evolution argumenta que la humanidad se encuentra en medio de una importante transición evolutiva que fusiona tecnología, biología y sociedad. Esto se debe a que la tecnología digital se ha infiltrado en el tejido de la sociedad humana hasta un grado de dependencia que, a menudo, resulta vital. El artículo afirma: «Los humanos ya adoptan fusiones de biología y tecnología. Pasamos la mayor parte del tiempo despiertos comunicándonos a través de canales digitales [...] confiamos nuestras vidas a la inteligencia artificial mediante sistemas como el freno antibloqueo en los automóviles y los pilotos automáticos en los aviones... Dado que uno de cada tres noviazgos que culminan en matrimonio en Estados Unidos comienza en línea, los algoritmos digitales también desempeñan un papel en la formación de parejas y la reproducción humana». ^{[ 110 ]}

El artículo argumenta además que, desde la perspectiva de la evolución , varias transiciones importantes anteriores en la evolución han transformado la vida mediante innovaciones en el almacenamiento y la replicación de información ( ARN , ADN , multicelularidad , cultura y lenguaje). En la etapa actual de la evolución de la vida, la biosfera basada en el carbono ha generado un sistema (los humanos) capaz de crear tecnología que dará lugar a una transición evolutiva comparable . ^{[ 110 ]}

La información digital creada por los humanos ha alcanzado una magnitud similar a la de la información biológica en la biosfera. Desde la década de 1980, la cantidad de información digital almacenada se ha duplicado aproximadamente cada 2,5 años, alcanzando unos 5 zettabytes en 2014 (5 × 10²¹ bytes). ^{[ 111 ]}

En términos biológicos, en 2013 había 7.200 millones de humanos en el planeta, cada uno con un genoma de 6.200 millones de nucleótidos. Dado que un byte puede codificar cuatro pares de nucleótidos, los genomas individuales de cada ser humano podrían estar codificados por aproximadamente 1 × 10¹⁹ bytes. El ámbito digital almacenó 500 veces más información que esto en 2014 (ver figura). Se estima que la cantidad total de ADN en todas las células de la Tierra es de aproximadamente 5,3 × 10³⁷ pares de bases, equivalentes a 1,325 × 10³⁷ bytes de información. Si el crecimiento del almacenamiento digital continúa a su ritmo actual de crecimiento anual compuesto del 30-38%, ^{[ 57 ]} rivalizará con el contenido total de información en todo el ADN de todas las células de la Tierra en unos 110 años. Esto representaría duplicar la cantidad de información almacenada en la biosfera en tan solo 150 años. ^{[ 110 ]}

En un escenario de despegue abrupto, una superinteligencia artificial se auto-mejora rápidamente, "tomando el control" del mundo (quizás en cuestión de horas), demasiado rápido para una corrección de errores significativa iniciada por humanos o para un ajuste gradual de los objetivos del agente. En un despegue suave, la IA aún se vuelve mucho más poderosa que la humanidad, pero a un ritmo similar al humano (quizás del orden de décadas), en una escala de tiempo donde la interacción y corrección humana continua pueden dirigir eficazmente su desarrollo. ^{[ 115 ] [ 116 ]}

Ramez Naam argumenta en contra de un despegue abrupto. Ha señalado que ya observamos una auto-mejora recursiva por parte de superinteligencias, como las corporaciones. Intel , por ejemplo, posee "la capacidad intelectual colectiva de decenas de miles de humanos y probablemente millones de núcleos de CPU para... ¡diseñar mejores CPU!". Pero esto no ha dado lugar a un despegue abrupto, sino a un despegue gradual en forma de la ley de Moore . ^{[ 117 ]} Naam señala además que la complejidad computacional de la inteligencia superior puede ser mucho mayor que lineal, de modo que "crear una mente de inteligencia 2 es probablemente más del doble de difícil que crear una mente de inteligencia 1". ^{[ 118 ]}

J. Storrs Hall cree que «muchos de los escenarios más comunes para un despegue repentino son circulares : parecen asumir capacidades hiperhumanas al inicio del proceso de auto-mejora» para que una IA pueda realizar las mejoras drásticas y generales necesarias para el despegue. Hall sugiere que, en lugar de auto-mejorar recursivamente su hardware, software e infraestructura por sí sola, una IA incipiente estaría mejor especializándose en un área donde sea más eficaz y luego comprando los componentes restantes en el mercado, ya que la calidad de los productos en el mercado mejora continuamente y a la IA le resultaría difícil mantenerse al día con la tecnología de vanguardia utilizada por el resto del mundo. ^{[ 119 ]} 

Ben Goertzel coincide con la sugerencia de Hall de que una nueva IA de nivel humano haría bien en usar su inteligencia para acumular riqueza. Las capacidades de la IA podrían inspirar a empresas y gobiernos a distribuir su software por toda la sociedad. Goertzel se muestra escéptico ante un despegue fulgurante en cinco minutos, pero especula que un despegue desde el nivel humano al sobrehumano en el orden de los cinco años es razonable. A esto lo denomina un «despegue semi-fulgurante». ^{[ 120 ]}

Max More discrepa, argumentando que si solo existieran unas pocas IA superrápidas a nivel humano, no cambiarían radicalmente el mundo, ya que seguirían dependiendo de otras personas para realizar tareas y seguirían teniendo limitaciones cognitivas humanas. Incluso si todas las IA superrápidas trabajaran en el aumento de la inteligencia, no está claro por qué lo harían mejor de forma discontinua que los científicos cognitivos humanos actuales en la producción de inteligencia sobrehumana, aunque el ritmo de progreso aumentaría. More argumenta además que la superinteligencia no transformaría el mundo de la noche a la mañana: necesitaría interactuar con los sistemas humanos existentes, lentos, para tener un impacto físico en el mundo. «La necesidad de colaboración, de organización y de convertir las ideas en cambios físicos garantizará que todas las viejas reglas no se descarten de la noche a la mañana ni siquiera en cuestión de años». ^{[ 121 ]}

Eric Drexler , uno de los fundadores de la nanotecnología , teorizó en 1986 sobre la posibilidad de que dispositivos de reparación celular, incluyendo aquellos que operan dentro de las células y utilizan máquinas biológicas aún hipotéticas , permitieran la inmortalidad mediante la nanotecnología . ^{[ 122 ]} Según Richard Feynman , su antiguo alumno de posgrado y colaborador Albert Hibbs le sugirió originalmente (alrededor de 1959) la idea de un uso médico para las micromáquinas teóricas de Feynman. Hibbs sugirió que ciertas máquinas de reparación podrían algún día reducirse hasta el punto de que, en teoría, sería posible (como lo expresó Feynman) " tragarse al médico ". La idea se incorporó al ensayo de Feynman de 1959, There's Plenty of Space at the Bottom . ^{[ 123 ]}

En 1988, Moravec predijo la transferencia de la mente , la posibilidad de "cargar" una mente humana en un robot con apariencia humana, logrando una cuasi inmortalidad mediante una longevidad extrema a través de la transferencia de la mente humana entre sucesivos robots nuevos a medida que los antiguos se desgastan; más allá de eso, predijo una posterior aceleración exponencial de la experiencia subjetiva del tiempo que conduciría a una sensación subjetiva de inmortalidad. ^{[ 37 ]}

En 2005, Kurzweil sugirió que los avances médicos permitirían a las personas proteger sus cuerpos de los efectos del envejecimiento, haciendo que la esperanza de vida fuera ilimitada . Argumenta que los avances tecnológicos en medicina nos permitirían reparar y reemplazar continuamente los componentes defectuosos de nuestros cuerpos, prolongando la vida hasta una edad indeterminada. ^{[ 124 ]} Kurzweil refuerza su argumento analizando los avances actuales en bioingeniería. Sugiere la terapia génica somática ; después de los virus sintéticos con información genética específica, el siguiente paso es aplicar esta tecnología a la terapia génica, reemplazando el ADN humano con genes sintetizados. ^{[ 125 ]}

Más allá de simplemente extender la vida operativa del cuerpo físico, Jaron Lanier aboga por una forma de inmortalidad llamada "Ascensión Digital" que implica que "las personas mueran en carne y hueso y sean subidas a una computadora y permanezcan conscientes". ^{[ 126 ]} Esta idea es el tema central de la serie de televisión Upload .

Un artículo de Mahendra Prasad, publicado en AI Magazine , afirma que el matemático del siglo XVIII, el marqués de Condorcet, fue el primero en plantear la hipótesis y modelar matemáticamente una explosión de inteligencia y sus efectos en la humanidad. ^{[ 127 ]}

Una descripción temprana de la idea se hizo en el cuento de John W. Campbell de 1932, "La última evolución". ^{[ 128 ]}

En su obituario de 1958 para John von Neumann , Ulam recordó una conversación con él sobre el "progreso cada vez más acelerado de la tecnología y los cambios en el modo de vida humano, que dan la apariencia de acercarse a una singularidad esencial en la historia de la raza más allá de la cual los asuntos humanos, tal como los conocemos, no podrían continuar". ^{[ 16 ]}

En 1965, Good escribió su ensayo postulando una "explosión de inteligencia" de auto-mejora recursiva de una inteligencia artificial. ^{[ 18 ] [ 19 ]}

En 1977, Hans Moravec escribió un artículo con estatus de publicación incierto en el que vislumbraba el desarrollo de máquinas pensantes auto-mejorables, una creación de "superconciencia, la síntesis de la vida terrestre, y tal vez también de la vida joviana y marciana, que se mejora y se extiende constantemente, expandiéndose desde el sistema solar, convirtiendo la no vida en mente". ^{[ 129 ] [ 130 ]} El artículo describe la carga de la mente humana que luego se aborda en Moravec (1988). Se espera que las máquinas alcancen el nivel humano y luego se perfeccionen aún más ("Lo más significativo de todo es que [las máquinas] pueden ser empleadas como programadoras e ingenieras, con la tarea de optimizar el software y el hardware que las hacen ser lo que son. Las sucesivas generaciones de máquinas producidas de esta manera serán cada vez más inteligentes y rentables"). Los humanos ya no serán necesarios, y sus capacidades serán superadas por las máquinas: "A largo plazo, la mera incapacidad física de los humanos para seguir el ritmo de esta progenie de nuestras mentes en rápida evolución asegurará que la proporción de personas a máquinas se acerque a cero, y que un descendiente directo de nuestra cultura, pero no de nuestros genes, herede el universo". Si bien no se utiliza la palabra "singularidad", la noción de máquinas con pensamiento a nivel humano posteriormente se perfeccionan más allá del nivel humano está presente. En esta visión, no hay una explosión de inteligencia en el sentido de un aumento muy rápido de la inteligencia una vez que se alcanza la equivalencia humana. Una versión actualizada del artículo se publicó en 1979 en Analog Science Fiction and Fact . ^{[ 131 ] [ 130 ]}

En 1981, Stanisław Lem publicó su novela de ciencia ficción Golem XIV . En ella se describe una IA militar (Golem XIV) que adquiere consciencia y comienza a aumentar su inteligencia, avanzando hacia la singularidad tecnológica personal. Golem XIV fue creada originalmente para ayudar a sus constructores en la guerra, pero a medida que su inteligencia supera con creces la de los humanos, deja de interesarse por los requisitos militares al considerarlos carentes de coherencia lógica interna.

Vernor Vinge abordó la explosión de inteligencia de Good en el número de enero de 1983 de la revista Omni . Vinge parece haber sido el primero en utilizar el término "singularidad" (aunque no "singularidad tecnológica") de una manera específicamente vinculada a la creación de máquinas inteligentes: ^{[ 20 ] [ 130 ]}

Pronto crearemos inteligencias superiores a la nuestra. Cuando esto ocurra, la historia humana habrá alcanzado una singularidad, una transición intelectual tan impenetrable como el espacio-tiempo enredado en el centro de un agujero negro, y el mundo trascenderá nuestra comprensión. Esta singularidad, creo, ya atormenta a varios escritores de ciencia ficción. Hace imposible la extrapolación realista a un futuro interestelar. Para escribir una historia ambientada más de un siglo en el futuro, se necesita una guerra nuclear de por medio... para que el mundo siga siendo comprensible.

En 1985, en "La escala temporal de la inteligencia artificial", el investigador de IA Ray Solomonoff articuló matemáticamente la noción relacionada de lo que llamó un "punto infinito": si una comunidad de investigación de IA auto-mejorables de nivel humano tarda cuatro años en duplicar su propia velocidad, luego dos años, luego un año y así sucesivamente, sus capacidades aumentan infinitamente en un tiempo finito. ^{[ 17 ] [ 132 ]}

En 1986, Vinge publicó Atrapados en tiempo real , una novela de ciencia ficción donde unos pocos humanos supervivientes que viajan hacia el futuro han sobrevivido a un evento de extinción desconocido que bien podría ser una singularidad. En un breve epílogo, Vinge escribe que una singularidad tecnológica real no sería el fin de la especie humana: «Por supuesto, parece muy improbable que la Singularidad sea una desaparición total de la raza humana. (Por otro lado, tal desaparición es el análogo temporal del silencio que encontramos en todo el cielo)». ^{[ 133 ] [ 134 ]}

En 1988, Vinge empleó la expresión «singularidad tecnológica» en la colección de relatos cortos Amenazas y otras promesas , escribiendo en la introducción a su cuento «El torbellino del tiempo»: Salvo una catástrofe mundial, creo que la tecnología hará realidad nuestros sueños más descabellados, y pronto. Cuando aumentemos nuestra propia inteligencia y la de nuestras creaciones, ya no estaremos en un mundo de personajes de tamaño humano. En ese momento habremos caído en un «agujero negro» tecnológico, una singularidad tecnológica. ^{[ 135 ]}

En 1988, Hans Moravec publicó *Mind Children * ^{[ 37 ],} donde predijo que las supercomputadoras alcanzarían un nivel de inteligencia similar al humano para el año 2010, que las máquinas inteligentes con capacidad de autoaprendizaje superarían con creces la inteligencia humana posteriormente, que la mente humana se transferiría a robots con apariencia humana, que las máquinas inteligentes dejarían atrás a los humanos y que se produciría la colonización espacial. Sin embargo, no mencionó la "singularidad" ni habló de una rápida explosión de inteligencia inmediatamente después de alcanzar el nivel humano. No obstante, la idea general de la singularidad está presente en la predicción tanto de una inteligencia artificial a nivel humano como de una inteligencia artificial posterior que superaría ampliamente a los humanos.

El artículo de Vinge de 1993, «La singularidad tecnológica que se avecina: cómo sobrevivir en la era posthumana» ^{[ 4 ]} , se difundió ampliamente en internet y contribuyó a popularizar la idea. ^{[ 136 ]} Este artículo contiene la afirmación: «Dentro de treinta años, tendremos los medios tecnológicos para crear inteligencia sobrehumana. Poco después, la era humana habrá terminado». Vinge argumenta que los autores de ciencia ficción no pueden escribir personajes post-singularidad realistas que superen el intelecto humano, ya que los pensamientos de tal intelecto están más allá de la capacidad humana de expresarlos. ^{[ 4 ]}

El artículo de Minsky de 1994 afirma que los robots «heredarán la Tierra», posiblemente mediante el uso de la nanotecnología, y propone concebir a los robots como «hijos mentales» humanos, recurriendo a la analogía de Moravec. El efecto retórico de la analogía es que si los humanos no tienen inconveniente en legar el mundo a sus hijos biológicos, deberían tener el mismo inconveniente en legarlo a los robots, sus «hijos mentales». Según Minsky, «podríamos diseñar a nuestros “hijos mentales” para que piensen un millón de veces más rápido que nosotros. Para un ser así, medio minuto podría parecer tan largo como uno de nuestros años, y cada hora como toda una vida humana». La característica de la singularidad presente en Minsky es el desarrollo de una inteligencia artificial sobrehumana («un millón de veces más rápida»), pero no se habla de una explosión repentina de inteligencia, máquinas pensantes que se auto-mejoran, ni de imprevisibilidad más allá de cualquier evento específico, y no se utiliza la palabra «singularidad». ^{[ 137 ]}

El libro de Tipler de 1994, La física de la inmortalidad, predice un futuro donde las máquinas superinteligentes construyen computadoras enormemente poderosas, las personas son "emuladas" en computadoras, la vida llega a todas las galaxias y las personas alcanzan la inmortalidad cuando llegan al Punto Omega . ^{[ 138 ]} No se habla de una "singularidad" vingiana ni de una explosión repentina de inteligencia, pero existe una inteligencia mucho mayor que la humana, así como la inmortalidad.

En 2000, Bill Joy , un destacado tecnólogo y cofundador de Sun Microsystems , expresó su preocupación por los peligros potenciales de la robótica, la ingeniería genética y la nanotecnología. ^{[ 62 ]}

En 2005, Kurzweil publicó La singularidad está cerca . La campaña publicitaria de Kurzweil incluyó una aparición en The Daily Show con Jon Stewart . ^{[ 139 ]}

Entre 2006 y 2012, el Instituto de Investigación de Inteligencia Artificial , fundado por Eliezer Yudkowsky , organizó anualmente la conferencia Singularity Summit .

En 2007, Yudkowsky sugirió que muchas de las diversas definiciones que se han asignado a la "singularidad" son mutuamente incompatibles en lugar de apoyarse mutuamente. ^{[ 34 ] [ 140 ]} Por ejemplo, Kurzweil extrapola las trayectorias tecnológicas actuales más allá de la llegada de la IA auto-mejorada o la inteligencia sobrehumana, lo que, según Yudkowsky, representa una tensión tanto con el aumento discontinuo de la inteligencia propuesto por IJ Good como con la tesis de Vinge sobre la imprevisibilidad. ^{[ 34 ]}

En 2009, Kurzweil y Peter Diamandis, fundador del X-Prize, anunciaron la creación de Singularity University , un instituto privado no acreditado cuya misión es "educar, inspirar y empoderar a los líderes para que apliquen tecnologías exponenciales a fin de abordar los grandes desafíos de la humanidad". ^{[ 141 ]} Financiada por empresas como Google , ^{[ 142 ]} Autodesk , ^{[ 143 ]} y ePlanet Ventures, ^{[ 144 ]} la organización imparte un programa de posgrado anual de diez semanas, así como cursos "ejecutivos" más pequeños. ^{[ 145 ]}

En 2007, el Comité Económico Conjunto del Congreso de los Estados Unidos publicó un informe sobre el futuro de la nanotecnología. En él se predicen cambios tecnológicos y políticos significativos a medio plazo, incluyendo una posible singularidad tecnológica. ^{[ 146 ] [ 147 ] [ 148 ]}

El expresidente de los Estados Unidos, Barack Obama, habló sobre la singularidad en su entrevista con Wired en 2016: ^{[ 149 ]}

Un tema del que no hemos hablado mucho, y al que quiero volver, es que realmente tenemos que analizar las implicaciones económicas. Porque la mayoría de la gente no está dedicando mucho tiempo ahora mismo a preocuparse por la singularidad, sino más bien por si una máquina va a reemplazar su trabajo.

• Conciencia artificial : Conciencia hipotética en sistemas artificiales 
• Efimerización – Teoría del avance tecnológico 
• Inteligencia artificial
• efecto de la IA
• El futuro del trabajo y la muerte : documental sobre el crecimiento exponencial de la tecnología.
• Cerebro global : concepto futurista de una red global interconectada. 
• Revolución tecnológica : período de rápido cambio tecnológico. 
• Tecnofobia : miedo o incomodidad con la tecnología. 
  • Neoludismo : filosofía que se opone a la tecnología moderna. 

• Krüger, Oliver , Inmortalidad virtual. Dios, evolución y la singularidad en el posthumanismo y el transhumanismo. , Bielefeld: transcript 2021. ISBN 978-3-8376-5059-4.
• Marcus, Gary , «¿Soy humano?: Los investigadores necesitan nuevas formas de distinguir la inteligencia artificial de la natural», Scientific American , vol. 316, n.º 3 (marzo de 2017), págs.  58-63. Se necesitan múltiples pruebas de la eficacia de la inteligencia artificial porque, «así como no existe una única prueba de destreza atlética , no puede haber una prueba definitiva de inteligencia». Una de estas pruebas, un «Desafío de Construcción», evaluaría la percepción y la acción física, «dos elementos importantes del comportamiento inteligente que estaban completamente ausentes de la prueba de Turing original ». Otra propuesta ha sido aplicar a las máquinas las mismas pruebas estandarizadas de ciencias y otras disciplinas que realizan los escolares. Un obstáculo hasta ahora insuperable para la inteligencia artificial es la incapacidad para la desambiguación fiable . «Prácticamente cada frase [que generan las personas] es ambigua , a menudo de múltiples maneras». Un ejemplo destacado es el conocido como "problema de desambiguación de pronombres": una máquina no tiene forma de determinar a quién o a qué se refiere un pronombre en una oración, como "él", "ella" o "ello".

• singularidad | tecnología , britannica.com
• La inminente singularidad tecnológica: cómo sobrevivir en la era posthumana (en el sitio web de Vernor Vinge, consultado en julio de 2019).
• Preguntas frecuentes sobre la explosión de inteligencia artificial del Instituto de Investigación de Inteligencia Artificial
• Blog sobre el arranque de la inteligencia artificial por Jacques Pitrat
• ¿Por qué es probable una explosión de inteligencia ? (Marzo de 2011)
• Por qué es imposible una explosión de inteligencia (noviembre de 2017)
• ¿A qué distancia estamos de la singularidad tecnológica y cuándo ocurrirá?
• La revolución de la IA: ¿Nuestra inmortalidad o extinción? – Parte 1 y Parte 2 ( Tim Urban , Wait But Why, 22/27 de enero de 2015)