Singularitarismo

El singularitarismo es un movimiento definido por la creencia de que una singularidad tecnológica —la creación de superinteligencia— probablemente ocurrirá en un futuro mediano, y que se deben tomar medidas deliberadas para asegurar que la singularidad beneficie a los humanos . ^{[ 1 ]}

Los singularitarios se distinguen de otros futuristas que especulan sobre una singularidad tecnológica por su creencia de que la singularidad no solo es posible, sino deseable si se guía con prudencia. En consecuencia, a veces pueden dedicar sus vidas a actuar de maneras que, según creen, contribuirán a su realización rápida y segura. ^{[ 2 ]}

La revista estadounidense Time describe la visión del mundo de los singularitarios diciendo: «Aunque suene a ciencia ficción, no lo es, del mismo modo que un pronóstico del tiempo no lo es. No es una idea marginal; es una hipótesis seria sobre el futuro de la vida en la Tierra. Hay un reflejo de rechazo intelectual que se activa cada vez que uno intenta asimilar una idea que involucra cíborgs inmortales superinteligentes, pero... si bien la Singularidad parece, a primera vista, absurda, es una idea que merece una evaluación sobria y cuidadosa». ^{[ 1 ]}

El término «singularitario» fue definido originalmente por el pensador extropiano Mark Plus (Mark Potts) en 1991 como «aquel que cree en el concepto de una Singularidad». ^{[ 3 ]} Este término se ha redefinido posteriormente para significar «activista de la Singularidad» o «amigo de la Singularidad»; es decir, aquel que actúa para propiciar la singularidad. ^{[ 4 ]}

El singularitarismo también puede entenderse como una orientación o perspectiva que prioriza el desarrollo de la inteligencia humana como objetivo transhumanista específico , en lugar de centrarse en tecnologías específicas como la IA ^{[ 5 ].} Existen definiciones que identifican a un singularitario como un activista o defensor del concepto de singularidad, es decir, alguien que actúa para propiciar la singularidad ^{[ 6 ]} . Algunas fuentes lo describen como una filosofía moral que aboga por la acción deliberada para generar y dirigir el desarrollo de una superinteligencia que conduzca a un punto futuro teórico que surge en un contexto de cambio acelerado ^{[ 7 ] .}

El inventor y futurista Ray Kurzweil , autor del libro de 2005 La singularidad está cerca: cuando los humanos trasciendan la biología , define a un singularitario como alguien "que entiende la singularidad y que ha reflexionado sobre sus implicaciones para su propia vida" ^{[ 2 ]} y estima que la singularidad ocurrirá alrededor de 2045 . ^{[ 2 ]}

Una temprana articulación singularitaria de que la historia está progresando hacia un punto de inteligencia sobrehumana se encuentra en la obra de Hegel , La fenomenología del espíritu . ^{[ 8 ]} En 1993, el matemático , científico informático y autor de ciencia ficción Vernor Vinge planteó la hipótesis de que podría llegar el momento en que la tecnología permita la "creación de entidades con inteligencia superior a la humana" ^{[ 9 ]} y utilizó el término "la Singularidad" para describir este momento. ^{[ 10 ]} Sugirió que la singularidad podría representar un riesgo existencial para la humanidad y que podría ocurrir a través de uno de cuatro medios:

1. El desarrollo de ordenadores "despiertos" y con inteligencia sobrehumana.
2. Las grandes redes informáticas (y sus usuarios asociados) podrían "despertar" como una entidad con inteligencia sobrehumana.
3. Las interfaces entre ordenadores y humanos pueden llegar a ser tan íntimas que los usuarios podrían considerarse, con razón, con una inteligencia sobrehumana.
4. La ciencia biológica puede encontrar formas de mejorar el intelecto humano natural. ^{[ 9 ]}

El singularitarismo se consolidó como una ideología coherente en el año 2000, cuando el investigador de inteligencia artificial (IA) Eliezer Yudkowsky escribió Los principios singularitarios , ^{[ 2 ] [ 11 ]} en el que afirma que un singularitario cree que la singularidad es un evento secular, no místico, posible, beneficioso para el mundo y por el cual trabajan sus seguidores. ^{[ 11 ]} La definición de Yudkowsky incluye varias interpretaciones. ^{[ 5 ]} Teóricos como Michael Anissimov defienden una definición estricta que se refiere únicamente a la defensa del desarrollo de la superinteligencia . ^{[ 5 ]}

En junio de 2000, Yudkowsky, con el apoyo de los emprendedores de internet Brian Atkins y Sabine Atkins, fundó el Machine Intelligence Research Institute ( MIRI) para trabajar en la creación de una IA amigable con capacidad de autoaprendizaje . Los escritos del MIRI afirman que una IA con la capacidad de mejorar su propio diseño ( IA semilla ) conduciría rápidamente a la superinteligencia. Estos singularitarios creen que alcanzar la singularidad de forma rápida y segura es la mejor manera de minimizar el riesgo existencial neto .

Muchas personas creen que una singularidad tecnológica es posible sin adoptar el singularitarismo como filosofía moral. Si bien las cifras exactas son difíciles de cuantificar, el singularitarismo es un movimiento pequeño que incluye al filósofo transhumanista Nick Bostrom . El inventor y futurista Ray Kurzweil , quien predice que la singularidad ocurrirá alrededor de 2045 , contribuyó enormemente a popularizar el singularitarismo con su libro de 2005, La singularidad está cerca: Cuando los humanos trascienden la biología . ^{[ 2 ]}

¿Qué es, entonces, la Singularidad? Es un período futuro en el que el ritmo del cambio tecnológico será tan acelerado, su impacto tan profundo, que la vida humana se transformará irreversiblemente. Si bien no es ni utópica ni distópica, esta época transformará los conceptos en los que nos basamos para dar sentido a nuestras vidas, desde nuestros modelos de negocio hasta el ciclo de la vida humana, incluida la muerte misma. Comprender la Singularidad alterará nuestra perspectiva sobre la importancia de nuestro pasado y sus ramificaciones para nuestro futuro. Comprenderla verdaderamente cambia inherentemente la visión de la vida en general y de la propia vida. Considero "singularitario" a quien comprende la Singularidad y ha reflexionado sobre sus implicaciones para su propia vida. ^{[ 2 ]}

Con el apoyo de la NASA , Google y una amplia gama de pronosticadores tecnológicos y tecnocapitalistas , la Singularity University abrió sus puertas en 2009 en el Parque de Investigación de la NASA en Silicon Valley con el objetivo de preparar a la próxima generación de líderes para afrontar los desafíos del cambio acelerado .

En julio de 2009, muchos destacados singularitarios participaron en una conferencia organizada por la Asociación para el Avance de la Inteligencia Artificial (AAAI) para debatir el impacto potencial de los robots y las computadoras y la posibilidad de que se vuelvan autosuficientes y capaces de tomar sus propias decisiones. Discutieron la posibilidad y el alcance de la autonomía que podrían adquirir las computadoras y los robots, y en qué medida podrían usar tales capacidades para representar una amenaza o un peligro (es decir, una revuelta cibernética ). Señalaron que algunas máquinas han adquirido diversas formas de semiautonomía, incluyendo la capacidad de encontrar fuentes de energía por sí mismas y elegir de forma independiente objetivos para atacar con armas. Advirtieron que algunos virus informáticos pueden evadir la eliminación y han alcanzado una "inteligencia de cucaracha". Afirmaron que la autoconciencia tal como se representa en la ciencia ficción es probablemente improbable, pero que existen otros peligros y escollos potenciales. ^{[ 10 ]} Algunos expertos y académicos han cuestionado el uso de robots para el combate militar , especialmente cuando a dichos robots se les otorga cierto grado de funciones autónomas. ^{[ 12 ]} El Presidente de la AAAI ha encargado un estudio sobre este tema. ^{[ 13 ]}

Existen varias objeciones al singularitarismo de Kurzweil, incluso por parte de optimistas en el campo de la IA. Por ejemplo, el autor ganador del Premio Pulitzer, Douglas Hofstadter, argumentó que el logro de una IA a nivel humano para 2045, predicho por Kurzweil, no es viable. ^{[ 14 ]} Incluso Gordon Moore , quien da nombre a la Ley de Moore que predijo ^{[ 15 ]} la noción de singularidad, sostuvo que nunca ocurrirá. ^{[ 16 ]} Según algunos observadores, estas críticas no disminuyen el entusiasmo por la singularidad porque ha asumido una respuesta cuasi religiosa al miedo a la muerte, lo que permite a sus seguidores disfrutar de los beneficios de la religión sin sus cargas ontológicas. ^{[ 14 ]} El periodista científico John Horgan escribió:

Seamos realistas. La singularidad es una visión más religiosa que científica. El escritor de ciencia ficción Ken MacLeod la ha bautizado como «el rapto para nerds», una alusión al fin de los tiempos, cuando Jesús arrebate a los fieles al cielo y nos deje atrás a nosotros, los pecadores. Tal anhelo de trascendencia, ya sea espiritual o tecnológica, es totalmente comprensible. Tanto a nivel individual como colectivo, nos enfrentamos a problemas sumamente graves, como el terrorismo , la proliferación nuclear , la superpoblación , la pobreza , el hambre , la degradación ambiental , el cambio climático , el agotamiento de los recursos y el SIDA . Los ingenieros y científicos deberían ayudarnos a afrontar los problemas del mundo y encontrar soluciones, en lugar de entregarse a fantasías pseudocientíficas y escapistas como la singularidad. ^{[ 17 ]}

Kurzweil rechaza esta valoración, afirmando que sus predicciones sobre la singularidad se basan en datos que demuestran que los avances en la tecnología computacional han sido exponenciales desde hace mucho tiempo. ^{[ 18 ]} Sostiene que sus críticos adoptan erróneamente una visión intuitiva y lineal del progreso tecnológico, en lugar de tener en cuenta ese crecimiento exponencial. ^{[ 19 ]}

• misticismo de la IA
• inteligencia artificial general
• Escatología
• Riesgo existencial derivado de la inteligencia artificial general
• cerebro global
• explosión de inteligencia
• Esquema del transhumanismo
• Economía post-escasez
• utopismo tecnológico

• Cuestiones éticas en la inteligencia artificial avanzada , por Nick Bostrom , 2003
• "El dilema de la conciencia" , una crítica a los singularitarios por John Horgan.