Estudios sobre el riesgo existencial

El momento fundacional de ERS se puede fechar en la publicación del ensayo de Nick Bostrom de 2002 titulado "Riesgos existenciales: análisis de escenarios de extinción humana y peligros relacionados". En este ensayo, Bostrom buscó enmarcar la extinción humana como un tema de pertinencia filosófica para las tradiciones analíticas y utilitarias , principalmente disociándola de la literatura apocalíptica pasada y presentando una revisión esquematizada y holística de posibles amenazas para la supervivencia humana o, más generalmente, para su capacidad de realizar su propio potencial, como él lo definió y que se erige como la definición canónica de riesgo existencial. ^{[ 12 ] [ 13 ] [ 3 ] [ 14 ]} Conjuntamente, intentó alinear este estudio de riesgos existenciales con una visión de su superación mediante la perspectiva de un desarrollo tecnológico colosal, que permitiría la supervivencia humana a largo plazo a través de la colonización del espacio exterior . ^{[ 15 ]} La mayor parte del ensayo consiste en la clasificación propuesta para los riesgos existenciales, que se compone de cuatro categorías, denominadas idiomáticamente "Bangs", "Crunches", "Shrieks" y "Whimpers" , todas inspiradas en el poema de T.S. Eliot " The Hollow Men ". ^{[ 16 ]}

El ensayo le valió a Bostrom un importante reconocimiento académico, lo que le permitió obtener la cátedra en la Universidad de Oxford y la dirección del ahora desaparecido Instituto del Futuro de la Humanidad en 2005, del cual fue cofundador. ^{[ 17 ]} El Centro para el Estudio del Riesgo Existencial fue creado por la Universidad de Cambridge en 2012, lo que impulsó su replicación en otras universidades. ^{[ 17 ]}

Esta primera versión de los riesgos existenciales estableció lo que se ha denominado la «primera ola» de ERS. ^{[ 14 ]} Descrita como un ejemplo de utopismo tecnológico que se define por su expectativa, o, como Noah B. Taylor la caracteriza como un « impulso teleológico », de una visión posthumana del futuro. ^{[ 14 ]}

Los defensores de esta ola de ERS pusieron el énfasis de su esperanza y fe en la tecnología, particularmente en la inteligencia artificial, la ingeniería genética y la nanotecnología, para conducir a la humanidad a una especie de estado posthumano donde las divisiones entre lo físico, lo virtual, lo mecánico y lo biológico se desdibujan. ^{[ 14 ]}

La segunda ola, o generación, de ERS se caracterizó por su esfuerzo de elaboración sobre el trabajo fundacional de Bostrom, y se distinguió además por sus crecientes relaciones e interacción con el altruismo eficaz . Se considera que el énfasis en el transhumanismo se redujo durante este período. ^{[ 18 ]}

Tras su relativa consolidación institucional y la expansión de la comunidad académica dedicada al campo, la ERS se ocupó cada vez más de las cuestiones relativas a la diversidad de su electorado y la necesidad de un pluralismo teórico en su investigación. Algunos académicos de la ERS se centraron en el análisis crítico del enfoque "históricamente dominante" ^{[ 1 ]} dentro del campo, denominado por algunos como el " enfoque tecnoutópico ". ^{[ 1 ]} El llamado utopismo tecnológico ha constituido el núcleo teórico de la ERS, inspirándose sustancialmente en el transhumanismo , el largo plazo y la corriente del utilitarismo conocida como utilitarismo total . Los académicos más críticos de este trasfondo han afirmado que adolece de una falta de fiabilidad moral intrínseca y de fallos metodológicos, lo que evidencia la demanda de nuevos marcos para la ERS, especialmente aquellos que potencien los valores democráticos percibidos como ausentes en la formulación original. ^{[ 19 ]}

La definición canónica de riesgo existencial fue propuesta tempranamente por Bostrom en su ensayo, "Riesgos existenciales: análisis de escenarios de extinción humana y peligros relacionados", estableciéndolo como un riesgo "(...) donde un resultado adverso aniquilaría la vida inteligente originaria de la Tierra o limitaría permanente y drásticamente su potencial", ^{[ 20 ]} lo que implica un tipo de riesgo que es a la vez global y terminal . Bostrom la elaboró ​​más en otro ensayo, "La prevención del riesgo existencial como prioridad global", publicado en 2013. ^{[ 13 ]} Esta definición, en consecuencia, excluye, o, al menos, está indirectamente relacionada con formas de calamidad y sufrimiento masivo que permanecen por debajo del umbral seleccionado establecido por los teóricos de ERS. Los genocidios y la esclavitud son ejemplos de estos "riesgos terminales locales", mientras que los "riesgos tolerables globales" podrían abarcar desde niveles moderados de calentamiento global, amenazas a la biodiversidad y recesiones económicas globales. ^{[ 21 ] [ 20 ]} En este sentido, lo «existencial» de los riesgos existenciales se distingue de otras formas «catastróficas» de riesgo, estando esencialmente relacionado con el concepto de potencialidad humana también elaborado por Bostom. ^{[ 20 ]} Como el propio autor explica:

"Por trágicos que sean estos sucesos para las personas directamente afectadas, en el panorama general —desde la perspectiva de la humanidad en su conjunto— incluso las peores de estas catástrofes son meras ondas en la superficie del gran mar de la vida." ^{[ 22 ]}

Los problemas percibidos en esta definición de riesgo existencial, principalmente relacionados con su magnitud, han impulsado a otros investigadores del campo a preferir una categoría más amplia, menos vinculada exclusivamente a las expectativas posthumanas y a los escenarios extincionistas, como los "riesgos catastróficos globales". El propio Bostrom ha incorporado parcialmente este concepto en su obra, editando un libro titulado " Global Catastrophic Risks ", sin abandonar aún el énfasis en la especificidad de los riesgos "existenciales" por su dimensión "pangeneracional" y no meramente "resistente". Otros teóricos prominentes del campo, como Toby Ord , siguen inclinándose por la definición transhumanista canónica. ^{[ 23 ]}

Maximizar el valor futuro es un concepto de ERS definido por Nick Bostrom que ejerció una influencia temprana y persistente en el campo, especialmente en la corriente de pensamiento más relacionada con la primera ola o paradigma tecnoutópico de los riesgos existenciales. Bostrom resumió el concepto con la jerga " regla Maxipok ", que definió como "maximizar la probabilidad de un resultado aceptable, donde un resultado aceptable es cualquier resultado que evite el desastre existencial". ^{[ 24 ]}

En su ensayo fundacional, Bostrom propone cuatro categorías de riesgos según su resultado, todas relacionadas con algún tipo de limitación del potencial. Debajo de cada categoría se enumeran y luego se organizan en orden descendente de probabilidad, comenzando con el resultado que el autor considera más probable. ^{[ 25 ] [ 16 ]}

• " Extinción repentina ": la extinción súbita de la vida inteligente en la Tierra, ya sea por accidente o por destrucción deliberada;

• " Crunches ": la frustración del potencial de la humanidad para convertirse en una especie posthumana, incluso si la vida humana continúa existiendo;

• " Gritos ": un logro restrictivo de la posthumanidad, por debajo de su potencial esperado;

• " Gemidos ": una especie de posthumanidad que carece de valores significativos y permanece limitada en su potencial.

Los estudios sobre el riesgo existencial desarrollaron una relación sustancial con la filosofía y la comunidad filantrópica del altruismo eficaz, adoptando muchas de sus ideas centrales y atrayendo a varios altruistas eficaces al campo. ^{[ 26 ]} La comunidad del altruismo eficaz también ha contribuido financieramente a la consolidación académica de los estudios sobre el riesgo existencial. ^{[ 27 ]}

Algunos académicos dentro del campo de ERS han afirmado la necesidad de un examen más atento de su núcleo teórico original y la apertura a un pluralismo teórico que busca rectificar las fallas metodológicas y morales percibidas de este enfoque históricamente dominante. ^{[ 19 ]} Esta base teórica original de ERS ha sido denominada por algunos como el " enfoque tecnoutópico ", en referencia a la idea general de utopismo tecnológico , y se ha definido por sus fuertes vínculos con el transhumanismo , el largotermismo y el llamado utilitarismo total . En este sentido, las premisas de dicho enfoque tecnoutópico se manifiestan en tres supuestos, no explícitamente y totalmente compartidos por todos sus seguidores, tales como: "(...) un futuro tecnológicamente desarrollado al máximo podría contener (y se define en términos de) enormes cantidades de valor intrínseco utilitario, particularmente debido a modos de vida posthumano más satisfactorios"; ^{[ 19 ]} que su fracaso representaría una "catástrofe existencial"; ^{[ 19 ]} y, por último, que la obligación moral actual es asegurar la realización de este futuro posthumano, "(...) incluso a través de acciones excepcionales". ^{[ 19 ]} Estas suposiciones se consideran particularmente esenciales para la definición canónica de riesgo existencial. ^{[ 13 ]}

El paradigma del utopismo tecnológico de la ERS se considera más visible e influyente por su articulación en la obra fundamental de Nick Bostrom, tanto en sus ensayos de 2002 y 2013 mencionados anteriormente, como en su artículo de 2003 titulado "Desperdicio astronómico". ^{[ 13 ]} Libros populares de pensadores sobre riesgos existenciales, como El precipicio , Superinteligencia y Lo que le debemos al futuro , también han fomentado la visibilidad pública del utopismo tecnológico. ^{[ 13 ]}

Algunos académicos consideran que el concepto de riesgo existencial establecido en la ERS es excesivamente restrictivo y limitado, lo que revela una actitud colonialista de negligencia hacia la historia de los genocidios , especialmente el relacionado con el genocidio colonial de los pueblos indígenas . Nick Bostrom, por ejemplo, afirma explícitamente que el punto de partida de los riesgos existenciales antropogénicos es el período posterior al fin de la Segunda Guerra Mundial , con la invención de las armas nucleares . ^{[ 28 ]}

En un artículo de Global Policy de 2023 , Hobson y Corry escriben: ^{[ 29 ]}

La pregunta es, entonces: ¿impulsará la seguridad existencial las necesarias medidas de emergencia de carácter colectivo ante las emergentes amenazas globales catastróficas, o erosionará la política «normal» de la sociedad nacional e internacional (en la medida en que exista) y legitimará potencialmente la búsqueda, no de intereses globales, sino de un conjunto hegemónico de intereses que se hacen pasar por humanidad? [...] Cualquier noción de interés global colectivo está inevitablemente impregnada de posiciones e intereses (geo)políticos particulares. La persistencia de «lo internacional» —la división del mundo social en múltiples unidades desiguales (Rosenberg, 2006)— implica que cualquier categoría universal (de humanidad o civilización) será parcial o estará ubicada en comunidades políticas parciales. Los legados de violencia y extinción perpetrados en nombre de la humanidad y la civilización constituyen un historial nefasto. Por lo tanto, no debe pasarse por alto la violencia potencial que supone la implementación de medidas de seguridad en nombre de la protección de una categoría planetaria o de especie, sumada al bagaje estatista de las prácticas y discursos de seguridad existentes.

Los teóricos del ERS, entre los que destaca Bostrom, han afirmado con frecuencia que el "riesgo existencial" es un tema poco estudiado en la literatura académica . En un ensayo de 2013 titulado "La prevención del riesgo existencial como prioridad global", Bostrom señaló que la base de datos Scopus contiene 900 artículos sobre escarabajos peloteros , pero menos de 50 al buscar "extinción humana". Esto confirma, según Bostrom, el estado de abandono de la investigación sobre este tema. ^{[ 30 ]}

Sin embargo, otras investigaciones han cuestionado y criticado tanto las premisas como las conclusiones de esta afirmación, así como el experimento específico que Bostrom utilizó para fundamentarla. Joshua Schuster y Derek Woods afirmaron que la misma investigación, realizada en marzo de 2020, sí presentó un número ligeramente mayor de artículos sobre la extinción humana; sin embargo, la búsqueda del término comúnmente relacionado, "genocidio", arrojó 7166 artículos. En una base de datos distinta, JSTOR , las investigaciones arrojaron 66 809 resultados para "extinción humana", 43 926 para "genocidio" y 134 089 para "extinción". Además, la búsqueda de casos específicos de riesgo existencial, como la guerra nuclear o las armas biológicas genéticamente modificadas, proporciona una enorme cantidad de investigaciones. Ambos autores afirman que esta diferencia es sintomática del apego de Bostrom a criterios y términos autodefinidos para este tipo de temas, permaneciendo, según ellos, indiferente a la investigación en torno a los derechos humanos y la prevención del genocidio . ^{[ 28 ]}

• Riesgo existencial derivado de la inteligencia artificial general
• riesgo de sufrir