Hipótesis del mundo vulnerable

La hipótesis del mundo vulnerable ^{[ 1 ]} o la hipótesis de la "bola negra" ^{[ 2 ]} plantea que podrían existir tecnologías que destruyan la civilización por defecto, a menos que se tomen medidas extraordinarias. El filósofo Nick Bostrom introdujo esta hipótesis en 2019 en la revista Global Policy , donde clasificó los tipos de vulnerabilidades y las posibles medidas de mitigación. ^{[ 3 ] [ 1 ]} La hipótesis se analiza en el contexto de los riesgos existenciales y la seguridad de las tecnologías avanzadas. ^{[ 4 ] [ 5 ]}

Bostrom ilustró la hipótesis mediante la analogía de una urna. Comparó el proceso de invención tecnológica con la extracción de bolas de una urna, donde el color de las bolas representa su impacto. Las bolas blancas son beneficiosas y constituyen la mayoría de las extraídas. Algunas bolas son grises, lo que representa tecnologías con efectos mixtos o moderados. Las bolas negras representan tecnologías hipotéticas que tienden a destruir por defecto la civilización que las inventa. Según Bostrom, el hecho de que la humanidad aún no se haya topado con una bola negra se debe en gran medida a la suerte, más que a la cautela o la sabiduría. ^{[ 4 ]}

Bostrom definió la hipótesis del mundo vulnerable como la posibilidad de que "Si el desarrollo tecnológico continúa, en algún momento se alcanzará un conjunto de capacidades que harán que la devastación de la civilización sea extremadamente probable, a menos que la civilización salga suficientemente de la condición predeterminada semi-anárquica". ^{[ 3 ]} excepto en algunos casos específicos. ^{[ a ]} ​​La "condición predeterminada semi-anárquica" se refiere aquí a tener: ^{[ 3 ] [ 6 ]}

1. Capacidad limitada para la vigilancia preventiva.
2. Capacidad limitada para la gobernanza global.
3. Actores con diversas motivaciones ^{[ b ]}

Para ejemplificar las vulnerabilidades, Bostrom propuso un sistema de clasificación y dio ejemplos de cómo la tecnología podría haber fallado, y recomendaciones políticas como el desarrollo tecnológico diferencial . ^{[ 4 ] [ 3 ]} Si se desarrolla una tecnología que implica tal vulnerabilidad, las soluciones que se supone necesarias para sobrevivir (es decir, una gobernanza global efectiva o una vigilancia preventiva según el tipo de vulnerabilidad) son controvertidas. ^{[ 4 ] [ 5 ] [ 7 ]} La clasificación incluye: ^{[ 3 ] [ 1 ]}

• Tipo 0 ("extrañas criaturas sorprendentes")  : una tecnología conlleva un riesgo oculto y devasta inadvertidamente la civilización.

Un ejemplo hipotético propuesto sería si las bombas nucleares hubieran podido incendiar la atmósfera. En un informe encargado por Robert Oppenheimer , se predijo que la ignición nuclear no ocurriría en la prueba nuclear Trinity . Sin embargo, el informe se ha considerado poco fiable dadas las posibles consecuencias : «Se puede concluir que los argumentos de este documento hacen irrazonable esperar que la reacción N + N se propague. Una propagación ilimitada es aún menos probable. No obstante, la complejidad del argumento y la ausencia de una base experimental satisfactoria hacen que sea muy conveniente seguir investigando el tema». ^{[ 4 ]} 

• Tipo 1 ("armas nucleares fáciles")  : una tecnología que otorga a pequeños grupos de personas la capacidad de causar destrucción masiva.

El experimento mental de las "armas nucleares fáciles" propuesto por Bostrom plantea la cuestión de qué habría sucedido si las reacciones nucleares en cadena hubieran sido más fáciles de producir, por ejemplo, "enviando una corriente eléctrica a través de un objeto metálico colocado entre dos láminas de vidrio". ^{[ 4 ]}

• Tipo 2a ("primer ataque seguro")  : una tecnología tiene el potencial de devastar la civilización, y los actores poderosos se ven incentivados a usarla, posiblemente porque usarla primero parece traer una ventaja, o debido a algún escenario de tragedia de los bienes comunes .

• Tipo 2b ("peor calentamiento global")  : muchos actores se ven incentivados a tomar medidas ligeramente perjudiciales, de modo que el efecto combinado de esas acciones resulta en la devastación de la civilización.

Según Bostrom, detener el progreso tecnológico puede no ser posible ni deseable. Una alternativa sería priorizar las tecnologías que se espera que tengan un impacto positivo y retrasar aquellas que puedan ser catastróficas, un principio conocido como desarrollo tecnológico diferencial . ^{[ 4 ]}

Las posibles soluciones varían según el tipo de vulnerabilidad. Abordar las vulnerabilidades de tipo 2 puede requerir una gobernanza muy eficaz y cooperación internacional. En el caso de las vulnerabilidades de tipo 1, si la destrucción masiva llegara a ser accesible para los individuos, podría haber al menos una pequeña fracción de la población que la utilizaría. ^{[ 4 ]} En casos extremos, podría ser necesaria la vigilancia masiva para evitar la destrucción de la civilización, una perspectiva controvertida que ha recibido una importante cobertura mediática. ^{[ 8 ] [ 9 ] [ 10 ] [ 11 ] [ 12 ]}

Las tecnologías que se han propuesto como vulnerabilidades potenciales son la inteligencia artificial avanzada , la nanotecnología y la biología sintética (la biología sintética puede brindar la capacidad de crear fácilmente pandemias mejoradas ). ^{[ 13 ] [ 2 ] [ 14 ] [ 15 ]}

• Gran filtro

• La hipótesis del mundo vulnerable
• Cómo la civilización podría autodestruirse y 4 maneras de evitarlo : entrevista TED a Nick Bostrom por Chris Anderson.