Instituto del Futuro de la Humanidad

El Instituto del Futuro de la Humanidad ( FHI ) fue un centro de investigación interdisciplinario de la Universidad de Oxford que investigaba cuestiones fundamentales sobre la humanidad y sus perspectivas. Fue fundado en 2005 como parte de la Facultad de Filosofía y la Oxford Martin School . ^{[ 1 ]} Su director fue el filósofo Nick Bostrom , y entre su personal de investigación se encontraban el futurista Anders Sandberg y el fundador de Giving What We Can, Toby Ord . ^{[ 2 ]}

Compartiendo oficina y trabajando estrechamente con el Centro para el Altruismo Eficaz , el objetivo declarado del instituto era centrar la investigación donde pudiera generar el mayor impacto positivo para la humanidad a largo plazo. ^{[ 3 ] [ 4 ]} Participó en una combinación de actividades académicas y de divulgación, buscando promover el debate informado y la participación pública en el gobierno, las empresas, las universidades y otras organizaciones. Entre los principales financiadores de la investigación del centro se encontraban Amlin , Elon Musk , el Consejo Europeo de Investigación , el Instituto Future of Life y el Leverhulme Trust . ^{[ 5 ]}

El 16 de abril de 2024, la Universidad de Oxford cerró el Instituto, que declaró haber "enfrentado crecientes dificultades administrativas dentro de la Facultad de Filosofía ". ^{[ 6 ] [ 7 ]}

Nick Bostrom fundó el instituto en noviembre de 2005 como parte de la Oxford Martin School , entonces llamada James Martin 21st Century School. ^{[ 1 ]} Entre 2008 y 2010, el FHI organizó la conferencia Global Catastrophic Risks, publicó 22 artículos en revistas académicas y 34 capítulos en volúmenes académicos. Los investigadores del FHI han brindado asesoramiento político en el Foro Económico Mundial , al sector privado y sin fines de lucro (como la Fundación MacArthur y la Organización Mundial de la Salud ), así como a organismos gubernamentales en Suecia, Singapur, Bélgica, el Reino Unido y los Estados Unidos.

Bostrom y el bioeticista Julian Savulescu también publicaron el libro Human Enhancement en marzo de 2009. ^{[ 8 ]} Más recientemente, FHI se ha centrado en los peligros de la inteligencia artificial (IA) avanzada. En 2014, sus investigadores publicaron varios libros sobre el riesgo de la IA , entre ellos Smarter Than Us de Stuart Armstrong y Superintelligence: Paths, Dangers, Strategies de Bostrom . ^{[ 9 ] [ 10 ]}

En 2018, Open Philanthropy recomendó una subvención de hasta aproximadamente 13,4 millones de libras esterlinas a FHI durante tres años, con una gran parte condicionada a la contratación exitosa. ^{[ 11 ]}

El tema principal al que FHI ha dedicado tiempo es el riesgo catastrófico global , y en particular el riesgo existencial. En un artículo de 2002, Bostrom definió un "riesgo existencial" como aquel "en el que un resultado adverso aniquilaría la vida inteligente originaria de la Tierra o limitaría de forma permanente y drástica su potencial". ^{[ 12 ]} Esto incluye escenarios en los que la humanidad no se ve directamente perjudicada, pero no logra colonizar el espacio ni aprovechar los recursos disponibles del universo observable en proyectos de valor humano, como se analiza en el artículo de Bostrom de 2003, "Desperdicio astronómico: el coste de oportunidad del retraso en el desarrollo tecnológico". ^{[ 13 ]}

El libro de Bostrom y Milan Ćirković de 2008, Global Catastrophic Risks, recopila ensayos sobre diversos riesgos, tanto naturales como antropogénicos. Entre los posibles riesgos catastróficos de origen natural se incluyen el supervulcanismo , los impactos y los eventos astronómicos energéticos como las explosiones de rayos gamma , los rayos cósmicos , las erupciones solares y las supernovas . Estos peligros se caracterizan por ser relativamente pequeños y estar relativamente bien comprendidos, aunque las pandemias podrían ser excepciones debido a su mayor frecuencia y a su coincidencia con las tendencias tecnológicas. ^{[ 14 ] [ 4 ]}

El FHI presta mayor atención a las pandemias sintéticas mediante agentes biológicos armados. Entre los resultados tecnológicos de particular interés para el instituto se incluyen el cambio climático antropogénico , la guerra nuclear y el terrorismo nuclear , la nanotecnología molecular y la inteligencia artificial general . Al prever que los mayores riesgos provendrán de las tecnologías futuras, y en particular de la inteligencia artificial avanzada, el FHI coincide con otras organizaciones de reducción de riesgos existenciales, como el Centro para el Estudio del Riesgo Existencial y el Instituto de Investigación de Inteligencia Artificial . ^{[ 15 ] [ 16 ]} Los investigadores del FHI también han estudiado el impacto del progreso tecnológico en los riesgos sociales e institucionales, como el totalitarismo , el desempleo impulsado por la automatización y los riesgos de la información. ^{[ 17 ]}

En 2020, Toby Ord, investigador principal del FHI, publicó su libro El precipicio: riesgo existencial y el futuro de la humanidad , en el que argumenta que salvaguardar el futuro de la humanidad es uno de los problemas morales más importantes de nuestro tiempo. ^{[ 18 ] [ 19 ]}

FHI dedica gran parte de su atención a amenazas exóticas poco exploradas por otras organizaciones, así como a consideraciones metodológicas que fundamentan la reducción y la predicción de riesgos existenciales. El instituto ha hecho especial hincapié en el razonamiento antrópico en su investigación, un área poco explorada con implicaciones epistemológicas generales.

Los argumentos antrópicos que FHI ha estudiado incluyen el argumento del fin del mundo , que afirma que es probable que la humanidad se extinga pronto porque es improbable que se esté observando un punto en la historia humana que sea extremadamente temprano. En cambio, es probable que los humanos actuales estén cerca del medio de la distribución de los humanos que alguna vez vivirán. ^{[ 14 ]} Bostrom también ha popularizado el argumento de la simulación .

Un tema recurrente en la investigación del FHI es la paradoja de Fermi : la sorprendente ausencia de civilizaciones extraterrestres observables. Robin Hanson ha argumentado que debe existir un " Gran Filtro " que impida la colonización espacial para explicar esta paradoja. Dicho filtro podría estar en el pasado, si la inteligencia es mucho más rara de lo que predice la biología actual; o podría estar en el futuro, si los riesgos existenciales son aún mayores de lo que se reconoce actualmente.

Estrechamente vinculado al trabajo de FHI sobre evaluación de riesgos, despilfarro astronómico y peligros de las tecnologías futuras, se encuentra su trabajo sobre las promesas y los riesgos del mejoramiento humano . Las modificaciones en cuestión pueden ser biológicas, digitales o sociológicas, y se hace hincapié en los cambios hipotéticos más radicales, en lugar de en las innovaciones a corto plazo más probables. La investigación bioética de FHI se centra en las posibles consecuencias de la terapia génica , la prolongación de la vida , los implantes cerebrales y las interfaces cerebro-computadora , y la transferencia de la mente . ^{[ 20 ]}

El enfoque de FHI se ha centrado en métodos para evaluar y potenciar la inteligencia y la racionalidad humanas, como una forma de influir en la velocidad y la dirección del progreso tecnológico y social. El trabajo de FHI sobre la irracionalidad humana, ejemplificada en las heurísticas cognitivas y los sesgos , incluye una colaboración continua con Amlin para estudiar el riesgo sistémico derivado de los sesgos en la modelización. ^{[ 21 ] [ 22 ]}

• Toby Ord : El precipicio: riesgo existencial y el futuro de la humanidad , 2020. ISBN 1526600218
• Nick Bostrom : Superinteligencia: Caminos, peligros, estrategias , 2014. ISBN 0-415-93858-9
• Nick Bostrom y Milan Ćirković : Riesgos catastróficos globales , 2011. ISBN 978-0-19-857050-9
• Nick Bostrom y Julian Savulescu : Mejora humana , 2011. ISBN 0-19-929972-2
• Nick Bostrom: Sesgo antrópico: Efectos de selección de la observación en ciencia y filosofía , 2010. ISBN 0-415-93858-9
• Nick Bostrom y Anders Sandberg: Hoja de ruta para la emulación cerebral , 2008.

• Anthony, Andrew (28 de abril de 2024) .«Eugenesia en su máxima expresión»: el legado tóxico y controvertido del Instituto para el Futuro de la Humanidad de Oxford . The Observer .

• Sitio web oficial de FHI