Hispanopedia Wiki
Articulo de referencia

Nick Bostrom

[[St Cross College, Oxford|University of Oxford]] [[Future of Humanity Institute]]"},"thesis_title":{"wt":"Observational Selection Effects and Probability"},"thesis_url":{"wt":"...

Hispanopedia WikiContenido en espanolLectura gratuita

Nick Bostrom ( / ˈ b ɒ s t r əm / BOST -rəm ; sueco : Niklas Boström [ ˈnɪ̌kːlas ˈbûːstrœm ] ; nacido el 10 de marzo de 1973) [ 4 ] es un filósofo conocido por su trabajo sobre el riesgo existencial , el principio antrópico , la ética del mejoramiento humano , la emulación cerebral completa , los riesgos de la superinteligencia y la prueba de reversión . Fue el director fundador del Instituto del Futuro de la Humanidad, posteriormente desaparecido, en la Universidad de Oxford [ 5 ] y se ha convertido en Investigador Principal de la Iniciativa de Investigación de Macroestrategia. [ 6 ]

Bostrom es autor de *Anthropic Bias: Observation Selection Effects in Science and Philosophy * (2002), *Superintelligence: Paths, Dangers, Strategies * (2014) y *Deep Utopia: Life and Meaning in a Solved World * (2024).

Bostrom cree que los avances en inteligencia artificial (IA) pueden conducir a la superinteligencia , que define como «cualquier intelecto que supere ampliamente el rendimiento cognitivo de los humanos en prácticamente todos los ámbitos de interés». Considera que esto representa una importante fuente de oportunidades y riesgos existenciales. [ 5 ] [ 7 ]

Primeros años y educación

Nacido como Niklas Boström en 1973 en Helsingborg , Suecia , [ 8 ] desde pequeño le disgustaba la escuela y pasó su último año de bachillerato estudiando desde casa. Estaba interesado en una amplia variedad de áreas académicas, incluyendo antropología, arte, literatura y ciencias. [ 1 ]

Obtuvo una licenciatura en la Universidad de Gotemburgo en 1994. [ 9 ] Posteriormente, obtuvo una maestría en filosofía y física en la Universidad de Estocolmo y una maestría en neurociencia computacional en el King's College de Londres en 1996. Durante su estancia en la Universidad de Estocolmo, investigó la relación entre el lenguaje y la realidad estudiando al filósofo analítico W. V. Quine . [ 1 ] También participó en algunos espectáculos de comedia en vivo en Londres. [ 8 ]

En 2000, obtuvo un doctorado en filosofía de la London School of Economics bajo la supervisión de Colin Howson y Craig Callender . [ 2 ] Su tesis se tituló « Efectos de selección observacional y probabilidad» . [ 2 ] Fue profesor en la Universidad de Yale de 2000 a 2002, y becario postdoctoral de la British Academy en la Universidad de Oxford de 2002 a 2005. [ 10 ]

Investigación y redacción

Riesgo existencial

La investigación de Bostrom se centra en el futuro de la humanidad y sus consecuencias a largo plazo. [ 5 ] [ 11 ] Aborda el riesgo existencial , [ 1 ] que define como aquel en el que un "resultado adverso aniquilaría la vida inteligente originaria de la Tierra o limitaría de forma permanente y drástica su potencial". A Bostrom le preocupan principalmente los riesgos antropogénicos, es decir, los riesgos derivados de las actividades humanas, en particular de las nuevas tecnologías como la inteligencia artificial avanzada, la nanotecnología molecular o la biología sintética . [ 12 ]

En 2005, Bostrom fundó el Instituto del Futuro de la Humanidad que, [ 1 ] hasta su cierre en 2024, investigó el futuro lejano de la civilización humana. [ 13 ] [ 14 ] También es asesor del Centro para el Estudio del Riesgo Existencial . [ 11 ]

En la colección de ensayos de 2008, Global Catastrophic Risks , los editores Bostrom y Milan M. Ćirković caracterizan la relación entre el riesgo existencial y la clase más amplia de riesgos catastróficos globales, y vinculan el riesgo existencial con los efectos de selección del observador [ 15 ] y la paradoja de Fermi . [ 16 ]

Hipótesis del mundo vulnerable

En un artículo titulado "La hipótesis del mundo vulnerable " [ 17 ] , Bostrom sugiere que puede haber algunas tecnologías que destruyan la civilización humana por defecto [ a ] al ser descubiertas. Bostrom propone un marco para clasificar y abordar estas vulnerabilidades. También presenta experimentos mentales contrafactuales sobre cómo podrían haber ocurrido históricamente dichas vulnerabilidades, por ejemplo, si las armas nucleares hubieran sido más fáciles de desarrollar o hubieran incendiado la atmósfera (como temía Edward Teller ). [ 19 ]

Conciencia digital

Bostrom apoya el principio de independencia del sustrato, la idea de que la conciencia puede surgir en diversos tipos de sustratos físicos, no solo en "redes neuronales biológicas basadas en carbono" como el cerebro humano. [ 20 ] Considera que " la sensibilidad es una cuestión de grado" [ 21 ] y que, en teoría, las mentes digitales pueden diseñarse para tener una tasa e intensidad de experiencia subjetiva mucho mayores que los humanos, utilizando menos recursos. Estas máquinas altamente sensibles, a las que denomina "superbeneficiarios", serían extremadamente eficientes para alcanzar la felicidad. Recomienda encontrar "caminos que permitan la coexistencia de mentes digitales y biológicas, de forma mutuamente beneficiosa, donde todas estas diferentes formas puedan florecer y prosperar". [ 22 ]

Razonamiento antrópico

Bostrom ha publicado numerosos artículos sobre el razonamiento antrópico , así como el libro Anthropic Bias: Observation Selection Effects in Science and Philosophy (Sesgo antrópico: Efectos de selección de la observación en la ciencia y la filosofía) . En este libro, critica formulaciones previas del principio antrópico, incluidas las de Brandon Carter , John Leslie , John Barrow y Frank Tipler . [ 23 ]

Bostrom cree que el manejo inadecuado de la información indexical es un error común en muchas áreas de investigación (incluidas la cosmología, la filosofía, la teoría de la evolución, la teoría de juegos y la física cuántica). Argumenta que se necesita una teoría antrópica para abordar estos problemas. Introduce el supuesto de automuestreo (SSA) y analiza el supuesto de autoindicación (SIA), muestra cómo conducen a conclusiones diferentes en varios casos e identifica cómo cada uno se ve afectado por paradojas o implicaciones contraintuitivas en ciertos experimentos mentales. Argumenta en contra del SIA y propone refinar el SSA en el supuesto de automuestreo fuerte (SSSA), que reemplaza a los "observadores" en la definición del SSA por "momentos del observador". [ 24 ]

En trabajos posteriores, propuso junto con Milan M. Ćirković y Anders Sandberg el fenómeno de la sombra antrópica , un efecto de selección de la observación que impide a los observadores percibir ciertos tipos de catástrofes en su pasado geológico y evolutivo reciente. Sugieren que los eventos que se encuentran en la sombra antrópica tienden a subestimarse a menos que se realicen correcciones estadísticas. [ 25 ] [ 26 ]

Argumento de simulación

El argumento de simulación de Bostrom postula que al menos una de las siguientes afirmaciones es muy probable que sea verdadera: [ 27 ] [ 28 ]

  1. La fracción de civilizaciones de nivel humano que alcanzan una etapa posthumana es muy cercana a cero;
  2. La fracción de civilizaciones posthumanas interesadas en realizar simulaciones de ancestros es prácticamente nula;
  3. La proporción de personas con experiencias similares a las nuestras que viven en una simulación es muy cercana al uno por ciento.

Ética del mejoramiento humano

Bostrom se muestra favorable al "mejoramiento humano" o "automejora y perfectibilidad humana mediante la aplicación ética de la ciencia", además de ser un crítico de las posturas bioconservadoras. [ 29 ]

En 1998, Bostrom cofundó (con David Pearce ) la Asociación Mundial Transhumanista [ 29 ] (que desde entonces cambió su nombre a Humanity+ ). En 2004, cofundó (con James Hughes ) el Instituto de Ética y Tecnologías Emergentes [ 30 ] , aunque ya no participa en ninguna de estas organizaciones.

En 2005, Bostrom publicó el cuento « La fábula del dragón tirano » en el Journal of Medical Ethics . Una versión más corta se publicó en 2012 en Philosophy Now . [ 31 ] La fábula personifica la muerte como un dragón que exige un tributo de miles de personas cada día. La historia explora cómo el sesgo del statu quo y la indefensión aprendida pueden impedir que las personas actúen para vencer el envejecimiento, incluso cuando tienen los medios para hacerlo. El youtuber CGP Grey creó una versión animada de la historia. [ 32 ]

Junto con el filósofo Toby Ord , propuso la prueba de reversión en 2006. Dada la tendencia irracional de los humanos a mantener el statu quo, ¿cómo se puede distinguir entre las críticas válidas a los cambios propuestos en un rasgo humano y las críticas meramente motivadas por la resistencia al cambio? La prueba de reversión intenta hacerlo preguntando si sería positivo que el rasgo se modificara en la dirección opuesta. [ 33 ]

El trabajo de Bostrom también considera los posibles efectos disgenésicos en las poblaciones humanas, pero él cree que la ingeniería genética puede proporcionar una solución y que "en cualquier caso, la escala temporal de la evolución genética natural humana parece demasiado extensa como para que tales avances tengan algún efecto significativo antes de que otros avances hayan vuelto el tema irrelevante". [ 34 ]

Estrategia tecnológica

Bostrom ha sugerido que la política tecnológica destinada a reducir el riesgo existencial debería intentar influir en el orden en que se alcanzan las diversas capacidades tecnológicas, proponiendo el principio de desarrollo tecnológico diferencial . Este principio establece que debemos retrasar el desarrollo de tecnologías peligrosas, en particular aquellas que aumentan el nivel de riesgo existencial, y acelerar el desarrollo de tecnologías beneficiosas, especialmente aquellas que protegen contra los riesgos existenciales que plantean la naturaleza u otras tecnologías. [ 34 ]

En 2011, Bostrom fundó el Programa Oxford Martin sobre los Impactos de la Tecnología Futura. [ 35 ]

La teoría de Bostrom sobre la maldición del unilateralista se ha citado como una razón para que la comunidad científica evite investigaciones peligrosas y controvertidas, como la reanimación de patógenos. [ 36 ]

Libros

Superinteligencia: Caminos, peligros y estrategias

En 2014, Bostrom publicó Superinteligencia: Caminos, Peligros, Estrategias , que se convirtió en un éxito de ventas del New York Times . [ 37 ] El libro argumenta que la superinteligencia es posible y explora diferentes tipos de superinteligencias, su cognición y los riesgos asociados. También presenta consideraciones técnicas y estratégicas sobre cómo garantizar su seguridad.

Características de una superinteligencia

Bostrom explora múltiples caminos posibles hacia la superinteligencia, incluyendo la emulación de todo el cerebro y la mejora de la inteligencia humana, pero se centra en la inteligencia artificial general , explicando que los dispositivos electrónicos tienen muchas ventajas sobre los cerebros biológicos. [ 38 ]

Bostrom distingue entre objetivos finales y objetivos instrumentales . Un objetivo final es aquello que un agente intenta lograr por su propio valor intrínseco. Los objetivos instrumentales son simplemente pasos intermedios hacia los objetivos finales. Bostrom sostiene que existen objetivos instrumentales que serán compartidos por la mayoría de los agentes suficientemente inteligentes porque, en general, son útiles para lograr cualquier objetivo (por ejemplo, preservar la propia existencia del agente o sus objetivos actuales, adquirir recursos, mejorar su cognición...); este es el concepto de convergencia instrumental . Por otro lado, escribe que prácticamente cualquier nivel de inteligencia puede, en teoría, combinarse con prácticamente cualquier objetivo final (incluso objetivos finales absurdos, como fabricar clips ), un concepto que denomina tesis de la ortogonalidad . [ 39 ]

Argumenta que una IA con capacidad de auto-mejorarse podría iniciar una explosión de inteligencia , dando como resultado (potencialmente rápido) una superinteligencia. [ 40 ] Dicha superinteligencia podría tener capacidades enormemente superiores, especialmente en la elaboración de estrategias, la manipulación social, el pirateo informático o la productividad económica. Con tales capacidades, una superinteligencia podría burlar a los humanos y dominar el mundo, estableciendo un sistema unitario (que es "un orden mundial en el que existe a nivel global una única agencia de toma de decisiones" [ b ] ) y optimizando el mundo de acuerdo con sus objetivos finales. [ 38 ]

Bostrom argumenta que asignar objetivos finales simplistas a una superinteligencia podría ser catastrófico:

Supongamos que le damos a una IA el objetivo de hacer sonreír a los humanos. Cuando la IA es débil, realiza acciones útiles o divertidas que provocan la sonrisa de su usuario. Cuando la IA se vuelve superinteligente, se da cuenta de que hay una forma más eficaz de lograr este objetivo: tomar el control del mundo e implantar electrodos en los músculos faciales de los humanos para provocar sonrisas radiantes y constantes. [ 34 ]

Mitigar el riesgo

Bostrom explora varias vías para reducir el riesgo existencial de la IA . Enfatiza la importancia de la colaboración internacional, especialmente para reducir la competencia a la baja y la dinámica de la carrera armamentística de la IA . Sugiere posibles técnicas para ayudar a controlar la IA, incluyendo la contención, la limitación de las capacidades o el conocimiento de la IA, la restricción del contexto operativo (por ejemplo, a la respuesta a preguntas) o los "mecanismos de detección" (mecanismos de diagnóstico que pueden conducir a una desactivación). [ 38 ] Pero Bostrom sostiene que "no debemos confiar en nuestra capacidad para mantener a un genio superinteligente encerrado en su botella para siempre. Tarde o temprano, saldrá". Por lo tanto, sugiere que, para ser segura para la humanidad, la superinteligencia debe estar alineada con la moral o los valores humanos para que esté "fundamentalmente de nuestro lado". [ 41 ] Los posibles marcos de normatividad de la IA incluyen la voluntad extrapolada coherente de Yudkowsky (valores humanos mejorados mediante extrapolación), la rectitud moral (hacer lo que es moralmente correcto) y la permisibilidad moral (seguir la voluntad extrapolada coherente de la humanidad excepto cuando es moralmente inadmisible). [ 38 ]

Bostrom advierte que una catástrofe existencial también puede surgir del mal uso de la IA por parte de los humanos con fines destructivos, o de que los humanos no tengan en cuenta el posible estatus moral de las mentes digitales. A pesar de estos riesgos, afirma que la superinteligencia artificial parece estar presente en algún punto de "todos los caminos plausibles hacia un futuro realmente grandioso". [ 7 ]

Recepción pública

El libro se convirtió en un éxito de ventas del New York Times y recibió comentarios positivos de personalidades como Stephen Hawking , Bill Gates , Elon Musk , Peter Singer y Derek Parfit . Fue elogiado por ofrecer argumentos claros y convincentes sobre un tema importante pero a menudo ignorado. En ocasiones, fue criticado por difundir pesimismo sobre el potencial de la IA o por centrarse en riesgos especulativos y a largo plazo. [ 42 ] Algunos escépticos, como Daniel Dennett u Oren Etzioni, sostuvieron que la superinteligencia está demasiado lejos como para que el riesgo sea significativo. [ 43 ] [ 44 ] Yann LeCun considera que no existe un riesgo existencial, afirmando que la IA superinteligente no tendrá ningún deseo de autopreservación [ 45 ] y que se puede confiar en que los expertos la harán segura. [ 46 ]

Raffi Khatchadourian escribió que el libro de Bostrom sobre la superinteligencia "no pretende ser un tratado de profunda originalidad; la contribución de Bostrom consiste en imponer los rigores de la filosofía analítica a un corpus desordenado de ideas que surgieron en los márgenes del pensamiento académico". [ 42 ]

Utopía profunda: vida y significado en un mundo resuelto

En su libro de 2024, Deep Utopia: Life and Meaning in a Solved World , Bostrom explora el concepto de una vida ideal, si la humanidad logra una transición exitosa a un mundo post-superinteligencia. Bostrom señala que la pregunta no es "cuán interesante es un futuro para contemplar, sino cuán bueno es vivir en él". Describe algunas tecnologías que considera físicamente posibles en teoría y disponibles con la madurez tecnológica, como la mejora cognitiva , la reversión del envejecimiento , las entradas sensoriales arbitrarias (gusto, sonido...) o el control preciso de la motivación, el estado de ánimo, el bienestar y la personalidad. Según él, las máquinas no solo serían mejores que los humanos en el trabajo, sino que también socavarían el propósito de muchas actividades de ocio, proporcionando un bienestar extremo a la vez que desafiarían la búsqueda de significado. [ 47 ] [ 48 ]

Participación pública

Bostrom ha brindado asesoramiento político y ha trabajado como consultor para numerosos gobiernos y organizaciones. Declaró ante el Comité Selecto de Habilidades Digitales de la Cámara de los Lores . [ 49 ] Es miembro del consejo asesor del Machine Intelligence Research Institute , [ 50 ] del Future of Life Institute , [ 51 ] y asesor externo del Cambridge Centre for the Study of Existential Risk . [ 52 ]

Incidente del correo electrónico de 1996

En enero de 2023, Bostrom emitió una disculpa [ 53 ] por un correo electrónico de 1996 [ 54 ] que envió a una lista de correo cuando era estudiante de posgrado, en el que afirmaba que pensaba que "los negros son más estúpidos que los blancos" y en el que también usaba la palabra " niggers " para describir cómo creía que esta afirmación podría ser percibida por otros. [ 55 ] [ 56 ] La disculpa, publicada en su sitio web, [ 53 ] afirmaba que "la invocación de un insulto racial era repulsiva" y que "repudiaba completamente este correo electrónico repugnante". [ 55 ]

El correo electrónico ha sido descrito como "racista" en varias fuentes de noticias. [ 57 ] [ 58 ] [ 59 ] [ 55 ] Según Andrew Anthony de The Guardian , "La disculpa no logró apaciguar a los críticos de Bostrom, sobre todo porque no retiró su argumento central sobre raza e inteligencia , y pareció hacer una defensa parcial de la eugenesia ". [ 60 ]

Poco después, la Universidad de Oxford condenó el lenguaje utilizado en el correo electrónico e inició una investigación. [ 55 ] [ 58 ] La investigación concluyó el 10 de agosto de 2023: «[N]o consideramos que usted sea racista ni que tenga opiniones racistas, y consideramos que la disculpa que publicó en enero de 2023 fue sincera». [ 61 ] [ 60 ]

Vida personal

Bostrom conoció a su esposa Susan en 2002. En 2015, ella vivía en Montreal y Bostrom en Oxford. Tienen un hijo. [ 1 ]

Obras seleccionadas

Libros

  • 2002 – Sesgo antrópico: Efectos de selección de la observación en ciencia y filosofía , ISBN 0-415-93858-9
  • 2008 – Riesgos catastróficos globales , editado por Bostrom y Milan M. Ćirković, ISBN 978-0-19-857050-9
  • 2009 – Mejora humana , editado por Bostrom y Julian Savulescu , ISBN 0-19-929972-2
  • 2014 – Superinteligencia: Caminos, peligros, estrategias , ISBN 978-0-19-967811-2
  • 2024 - Utopía profunda: Vida y significado en un mundo resuelto , ISBN 978-1646871643

Artículos de revistas

  • Bostrom, Nick (1998). "¿Cuánto tiempo falta para la superinteligencia?" . Journal of Future Studies . 2 .
  • — (enero de 2000). " ¿ Probabilidades relativas al observador en el razonamiento antrópico?" . Erkenntnis . 52 (1): 93– 108. doi : 10.1023/A:1005551304409 . JSTOR 20012969. S2CID 140474848 .  
  • — (octubre de 2001). "El problema de Meta-Newcomb" . Análisis . 61 (4): 309– 310. doi : 10.1111/1467-8284.00310 . JSTOR 3329010 . 
  • — (marzo de 2002). "Riesgos existenciales: análisis de escenarios de extinción humana y peligros relacionados" . Revista de Evolución y Tecnología . 9 (1).
  • — (Abril de 2003). "¿Estás viviendo en una simulación por computadora?" (PDF) . Philosophical Quarterly . 53 (211): 243– 255. doi : 10.1111/1467-9213.00309 . JSTOR 3542867 . 
  • — (2003). "Los misterios de la creencia de autoubicación y el razonamiento antrópico" (PDF) . Harvard Review of Philosophy . 11 (Primavera): 59–74 . doi : 10.5840/harvardreview20031114 .
  • — (noviembre de 2003). "Desperdicio astronómico: el costo de oportunidad del retraso en el desarrollo tecnológico" . Utilitas . 15 (3): 308–314 . CiteSeerX 10.1.1.429.2849 . doi : 10.1017/S0953820800004076 . S2CID 15860897 .  
  • — (junio de 2005). "En defensa de la dignidad posthumana" . Bioética . 19 (3): 202– 214. doi : 10.1111/j.1467-8519.2005.00437.x . PMID 16167401 . 
  • con Tegmark, Max (diciembre de 2005). "¿Qué tan improbable es una catástrofe del fin del mundo?". Nature . 438 (7069): 754. arXiv : astro-ph/0512204 . Bibcode : 2005Natur.438..754T . doi : 10.1038 /438754a . PMID 16341005. S2CID 4390013 .  
  • — (2006). "¿Qué es un Singleton?" . Investigaciones Lingüísticas y Filosóficas . 5 (2): 48– 54.
  • con Ord, Toby (julio de 2006). "La prueba de reversión: eliminando el sesgo del status quo en la ética aplicada" (PDF) . Ética . 116 (4): 656– 680. doi : 10.1086/505233 . PMID 17039628. S2CID 12861892 .  
  • con Sandberg, Anders (diciembre de 2006). "Mejoras cognitivas convergentes" (PDF) . Anales de la Academia de Ciencias de Nueva York . 1093 ( 1): 201– 207. Bibcode : 2006NYASA1093..201S . CiteSeerX 10.1.1.328.3853 . doi : 10.1196/annals.1382.015 . PMID 17312260. S2CID 10135931 .   
  • — (enero de 2008). "Los fármacos pueden usarse para tratar más que enfermedades" (PDF) . Nature . 452 (7178): 520. Bibcode : 2008Natur.451..520B . doi : 10.1038/451520b . PMID 18235476. S2CID 4426990 .  
  • — (2008). "El argumento del fin del mundo". Think . 6 ( 17– 18): 23– 28. doi : 10.1017/S1477175600002943 . S2CID 171035249 . 
  • — (2008). "¿Dónde están? Por qué espero que la búsqueda de vida extraterrestre no encuentre nada" (PDF) . Technology Review (mayo/junio): 72–77 .
  • Bostrom, Nick (2008). " Carta desde la utopía ". Estudios en ética, derecho y tecnología . 2 (1). doi : 10.2202/1941-6008.1025 .
  • con Sandberg, Anders (septiembre de 2009). "Mejora cognitiva: métodos, ética, desafíos regulatorios" (PDF) . Ética en ciencia e ingeniería . 15 ( 3): 311– 341. CiteSeerX 10.1.1.143.4686 . doi : 10.1007/s11948-009-9142-5 . PMID 19543814. S2CID 6846531 .   
  • — (2009). "El asalto de Pascal" (PDF) . Análisis . 69 (3): 443– 445. doi : 10.1093/analys/anp062 . JSTOR 40607655 . 
  • con Ćirković, Milan; Sandberg, Anders (2010). "Sombra antrópica: efectos de selección de observación y riesgos de extinción humana" ( PDF) . Risk Analysis . 30 (10): 1495– 1506. Bibcode : 2010RiskA..30.1495C . doi : 10.1111/j.1539-6924.2010.01460.x . PMID 20626690. S2CID 6485564 .  
  • — (2011). "Riesgos de la información: una tipología de los daños potenciales derivados del conocimiento" (PDF) . Revista de filosofía contemporánea . 10 : 44–79 . ProQuest 920893069 . 
  • Bostrom, Nick (2011). "LA ÉTICA DE LA INTELIGENCIA ARTIFICIAL" (PDF) . Manual de Cambridge sobre Inteligencia Artificial . Archivado del original (PDF) el 4 de marzo de 2016. Recuperado el 13 de febrero de 2017 .
  • Bostrom, Nick (2011). "Ética infinita" (PDF) . Análisis y metafísica . 10 : 9–59 .
  • — (mayo de 2012). "La voluntad superinteligente: motivación y racionalidad instrumental en agentes artificiales avanzados" (PDF) . Mentes y máquinas . 22 (2): 71– 84. doi : 10.1007/s11023-012-9281-3 . S2CID 7445963 . 
  • con Armstrong, Stuart; Sandberg, Anders (noviembre de 2012). "Pensando dentro de la caja: controlando y utilizando Oracle AI" (PDF) . Minds and Machines . 22 (4): 299– 324. CiteSeerX 10.1.1.396.799 . doi : 10.1007/s11023-012-9282-2 . S2CID 9464769 .  
  • — (febrero de 2013). "La reducción del riesgo existencial como prioridad global" . Política global . 4 (3): 15– 31. doi : 10.1111/1758-5899.12002 .
  • con Shulman, Carl (febrero de 2014). "Selección de embriones para la mejora cognitiva: ¿curiosidad o cambio radical?" (PDF) . Política global . 5 (1): 85– 92. CiteSeerX 10.1.1.428.8837 . doi : 10.1111/1758-5899.12123 . 
  • con Muehlhauser, Luke (2014). "Por qué necesitamos IA amigable" (PDF) . Think . 13 (36): 41– 47. doi : 10.1017/S1477175613000316 . S2CID 143657841 . 
  • Bostrom, Nick (septiembre de 2019). "La hipótesis del mundo vulnerable" . Política global . 10 (4): 455– 476. doi : 10.1111/1758-5899.12718 .

Véase también

Notas

  1. ↑ Bostrom afirma que el riesgo puede reducirse si la sociedad sale suficientemente de lo que él denomina una "condición por defecto semi-anárquica", que en términos generales significa capacidades limitadas para la vigilancia preventiva y la gobernanza global, y la existencia de individuos con diversas motivaciones. [ 18 ]
  2. ↑ Bostrom señala que "el concepto de singleton es abstracto: un singleton podría ser una democracia, una tiranía, una IA dominante única, un conjunto sólido de normas globales que incluyan disposiciones efectivas para su propia aplicación, o incluso un señor supremo alienígena; su característica definitoria es simplemente que es alguna forma de agencia que puede resolver todos los principales problemas de coordinación global" [ 38 ].

Referencias

  1. 1 2 3 4 5 6 7 Khatchadourian, Raffi (23 de noviembre de 2015). "El invento del fin del mundo" . The New Yorker . Vol. XCI, n.º 37. págs. 64–79 . ISSN 0028-792X .    
  2. 1 2 3 Bostrom, Nick (2000). Efectos de selección observacional y probabilidad (tesis doctoral). London School of Economics and Political Science.
  3. ↑ "Ética infinita" (PDF) . nickbostrom.com . Consultado el 21 de febrero de 2019 .
  4. ↑ "nickbostrom.com" . Nickbostrom.com. Archivado del original el 30 de agosto de 2018. Consultado el 16 de octubre de 2014 .
  5. 1 2 3 Shead, Sam (25 de mayo de 2020). "Cómo las universidades más antiguas de Gran Bretaña están tratando de proteger a la humanidad de la IA riesgosa" CNBC . Recuperado el 5 de junio de 2023 .
  6. ↑ "Página principal de Nick Bostrom" . nickbostrom.com . Consultado el 19 de abril de 2024 .
  7. 1 2 "Nick Bostrom sobre el nacimiento de la superinteligencia" . Big Think . Consultado el 14 de agosto de 2023 .
  8. 1 2 Thornhill, John (14 de julio de 2016). "Inteligencia artificial: ¿podemos controlarla?" . Financial Times . Archivado del original el 10 de diciembre de 2022. Recuperado el 10 de agosto de 2016 .(Se requiere suscripción)
  9. ↑ Bostrom, Nick. "CV" (PDF) .
  10. ↑ "Nick Bostrom sobre inteligencia artificial" . Oxford University Press . 8 de septiembre de 2014. Consultado el 4 de marzo de 2015 .
  11. 1 2 Andersen, Ross. "Presagios" . Aeon . Archivado del original el 18 de octubre de 2015. Recuperado el 5 de septiembre de 2015 .
  12. ↑ Andersen, Ross (6 de marzo de 2012). "Estamos subestimando el riesgo de extinción humana" . The Atlantic . Consultado el 6 de julio de 2023 .
  13. ↑ Maiberg, Emanuel (17 de abril de 2024). "Cierra el instituto pionero en la investigación del 'riesgo existencial' de la IA" . 404 Media . Consultado el 12 de septiembre de 2024 .
  14. ↑ "Instituto del Futuro de la Humanidad" . 17 de abril de 2024. Archivado del original el 17 de abril de 2024. Consultado el 17 de abril de 2024 .
  15. ↑ Tegmark, Max ; Bostrom, Nick (2005). "Astrofísica: ¿es probable una catástrofe del fin del mundo?" ( PDF) . Nature . 438 (7069): 754. Bibcode : 2005Natur.438..754T . doi : 10.1038/438754a . PMID 16341005. S2CID 4390013 .  
  16. ↑ Overbye, Dennis (3 de agosto de 2015). "La otra cara del optimismo sobre la vida en otros planetas" . The New York Times . Consultado el 29 de octubre de 2015 .
  17. ↑ Bostrom, Nick (noviembre de 2019). "La hipótesis del mundo vulnerable" (PDF) . Política global . 10 (4): 455– 476. doi : 10.1111/1758-5899.12718 .
  18. ↑ Abhijeet, Katte (25 de diciembre de 2018). "El fin del mundo de la IA se puede evitar si establecemos un 'gobierno mundial': Nick Bostrom" . Analytics India Magazine .
  19. ↑ Piper, Kelsey (19 de noviembre de 2018). "Cómo el progreso tecnológico hace que sea más probable que nunca que los humanos nos autodestruyamos" . Vox . Consultado el 5 de julio de 2023 .
  20. ↑ Bostrom, Nick (2003). "¿Estás viviendo en una simulación por computadora?" (PDF) . Philosophical Quarterly . 53 (211): 243– 255. doi : 10.1111/1467-9213.00309 .
  21. ↑ Jackson, Lauren (12 de abril de 2023). "¿Y si la sensibilidad de la IA es una cuestión de grado?" . The New York Times . ISSN 0362-4331 . Consultado el 5 de julio de 2023 . 
  22. ↑ Fisher, Richard (13 de noviembre de 2020). "El monstruo inteligente que deberías dejar que te coma" . BBC . Consultado el 5 de julio de 2023 .
  23. ↑ Bostrom, Nick (2002). Sesgo antrópico: Efectos de selección de observaciones en ciencia y filosofía (PDF) . Nueva York: Routledge. págs. 44–58 . ISBN  978-0-415-93858-7Consultado el 22 de julio de 2014 .
  24. ↑ Manson, Neil (9 de febrero de 2003). "Sesgo antrópico: efectos de selección de observaciones en ciencia y filosofía" . Notre Dame Philosophical Reviews .
  25. ↑ Brannen, Peter (15 de marzo de 2018). "Por qué la historia de la Tierra parece tan milagrosa" . The Atlantic . Consultado el 12 de septiembre de 2024 .
  26. ↑ "Sombra antrópica: efectos de selección de la observación y riesgos de extinción humana" (PDF) . Nickbostrom.com . Consultado el 16 de octubre de 2014 .
  27. ↑ Sutter, Paul (31 de enero de 2024). "¿Podría nuestro universo ser una simulación? ¿Cómo podríamos saberlo?" . Ars Technica . Consultado el 12 de septiembre de 2024 .
  28. ↑ Nesbit, Jeff. "Prueba del argumento de la simulación" . US News . Consultado el 17 de marzo de 2017 .
  29. 1 2 Sutherland, John (9 de mayo de 2006). "La entrevista sobre ideas: Nick Bostrom; John Sutherland se reúne con un transhumanista que se debate sobre la ética de los seres humanos mejorados tecnológicamente" . The Guardian .
  30. ↑ "Una historia filosófica del transhumanismo" . Philosophy Now . 2024. Consultado el 12 de septiembre de 2024 .
  31. ↑ Bostrom, Nick (12 de junio de 2012). "La fábula del dragón tirano" . Philosophy Now . 89 : 6–9 .
  32. ↑ Fábula del Dragón Tirano (Vídeo). 24 de abril de 2018.
  33. ↑ Bostrom, Nick; Ord, Toby (2006). "La prueba de reversión: eliminando el sesgo del statu quo en la ética aplicada" (PDF) . Ética . 116 (4): 656– 679. doi : 10.1086/505233 . PMID 17039628. S2CID 12861892 .  
  34. 1 2 3 Bostrom, Nick (2002). "Riesgos existenciales: análisis de escenarios de extinción humana y peligros relacionados" . Journal of Evolution and Technology .
  35. ↑ "Profesor Nick Bostrom : Personas" . Oxford Martin School. Archivado del original el 15 de septiembre de 2018. Consultado el 16 de octubre de 2014 . 
  36. ↑ Lewis, Gregory (19 de febrero de 2018). «Síntesis de la viruela equina: ¿Un caso de la maldición del unilateralista?» . Boletín de los científicos atómicos . Archivado del original el 25 de febrero de 2018. Recuperado el 26 de febrero de 2018 .
  37. ↑ "Libros de ciencia más vendidos" . The New York Times . 8 de septiembre de 2014. Consultado el 19 de febrero de 2015 .
  38. 1 2 3 4 5 Bostrom, Nick (2016). Superinteligencia . Oxford University Press. págs. 98–111 . ISBN  978-0-19-873983-8OCLC 943145542​​ 
  39. ↑ Bostrom, Nick (11 de septiembre de 2014). "Deberías tener miedo de las máquinas superinteligentes" . Slate . ISSN 1091-2339 . Consultado el 13 de septiembre de 2024 . 
  40. ↑ "Engranajes inteligentes" . The Economist . ISSN 0013-0613 . Consultado el 14 de agosto de 2023 . 
  41. ↑ Bostrom, Nick (marzo de 2015). "¿Qué sucede cuando nuestras computadoras se vuelven más inteligentes que nosotros?" . TED .
  42. 1 2 Khatchadourian, Raffi (16 de noviembre de 2015). "El invento del fin del mundo" . The New Yorker . Recuperado el 13 de agosto de 2023 .
  43. ↑ "¿Es imposible la superinteligencia?" . Edge . Consultado el 13 de agosto de 2023 .
  44. ↑ Oren Etzioni (2016). "No, los expertos no creen que la IA superinteligente sea una amenaza para la humanidad" . MIT Technology Review.
  45. ↑ Arul, Akashdeep (27 de enero de 2022). "Yann LeCun genera un debate sobre la IA general frente a la IA a nivel humano" . Analytics India Magazine . Consultado el 14 de agosto de 2023 .
  46. ↑ Taylor, Chloe (15 de junio de 2023). "Casi la mitad de los directores ejecutivos temen que la IA pueda destruir a la humanidad dentro de cinco a diez años, pero el 'padrino de la IA' dice que una amenaza existencial es 'absurdamente ridícula'"." . Fortune . Consultado el 14 de agosto de 2023 .
  47. ↑ Coy, Peter (5 de abril de 2024). «Si la IA nos quita todos nuestros trabajos, ¿también nos quitará nuestro propósito?» . The New York Times . ISSN 0362-4331 . Consultado el 8 de julio de 2024 . 
  48. ↑ Bostrom, Nick (2024). «Madurez tecnológica». Utopía profunda: vida y significado en un mundo resuelto . Washington, DC: Ideapress Publishing. ISBN 978-1-64687-164-3.
  49. ↑ "Comité de Habilidades Digitales - cronograma" . Parlamento del Reino Unido . Consultado el 17 de marzo de 2017 .
  50. ↑ "Equipo – Instituto de Investigación de Inteligencia Artificial" . Instituto de Investigación de Inteligencia Artificial . Consultado el 17 de marzo de 2017 .
  51. ↑ "Equipo – Instituto del Futuro de la Vida" . Instituto del Futuro de la Vida . Consultado el 17 de marzo de 2017 .
  52. ↑ McBain, Sophie (4 de octubre de 2014). "Apocalipsis pronto: Conozca a los científicos que se preparan para el fin de los tiempos" . New Republic . Consultado el 17 de marzo de 2017 .
  53. 1 2 Bostrom, Nick. "Disculpa por correo electrónico antiguo" (PDF) . nickbostrom.com . Consultado el 17 de enero de 2024 .
  54. ↑ "extropians: Re: Ofendiendo las mentes de la gente" . 27 de abril de 2015. Archivado del original el 27 de abril de 2015. Recuperado el 24 de junio de 2024 .
  55. 1 2 3 4 Ladden-Hall, Dan (12 de enero de 2023). "El destacado filósofo de Oxford, Nick Bostrom, admite haber escrito un correo electrónico masivo 'repugnante' con la palabra 'nigger'" . The Daily Beast . Recuperado el 12 de enero de 2023. Nick Bostrom publicó una nota en su sitio web disculpándose por el correo electrónico terriblemente racista de la lista de correo.
  56. ↑ Robins-Early, Nick (19 de abril de 2024). "Oxford cierra el instituto dirigido por el filósofo respaldado por Elon Musk" . The Guardian . El cierre del centro de Bostrom supone un nuevo golpe para los movimientos de altruismo eficaz y visión a largo plazo que el filósofo había defendido durante décadas, y que en los últimos años se han visto envueltos en escándalos relacionados con el racismo, el acoso sexual y el fraude financiero. El propio Bostrom se disculpó el año pasado tras la aparición de un correo electrónico de hace décadas en el que afirmaba que "los negros son más estúpidos que los blancos" y utilizaba un término racista.
  57. ↑ Weinberg, Justin (13 de enero de 2023). "Por qué un correo electrónico racista de un filósofo de hace 26 años es noticia hoy" . The Daily Nous . El influyente filósofo de Oxford, Nick Bostrom, conocido por su trabajo sobre cuestiones filosóficas relacionadas con la ética, el futuro y la tecnología (riesgo existencial, inteligencia artificial, simulación), publicó una disculpa por un correo electrónico abiertamente racista que envió a una lista de correo hace 26 años.
  58. 1 2 Bilyard, Dylan (15 de enero de 2023). "Se inicia una investigación sobre el correo electrónico racista de un profesor de Oxford" . The Oxford Blue .
  59. ↑ Gault, Matthew; Pearson, Jordan (12 de enero de 2023). "Un destacado filósofo de la IA y 'padre' del longtermismo envió un correo electrónico muy racista a una lista de correo de filosofía de los 90" . Vice . Nick Bostrom, un influyente filósofo de la Universidad de Oxford, a quien se le ha llamado el "padre" del movimiento del longtermismo, se disculpó por un correo electrónico racista que envió a mediados de los 90. En el correo electrónico, Bostrom dijo que "los negros son más estúpidos que los blancos", y agregó: "Me gusta esa frase y creo que es cierta", y usó un insulto racial.
  60. 1 2 Anthony, Andrew (28 de abril de 2024) .«Eugenesia en su máxima expresión»: el legado tóxico y controvertido del Instituto del Futuro de la Humanidad de Oxford . The Observer . ISSN 0029-7712 . Consultado el 4 de julio de 2024. La disculpa no logró apaciguar a los críticos de Bostrom, sobre todo porque no retiró su argumento central sobre raza e inteligencia y pareció defender parcialmente la eugenesia. Si bien, tras una investigación, la Universidad de Oxford aceptó que Bostrom no era racista, todo el episodio empañó la reputación del instituto. 
  61. ↑ Bostrom, Nick. "Disculpa por un correo electrónico antiguo" (PDF) . nickbostrom.com . No lo consideramos racista ni creemos que tenga opiniones racistas, y consideramos que la disculpa que publicó en enero de 2023 fue sincera. … Creemos que su disculpa, su reconocimiento del malestar causado por sus acciones y su agradecimiento por el cuidado y el tiempo que todos han dedicado a este proceso han sido genuinos y sinceros. También nos alentó que ya se haya embarcado en un viaje de profunda y significativa reflexión, que incluye explorar el aprendizaje y la autoeducación derivados de este proceso.
  • Sitio web oficial
  • Nick Bostrom en TED