Por qué el futuro no nos necesita

« Por qué el futuro no nos necesita » es un artículo escrito por Bill Joy (entonces científico jefe de Sun Microsystems ) en la edición de abril de 2000 de la revista Wired . En el artículo, argumenta que «nuestras tecnologías más poderosas del siglo XXI —la robótica , la ingeniería genética y la nanotecnología— amenazan con convertir a los humanos en una especie en peligro de extinción » . Joy advierte:

Las experiencias de los científicos atómicos demuestran claramente la necesidad de asumir la responsabilidad personal, el peligro de que las cosas avancen demasiado rápido y la forma en que un proceso puede adquirir vida propia. Podemos, como ellos, crear problemas insuperables en un abrir y cerrar de ojos. Debemos reflexionar más de antemano si no queremos vernos igualmente sorprendidos y conmocionados por las consecuencias de nuestros inventos.

Si bien algunos críticos han caracterizado la postura de Joy como oscurantismo o neoludismo , otros comparten sus preocupaciones sobre las consecuencias de la rápida expansión de la tecnología. ^{[ 1 ]}

Joy argumenta que las tecnologías emergentes representan un peligro mucho mayor para la humanidad que cualquier tecnología anterior. En particular, se centra en la ingeniería genética , la nanotecnología y la robótica . Sostiene que las tecnologías de destrucción del siglo XX, como la bomba nuclear , estaban limitadas a los grandes gobiernos debido a la complejidad y el costo de dichos dispositivos, así como a la dificultad para adquirir los materiales necesarios. Utiliza la novela La peste blanca como un posible escenario de pesadilla, en el que un científico loco crea un virus capaz de aniquilar a la humanidad.

Joy también expresa su preocupación por el creciente poder de las computadoras. Teme que, con el tiempo, las computadoras se vuelvan más inteligentes que nosotros, lo que podría derivar en escenarios distópicos como la rebelión de los robots . Cita a Ted Kaczynski (el Unabomber).

Joy expresa su preocupación de que, eventualmente, los ricos serán los únicos que tendrán el poder de controlar los robots que se construirán en el futuro y que estas personas también podrían decidir tomar las riendas de su vida y controlar cómo los humanos continúan poblando y reproduciéndose. ^{[ 2 ]} Comenzó a investigar más sobre robótica y sobre las personas que se especializan en robótica , y además de sus propias ideas, intentó obtener opiniones de otros sobre el tema. Rodney Brooks , un especialista en robótica, cree que en el futuro habrá una fusión entre humanos y robots. ^{[ 3 ]} Joy mencionó el libro de Hans Moravec , " Robot: De mera máquina a mente trascendente ", donde creía que en el futuro habrá un cambio en el que los robots asumirán las actividades humanas normales, pero con el tiempo los humanos se acostumbrarán a vivir de esa manera. ^{[ 4 ]}

En *The Singularity Is Near* , Ray Kurzweil cuestionó la regulación de tecnologías potencialmente peligrosas, preguntando: "¿Deberíamos decirles a los millones de personas que padecen cáncer y otras enfermedades devastadoras que estamos cancelando el desarrollo de todos los tratamientos de bioingeniería porque existe el riesgo de que estas mismas tecnologías se utilicen algún día con fines malévolos?". Sin embargo, John Zerzan y Chellis Glendinning creen que las tecnologías modernas son perjudiciales tanto para la libertad como para el problema del cáncer, y que ambos problemas están relacionados. ^{[ 5 ] [ 6 ] [ 7 ]}

En el artículo "Una respuesta a Bill Joy y los tecnofuturistas pesimistas" del Anuario de Política Científica y Tecnológica de la AAAS de 2001, John Seely Brown y Paul Duguid criticaron a Joy por tener una visión tecnológica limitada en su predicción al no considerar los factores sociales. ^{[ 8 ]}

John McGinnis argumenta que la propuesta de Joy de "renunciar" a las tecnologías que podrían conducir a la inteligencia artificial general (IAG) fracasaría porque "las prohibiciones, al menos bajo la tecnología y la geopolítica actuales, seguramente serán ineficaces". La verificación de los acuerdos de limitación de la IAG sería difícil debido a la naturaleza de doble uso de la IAG y la facilidad con la que se puede ocultar. De manera similar, considera que la propuesta de Joy del "juramento hipocrático" de abstención voluntaria por parte de los científicos de la investigación dañina tampoco sería efectiva, ya que los científicos podrían verse presionados por los gobiernos, tentados por las ganancias, inseguros sobre qué tecnologías causarían daño en el futuro o simplemente oponerse a la premisa de Joy. En lugar de renunciar a la IAG, McGinnis aboga por un tipo de desarrollo tecnológico diferencial en el que la inteligencia artificial benévola avance más rápido que otros tipos. ^{[ 9 ]}

El futurista extropiano Max More comparte el punto de vista de Kurzweil sobre la naturaleza impráctica e ineficaz de la "renuncia tecnológica", pero añade un componente moral y filosófico más amplio al argumento, sosteniendo que la perfección y la evolución de la humanidad no implican "perder nuestra humanidad" y que el aumento de capacidad buscado voluntariamente en cualquier ámbito ni siquiera representa una "pérdida" de ningún tipo. ^{[ 10 ]}

En el artículo de Zac Goldsmith sobre la entrevista a Bill Joy, lo cita diciendo que algunas preocupaciones sobre las nuevas tecnologías en desarrollo son en realidad más peligrosas de lo que expresó en el artículo, porque Goldsmith afirma que los desarrolladores de estas máquinas les están dando demasiado poder. ^{[ 11 ]} Goldsmith afirma que cree que los científicos no piensan en muchas cosas que pueden salir mal cuando empiezan a hacer inventos, porque eso conllevaría menos financiación.

En su reseña del artículo de Bill Joy, Sophie Tysom afirma que Joy no debería tener una visión tan cerrada respecto a las nuevas tecnologías, y que debería considerar la posibilidad de llegar a un «compromiso» entre él y dichas tecnologías. ^{[ 12 ]} También coincide en que Joy tiene razón al preocuparse por las consecuencias a largo plazo, pero no cree que estas tecnologías intenten controlarnos en el futuro. Joy respondió a esto, declarando que le agradaba que la gente comenzara a responder a su artículo, ya que les brindaba información sobre el tema. ^{[ 13 ]}

Tras la publicación del artículo, Bill Joy sugirió evaluar las tecnologías para medir sus peligros implícitos, así como que los científicos se negaran a trabajar en tecnologías que tuvieran el potencial de causar daño.

En el número del 15.º aniversario de Wired en 2008, el artículo de Lucas Graves informó que las tecnologías de genética, nanotecnología y robótica no han alcanzado el nivel que haría realidad el escenario de Bill Joy. ^{[ 14 ]}

El conocido teórico de la conspiración Alex Jones citó el artículo durante una discusión sobre las implicaciones del transhumanismo con los podcasters Joe Rogan y Tim Dillon en el episodio del 27 de octubre de 2020 de The Joe Rogan Experience . ^{[ 15 ]}

• Messerly, John G. «Me alegra que el futuro no nos necesite: una crítica al futurismo pesimista de Joy». ACM SIGCAS Computers and Society , Volumen 33, Número 2, (junio de 2003) ISSN 0095-2737 

• Joy, Bill. "Por qué el futuro no nos necesita" . Wired . ISSN 1059-1028 . 
• Quejas y elogios: "Por qué el futuro no nos necesita"
• Bill Joy espera que prevalezca la razón.