Superinteligencia

Una superinteligencia es un agente hipotético que posee una inteligencia superior a la de las mentes humanas más brillantes . ^{[ 1 ]} El filósofo Nick Bostrom define la superinteligencia como «cualquier intelecto que supera ampliamente el rendimiento cognitivo de los humanos en prácticamente todos los ámbitos de interés». ^{[ 2 ]}

Los investigadores tecnológicos discrepan sobre la probabilidad de que la inteligencia humana actual sea superada. Algunos argumentan que los avances en inteligencia artificial (IA) probablemente darán como resultado sistemas de razonamiento general que carecen de las limitaciones cognitivas humanas. Otros creen que los humanos evolucionarán o modificarán directamente su biología para alcanzar una inteligencia radicalmente mayor. ^{[ 3 ] [ 4 ]} Varios escenarios de estudio futuros combinan elementos de ambas posibilidades, sugiriendo que es probable que los humanos interactúen con computadoras , o carguen sus mentes a las computadoras , de una manera que permita una amplificación sustancial de la inteligencia . La creación hipotética de la primera superinteligencia puede o no resultar de una explosión de inteligencia o una singularidad tecnológica .

Algunos investigadores creen que la superinteligencia probablemente surgirá poco después del desarrollo de la inteligencia artificial general . Es probable que las primeras máquinas con inteligencia general posean de inmediato una enorme ventaja en al menos algunas capacidades mentales, incluyendo la capacidad de recordar perfectamente , una base de conocimientos muy superior y la capacidad de realizar múltiples tareas de forma imposible para los seres biológicos.

Varios científicos y pronosticadores han estado argumentando a favor de priorizar la investigación temprana sobre los posibles beneficios y riesgos de la mejora cognitiva humana y de las máquinas , debido al impacto social potencial de tales tecnologías. ^{[ 5 ]}

El filósofo David Chalmers sostiene que la inteligencia artificial general es un camino muy probable hacia la superinteligencia artificial ( ASI ). Chalmers desglosa esta afirmación argumentando que la IA puede alcanzar la equivalencia con la inteligencia humana, que puede extenderse para superarla y que puede amplificarse aún más para dominar por completo a los humanos en tareas arbitrarias. ^{[ 6 ]}

En cuanto a la equivalencia a nivel humano, Chalmers argumenta que el cerebro humano es un sistema mecánico y, por lo tanto, debería poder emularse mediante materiales sintéticos. ^{[ 7 ]} También señala que la inteligencia humana pudo evolucionar biológicamente, lo que aumenta la probabilidad de que los ingenieros humanos puedan reproducir este invento. Los algoritmos evolutivos , en particular, deberían ser capaces de producir IA a nivel humano. ^{[ 8 ]} En cuanto a la extensión y amplificación de la inteligencia, Chalmers argumenta que las nuevas tecnologías de IA generalmente pueden mejorarse, y que esto es especialmente probable cuando el invento puede ayudar a diseñar nuevas tecnologías. ^{[ 9 ]}

Un sistema de IA capaz de auto-mejorarse podría potenciar su propia inteligencia, volviéndose así más eficiente en su propio perfeccionamiento. Este ciclo de " auto-mejora recursiva " podría provocar una explosión de inteligencia , dando como resultado la creación de una superinteligencia. ^{[ 10 ]}

Los componentes informáticos ya superan ampliamente el rendimiento humano en velocidad. Bostrom escribe: «Las neuronas biológicas operan a una velocidad máxima de unos 200  Hz, siete órdenes de magnitud más lenta que un microprocesador moderno (~2  GHz)». ^{[ 11 ]} Además, las neuronas transmiten señales de impulsos a través de los axones a no más de 120  m/s, «mientras que los núcleos de procesamiento electrónico actuales pueden comunicarse ópticamente a la velocidad de la luz». Por lo tanto, el ejemplo más simple de una superinteligencia podría ser una mente humana emulada que funcione con un hardware mucho más rápido que el cerebro. Un razonador similar al humano que pudiera pensar millones de veces más rápido que los humanos actuales tendría una ventaja dominante en la mayoría de las tareas de razonamiento, particularmente en aquellas que requieren prisa o largas secuencias de acciones.

Otra ventaja de las computadoras es la modularidad; es decir, su tamaño o capacidad computacional puede incrementarse. Un cerebro no humano (o humano modificado) podría llegar a ser mucho más grande que un cerebro humano actual, como muchas supercomputadoras . Bostrom también plantea la posibilidad de una superinteligencia colectiva : un número suficientemente grande de sistemas de razonamiento independientes, si se comunicaran y coordinaran adecuadamente, podrían actuar en conjunto con capacidades mucho mayores que cualquier subagente.

Los humanos superan a los animales no humanos en gran parte debido a capacidades de razonamiento nuevas o mejoradas, como la planificación a largo plazo y el uso del lenguaje . (Véase evolución de la inteligencia humana y cognición de los primates ). Si existen otras posibles mejoras en el razonamiento que tendrían un impacto igualmente significativo, esto aumenta la probabilidad de que se pueda construir un agente que supere a los humanos de la misma manera que los humanos superan a los chimpancés. ^{[ 12 ]}

Las ventajas mencionadas anteriormente son válidas para la superinteligencia artificial, pero no está claro cuántas lo son para la superinteligencia biológica. Las limitaciones fisiológicas restringen la velocidad y el tamaño de los cerebros biológicos de maneras que no se aplican a la inteligencia artificial. Por ello, los autores que escriben sobre superinteligencia han dedicado mucha más atención a los escenarios de IA superinteligente. ^{[ 13 ]}

Carl Sagan sugirió que la aparición de las cesáreas y la fertilización in vitro podrían permitir a los humanos desarrollar cabezas más grandes, lo que resultaría en mejoras por selección natural en el componente hereditario de la inteligencia humana . ^{[ 17 ]} Por el contrario, Gerald Crabtree ha argumentado que la disminución de la presión selectiva está provocando una reducción lenta, a lo largo de siglos, de la inteligencia humana y que es probable que este proceso continúe. No existe consenso científico sobre ninguna de las dos posibilidades y, en ambos casos, el cambio biológico sería lento, especialmente en relación con las tasas de cambio cultural.

La selección genética , los nootrópicos , la modulación epigenética y la ingeniería genética podrían mejorar la inteligencia humana con mayor rapidez. Bostrom escribe que, si llegamos a comprender el componente genético de la inteligencia, el diagnóstico genético preimplantacional podría utilizarse para seleccionar embriones con hasta 4 puntos de CI adicionales (si se selecciona un embrión de entre dos), o con mayores incrementos (por ejemplo, hasta 24,3 puntos de CI adicionales si se selecciona un embrión de entre 1000). Si este proceso se repite durante muchas generaciones, las mejoras podrían ser de un orden de magnitud. Bostrom sugiere que la obtención de nuevos gametos a partir de células madre embrionarias podría utilizarse para acelerar el proceso de selección. ^{[ 18 ]} Una sociedad bien organizada de humanos con alta inteligencia de este tipo podría alcanzar potencialmente la superinteligencia colectiva . ^{[ 19 ]}

Alternativamente, la inteligencia colectiva podría construirse mediante una mejor organización de los seres humanos en sus niveles actuales de inteligencia individual. Varios autores han sugerido que la civilización humana, o algún aspecto de ella (por ejemplo, Internet o la economía), está llegando a funcionar como un cerebro global con capacidades que superan con creces las de sus agentes componentes. ^{[ 20 ]} Un mercado de predicción se considera a veces un ejemplo de un sistema de inteligencia colectiva en funcionamiento, compuesto únicamente por seres humanos (suponiendo que no se utilicen algoritmos para fundamentar las decisiones). ^{[ 21 ]}

Un método final de amplificación de la inteligencia consistiría en mejorar directamente a los individuos, en lugar de potenciar su dinámica social o reproductiva. Esto podría lograrse mediante nootrópicos , terapia génica somática o interfaces cerebro-computadora . Sin embargo, Bostrom expresa escepticismo sobre la escalabilidad de los dos primeros enfoques y argumenta que diseñar una interfaz de cíborg superinteligente es un problema que la IA ya ha resuelto . ^{[ 22 ]}

La mayoría de los investigadores de IA encuestados esperan que las máquinas eventualmente puedan rivalizar con los humanos en inteligencia, aunque hay poco consenso sobre cuándo es probable que esto suceda. ^{[ 23 ]}

En una encuesta de 2022, el año medio en el que los encuestados esperaban una "inteligencia artificial de alto nivel" con un 50 % de confianza era 2061. La encuesta definió el logro de la inteligencia artificial de alto nivel como el momento en que las máquinas, sin ayuda externa, pueden realizar todas las tareas mejor y más barato que los trabajadores humanos. ^{[ 24 ]}

En 2023, los líderes de OpenAI , Sam Altman , Greg Brockman e Ilya Sutskever, publicaron recomendaciones para la gobernanza de la superinteligencia, que creen que podría ocurrir en menos de 10 años. ^{[ 25 ]}

En 2025, el escenario de pronóstico AI 2027, liderado por Daniel Kokotajlo, predijo un rápido progreso en la automatización de la codificación y la investigación en IA, seguido de ASI. ^{[ 26 ]} En septiembre de 2025, una revisión de encuestas a científicos y expertos de la industria de los últimos 15 años informó que la mayoría coincidía en que la inteligencia artificial general (AGI), un nivel muy por debajo de la singularidad tecnológica, ocurrirá antes del año 2100. ^{[ 27 ]} Un análisis más reciente de AIMultiple informó que, “Las encuestas actuales a investigadores de IA predicen AGI alrededor de 2040”. ^{[ 27 ]}

Al explorar las posibles motivaciones de una superinteligencia artificial, Bostrom distingue entre objetivos finales y objetivos instrumentales . Desde el punto de vista de un agente, los objetivos finales son intrínsecamente valiosos, mientras que los objetivos instrumentales solo son útiles para alcanzarlos. Propuso la «tesis de la ortogonalidad», que postula que, en principio, prácticamente cualquier objetivo final puede combinarse con prácticamente cualquier nivel de inteligencia. Bostrom también introdujo el concepto de convergencia instrumental , que postula que ciertos objetivos instrumentales (como la autopreservación , la adquisición de recursos o la mejora cognitiva) aumentan la probabilidad de alcanzar los objetivos finales en una amplia gama de situaciones y, por lo tanto, probablemente serían perseguidos por un amplio espectro de agentes inteligentes. ^{[ 28 ]}

William MacAskill argumentó que alinear la superinteligencia con los valores humanos actuales podría ser catastrófico si esos valores se arraigan permanentemente y la humanidad aún tiene puntos ciegos morales como la esclavitud en el pasado. ^{[ 29 ]}

Se han presentado varias propuestas para los objetivos finales de una ASI: ^{[ 30 ]}

• Voluntad extrapolada coherente (VEC): la IA debería tener los valores en los que convergerían los humanos si fueran más informados y racionales.
• Rectitud moral (RM): La IA debe programarse para hacer lo que es moralmente correcto, basándose en sus capacidades cognitivas superiores para determinar las acciones éticas.
• Permisibilidad moral (PM): la IA debe mantenerse dentro de los límites de la permisibilidad moral mientras persigue objetivos alineados con los valores humanos (similar a CEV).

Bostrom profundiza en estos conceptos:

En lugar de implementar la voluntad extrapolada coherente de la humanidad, se podría intentar construir una IA que haga lo moralmente correcto, confiando en sus capacidades cognitivas superiores para determinar qué acciones se ajustan a esa descripción. Podemos denominar a esta propuesta "rectitud moral" (RM)  ...

La MR también parece tener algunas desventajas. Se basa en la noción de "rectitud moral", un concepto notoriamente difícil, con el que los filósofos han lidiado desde la antigüedad sin alcanzar aún un consenso sobre su análisis. Elegir una explicación errónea de "rectitud moral" podría resultar en conclusiones moralmente muy incorrectas  ...

Se podría intentar preservar la idea básica del modelo MR reduciendo su exigencia al centrarse en la permisibilidad moral : la idea es que podríamos dejar que la IA persiguiera el CEV de la humanidad siempre que no actuara de maneras moralmente inadmisibles. ^{[ 30 ]}

El desarrollo de la superinteligencia artificial (SA) ha suscitado preocupación por los posibles riesgos existenciales para la humanidad. Los investigadores han propuesto diversos escenarios en los que una SA podría representar una amenaza significativa: