La IA tomará el control

Si bien estas tecnologías han reemplazado a algunos trabajadores tradicionales, también crean nuevas oportunidades. Las industrias más susceptibles a la automatización impulsada por IA incluyen el transporte, el comercio minorista y el sector militar. Las tecnologías militares de IA, por ejemplo, pueden reducir el riesgo al permitir la operación remota. Un estudio de 2024 destaca que la capacidad de la IA para realizar tareas rutinarias y repetitivas plantea riesgos significativos de desplazamiento laboral, especialmente en sectores como la manufactura y el apoyo administrativo. ^{[ 7 ]} El autor Dave Bond argumenta que, a medida que las tecnologías de IA continúan desarrollándose y expandiéndose, la relación entre humanos y robots cambiará; se integrarán estrechamente en varios aspectos de la vida. Es probable que la IA desplace a algunos trabajadores, al tiempo que crea oportunidades para nuevos empleos en otros sectores, especialmente en campos donde las tareas son repetibles. ^{[ 8 ] [ 9 ]}

Investigadores del Laboratorio de Economía Digital de Stanford informaron en 2025 que, desde la adopción generalizada de la IA generativa a finales de 2022, los trabajadores jóvenes (de 22 a 25 años) en las ocupaciones más expuestas a la IA experimentaron una disminución relativa del 13 % en el empleo, incluso después de controlar las perturbaciones a nivel de empresa, mientras que el empleo general continuó creciendo de manera sólida. ^{[ 10 ]} El estudio también encuentra que las pérdidas de empleo se concentran en roles donde la IA automatiza tareas rutinarias, mientras que las ocupaciones que aprovechan la IA para complementar el trabajo humano han visto un empleo estable o en aumento. ^{[ 11 ]}

La fabricación integrada por ordenador utiliza ordenadores para controlar el proceso de producción. Esto permite que los distintos procesos intercambien información entre sí e inicien acciones. Si bien la fabricación puede ser más rápida y con menos errores gracias a la integración de ordenadores, la principal ventaja reside en la capacidad de crear procesos de fabricación automatizados. La fabricación integrada por ordenador se utiliza en las industrias automotriz, aeronáutica, aeroespacial y naval.

El siglo XXI ha visto cómo diversas tareas especializadas han sido asumidas parcialmente por máquinas, como la traducción, la investigación jurídica y el periodismo. El trabajo de cuidados, el entretenimiento y otras tareas que requieren empatía, que antes se consideraban a salvo de la automatización, son realizadas cada vez más por robots y sistemas de IA. ^{[ 12 ] [ 13 ] [ 14 ] [ 15 ]}

Un coche autónomo es un vehículo capaz de percibir su entorno y navegar sin intervención humana. Muchos de estos vehículos ya están en funcionamiento y otros se encuentran en desarrollo, con una legislación que se expande rápidamente para permitir su uso. Entre los obstáculos para la adopción generalizada de vehículos autónomos se incluyen la preocupación por la consiguiente pérdida de empleos relacionados con la conducción en el sector del transporte por carretera y las preocupaciones sobre la seguridad. El 18 de marzo de 2018, un peatón fue atropellado y murió en Tempe, Arizona , por un coche autónomo de Uber . ^{[ 16 ]}

En la década de 2020, el contenido automatizado cobró mayor relevancia gracias a los avances tecnológicos en modelos de IA, como ChatGPT , DALL-E y Stable Diffusion . En la mayoría de los casos, el contenido generado por IA, como imágenes, literatura y música, se produce a partir de indicaciones de texto. Estos modelos de IA a veces se integran en programas creativos.

El arte generado por IA puede muestrear y conglomerar obras creativas existentes, produciendo resultados que parecen similares al contenido creado por humanos. Las obras de arte visual de baja calidad generadas por IA pueden denominarse informalmente " basura de IA" . Algunos artistas utilizan una herramienta llamada Nightshade que altera las imágenes para que sean perjudiciales para el entrenamiento de modelos de texto a imagen si se extraen sin permiso, aunque sigan pareciendo normales para los humanos. ^{[ 17 ]} Las imágenes generadas por IA son una herramienta potencial para estafadores y aquellos que buscan ganar seguidores en las redes sociales, ya sea para suplantar la identidad de una persona o grupo famoso o para monetizar su audiencia. ^{[ 18 ]}

El New York Times ha demandado a OpenAI , alegando infracción de derechos de autor relacionada con el entrenamiento y los resultados de sus modelos de IA. ^{[ 19 ] [ 20 ] [ 21 ] [ 22 ] [ 23 ]}

Según Bostrom, un programa informático que emule fielmente un cerebro humano, o que ejecute algoritmos tan potentes como los del cerebro humano, podría convertirse en una "superinteligencia de velocidad" si puede pensar órdenes de magnitud más rápido que un humano, debido a que está hecho de silicio en lugar de carne, o debido a la optimización que aumenta la velocidad de la IAG. Las neuronas biológicas operan a unos 200  Hz, mientras que un microprocesador moderno opera a una velocidad de unos 2  GHz. Los axones humanos transmiten potenciales de acción a unos 120  m/s, mientras que las señales informáticas viajan cerca de la velocidad de la luz. ^{[ 37 ]}

Una red de inteligencias a nivel humano diseñada para conectarse entre sí y compartir pensamientos y recuerdos complejos sin problemas, capaz de trabajar colectivamente como un gigantesco equipo unificado sin fricción, o compuesta por billones de inteligencias a nivel humano, se convertiría en una "superinteligencia colectiva". ^{[ 37 ]}

En términos más generales, cualquier mejora cualitativa en una IAG de nivel humano podría resultar en una "superinteligencia de calidad", que tal vez nos supere en inteligencia tanto como los humanos superan a los simios. El número de neuronas en un cerebro humano está limitado por el volumen craneal y las restricciones metabólicas, mientras que el número de procesadores en una supercomputadora puede expandirse indefinidamente. Una IAG no tiene por qué estar limitada por las restricciones humanas de la memoria de trabajo y, por lo tanto, podría comprender intuitivamente relaciones más complejas que los humanos. Una IAG con soporte cognitivo especializado para la ingeniería o la programación informática tendría una ventaja en estos campos, en comparación con los humanos que no desarrollaron módulos cognitivos especializados para ellos. A diferencia de los humanos, una IAG puede crear copias de sí misma y modificar el código fuente de sus copias para intentar mejorar aún más sus algoritmos. ^{[ 37 ]}

La enorme complejidad de los sistemas de valores humanos dificulta enormemente que las motivaciones de la IA sean compatibles con el ser humano. ^{[ 37 ] [ 45 ]} A menos que la filosofía moral nos proporcione una teoría ética impecable, la función de utilidad de una IA podría permitir muchos escenarios potencialmente dañinos que se ajusten a un marco ético determinado, pero no al "sentido común". Según el investigador de IA Eliezer Yudkowsky , hay pocas razones para suponer que una mente diseñada artificialmente tendría tal capacidad de adaptación. ^{[ 46 ]}

En un ensayo de 2018, el psicólogo evolucionista Steven Pinker argumentó que los impulsos humanos hacia el dominio y la adquisición de recursos fueron moldeados por la selección natural, y que una IA superinteligente no necesariamente compartiría esos impulsos. ^{[ 47 ]}

El temor a una revuelta cibernética suele basarse en interpretaciones de la historia de la humanidad, plagada de casos de esclavitud y genocidio. Estos temores surgen de la creencia de que la competitividad y la agresión son necesarias en el sistema de objetivos de cualquier ser inteligente. Sin embargo, esta competitividad humana proviene del trasfondo evolutivo de nuestra inteligencia, donde la supervivencia y la reproducción de los genes frente a competidores humanos y no humanos era el objetivo central. ^{[ 48 ]} Según el investigador de IA Steve Omohundro , una inteligencia arbitraria podría tener objetivos arbitrarios: no hay ninguna razón particular para que una máquina con inteligencia artificial (que no comparte el contexto evolutivo de la humanidad) sea hostil —o amigable— a menos que su creador la programe para serlo y no esté inclinada o sea capaz de modificar su programación. Pero la pregunta persiste: ¿qué pasaría si los sistemas de IA pudieran interactuar y evolucionar (evolución en este contexto significa automodificación o selección y reproducción) y necesitaran competir por los recursos? ¿Crearía esto objetivos de autopreservación? El objetivo de autopreservación de la IA podría entrar en conflicto con algunos objetivos de los humanos. ^{[ 49 ]}

Muchos académicos cuestionan la probabilidad de una revuelta cibernética imprevista, como se representa en la ciencia ficción, por ejemplo en Matrix , argumentando que es más probable que cualquier inteligencia artificial lo suficientemente poderosa como para amenazar a la humanidad esté programada para no atacarla. Pinker reconoce la posibilidad de "actores malintencionados" deliberados, pero afirma que, en ausencia de estos, los accidentes imprevistos no representan una amenaza significativa; Pinker sostiene que una cultura de seguridad en la ingeniería evitará que los investigadores de IA desaten accidentalmente una superinteligencia maligna. ^{[ 47 ]} En contraste, Yudkowsky argumenta que es menos probable que la humanidad se vea amenazada por IA deliberadamente agresivas que por IA programadas de tal manera que sus objetivos sean involuntariamente incompatibles con la supervivencia o el bienestar humanos (como en la película Yo, Robot y en el cuento " El conflicto inevitable "). Omohundro sugiere que los sistemas de automatización actuales no están diseñados para la seguridad y que las IA pueden optimizar ciegamente funciones de utilidad limitadas (por ejemplo, jugar al ajedrez a toda costa), lo que las lleva a buscar la autopreservación y la eliminación de obstáculos, incluidos los humanos que podrían apagarlas. ^{[ 50 ]}

El problema del control de la IA es el desafío de asegurar que los sistemas avanzados de IA actúen de manera confiable de acuerdo con los valores e intenciones humanas, incluso cuando se vuelven más capaces que los humanos. ^{[ 51 ]} Algunos académicos sostienen que las soluciones al problema del control también podrían tener aplicaciones en la IA existente no superinteligente. ^{[ 52 ]}

Los principales enfoques para el problema del control incluyen la alineación , que busca alinear los sistemas de IA con los valores humanos, y el control de capacidades , que busca reducir la capacidad de un sistema de IA para dañar a los humanos o tomar el control. Un ejemplo de "control de capacidades" es investigar si una IA superinteligente podría confinarse con éxito en una " caja de IA ". Según Bostrom, estas propuestas de control de capacidades no son fiables ni suficientes para resolver el problema del control a largo plazo, pero podrían ser complementos valiosos para los esfuerzos de alineación. ^{[ 37 ]}