Aceite de serpiente de la IA

El libro fue publicado en septiembre de 2024 por Princeton University Press . ^{[ 1 ]} AI Snake Oil consta de 360 ​​páginas y presenta ocho capítulos, y secciones para agradecimientos, referencias e índice. Una edición actualizada con un nuevo prefacio y epílogo de los autores fue publicada en septiembre de 2025. ^{[ 2 ]} Los autores utilizan el término "AI snake oil " derivado de la expresión estadounidense para un remedio fraudulento, para describir los sistemas de IA sobrevalorados.

Narayanan y Kapoor argumentan que muchas personas aún no tienen la alfabetización necesaria para detectar aspectos funcionales de la IA en comparación con posibles productos milagro, que identifican como "IA que no funciona ni puede funcionar como se anuncia". ^{[ 3 ]} Algunos de los ejemplos principales utilizados por los autores incluyen el uso de IA predictiva por parte de Allstate en 2013, así como la preocupación en torno a los actores y la IA que intentan replicar o utilizar su imagen.

En el primer capítulo se plantean y exploran importantes debates sobre la discriminación, incluyendo las detenciones injustificadas de seis personas negras debido a errores en las herramientas de reconocimiento facial de IA. ^{[ 4 ]} El capítulo concluye con una comparación con la Revolución Industrial , donde Narayanan y Kapoor destacan la extensa mano de obra humana necesaria para el funcionamiento de las tecnologías de inteligencia artificial.

El capítulo dos se centra en la inteligencia artificial predictiva y critica la sobreestimación de las capacidades de esta tecnología.

El tercer capítulo tiene como objetivo informar al lector sobre la historia de los primeros intentos de predicción computacional, con ejemplos de empresas como Simulatics .

El cuarto capítulo profundiza en la exploración de la IA generativa. Algunos ejemplos de software de IA generativa incluyen ChatGPT , Midjourney y DALL-E . La sección comienza con un ejemplo positivo de IA generativa. A medida que avanza el capítulo, los autores comienzan a proporcionar ejemplos de daños producidos por la IA generativa, incluido el suicidio de un hombre belga después de conectarse con Chai, un chatbot generativo. ^{[ 5 ]} También se discuten los problemas de los deepfakes y la preservación de la propiedad artística. El uso de la IA generativa para crear contenido pornográfico deepfake no consensuado se analiza en relación con celebridades femeninas.

El quinto capítulo se centra en la IAG, o Inteligencia Artificial General . Los autores describen la IAG como una IA capaz de realizar la mayoría de las tareas relevantes desde el punto de vista económico con la misma eficacia que cualquier ser humano. ^{[ 6 ]} Resumen que muchos expertos en inteligencia artificial consideran la IAG una amenaza inminente que requiere atención. ^{[ 7 ]} Sin embargo, argumentan que la amenaza percibida de la IAG solo existiría si la tecnología funcionara de forma fiable de manera continua. ^{[ 8 ]}

Para ilustrar mejor el entusiasmo que rodea a la IAG, Narayanan y Kapoor utilizan la Escalera de Generalidad , descrita como una herramienta visual en la que "cada peldaño representa una forma de computación más flexible y general que la anterior". ^{[ 9 ]} Señalan que aún no conocemos los siguientes peldaños de la escalera, ni si esta terminará en un callejón sin salida. Los peldaños identificados hasta ahora son los siguientes: (0, o piso) hardware de propósito especial, (1) computadoras programables, (2) computadoras de programa almacenado, (3) aprendizaje automático , (4) aprendizaje profundo , (5) modelos preentrenados y, finalmente, (6) modelos ajustados a instrucciones. ^{[ 10 ]} El potencial de los peldaños futuros y cuáles podrían ser esos peldaños aún no se han determinado.

El capítulo también analiza el efecto ELIZA , que Lawrence Switzky aborda en su artículo «Efectos ELIZA». Switzky atribuye el término «Efecto ELIZA» a Sherry Turke, quien lo definió como «nuestra tendencia general a considerar que los programas informáticos interactivos son más inteligentes de lo que realmente son». ^{[ 11 ]}

El sexto capítulo se centra en la moderación de contenido , su importancia y cómo se ha visto y podría verse afectada por la automatización artificial . El primer problema que se plantea en relación con la moderación de contenido impulsada por IA es la incapacidad de las computadoras y las máquinas para comprender el contexto y los matices, lo que puede dar lugar a una moderación discriminatoria y a la prohibición encubierta . Si bien Narayanan y Kapoor señalan que existen problemas con la automatización de la moderación de contenido, también destacan el impacto psicológico en los moderadores de contenido humanos y su trabajo. Indican el trabajo oculto detrás de la moderación, que a menudo se subcontrata a países menos desarrollados, donde los trabajadores clasifican contenido potencialmente traumático a cambio de un salario. ^{[ 12 ]} Sin embargo, la discusión se centra más en por qué la moderación automatizada puede ser problemática, incluyendo algoritmos discriminatorios y la falta de matices. Para equilibrar su argumento, también se discuten los problemas de discriminación y sesgo en relación con los moderadores de contenido humanos. Para automatizar la moderación, se utilizan dos tipos de IA: la coincidencia de huellas digitales y el aprendizaje automático. ^{[ 13 ]}

El séptimo capítulo describe los posibles factores que contribuyen a la exageración en torno a la IA. Narayanan y Kapoor explican cómo las empresas suelen promocionar sus nuevos modelos de IA sin revelar adecuadamente su funcionamiento ni sus aprendizajes. Atribuyen esta exageración a diversos grupos, como periodistas, investigadores y empresas. Explican que el impacto de las empresas y la exageración infundada que generan se debe a la codicia y al deseo de aumentar sus fondos. En cuanto a los periodistas, una de las fuentes de exageración, argumentan que los medios de comunicación tienden a priorizar los incentivos financieros sobre la validez y la calidad de la información. ^{[ 14 ]} Asimismo, Narayanan y Kapoor señalan la proliferación de declaraciones corporativas en los medios , lo que genera titulares sensacionalistas . La exageración por parte de los investigadores está potencialmente relacionada con la falta de reproducibilidad en los estudios, así como con las filtraciones , que ocurren cuando los modelos de IA se prueban con sus datos de entrenamiento. ^{[ 15 ]}

El último capítulo, el octavo, se centra en el futuro. Los autores exponen sus ideas y predicciones sobre cómo evolucionará y se utilizará la tecnología en los próximos años.