Resistir la IA

Resisting AI: An Anti-fascist Approach to Artificial Intelligence es un libro sobre inteligencia artificial (IA) de Dan McQuillan, publicado en 2022 por Bristol University Press .

El ensayo «Resisting AI» adopta la forma de un extenso ensayo ^{[ 1 ]} que contrasta las visiones optimistas sobre el potencial de la IA argumentando que esta puede considerarse mejor como una continuación y un refuerzo de las formas burocráticas de discriminación y violencia, fomentando en última instancia resultados autoritarios ^{[ 2 ]} . Para McQuillan, la promesa de calculabilidad objetiva de la IA es antitética a una sociedad igualitaria y justa ^{[ 3 ] [ 4 ]} . McQuillan utiliza la expresión «violencia de la IA» para describir cómo  , basándose en algoritmos opacos  , diversos actores pueden discriminar a categorías de personas en el acceso a empleos, préstamos, atención médica y otros beneficios [ ^{2 ] .}

El libro sugiere que la IA tiene una resonancia política con los enfoques eugenésicos suaves de la valoración de la vida por parte de los estados de bienestar modernos, ^{[ 5 ]} y que la IA exhibe rasgos eugenésicos en su lógica subyacente, así como en sus operaciones técnicas. ^{[ 5 ]} El paralelismo se establece con los eugenistas históricos que buscaban ahorrarle dinero al Estado esterilizando a los defectuosos para que el Estado no tuviera que hacerse cargo de su descendencia. ^{[ 5 ]}

El análisis de McQuillan va más allá de la conocida crítica de los sistemas de IA que fomentan mercados laborales precarios, abordando la "necropolítica", la política de quién tiene derecho a vivir y quién a morir. ^{[ 2 ] [ 6 ]} Aunque McQuillan ofrece una breve historia del aprendizaje automático al comienzo del libro  , con su necesidad de "mano de obra oculta y mal remunerada", ^{[ 6 ]} se preocupa más por los impactos sociales de la IA que por sus aspectos técnicos. ^{[ 7 ] [ 6 ]} McQuillan ve la IA como la continuación de los sistemas burocráticos existentes que ya marginan a los grupos vulnerables  , agravado por el hecho de que los sistemas de IA entrenados con datos existentes probablemente refuercen las discriminaciones existentes, por ejemplo, al intentar optimizar la distribución del bienestar basándose en patrones de datos existentes, ^{[ 7 ]} creando en última instancia un sistema de " perfilado social autorreforzante ". ^{[ 8 ]}

Al profundizar en la continuidad entre la violencia burocrática existente y la IA, McQuillan se relaciona con el concepto de burócrata irreflexivo de Hannah Arendt en Eichmann en Jerusalén: Un informe sobre la banalidad del mal , que ahora se convierte en el algoritmo que, al carecer de intención, no puede rendir cuentas y, por lo tanto, está dotado de una «falta de reflexión algorítmica». ^{[ 9 ]}

McQuillan defiende el término "fascista" en el título de la obra argumentando que, si bien no toda la IA es fascista, esta tecnología emergente de control podría terminar siendo desplegada por regímenes fascistas o autoritarios. ^{[ 10 ]} Para McQuillan, la IA puede apoyar la difusión de estados de excepción , como una tecnología imposible de regular adecuadamente y un mecanismo para multiplicar las excepciones de manera más generalizada. Un ejemplo de un escenario donde los sistemas de vigilancia de IA podrían llevar la discriminación a un nuevo nivel es la iniciativa de crear zonas libres de LGBT en Polonia. ^{[ 11 ] [ 7 ]}

Escéptico ante las regulaciones éticas para controlar la tecnología, McQuillan sugiere consejos populares y consejos de trabajadores, y otras formas de agencia ciudadana para resistir la IA. ^{[ 7 ]} Un capítulo titulado "Post-Aprendizaje Automático" hace un llamado a la resistencia a través de corrientes de pensamiento de la ciencia feminista ( teoría del punto de vista ), la ciencia posnormal ( comunidades de pares extendidas ) y el nuevo materialismo ; McQuillan anima al lector a cuestionar el significado de "objetividad" y exige la necesidad de formas alternativas de conocimiento. ^{[ 12 ]} Entre los ejemplos virtuosos de resistencia  —posiblemente adoptados por los propios trabajadores de la IA—  McQuillan señala ^{[ 13 ]} el Plan Lucas de los trabajadores de Lucas Aerospace Corporation , ^{[ 14 ]} en el que una fuerza laboral declarada redundante tomó el control, reorientando la empresa hacia productos útiles. ^{[ 10 ]}

McQuillan aboga por lo que él llama descomputación , una oposición a la aplicación y expansión generalizadas de la inteligencia artificial. De forma similar al decrecimiento , este enfoque critica la IA como una consecuencia de los problemas sistémicos de los sistemas capitalistas. McQuillan sostiene que es posible un futuro diferente, en el que la distancia entre las personas se reduzca en lugar de aumentarse mediante intermediarios de IA. ^{[ 15 ]}

La obra de McQuillan ^{[ 16 ]}

advierte contra las "formas diluidas de participación" con la IA, como los jurados ciudadanos, que superficialmente parecen deliberaciones democráticas pero que en realidad pueden ocultar decisiones importantes sobre la IA que están fuera del ámbito de la situación de participación (McQuillan 2022, 128).

En una entrevista sobre el libro, McQuillan se describe a sí mismo como un "abolicionista de la IA". ^{[ 17 ]}

El libro ha sido elogiado por cómo "desmantela magistralmente la IA como paradigma epistemológico, social y político". ^{[ 18 ]} En el lado crítico, una reseña en la revista académica Justice, Power and Resistance objetó las "visiones de pesadilla del Gran Hermano" que ofrece McQuillan y argumentó que, si bien muchos elementos de la IA pueden generar preocupación, una crítica no debe basarse en una caricatura de lo que es la IA, concluyendo que el trabajo de McQuillan es "menos una teoría y más un manifiesto". ^{[ 3 ]} Otra reseña señala "una desconexión entre los aspectos técnicos de la IA y el análisis sociopolítico que proporciona McQuillan". ^{[ 7 ]}

Aunque el libro se publicó antes de que se intensificara el debate sobre ChatGPT y los grandes modelos de lenguaje , no ha perdido relevancia para la discusión sobre IA . ^{[ 19 ]} Se destaca ^{[ 20 ]} por sugerir un vínculo entre las creencias en inteligencia artificial y las creencias en visiones racializadas y de género de la inteligencia en general, donde se privilegia cierto tipo de inteligencia racional y medible, lo que lleva a "nociones históricas de jerarquías del ser". ^{[ 21 ]}

El blog Reboot elogió a McQuillan por ofrecer una teoría sobre el daño de la IA (por qué la IA podría terminar perjudicando a las personas y a la sociedad) que no solo fomenta abordar de forma aislada problemas específicos previstos con los sistemas centrados en la IA: sesgo, falta de inclusión, explotación, destrucción ambiental, opacidad e incuestionabilidad. ^{[ 12 ]}

Para ^{[ 22 ]} las políticas educativas también podrían considerar la IA siguiendo la lectura de McQuillan:

En su libro Resisting AI, Dan McQuillan argumenta que «al reflexionar sobre la realidad de la IA, no podemos separar los cálculos del código del contexto social de su aplicación». La principal preocupación de McQuillan radica en cómo muchas aplicaciones contemporáneas de la IA están amplificando las desigualdades e injusticias existentes, además de profundizar las divisiones e inestabilidades sociales. Su libro defiende con firmeza la necesidad de anticipar estos efectos y resistirlos activamente por el bien de la sociedad.

Vídeos ^{[ 19 ] [ 23 ]} y podcasts ^{[ 1 ] [ 24 ] [ 25 ]} con interés en IA y tecnología emergente han hablado del libro.

• Shoshana Zuboff
• capitalismo de vigilancia
• Armas de destrucción matemática
• Alain Supiot

• Liga de Justicia Algorítmica
• Universidad de Cardiff: Laboratorio de Justicia de Datos, Escuela de Periodismo, Medios de Comunicación y Cultura.