Rainer Mühlhoff

Mühlhoff considera los sistemas de aprendizaje automático como sistemas sociotécnicos . Según su postura, la aplicación comercial del aprendizaje automático depende estructuralmente de la participación humana. Las empresas tecnológicas utilizan mano de obra no remunerada, tanto de usuarios de sistemas de IA como de trabajadores que realizan clics. Al entrenar modelos de IA, los sistemas de interacción persona-ordenador se diseñan deliberadamente de forma que los usuarios generen datos, como en el caso de los CAPTCHA . Por lo tanto, los sistemas de IA comerciales actuales no sustituirían la inteligencia humana, sino que la «capturarían». ^{[ 7 ]}

Mühlhoff es conocido por sus trabajos sobre privacidad de datos en el contexto de la inteligencia artificial. En sus obras, señala las consecuencias sociales del "análisis predictivo", es decir, el uso de modelos de aprendizaje automático para la predicción de información personal o desconocida sobre individuos: "Una de las principales preocupaciones relacionadas con la toma de decisiones automatizada basada en el análisis predictivo es la posible contribución de esta tecnología a la estabilización o incluso al aumento de las desigualdades sociales y económicas y las diferencias de poder dentro de las sociedades". ^{[ 8 ]} Según Mühlhoff, la privacidad se ve amenazada por este tipo de aplicaciones de IA, porque el análisis predictivo puede estimar información personal sobre individuos aleatorios, incluso información que el propio individuo puede desconocer (por ejemplo, la predicción de enfermedades). Para permitir un debate público sobre el tema, el valor conocido de la privacidad debería ampliarse para incluir la "privacidad predictiva". Mühlhoff sugiere incluir la información predicha o estimada como una posible violación de la privacidad y no solo la información que un individuo ha proporcionado voluntariamente en algún lugar. Para que se considere una «violación predictiva de la privacidad», la veracidad de la información predicha sería irrelevante, siempre que las predicciones se utilicen para discriminar a las personas o para tomar decisiones automatizadas, por ejemplo. Esto diferenciaría el concepto de privacidad predictiva de otros conceptos afines como la «privacidad colectiva». Mühlhoff afirma que la privacidad de los datos debe abordarse de forma colectiva, dado que las posibilidades del análisis predictivo se basan en el intercambio de datos entre un número suficiente de usuarios en su uso cotidiano de productos digitales. Esto implicaría que los datos de una persona influyen en los de otras mediante el análisis predictivo.

En sus trabajos sobre diseño de experiencia de usuario (UX), Mühlhoff diagnostica que la evolución actual de las interfaces digitales les quita el control y el conocimiento a los usuarios y va en contra de las ideas ilustradas de libertad y autodeterminación del individuo. Según Mühlhoff, esto sucede, por ejemplo, a través de una tendencia a las "superficies selladas" en el diseño de interfaces que ocultan el funcionamiento interno de los dispositivos digitales incluso a aquellos usuarios que desean saber más. ^{[ 9 ]}

La visión crítica de Mühlhoff sobre ciertos usos de la IA también se evidencia en su evaluación del software de evaluación basado en grandes modelos de lenguaje como ChatGPT . Una investigación realizada por Muhlhoff y Henningsen sobre la "ayuda de corrección con IA" ofrecida por la empresa alemana Fobizz reveló enormes deficiencias metodológicas y tecnológicas de estos sistemas. El estudio muestra que la retroalimentación automatizada que ofrece esta herramienta suele ser inconsistente e inverosímil. Además, el estudio afirma que la evaluación de las entregas produce calificaciones aleatorias que no parecen ajustarse a ningún criterio de evaluación claramente distinguible. Mühlhoff considera especialmente alarmante que no pueda reconocer de forma fiable las entregas que son deliberadamente absurdas o completamente generadas por IA. En varios casos, estas entregas fueron calificadas como igual de buenas o incluso mejores que entregas serias y elaboradas por humanos. El estudio afirma que estos problemas no son simplemente el resultado de la implementación concreta del software, sino más bien de las propiedades inherentes de los grandes modelos de lenguaje , que operan en segundo plano en muchas de estas herramientas. El estudio concluye que la calificación automatizada propensa a errores de dicha herramienta podría implicar "graves consecuencias" para los estudiantes. ^{[ 10 ]}

Mühlhoff afirma que los movimientos políticos del populismo de derecha y la derecha alternativa , como el trumpismo , constituyen una forma actual de política fascista . Según Mühlhoff, las aspiraciones contrarias al Estado de derecho se caracterizan por un uso cada vez mayor de las tecnologías digitales, siendo la inteligencia artificial y las tecnologías centradas en el análisis de datos las más importantes. ^{[ 11 ]}

Respecto a la primera presidencia de Donald Trump , Mühlhoff argumentó que, a diferencia de los defensores de otras posturas conservadoras, no se posiciona de forma agonística dentro del sistema político, siguiendo sus reglas, sino que se posiciona de forma antagónica y en conflicto con este sistema. Mühlhoff afirma que esta posición antagónica, a la que se refiere como el «Principio del dedo medio » ^{[ 12 ],} es fundamental para la autoimagen de autenticidad de Trump, autenticidad que a su vez lo convierte en un candidato atractivo para sus seguidores. Por esta razón, argumenta en contra de las críticas a los votantes de Trump, considerándolas irracionales, y en contra de la difamación del presidente. En cambio, sostiene que la doble humillación, tanto del candidato como de los votantes, en la retórica difamatoria conduce a una mayor identificación de los votantes con Trump. A este fenómeno lo denomina «identificación fatal». Afirma que, por esta razón, es necesaria una crítica de Trump que subraye e investigue los aspectos emocionales en juego, así como el papel de la autoimagen de Trump. Para Mühlhoff, Trump no tiene éxito a pesar de, sino precisamente gracias a su presentación personal cargada de emotividad y su rechazo al aparato político actual de los Estados Unidos. ^{[ 13 ]}

Tras la segunda elección de Donald Trump y su cooperación con Elon Musk , especialmente con el Departamento de Eficiencia Gubernamental, Mühlhoff criticó la invasión digital y la toma de control de la infraestructura administrativa ^{[ 14 ]} por parte de Musk como una toma de control fascista. Según Mühlhoff, estos ataques a la infraestructura administrativa estadounidense muestran una «disposición personal a usar la violencia», ambiciones de «destruir el [Estado de Derecho]» así como un «uso astuto de la tecnología más reciente como instrumento de poder», que, en resumen, caracterizan al movimiento actual como fascista. Mühlhoff sostiene que el fascismo no se define por su contenido político, sino por una toma destructiva del aparato político. Si bien el uso de la nueva tecnología no se considera clásicamente un marcador definitorio de los movimientos fascistas, Mühlhoff argumenta que este aspecto ya estaba presente en formas históricas de fascismo, apoyando su afirmación en referencia al libro de Edwin Black , IBM y el Holocausto . Mühlhoff interpreta las acciones de Trump y Musk como una estrategia tripartita para tomar el poder, cuyo primer paso consiste en la infiltración de la administración y la colocación de colaboradores en posiciones estratégicas. A este paso le sigue la vinculación y el análisis de los datos obtenidos en el primer paso, antes de que se utilicen de formas hasta entonces impensables en el tercer paso. Con la vista puesta en el futuro desarrollo de estas iniciativas, Mühlhoff expresa su preocupación de que el análisis predictivo basado en IA pueda utilizarse para categorizar y clasificar a las personas marginadas en función de características y patrones de comportamiento previstos, lo que daría lugar a un trato desigual que podría abarcar desde la puntuación social hasta los asesinatos selectivos . Esta nueva forma de fascismo se ve facilitada por una «composición de régimen político e industria tecnológica». ^{[ 15 ]}

• La ética de la IA: poder, crítica, responsabilidad. Bristol University Press, Bristol 2025, doi:10.51952/9781529249262 .
• Künstliche Intelligenz und der neue Faschismus. Philipp Reclam jun. Verlag, Ditzingen 2025, ISBN 978-3-15-014666-8.
• Die Macht der Daten. Warum Künstliche Intelligenz eine Frage der Ethik ist. V&R unipress, Universitätsverlag Osnabrück, 2023, doi:10.14220/9783737015523 .
• Mühlhoff, Rainer, Anja Breljak y Jan Slaby, Hrsg. Affekt Macht Netz. Auf dem Weg zu einer Sozialtheorie der digitalen Gesellschaft . Bielefeld: transcripción, 2019, ISBN 978-3-8376-4439-5.
• Juego inmersivo. Affekttheorie nach Foucault y Spinoza. Fráncfort del Meno: Campus, 2018, ISBN 978-3-593-50834-4.

• "El nuevo fascismo está aquí y las grandes tecnologías lo están dirigiendo" . Verfassungsblog , traducido por Rainer Mühlhoff, 2025. https://rainermuehlhoff.de/en/The-New-Fashism/ (Publicado originalmente como Trump und der neue Faschismus: Warum der Griff nach dem Verwaltungsapparat so gefährlich ist , 9 de febrero de 2025 en https://verfassungsblog.de/trump-und-der-neue-faschismus/ doi : 10.59704/854f51e58c05b98e .
• Privacidad predictiva: protección colectiva de datos en el contexto de la IA y el Big Data. En: Big Data & Society, 2023, doi:10.1177/20539517231166886 , págs  . 1-14.
• Mühlhoff, Rainer y Theresa Willem. Publicidad en redes sociales para estudios clínicos: implicaciones éticas y de protección de datos de la segmentación en línea. En: Big Data & Society, 2023, doi:10.1177/20539517231156127 , págs.  1-15.
• Mühlhoff, Rainer y Hannah Ruschemeier. Análisis predictivo y DSGVO: Ethische und rechtliche Imlikationen. En: Telemedicus – Recht der Informationsgesellschaft, Tagungsband zur Sommerkonferenz, 2022, págs. 38–67.
• Privatheit prädiktive: Kollektiver Datenschutz im Kontext von Big Data und KI. En: Künstliche Intelligenz, Demokratie und Privatheit, 2022, doi:10.5771/9783748913344-31 , págs.  31–58.
• Privacidad predictiva: Hacia una ética aplicada del análisis de datos. En: Ética y tecnología de la información. 23 (2021), doi:10.1007/s10676-021-09606-x , págs. 675–690.
• Automatisierte Ungleichheit: Ethik der Künstlichen Intelligenz in der biopolitische Wende des Digitalen Kapitalismus . En: Deutsche Zeitschrift für Philosophie. 68 (2020), doi:10.1515/dzph-2020-0059 , págs. 867–890.
• Inteligencia artificial asistida por humanos: o ¿cómo realizar grandes cálculos en cerebros humanos? En: New Media & Society. 22 (2020), págs. 1868–84. doi:10.1177/1461444819885334 .
• Menschengestützte Künstliche Intelligenz. Über die soziotechnischen Voraussetzungen von Deep Learning. En: ZfM – Zeitschrift für Medienwissenschaft 21(2) (2019), págs. 56–64. doi:10.25969/mediarep/12633 .
• Digitale Entmündigung und ‚User Experience Design' . En: Leviatán – Berliner Zeitschrift für Sozialwissenschaft. 46 (2018), doi:10.5771/0340-0425-2018-4-551 , págs. 551–74.