Ética de la cuantificación

La ética de la cuantificación es el estudio de las cuestiones éticas asociadas a las diferentes formas de cuantificación, tanto visibles como invisibles. Estas pueden incluir algoritmos , métricas/ indicadores , modelos estadísticos y matemáticos , como se señala en una revisión de diversos aspectos de la sociología de la cuantificación . ^{[ 1 ]}

Según Espeland y Stevens ^{[ 2 ],} una ética de la cuantificación se derivaría naturalmente de una sociología de la cuantificación , especialmente en una época en la que se asume que la democracia, el mérito, la participación, la rendición de cuentas e incluso la «justicia» se descubren y aprecian mejor a través de los números. En su obra clásica Trust in Numbers, Theodore M. Porter ^{[ 3 ]} señala cómo los números satisfacen una demanda de objetividad cuantificada y, por ello, pueden ser utilizados por burocracias o instituciones para obtener legitimidad y autoridad epistémica.

Para Andy Stirling, del Centro STEPS de la Universidad de Sussex, existe un componente retórico en torno a conceptos como « utilidad esperada », « teoría de la decisión », « evaluación del ciclo de vida », « servicios ecosistémicos », «decisiones científicas sólidas» y « políticas basadas en la evidencia ». La aplicación instrumental de estas técnicas y el uso de la cuantificación para dar una impresión de precisión pueden plantear problemas éticos. ^{[ 4 ]}

Para Sheila Jasanoff, estas tecnologías de cuantificación pueden denominarse «tecnologías de la arrogancia » ^{[ 5 ]} , cuya función es tranquilizar al público mientras mantienen en marcha la ciencia y la industria. La desventaja de las tecnologías de la arrogancia es que pueden generar exceso de confianza gracias a la apariencia de exhaustividad; pueden desviar el debate político al transformar un problema político en uno técnico; y siguen siendo fundamentalmente limitadas para procesar lo que ocurre fuera de su restringido rango de supuestos. Jasanoff contrasta las tecnologías de la arrogancia con las «tecnologías de la humildad» ^{[ 6 ]} , que admiten la existencia de ambigüedad, indeterminación y complejidad, y se esfuerzan por sacar a la luz la naturaleza ética de los problemas. Las tecnologías de la humildad también son sensibles a la necesidad de mitigar las causas conocidas de la vulnerabilidad de las personas, de prestar atención a la distribución de beneficios y riesgos, y de identificar aquellos factores y estrategias que pueden promover o inhibir el aprendizaje social.

Para Sally Engle Merry , quien estudia indicadores de derechos humanos , violencia de género y trata sexual , la cuantificación es una tecnología de control, pero si es reformista o autoritaria depende de quién ha aprovechado su poder y con qué propósito. Ella señala que para que los indicadores sean menos engañosos y distorsionadores, se deben seguir algunos principios: ^{[ 7 ]}

• democratizar la producción de indicadores
• desarrollar en paralelo investigación cualitativa para verificar la validez de los supuestos
• Mantén los indicadores simples.
• probar o adoptar múltiples enfoques
• admitir los límites de las diversas medidas

El campo de los algoritmos y la inteligencia artificial es el régimen de la cuantificación donde el debate sobre la ética está más avanzado, véase, por ejemplo, Weapons of Math Destruction ^{[ 8 ]} de Cathy O'Neil . Si bien la objetividad y la eficiencia son algunas propiedades positivas asociadas al uso de algoritmos, estas herramientas, al ser cajas negras, plantean problemas éticos. ^{[ 9 ]} Así, los algoritmos tienen el poder de actuar sobre los datos y tomar decisiones, pero en gran medida están más allá de la consulta. ^{[ 8 ] [ 10 ]} La existencia de un capitalismo de vigilancia es el tema del libro de Shoshana Zuboff ^{[ 11 ]} de 2019. Una lectura más combativa de los peligros que plantea la inteligencia artificial es Resisting AI: An Anti-fascist Approach to Artificial Intelligence de Dan McQuillan. ^{[ 12 ]}

• Seminario web en el Centro de Estudios de Ciencia y Tecnología (CWTS), Universidad de Leiden , 5 de febrero de 2021: 'Ética de la cuantificación' Vídeo .
• Simposio sobre ética de la cuantificación, Bergen (N°), diciembre de 2019
• Taller de investigación sobre ética de la cuantificación, Bergen (N°), diciembre de 2019
• Sociología de la cuantificación
• Sociedad para los Estudios Sociales de la Cuantificación - SSSQ
• Número especial sobre comunicación en humanidades y ciencias sociales: Ética de la cuantificación: macrodatos y gobernanza a través de los números, julio de 2020.
• Ética en matemáticas