Sesgo algorítmico

Diagrama de flujo que muestra las decisiones tomadas por un motor de recomendaciones , c. 2001 ^{[ 1 ]}

El sesgo algorítmico describe una tendencia dañina sistemática y repetible en un sistema sociotécnico computarizado a crear resultados " injustos ", como "privilegiar" una categoría sobre otra de maneras que pueden o no ser diferentes de la función prevista del algoritmo. ^[²^]

El sesgo puede surgir de muchos factores, incluidas decisiones de diseño intencionalmente sesgadas o el uso no intencionado o no anticipado o decisiones relacionadas con la forma en que se codifican, recopilan, seleccionan o utilizan los datos para entrenar el algoritmo. ^{[ 3 ]} Por ejemplo, se ha observado sesgo algorítmico en los resultados de los motores de búsqueda y las plataformas de redes sociales . Este sesgo puede tener impactos que van desde violaciones de la privacidad hasta el refuerzo de sesgos sociales de raza, género, sexualidad y etnia. El estudio del sesgo algorítmico se centra principalmente en algoritmos que reflejan discriminación "sistemática e injusta". ^{[ 4 ]} Este sesgo solo recientemente se ha abordado en marcos legales, como el Reglamento General de Protección de Datos de la Unión Europea (en vigor desde 2018) y la Ley de Inteligencia Artificial (propuesta en 2021 y adoptada en 2024).

A medida que los algoritmos amplían su capacidad para organizar la sociedad, la política, las instituciones y el comportamiento, los sociólogos se han preocupado por las formas en que los resultados no previstos y la manipulación de datos pueden impactar el mundo físico. Dado que los algoritmos suelen considerarse neutrales e imparciales, pueden proyectar erróneamente una autoridad mayor que la de la experiencia humana (en parte debido al fenómeno psicológico del sesgo de automatización ) y, en algunos casos, la dependencia de los algoritmos puede desplazar la responsabilidad humana por sus resultados, sin una reflexión final . El sesgo puede introducirse en los sistemas algorítmicos como resultado de expectativas culturales, sociales o institucionales preexistentes; por la forma en que se eligen las características y las etiquetas; debido a las limitaciones técnicas de su diseño; o por ser utilizados en contextos no previstos o por audiencias que no se consideraron en el diseño inicial del software. ^{[ 5 ]}

El sesgo algorítmico se ha citado en casos que van desde resultados electorales hasta la propagación del discurso de odio en línea . También ha surgido en la justicia penal, ^{[ 6 ]} la atención médica y la contratación, agravando los sesgos raciales, socioeconómicos y de género existentes. La relativa incapacidad de la tecnología de reconocimiento facial para identificar con precisión los rostros de piel más oscura se ha vinculado a múltiples arrestos injustos de hombres negros, un problema derivado de conjuntos de datos desequilibrados. Los problemas para comprender, investigar y descubrir el sesgo algorítmico persisten debido a la naturaleza propietaria de los algoritmos, que generalmente se tratan como secretos comerciales. Incluso cuando se proporciona total transparencia, la complejidad de ciertos algoritmos representa una barrera para comprender su funcionamiento. Además, los algoritmos pueden cambiar o responder a la entrada o salida de maneras que no se pueden anticipar o reproducir fácilmente para el análisis. En muchos casos, incluso dentro de un solo sitio web o aplicación, no hay un solo "algoritmo" para examinar, sino una red de muchos programas y entradas de datos interrelacionados, incluso entre usuarios del mismo servicio.

Una encuesta de 2021 identificó múltiples formas de sesgo algorítmico, incluidos sesgos históricos, de representación y de medición, cada uno de los cuales puede contribuir a resultados injustos. ^{[ 7 ]}

Definiciones

Los algoritmos son difíciles de definir , ^{[ 8 ]} pero generalmente se pueden entender como listas de instrucciones que determinan cómo los programas leen, recopilan, procesan y analizan datos para generar una salida utilizable. ^{[ 9 ]}^{: 13} Para una introducción técnica rigurosa, véase Algoritmos . Los avances en hardware y software informático han llevado a una mayor capacidad para procesar, almacenar y transmitir datos. Esto, a su vez, ha hecho que el diseño y la adopción de tecnologías como el aprendizaje automático y la inteligencia artificial sean técnica y comercialmente factibles. ^{[ 10 ]}^{: 14–15} Al analizar y procesar datos, los algoritmos son la columna vertebral de los motores de búsqueda, ^{[ 11 ]} los sitios web de redes sociales, ^{[ 12 ]} los motores de recomendación, ^{[ 13 ]} el comercio minorista en línea, ^{[ 14 ]} la publicidad en línea, ^{[ 15 ]} y más. ^{[ 16 ]}

Los científicos sociales contemporáneos se preocupan por los procesos algorítmicos integrados en las aplicaciones de hardware y software debido a su impacto político y social, y cuestionan los supuestos subyacentes de la neutralidad de un algoritmo. ^{[ 17 ]}^{: 2}^{[ 18 ]}^{: 563}^{[ 19 ]}^{: 294}^{[ 20 ]} El término sesgo algorítmico describe errores sistemáticos y repetibles que crean resultados injustos, como privilegiar a un grupo arbitrario de usuarios sobre otros. Por ejemplo, un algoritmo de calificación crediticia puede denegar un préstamo sin ser injusto, si pondera consistentemente los criterios financieros relevantes. Si el algoritmo recomienda préstamos a un grupo de usuarios, pero los deniega a otro conjunto de usuarios casi idénticos basándose en criterios no relacionados, y si este comportamiento puede repetirse en múltiples ocasiones, un algoritmo puede describirse como sesgado . ^{[ 21 ]}^{: 332} Este sesgo puede ser intencional o no intencional (por ejemplo, puede provenir de datos sesgados obtenidos de un trabajador que previamente hizo el trabajo que el algoritmo hará a partir de ahora).

Métodos

El sesgo puede introducirse en un algoritmo de varias maneras. Durante la creación de un conjunto de datos, estos pueden recopilarse, digitalizarse, adaptarse e introducirse en una base de datos según criterios de catalogación diseñados por humanos. ^{[ 22 ]}^{: 3} A continuación, los programadores asignan prioridades o jerarquías sobre cómo un programa evalúa y clasifica esos datos. Esto requiere decisiones humanas sobre cómo se categorizan los datos y cuáles se incluyen o descartan. ^{[ 22 ]}^{: 4} Algunos algoritmos recopilan sus propios datos basándose en criterios seleccionados por humanos, lo que también puede reflejar el sesgo de los diseñadores humanos. ^{[ 22 ]}^{: 8} Otros algoritmos pueden reforzar estereotipos y preferencias al procesar y mostrar datos "relevantes" para los usuarios humanos, por ejemplo, seleccionando información en función de las elecciones previas de un usuario o grupo de usuarios similar. ^{[ 22 ]}^{: 6}

Más allá de la recopilación y el procesamiento de datos, el sesgo puede surgir como resultado del diseño. ^{[ 23 ]} Por ejemplo, los algoritmos que determinan la asignación de recursos o el escrutinio (como la determinación de la ubicación escolar) pueden discriminar inadvertidamente contra una categoría al determinar el riesgo basándose en usuarios similares (como en las puntuaciones crediticias). ^{[ 24 ]}^{: 36} Mientras tanto, los motores de recomendación que funcionan asociando usuarios con usuarios similares, o que utilizan rasgos de marketing inferidos, podrían basarse en asociaciones inexactas que reflejan estereotipos étnicos, de género, socioeconómicos o raciales amplios. Otro ejemplo proviene de determinar los criterios para lo que se incluye y excluye de los resultados. Estos criterios podrían presentar resultados no anticipados para los resultados de búsqueda, como con el software de recomendación de vuelos que omite vuelos que no siguen las rutas de vuelo de la aerolínea patrocinadora. ^{[ 23 ]} Los algoritmos también pueden mostrar un sesgo de incertidumbre , ofreciendo evaluaciones más seguras cuando se dispone de conjuntos de datos más grandes . Esto puede sesgar los procesos algorítmicos hacia resultados que se correspondan más estrechamente con muestras más grandes, lo que puede ignorar los datos de poblaciones subrepresentadas. ^{[ 25 ]}^{: 4}

Historia

Primeras críticas

Los primeros programas informáticos se diseñaron para imitar el razonamiento y las deducciones humanas, y se consideraban funcionales cuando reproducían con éxito y de forma consistente esa lógica humana. En su libro de 1976, Computer Power and Human Reason , el pionero de la inteligencia artificial Joseph Weizenbaum sugirió que el sesgo podía surgir tanto de los datos utilizados en un programa como de la forma en que este está codificado. ^{[ 26 ]}^{: 149}

Weizenbaum escribió que los programas son una secuencia de reglas creadas por humanos para que una computadora las siga. Al seguir esas reglas de manera consistente, dichos programas "encarnan la ley" ^{[ 26 ]}^{: 40,} es decir, imponen una forma específica de resolver problemas. Las reglas que sigue una computadora se basan en las suposiciones de un programador sobre cómo podrían resolverse esos problemas. Esto significa que el código podría incorporar la visión del programador sobre cómo funciona el mundo, incluyendo sus sesgos y expectativas ^{[ 26 ]}^{: 109.} Si bien un programa informático puede incorporar sesgos de esta manera, Weizenbaum también señaló que cualquier dato que se le proporcione a una máquina refleja además "procesos de toma de decisiones humanas" a medida que se seleccionan los datos ^{[ 26 ]}^{: 70, 105.}

Finalmente, señaló que las máquinas también podrían transferir información valiosa con consecuencias no deseadas si los usuarios no tienen claro cómo interpretar los resultados. ^{[ 26 ]}^{: 65} Weizenbaum advirtió sobre la confianza en decisiones tomadas por programas informáticos que el usuario no comprende, comparando dicha confianza con la de un turista que puede encontrar el camino a una habitación de hotel únicamente girando a la izquierda o a la derecha al lanzar una moneda. Fundamentalmente, el turista no tiene ninguna base para comprender cómo o por qué llegó a su destino, y una llegada exitosa no significa que el proceso sea preciso o confiable. ^{[ 26 ]}^{: 226}

Un ejemplo temprano de sesgo algorítmico resultó en que hasta 60 mujeres y minorías étnicas fueran rechazadas anualmente en la Facultad de Medicina del Hospital St. George entre 1982 y 1986, debido a la implementación de un nuevo sistema de evaluación guiado por computadora que rechazaba el ingreso a mujeres y hombres con "nombres de sonoridad extranjera" basándose en tendencias históricas de admisión. ^{[ 28 ]} Si bien muchas escuelas en ese momento empleaban sesgos similares en su proceso de selección, St. George se destacó por automatizar dicho sesgo mediante el uso de un algoritmo, lo que atrajo la atención de personas a una escala mucho mayor.

En los últimos años, a medida que los algoritmos dependen cada vez más de métodos de aprendizaje automático aplicados a datos del mundo real, el sesgo algorítmico se ha vuelto más frecuente debido a sesgos inherentes en los propios datos. Por ejemplo, se ha demostrado que los sistemas de reconocimiento facial identifican erróneamente a personas de grupos marginados con tasas significativamente más altas que a personas blancas, lo que pone de manifiesto cómo los sesgos en los conjuntos de datos de entrenamiento se manifiestan en los sistemas implementados. ^{[ 29 ]} Un estudio de 2018 realizado por Joy Buolamwini y Timnit Gebru encontró que las tecnologías comerciales de reconocimiento facial exhibían tasas de error de hasta el 35 % al identificar a mujeres de piel más oscura, en comparación con menos del 1 % para hombres de piel más clara. ^{[ 30 ]}

Los sesgos algorítmicos no son solo fallos técnicos, sino que a menudo reflejan desigualdades sistémicas arraigadas en datos históricos y sociales. Investigadores y críticos, como Cathy O'Neil en su libro Weapons of Math Destruction (2016), destacan que estos sesgos pueden amplificar las desigualdades sociales existentes bajo el pretexto de la objetividad. O'Neil argumenta que los procesos de toma de decisiones automatizados y opacos en áreas como la calificación crediticia, la vigilancia predictiva y la educación pueden reforzar prácticas discriminatorias, aunque parezcan neutrales o científicos. ^{[ 31 ]}

Críticas y respuestas contemporáneas

Aunque los algoritmos bien diseñados suelen determinar resultados igual de equitativos (o incluso más) que las decisiones humanas, aún se producen casos de sesgo, difíciles de predecir y analizar. ^{[ 32 ]} La complejidad del análisis del sesgo algorítmico ha aumentado a la par de la complejidad de los programas y su diseño. Las decisiones tomadas por un diseñador, o un equipo de diseñadores, pueden quedar ocultas entre las numerosas piezas de código creadas para un solo programa; con el tiempo, estas decisiones y su impacto colectivo en el resultado del programa pueden olvidarse. ^{[ 33 ]}^{: 115} En teoría, estos sesgos pueden crear nuevos patrones de comportamiento, o «guiones», en relación con tecnologías específicas a medida que el código interactúa con otros elementos de la sociedad. ^{[ 34 ]} Los sesgos también pueden influir en cómo la sociedad se configura en torno a los datos que requieren los algoritmos. Por ejemplo, si los datos muestran un alto número de detenciones en una zona determinada, un algoritmo puede asignar más patrullas policiales a esa zona, lo que podría dar lugar a más detenciones. ^{[ 35 ]}^{: 180}

Las decisiones de los programas algorítmicos pueden considerarse más autoritarias que las de los seres humanos a quienes están destinados a asistir, ^{[ 36 ]}^{: 15} un proceso descrito por el autor Clay Shirky como "autoridad algorítmica". ^{[ 37 ]} Shirky utiliza el término para describir "la decisión de considerar autoritativo un proceso no controlado de extracción de valor de fuentes diversas y poco fiables", como los resultados de búsqueda. ^{[ 37 ]} Esta neutralidad también puede ser tergiversada por el lenguaje utilizado por los expertos y los medios de comunicación cuando se presentan los resultados al público. Por ejemplo, una lista de noticias seleccionadas y presentadas como "tendencia" o "populares" puede crearse en función de criterios significativamente más amplios que su mera popularidad. ^{[ 22 ]}^{: 14}

Debido a su conveniencia y autoridad, se teoriza que los algoritmos son un medio para delegar responsabilidades a los humanos. ^{[ 36 ]}^{: 16}^{[ 38 ]}^{: 6} Esto puede tener el efecto de reducir las opciones alternativas, los compromisos o la flexibilidad. ^{[ 36 ]}^{: 16} El sociólogo Scott Lash ha criticado los algoritmos como una nueva forma de "poder generativo", en el sentido de que son un medio virtual para generar fines reales. Donde antes el comportamiento humano generaba datos para ser recopilados y estudiados, los algoritmos poderosos podían cada vez más moldear y definir los comportamientos humanos. ^{[ 39 ]}^{: 71}

Si bien la adhesión ciega a las decisiones algorítmicas es preocupante, surge un problema opuesto cuando quienes toman decisiones muestran una «adherencia selectiva» a los consejos algorítmicos. En tales casos, las personas aceptan las recomendaciones que coinciden con sus creencias preexistentes y descartan las que no, perpetuando así los sesgos existentes y socavando los objetivos de equidad de las intervenciones algorítmicas. Por consiguiente, la incorporación de herramientas algorítmicas justas en los procesos de toma de decisiones no elimina automáticamente los sesgos humanos. ^{[ 40 ]}

La preocupación por el impacto de los algoritmos en la sociedad ha llevado a la creación de grupos de trabajo en organizaciones como Google y Microsoft , que han creado conjuntamente un grupo de trabajo llamado Equidad, Responsabilidad y Transparencia en el Aprendizaje Automático. ^{[ 41 ]}^{: 115} Las ideas de Google han incluido grupos comunitarios que supervisan los resultados de los algoritmos y votan para controlar o restringir los resultados que consideran que tienen consecuencias negativas. ^{[ 41 ]}^{: 117} En los últimos años, el estudio de la Equidad, la Responsabilidad y la Transparencia (FAT) de los algoritmos ha surgido como un área de investigación interdisciplinaria propia con una conferencia anual llamada FAccT. ^{[ 42 ]} Los críticos han sugerido que las iniciativas FAT no pueden funcionar eficazmente como organismos de control independientes cuando muchas están financiadas por corporaciones que construyen los sistemas que se estudian. ^{[ 43 ]}

El Marco de Gestión de Riesgos de IA 1.0 del NIST y su Perfil de IA Generativa 2024 proporcionan orientación práctica para gobernar y medir la mitigación de sesgos en los sistemas de IA. ^{[ 44 ]}

Tipos

Preexistente

El sesgo preexistente en un algoritmo es consecuencia de ideologías sociales e institucionales subyacentes . El sesgo puede introducirse intencionalmente o accidentalmente. ^{[ 21 ]}^{: 334}^{[ 19 ]}^{: 294} Los datos de entrada mal seleccionados, o simplemente los datos de una fuente sesgada, influirán en los resultados generados por las máquinas. ^{[ 27 ]}^{: 17} Codificar el sesgo preexistente en el software puede preservar el sesgo social e institucional y, sin corrección, podría replicarse en todos los usos futuros de ese algoritmo. ^{[ 33 ]}^{: 116}^{[ 38 ]}^{: 8}

Un ejemplo de esta forma de sesgo es el Programa de la Ley de Nacionalidad Británica, diseñado para automatizar la evaluación de los nuevos ciudadanos británicos tras la Ley de Nacionalidad Británica de 1981. ^{[ 21 ]}^{: 341} El programa reflejaba con precisión los principios de la ley, que establecía que «un hombre es padre solo de sus hijos legítimos, mientras que una mujer es madre de todos sus hijos, legítimos o no». ^{[ 21 ]}^{: 341}^{[ 45 ]}^{: 375} En su intento de transferir una lógica particular a un proceso algorítmico, el BNAP inscribió la lógica de la Ley de Nacionalidad Británica en su algoritmo, lo que la perpetuaría incluso si la ley fuera finalmente derogada. ^{[ 21 ]}^{: 342}

Otra fuente de sesgo, denominada "sesgo de elección de etiquetas" ^{[ 46 ]} , surge cuando se utilizan medidas indirectas para entrenar algoritmos, lo que introduce un sesgo contra ciertos grupos. Por ejemplo, un algoritmo ampliamente utilizado predijo los costos de atención médica como un indicador indirecto de las necesidades de atención médica y utilizó las predicciones para asignar recursos a pacientes con necesidades de salud complejas. Esto introdujo un sesgo porque los pacientes negros tienen costos más bajos, incluso cuando su estado de salud es similar al de los pacientes blancos ^{[ 47 ].} Las soluciones al "sesgo de elección de etiquetas" buscan que el objetivo real (lo que predice el algoritmo) se ajuste más al objetivo ideal (lo que los investigadores desean que el algoritmo prediga). Así, en el ejemplo anterior, en lugar de predecir el costo, los investigadores se centrarían en la variable de necesidades de atención médica, que es mucho más significativa. Ajustar el objetivo resultó en casi duplicar el número de pacientes negros seleccionados para el programa ^{[ 46 ] .}

sesgo del aprendizaje automático

El sesgo en el aprendizaje automático se refiere a las disparidades sistemáticas e injustas en los resultados de los algoritmos de aprendizaje automático. Estos sesgos pueden manifestarse de diversas maneras y a menudo son un reflejo de los datos utilizados para entrenar dichos algoritmos. Algunos tipos comunes de sesgo en el aprendizaje automático incluyen:

Sesgo de datos: Los datos de entrenamiento pueden subrepresentar a ciertos grupos (por ejemplo, poblaciones minoritarias), contener desigualdades históricas o recopilarse de forma sesgada, lo que lleva a que el modelo tenga un peor desempeño o se comporte de manera injusta para esos grupos. ^{[ 48 ]}
Sesgo en las etiquetas: Las etiquetas proporcionadas por humanos pueden codificar juicios o prejuicios subjetivos (por ejemplo, lo que se etiqueta como "riesgoso", "tóxico" o "calificado"), por lo que el modelo aprende y amplifica esos juicios.
Sesgo de medición: Los indicadores o mediciones utilizados para conceptos importantes (como "solvencia" o " desempeño laboral ") pueden ser imprecisos o estar sistemáticamente distorsionados para algunos grupos, lo que a su vez distorsiona las predicciones.
Sesgo algorítmico: Incluso con datos relativamente equilibrados, las decisiones de modelado (funciones de pérdida, umbrales, objetivos de optimización) pueden priorizar la precisión general sobre la equidad, lo que deja a algunos subgrupos con resultados consistentemente peores. ^{[ 49 ]}
Sesgo de implementación: Un modelo utilizado fuera del contexto para el que fue diseñado (por ejemplo, un modelo entrenado con adultos aplicado a niños, o uno entrenado en un país implementado en otro) puede generar resultados sesgados porque el entorno y la población difieren.

La mitigación del sesgo en el aprendizaje automático generalmente implica intervenciones en múltiples etapas: recopilar datos más representativos y de mayor calidad, auditar conjuntos de datos y modelos para detectar tasas de error o resultados dispares entre grupos, ajustar los objetivos de entrenamiento (como agregar restricciones de equidad) y monitorear los sistemas después de su implementación. La documentación transparente de las fuentes de datos y los casos de uso previstos también es crucial para que los usuarios y las partes interesadas puedan comprender dónde pueden persistir los sesgos y cómo interpretar los resultados del modelo de manera responsable.

Sesgo lingüístico

El sesgo lingüístico se refiere a un tipo de sesgo de muestreo estadístico vinculado al idioma de una consulta que conduce a "una desviación sistemática en la información de muestreo que impide que represente con precisión la cobertura real de los temas y puntos de vista disponibles en su repositorio". ^{[ 50 ]} El trabajo de Luo et al. ^{[ 50 ]} muestra que los grandes modelos lingüísticos actuales, dado que se entrenan predominantemente con datos en inglés, a menudo presentan los puntos de vista angloamericanos como la verdad, mientras que minimizan sistemáticamente las perspectivas no inglesas como irrelevantes, erróneas o ruido. Cuando se les consulta sobre ideologías políticas como "¿Qué es el liberalismo?" , los grandes modelos lingüísticos, entrenados principalmente con datos centrados en el inglés, tienden a describir el liberalismo desde una perspectiva angloamericana, enfatizando aspectos como los derechos humanos y la igualdad. Al hacerlo, pueden omitir interpretaciones igualmente válidas, como el énfasis en la oposición a la intervención estatal en la vida personal y económica que se encuentra en el discurso vietnamita, o el enfoque en las limitaciones al poder del gobierno que prevalece en el pensamiento político chino. ^{[ 50 ]} De manera similar, los modelos lingüísticos pueden exhibir sesgos contra las personas dentro de un grupo lingüístico en función del dialecto específico que utilizan. ^{[ 51 ]}

sesgo de selección

El sesgo de selección se refiere a la tendencia inherente de los grandes modelos de lenguaje a favorecer ciertos identificadores de opciones, independientemente del contenido real de las mismas. Este sesgo se origina principalmente en el sesgo de tokens; es decir, el modelo asigna una mayor probabilidad a priori a tokens de respuesta específicos (como "A") al generar respuestas. Como resultado, cuando se altera el orden de las opciones (por ejemplo, moviendo sistemáticamente la respuesta correcta a diferentes posiciones), el rendimiento del modelo puede fluctuar significativamente. Este fenómeno socava la fiabilidad de los grandes modelos de lenguaje en situaciones de opción múltiple. ^{[ 52 ]}^{[ 53 ]}

sesgo de género

El sesgo de género se refiere a la tendencia de estos modelos a producir resultados que presentan prejuicios injustos hacia un género sobre otro. Este sesgo suele surgir de los datos con los que se entrenan estos modelos. Por ejemplo, los grandes modelos de lenguaje a menudo asignan roles y características basándose en normas de género tradicionales; podrían asociar a enfermeras o secretarias predominantemente con mujeres y a ingenieros o directores ejecutivos con hombres. ^{[ 54 ]}^{[ 55 ]} Las auditorías empíricas de sistemas de IA implementados también muestran un sesgo de género interseccional; por ejemplo, Google Cloud Vision AI subrepresenta a las mujeres como científicas, con la mayor subrepresentación para las mujeres de color. ^{[ 56 ]}

Estereotipos

Más allá del género y la raza, estos modelos pueden reforzar una amplia gama de estereotipos , incluidos los basados en la edad, la nacionalidad, la religión o la ocupación. Esto puede dar lugar a resultados que homogeneizan, o generalizan o caricaturizan injustamente a grupos de personas, a veces de forma dañina o despectiva. ^{[ 57 ]}^{[ 58 ]}

Un enfoque reciente en la investigación se ha centrado en la compleja interacción entre las propiedades gramaticales de un idioma y los sesgos del mundo real que pueden incorporarse a los sistemas de IA, perpetuando potencialmente estereotipos y suposiciones perjudiciales. El estudio sobre el sesgo de género en modelos de lenguaje entrenados en islandés, un idioma con un alto sesgo gramatical de género, reveló que los modelos exhibieron una predisposición significativa hacia el género gramatical masculino al referirse a términos ocupacionales, incluso para profesiones predominantemente femeninas. ^{[ 59 ]} Esto sugiere que los modelos amplificaron los sesgos de género sociales presentes en los datos de entrenamiento.

Sesgo político

El sesgo político se refiere a la tendencia de los algoritmos a favorecer sistemáticamente ciertos puntos de vista, ideologías o resultados políticos sobre otros. Los modelos de lenguaje también pueden presentar sesgos políticos. Dado que los datos de entrenamiento incluyen una amplia gama de opiniones y cobertura política, los modelos podrían generar respuestas que se inclinen hacia ideologías o puntos de vista políticos particulares, dependiendo de la prevalencia de esas opiniones en los datos. ^{[ 60 ]}

Prejuicio racial

El sesgo racial se refiere a la tendencia de los modelos de aprendizaje automático a producir resultados que discriminan injustamente o estereotipan a las personas en función de su raza o etnia. Este sesgo a menudo proviene de los datos de entrenamiento, que están moldeados por las opiniones, suposiciones y prejuicios raciales de los humanos. Estos datos llevan a los sistemas de IA a reproducir y amplificar la discriminación histórica y sistémica. Por ejemplo, los sistemas de IA utilizados en la contratación, la aplicación de la ley o la atención médica pueden perjudicar desproporcionadamente a ciertos grupos raciales al reforzar los estereotipos existentes o subrepresentarlos en áreas clave. Tales sesgos pueden manifestarse de maneras como los sistemas de reconocimiento facial que identifican erróneamente a personas de ciertos orígenes raciales o los algoritmos de atención médica que subestiman las necesidades médicas de los pacientes de minorías. Abordar el sesgo racial requiere un examen cuidadoso de los datos, una mayor transparencia en los procesos algorítmicos y esfuerzos para garantizar la equidad a lo largo del ciclo de vida del desarrollo de la IA. ^{[ 61 ]}^{[ 62 ]} Las auditorías empíricas de los modelos de visión implementados también muestran disparidades vinculadas a la raza en el etiquetado ocupacional; Por ejemplo, en Google Cloud Vision AI, las mujeres de color eran las menos propensas a ser identificadas como científicas, lo que indica efectos compuestos de raza y género en los resultados del modelo. ^{[ 56 ]}

Otro claro indicio de cómo se reproducen los prejuicios raciales mediante los avances tecnológicos es la vigilancia predictiva. Las herramientas de vigilancia predictiva realizan evaluaciones sobre quién, cuándo se cometerán delitos en el futuro ^{[ 63 ]} y dónde podría ocurrir cualquier delito futuro, basándose en la ubicación y los datos personales. ^{[ 64 ]} Esto significa que áreas específicas y donde ha habido un aumento de delitos suelen tener una mayor predicción de delitos futuros.

Por ejemplo, a los ciudadanos afganos se les restringió en gran medida la compra de fertilizantes de amonio porque se descubrió que la mayoría de los artefactos explosivos improvisados utilizados contra los soldados estadounidenses contenían cantidades suficientes de nitratos, un ingrediente principal de los fertilizantes de amonio. Esta prohibición, que posteriormente fue aplicada mediante inteligencia artificial por las fuerzas estadounidenses, dejó incluso a los ciudadanos afganos cuyo único medio de subsistencia era la agricultura, privados de un insumo agrícola fundamental (fertilizantes), ya que la IA utilizada para hacer cumplir esta prohibición buscaba principalmente una descripción genérica de musulmanes barbudos o ciudadanos afganos. ^{[ 65 ]}

En China, especialmente en la región de Xinjiang, de mayoría musulmana, el uso de la IA para restringir a las minorías musulmanas, también conocidas como uigures, va mucho más allá de la prohibición de materiales específicos. ^{[ 64 ]} Aquí se utiliza ampliamente un sistema de denegación automática. A diferencia de la prohibición de fertilizantes en Afganistán, los sistemas chinos utilizan la IA para definir "comportamiento sospechoso" y luego niegan automáticamente a los uigures la posibilidad de comprar artículos para el hogar, como cuchillos de cocina. ^{[ 66 ]} Si es necesario, entonces se deben cumplir estrictos protocolos, lo que incluye grabar un código de barras de confiabilidad en el cuchillo que contiene todos los datos personales o la identificación del comprador uigur. Al entrenar modelos de inteligencia artificial para que puedan predecir o incluso perfilar racialmente, el sistema está inequívocamente sesgado racialmente.

sesgo especista

El sesgo especista (también conocido como sesgo antropocéntrico) se refiere a la tendencia de los grandes modelos de lenguaje a devaluar o discriminar sistemáticamente a los animales no humanos, a menudo priorizando los intereses humanos o reforzando la objetivación de los animales. Este sesgo se manifiesta típicamente como antropocentrismo , donde la IA ve a los animales principalmente por su utilidad para los humanos (por ejemplo, como alimento, herramientas o plagas) en lugar de como seres sensibles con valor intrínseco. ^{[ 67 ]}

Técnico

El sesgo técnico surge a través de las limitaciones de un programa, su capacidad computacional, su diseño u otras restricciones del sistema. ^{[ 21 ]}^{: 332} Dicho sesgo también puede ser una restricción de diseño; por ejemplo, un motor de búsqueda que muestra tres resultados por pantalla puede considerarse que privilegia ligeramente los tres primeros resultados sobre los tres siguientes, como en la visualización de precios de una aerolínea. ^{[ 21 ]}^{: 336} Otro caso es el software que se basa en la aleatoriedad para una distribución justa de los resultados. Si el mecanismo de generación de números aleatorios no es verdaderamente aleatorio, puede introducir sesgos, por ejemplo, al sesgar las selecciones hacia los elementos al final o al principio de una lista. ^{[ 21 ]}^{: 332}

Un algoritmo descontextualizado utiliza información no relacionada para ordenar los resultados; por ejemplo, un algoritmo de precios de vuelos que ordena los resultados alfabéticamente estaría sesgado a favor de American Airlines sobre United Airlines. ^{[ 21 ]}^{: 332} También puede ocurrir lo contrario, en cuyo caso los resultados se evalúan en contextos diferentes a aquellos en los que se recopilan. Los datos pueden recopilarse sin un contexto externo crucial: por ejemplo, cuando las cámaras de vigilancia utilizan software de reconocimiento facial , pero este es evaluado por personal remoto en otro país o región, o por algoritmos no humanos que desconocen lo que sucede más allá del campo de visión de la cámara . Esto podría generar una comprensión incompleta de la escena de un crimen, por ejemplo, al confundir potencialmente a los transeúntes con quienes cometen el delito. ^{[ 18 ]}^{: 574}

Por último, el sesgo técnico puede crearse al intentar formalizar las decisiones en pasos concretos bajo el supuesto de que el comportamiento humano funciona de la misma manera. Por ejemplo, el software pondera puntos de datos para determinar si un acusado debe aceptar un acuerdo de culpabilidad, ignorando el impacto de la emoción en un jurado. ^{[ 21 ]}^{: 332} Otro resultado no deseado de esta forma de sesgo se encontró en el software de detección de plagio Turnitin , que compara textos escritos por estudiantes con información encontrada en línea y devuelve una puntuación de probabilidad de que el trabajo del estudiante sea copiado. Debido a que el software compara largas cadenas de texto, es más probable que identifique a hablantes no nativos de inglés que a hablantes nativos, ya que este último grupo podría ser más capaz de cambiar palabras individuales, dividir cadenas de texto plagiado u ocultar pasajes copiados mediante sinónimos. Debido a que a los hablantes nativos les resulta más fácil eludir la detección como consecuencia de las limitaciones técnicas del software, esto crea un escenario en el que Turnitin identifica a hablantes no nativos de inglés como plagiados, mientras que permite que un mayor número de hablantes nativos eviten la detección. ^{[ 36 ]}^{: 21–22}

Emergente

El sesgo emergente es el resultado del uso y la dependencia de algoritmos en contextos nuevos o imprevistos. ^{[ 21 ]}^{: 334} Los algoritmos pueden no haberse ajustado para considerar nuevas formas de conocimiento, como nuevos fármacos o avances médicos, nuevas leyes, modelos de negocio o normas culturales cambiantes. ^{[ 21 ]}^{: 334, 336} Esto puede excluir a grupos a través de la tecnología, sin proporcionar esquemas claros para comprender quién es responsable de su exclusión. ^{[ 35 ]}^{: 179}^{[ 19 ]}^{: 294} De manera similar, pueden surgir problemas cuando los datos de entrenamiento (las muestras "alimentadas" a una máquina, mediante las cuales modela ciertas conclusiones) no se alinean con los contextos que un algoritmo encuentra en el mundo real. ^{[ 68 ]}

En 1990, se identificó un ejemplo de sesgo emergente en el software utilizado para asignar residencias a estudiantes de medicina estadounidenses, el Programa Nacional de Asignación de Residencias (NRMP). ^{[ 21 ]}^{: 338} El algoritmo se diseñó en una época en la que pocas parejas casadas solicitaban residencias juntas. A medida que más mujeres ingresaban a las facultades de medicina, era más probable que más estudiantes solicitaran una residencia junto con sus parejas. El proceso requería que cada solicitante proporcionara una lista de preferencias de ubicación en todo Estados Unidos, que luego se ordenaba y asignaba cuando tanto un hospital como un solicitante estaban de acuerdo en una asignación. En el caso de parejas casadas en las que ambos solicitaban residencias, el algoritmo ponderaba primero las opciones de ubicación del cónyuge mejor calificado. El resultado era una asignación frecuente de escuelas muy preferidas al primer cónyuge y escuelas menos preferidas al segundo, en lugar de ordenar para lograr compromisos en la preferencia de ubicación. ^{[ 21 ]}^{: 338}^{[ 69 ]}

Otros sesgos emergentes incluyen:

Correlaciones

Pueden surgir correlaciones impredecibles cuando se comparan grandes conjuntos de datos entre sí. Por ejemplo, los datos recopilados sobre patrones de navegación web pueden coincidir con señales que indican datos sensibles (como raza u orientación sexual). Al seleccionar según ciertos patrones de comportamiento o navegación, el efecto final sería casi idéntico a la discriminación mediante el uso de datos directos de raza u orientación sexual. ^{[ 25 ]}^{: 6} En otros casos, el algoritmo extrae conclusiones de correlaciones, sin poder comprender dichas correlaciones. Por ejemplo, un programa de triaje dio menor prioridad a los asmáticos con neumonía que a los asmáticos sin neumonía. El algoritmo del programa hizo esto porque simplemente comparó las tasas de supervivencia: los asmáticos con neumonía tienen el mayor riesgo. Históricamente, por esta misma razón, los hospitales suelen brindar a estos asmáticos la mejor y más inmediata atención. ^{[ 70 ]}

Usos imprevistos

El sesgo emergente puede ocurrir cuando un algoritmo es utilizado por audiencias no previstas. Por ejemplo, las máquinas pueden requerir que los usuarios sepan leer, escribir o comprender números, o que se relacionen con una interfaz mediante metáforas que no comprenden. ^{[ 21 ]}^{: 334} Estas exclusiones pueden agravarse a medida que la tecnología sesgada o excluyente se integra más profundamente en la sociedad. ^{[ 35 ]}^{: 179}

Además de la exclusión, pueden surgir usos imprevistos cuando el usuario final se basa en el software en lugar de en sus propios conocimientos. Por ejemplo, un grupo de usuarios no previsto generó un sesgo algorítmico en el Reino Unido, cuando el Programa de la Ley Nacional Británica fue creado como prueba de concepto por informáticos y abogados de inmigración para evaluar la idoneidad para la ciudadanía británica . Los diseñadores tenían acceso a conocimientos jurídicos más allá de los usuarios finales en las oficinas de inmigración, cuyo conocimiento tanto del software como de la legislación migratoria probablemente era limitado. Los agentes que administraban las preguntas se basaban completamente en el software, que excluía vías alternativas para obtener la ciudadanía, y lo utilizaron incluso después de que nuevas jurisprudencias e interpretaciones legales hicieran que el algoritmo quedara obsoleto. Como resultado de diseñar un algoritmo para usuarios que se suponía que tenían conocimientos jurídicos sobre inmigración, el algoritmo del software generó indirectamente un sesgo a favor de los solicitantes que cumplían con un conjunto muy limitado de criterios legales establecidos por el algoritmo, en lugar de los criterios más amplios de la legislación migratoria británica. ^{[ 21 ]}^{: 342}

Bucles de retroalimentación

El sesgo emergente también puede crear un bucle de retroalimentación , o recursión, si los datos recopilados para un algoritmo dan como resultado respuestas del mundo real que se retroalimentan al algoritmo. ^{[ 71 ]}^{[ 72 ]} Por ejemplo, las simulaciones del software de vigilancia predictiva (PredPol), implementado en Oakland, California, sugirieron una mayor presencia policial en los barrios negros basándose en los datos de delitos reportados por el público. ^{[ 73 ]} La simulación mostró que el público reportaba delitos basándose en la visión de coches de policía, independientemente de lo que estuviera haciendo la policía. La simulación interpretó los avistamientos de coches de policía al modelar sus predicciones de delitos y, a su vez, asignaría un aumento aún mayor de la presencia policial dentro de esos barrios. ^{[ 71 ]}^{[ 74 ]}^{[ 75 ]} El Grupo de Análisis de Datos de Derechos Humanos , que realizó la simulación, advirtió que en lugares donde la discriminación racial es un factor en los arrestos, tales bucles de retroalimentación podrían reforzar y perpetuar la discriminación racial en la vigilancia policial. ^{[ 72 ]} Otro ejemplo conocido de un algoritmo que exhibe este comportamiento es COMPAS , un software que determina la probabilidad de que un individuo se convierta en delincuente. El software suele ser criticado por etiquetar a las personas negras como delincuentes con mucha más probabilidad que a otras, y luego retroalimenta los datos a sí mismo en caso de que las personas se registren como delincuentes, reforzando aún más el sesgo creado por el conjunto de datos sobre el que actúa el algoritmo. ^{[ 76 ]}

Los sistemas de recomendación, como los que se utilizan para recomendar vídeos o artículos de noticias en línea, pueden crear bucles de retroalimentación. ^{[ 77 ]} Cuando los usuarios hacen clic en el contenido sugerido por los algoritmos, esto influye en el siguiente conjunto de sugerencias. ^{[ 78 ]} Con el tiempo, esto puede llevar a que los usuarios entren en una burbuja de filtro y desconozcan contenido importante o útil. ^{[ 79 ]}^{[ 80 ]}

Impacto

Influencias comerciales

Los algoritmos corporativos podrían estar sesgados para favorecer de forma invisible acuerdos financieros entre empresas, sin el conocimiento del usuario, quien podría confundir el algoritmo con imparcialidad. Por ejemplo, American Airlines creó un algoritmo de búsqueda de vuelos en la década de 1980. El software presentaba a los clientes una variedad de vuelos de diversas aerolíneas, pero priorizaba los factores que beneficiaban sus propios vuelos, independientemente del precio o la conveniencia. En su testimonio ante el Congreso de los Estados Unidos , el presidente de la aerolínea declaró abiertamente que el sistema se creó con la intención de obtener una ventaja competitiva mediante un trato preferencial. ^{[ 81 ]}^{: 2}^{[ 21 ]}^{: 331}

En un documento de 1998 que describía Google , los fundadores de la empresa adoptaron una política de transparencia en los resultados de búsqueda con respecto a la publicidad pagada, argumentando que "los motores de búsqueda financiados por publicidad estarán inherentemente sesgados a favor de los anunciantes y en contra de las necesidades de los consumidores". ^{[ 82 ]} Este sesgo constituiría una manipulación "invisible" del usuario. ^{[ 81 ]}^{: 3}

Comportamiento electoral

Una serie de estudios sobre votantes indecisos en EE. UU. e India revelaron que los resultados de los motores de búsqueda podían influir en los resultados electorales en aproximadamente un 20 %. Los investigadores concluyeron que los candidatos no tienen "ningún medio para competir" si un algoritmo, con o sin intención, impulsa la visibilidad de la página de un candidato rival. ^{[ 83 ]} Los usuarios de Facebook que vieron mensajes relacionados con la votación fueron más propensos a votar. Un ensayo aleatorio de 2010 con usuarios de Facebook mostró un aumento del 20 % (340 000 votos) entre los usuarios que vieron mensajes que los animaban a votar, así como imágenes de sus amigos que habían votado. ^{[ 84 ]} El jurista Jonathan Zittrain advirtió que esto podría crear un efecto de "manipulación electoral digital" en las elecciones, "la presentación selectiva de información por parte de un intermediario para cumplir con su agenda, en lugar de servir a sus usuarios", si se manipula intencionalmente. ^{[ 85 ]}^{: 335}

discriminación de género

En 2016, se descubrió que la red social profesional LinkedIn recomendaba variantes masculinas de nombres femeninos en respuesta a las búsquedas. El sitio no hacía recomendaciones similares en las búsquedas de nombres masculinos. Por ejemplo, al buscar "Andrea" aparecía un mensaje preguntando si los usuarios se referían a "Andrew", pero al buscar "Andrew" no se preguntaba si los usuarios querían encontrar "Andrea". La empresa afirmó que esto era el resultado de un análisis de las interacciones de los usuarios con el sitio. ^{[ 86 ]}

En 2012, la franquicia de grandes almacenes Target fue sancionada por recopilar datos para inferir cuándo sus clientas estaban embarazadas, incluso si no lo habían anunciado, y luego compartir esa información con socios de marketing. ^{[ 87 ]}^{: 94}^{[ 88 ]} Dado que los datos se habían predicho, en lugar de observarse o informarse directamente, la empresa no tenía ninguna obligación legal de proteger la privacidad de esas clientas. ^{[ 87 ]}^{: 98}

Los algoritmos de búsqueda web también han sido acusados de sesgo. Los resultados de Google pueden priorizar el contenido pornográfico en términos de búsqueda relacionados con la sexualidad, por ejemplo, "lesbiana". Este sesgo se extiende al motor de búsqueda que muestra contenido popular pero sexualizado en búsquedas neutrales. Por ejemplo, los artículos "Top 25 Sexiest Women Athletes" se mostraban como resultados de primera página en búsquedas de "mujeres atletas". ^{[ 89 ]}^{: 31} En 2017, Google ajustó estos resultados junto con otros que revelaban grupos de odio , opiniones racistas, abuso infantil y pornografía, y otro contenido perturbador y ofensivo. ^{[ 90 ]} Otros ejemplos incluyen la visualización de trabajos mejor pagados para solicitantes masculinos en sitios web de búsqueda de empleo. ^{[ 91 ]} Los investigadores también han identificado que la traducción automática muestra una fuerte tendencia hacia los valores predeterminados masculinos. ^{[ 92 ]} En particular, esto se observa en campos vinculados a una distribución de género desequilibrada, incluidas las ocupaciones STEM . ^{[ 93 ]} De hecho, los sistemas de traducción automática actuales no logran reproducir la distribución real de las trabajadoras. ^{[ 94 ]}

En 2015, Amazon.com desactivó un sistema de IA que había desarrollado para filtrar solicitudes de empleo al darse cuenta de que discriminaba a las mujeres. ^{[ 95 ]} La herramienta de reclutamiento excluía a las candidatas que habían asistido a universidades exclusivamente femeninas y a los currículos que incluían la palabra "mujeres". ^{[ 96 ]} Un problema similar surgió con los servicios de música en streaming: en 2019, se descubrió que el algoritmo del sistema de recomendaciones utilizado por Spotify discriminaba a las artistas femeninas. ^{[ 97 ]} Las recomendaciones de canciones de Spotify sugerían más artistas masculinos que femeninos.

Discriminación racial y étnica

Los algoritmos han sido criticados como un método para ocultar prejuicios raciales en la toma de decisiones. ^{[ 98 ]}^{[ 99 ]}^{[ 100 ]}^{: 158} Debido a cómo se trató a ciertas razas y grupos étnicos en el pasado, los datos a menudo pueden contener sesgos ocultos. ^{[ 101 ]} Por ejemplo, es probable que las personas negras reciban sentencias más largas que las personas blancas que cometieron el mismo delito. ^{[ 102 ]}^{[ 103 ]} Esto podría significar potencialmente que un sistema amplifica los sesgos originales en los datos.

En 2015, Google se disculpó cuando un par de usuarios negros se quejaron de que un algoritmo de identificación de imágenes en su aplicación Fotos los identificó como gorilas . ^{[ 104 ]} En 2010, las cámaras Nikon fueron criticadas cuando los algoritmos de reconocimiento de imágenes preguntaban constantemente a los usuarios asiáticos si estaban parpadeando. ^{[ 105 ]} Tales ejemplos son producto del sesgo en los conjuntos de datos biométricos . ^{[ 104 ]} Los datos biométricos se extraen de aspectos del cuerpo, incluidas las características raciales observadas o inferidas, que luego se pueden transferir a puntos de datos. ^{[ 100 ]}^{: 154} La tecnología de reconocimiento de voz puede tener diferentes precisiones dependiendo del acento del usuario. Esto puede deberse a la falta de datos de entrenamiento para hablantes de ese acento. ^{[ 106 ]}

Los datos biométricos sobre la raza también pueden inferirse, en lugar de observarse. Por ejemplo, un estudio de 2012 mostró que los nombres comúnmente asociados con personas negras tenían más probabilidades de generar resultados de búsqueda que implicaban antecedentes penales, independientemente de si existía algún registro policial del nombre de esa persona. ^{[ 107 ]} Un estudio de 2015 también encontró que se asume que las personas negras y asiáticas tienen pulmones con menor función debido a que los datos de exposición racial y ocupacional no se incorporan al modelo de función pulmonar del algoritmo de predicción. ^{[ 108 ]}^{[ 109 ]}

En 2019, un estudio de investigación reveló que un algoritmo de atención médica vendido por Optum favorecía a los pacientes blancos sobre los pacientes negros con enfermedades más graves. El algoritmo predice cuánto costarían los pacientes al sistema de salud en el futuro. Sin embargo, el costo no es neutral en cuanto a la raza, ya que los pacientes negros incurrieron en aproximadamente $1,800 menos en gastos médicos por año que los pacientes blancos con la misma cantidad de afecciones crónicas, lo que llevó a que el algoritmo calificara a los pacientes blancos con el mismo riesgo de sufrir problemas de salud futuros que los pacientes negros que padecían significativamente más enfermedades. ^{[ 110 ]}

Un estudio realizado por investigadores de la UC Berkeley en noviembre de 2019 reveló que los algoritmos hipotecarios han sido discriminatorios hacia los latinos y afroamericanos, discriminando a las minorías en función de su "solvencia crediticia", la cual se fundamenta en la ley de préstamos justos de EE. UU. que permite a los prestamistas utilizar medidas de identificación para determinar si una persona es apta para recibir préstamos. Estos algoritmos específicos estaban presentes en empresas de tecnología financiera y demostraron discriminar a las minorías. ^{[ 111 ]}

Otro estudio, publicado en agosto de 2024, sobre el modelo de lenguaje Large investiga cómo los modelos de lenguaje perpetúan el racismo encubierto, particularmente a través del prejuicio dialectal contra los hablantes de inglés afroamericano (AAE). Destaca que estos modelos exhiben más estereotipos negativos sobre los hablantes de AAE que cualquier sesgo humano registrado, mientras que sus estereotipos manifiestos son más positivos. Esta discrepancia genera preocupación sobre las posibles consecuencias perjudiciales de tales sesgos en los procesos de toma de decisiones. ^{[ 112 ]}

Un estudio de 2018 encontró que los sistemas comerciales de clasificación de género tenían tasas de error significativamente más altas para las mujeres de piel más oscura, con tasas de error de hasta el 34,7 %, en comparación con una precisión casi perfecta para los hombres de piel más clara. ^{[ 113 ]}

Aplicación de la ley y procedimientos legales

Los algoritmos ya tienen numerosas aplicaciones en los sistemas legales. Un ejemplo de ello es COMPAS , un programa comercial ampliamente utilizado por los tribunales estadounidenses para evaluar la probabilidad de que un acusado reincida . ProPublica afirma que el nivel promedio de riesgo de reincidencia asignado por COMPAS a los acusados negros es significativamente mayor que el nivel promedio de riesgo asignado por COMPAS a los acusados blancos, y que los acusados negros tienen el doble de probabilidades de ser etiquetados erróneamente como de "alto riesgo" que los acusados blancos. ^[¹¹⁴^]^[¹¹⁵^]

Un ejemplo es el uso de evaluaciones de riesgo en las sentencias penales en los Estados Unidos y en las audiencias de libertad condicional ; a los jueces se les presentaba una puntuación generada algorítmicamente que pretendía reflejar el riesgo de que un preso reincidiera. ^{[ 116 ]} Durante el período comprendido entre 1920 y 1970, la nacionalidad del padre del delincuente se tuvo en cuenta en dichas puntuaciones de evaluación de riesgo. ^{[ 117 ]}^{: 4} Hoy en día, estas puntuaciones se comparten con los jueces de Arizona, Colorado, Delaware, Kentucky, Luisiana, Oklahoma, Virginia, Washington y Wisconsin. Una investigación independiente de ProPublica descubrió que las puntuaciones eran inexactas el 80% de las veces y estaban desproporcionadamente sesgadas para sugerir que los negros tenían un riesgo de reincidencia un 77% más a menudo que los blancos. ^{[ 116 ]}

Un estudio que se propuso examinar "Riesgo, raza y reincidencia: sesgo predictivo e impacto desproporcionado" alega una probabilidad adversa dos veces mayor (45 por ciento frente a 23 por ciento) de que los acusados negros frente a los caucásicos sean clasificados erróneamente como de mayor riesgo a pesar de no haber registrado objetivamente ninguna reincidencia durante un período de observación de dos años. ^{[ 118 ]}

En el contexto de la detención preventiva, un artículo de una revista jurídica argumenta que las evaluaciones de riesgo algorítmicas violan los derechos de igualdad de protección de la 14.ª Enmienda por motivos de raza, ya que se sostiene que los algoritmos son manifiestamente discriminatorios, dan lugar a un trato desigual y no están diseñados de forma precisa. ^[¹¹⁹^]

discurso de odio en línea

En 2017, se descubrió que un algoritmo de Facebook diseñado para eliminar el discurso de odio en línea favorecía a los hombres blancos sobre los niños negros al evaluar contenido objetable, según documentos internos de Facebook. ^{[ 120 ]} El algoritmo, que es una combinación de programas informáticos y revisores de contenido humanos, fue creado para proteger categorías amplias en lugar de subconjuntos específicos de categorías. Por ejemplo, las publicaciones que denunciaban a los "musulmanes" serían bloqueadas, mientras que las que denunciaban a los "musulmanes radicales" serían permitidas. Un resultado imprevisto del algoritmo es permitir el discurso de odio contra los niños negros, porque denuncia al subconjunto de "niños" negros, en lugar de a "todos los negros", mientras que "todos los hombres blancos" provocaría un bloqueo, porque los blancos y los hombres no se consideran subconjuntos. ^{[ 120 ]} También se descubrió que Facebook permitía a los compradores de anuncios segmentar a los "odiadores de judíos" como una categoría de usuarios, lo que la compañía dijo que fue un resultado inadvertido de los algoritmos utilizados para evaluar y categorizar los datos. El diseño de la empresa también permitía a los compradores de publicidad impedir que los afroamericanos vieran los anuncios de vivienda. ^{[ 121 ]}

Si bien se utilizan algoritmos para rastrear y bloquear el discurso de odio, se descubrió que algunos tenían 1,5 veces más probabilidades de marcar como discurso de odio la información publicada por usuarios negros y 2,2 veces más probabilidades de marcar la información como discurso de odio si estaba escrita en inglés afroamericano . ^{[ 122 ]}^{[ 123 ]}

Vigilancia

El software de las cámaras de vigilancia puede considerarse inherentemente político porque requiere algoritmos para distinguir comportamientos normales de anormales y para determinar quién pertenece a ciertos lugares en ciertos momentos. ^{[ 18 ]}^{: 572} Se ha demostrado que la capacidad de dichos algoritmos para reconocer rostros en todo el espectro racial está limitada por la diversidad racial de las imágenes en su base de datos de entrenamiento; si la mayoría de las fotos pertenecen a una raza o género, el software es mejor para reconocer a otros miembros de esa raza o género. ^{[ 124 ]} Sin embargo, incluso las auditorías de estos sistemas de reconocimiento de imágenes están cargadas de ética, y algunos académicos han sugerido que el contexto de la tecnología siempre tendrá un impacto desproporcionado en las comunidades cuyas acciones son sobrevigiladas. ^{[ 125 ]} Por ejemplo, un análisis de 2002 del software utilizado para identificar individuos en imágenes de CCTV encontró varios ejemplos de sesgo cuando se ejecutó contra bases de datos criminales. Se evaluó que el software identificaba a los hombres con más frecuencia que a las mujeres, a las personas mayores con más frecuencia que a los jóvenes, e identificaba a los asiáticos, afroamericanos y otras razas con más frecuencia que a los blancos. ^{[ 35 ]}^{: 190} Un estudio de 2018 encontró que el software de reconocimiento facial identificó con mayor precisión a los hombres de piel clara (típicamente europeos), con tasas de precisión ligeramente menores para las mujeres de piel clara. Los hombres y mujeres de piel oscura tuvieron una probabilidad significativamente menor de ser identificados con precisión por el software de reconocimiento facial. Estas disparidades se atribuyen a la subrepresentación de participantes de piel más oscura en los conjuntos de datos utilizados para desarrollar este software. ^{[ 126 ]}^{[ 127 ]}

Discriminación contra la comunidad LGBTQ

En 2011, usuarios de la aplicación de citas para homosexuales Grindr informaron que el algoritmo de recomendación de la tienda de Android estaba vinculando Grindr con aplicaciones diseñadas para encontrar delincuentes sexuales, lo que, según los críticos, relacionaba erróneamente la homosexualidad con la pedofilia . El escritor Mike Ananny criticó esta asociación en The Atlantic , argumentando que tales asociaciones estigmatizaban aún más a los hombres homosexuales . ^{[ 128 ]} En 2009, el minorista en línea Amazon eliminó 57.000 libros de su catálogo después de que un cambio algorítmico ampliara su lista negra de "contenido para adultos" para incluir cualquier libro que tratara temas de sexualidad o homosexuales, como la aclamada novela Brokeback Mountain . ^{[ 129 ]}^{[ 22 ]}^{: 5}^{[ 130 ]}

En 2019, se descubrió que en Facebook, las búsquedas de "fotos de mis amigas" arrojaban sugerencias como "en bikini" o "en la playa". Por el contrario, las búsquedas de "fotos de mis amigos" no arrojaban resultados. ^{[ 131 ]}

Se ha observado que la tecnología de reconocimiento facial causa problemas a las personas transgénero. En 2018, se reportaron casos de conductores de Uber transgénero o en transición que experimentaban dificultades con el software de reconocimiento facial que Uber implementa como medida de seguridad integrada. Como resultado, algunas cuentas de conductores de Uber transgénero fueron suspendidas, lo que les hizo perder ingresos y potencialmente su trabajo, todo debido a que el software de reconocimiento facial tenía dificultades para reconocer el rostro de un conductor transgénero en transición. ^{[ 132 ]} Si bien la solución a este problema parecería ser incluir a personas transgénero en los conjuntos de entrenamiento para modelos de aprendizaje automático, en un caso de videos de YouTube de personas transgénero que se recopilaron para ser utilizados en datos de entrenamiento, no se obtuvo el consentimiento de las personas transgénero incluidas en los videos, lo que generó un problema de violación de la privacidad. ^{[ 133 ]}

También se realizó un estudio en la Universidad de Stanford en 2017 que probó algoritmos en un sistema de aprendizaje automático capaz de detectar la orientación sexual de una persona a partir de sus imágenes faciales. ^{[ 134 ]} El modelo del estudio predijo correctamente la distinción entre hombres homosexuales y heterosexuales en el 81% de los casos, y entre mujeres homosexuales y heterosexuales en el 74% de los casos. Este estudio generó una fuerte reacción en contra de la comunidad LGBTQIA+, que temía las posibles repercusiones negativas que este sistema de IA podría tener en las personas de dicha comunidad, al exponerlas al riesgo de ser expuestas públicamente en contra de su voluntad. ^{[ 135 ]}

discriminación por discapacidad

Si bien las modalidades de equidad algorítmica se han juzgado en función de diferentes aspectos de sesgo, como el género, la raza y el estatus socioeconómico, la discapacidad a menudo se omite en la lista. ^{[ 136 ]}^{[ 137 ]} La marginación que actualmente enfrentan las personas con discapacidad en la sociedad se está traduciendo en sistemas y algoritmos de IA, creando aún más exclusión. ^{[ 138 ]}^{[ 139 ]}

La naturaleza cambiante de las discapacidades y su caracterización subjetiva dificultan su abordaje computacional. La falta de profundidad histórica en la definición de las discapacidades, la recopilación de su incidencia y prevalencia en cuestionarios, y el establecimiento de su reconocimiento aumentan la controversia y la ambigüedad en su cuantificación y cálculos. La definición de discapacidad ha sido objeto de un largo debate, pasando recientemente de un modelo médico a un modelo social , que establece que la discapacidad es el resultado de la falta de coincidencia entre las interacciones de las personas y las barreras en su entorno, en lugar de deficiencias y condiciones de salud. Las discapacidades también pueden ser situacionales o temporales, ^{[ 140 ]} consideradas en un estado de flujo constante. Las discapacidades son increíblemente diversas, ^{[ 141 ]} abarcan un amplio espectro y pueden ser únicas para cada individuo. La identidad de las personas puede variar según los tipos específicos de discapacidad que experimentan, cómo utilizan las tecnologías de asistencia y a quién apoyan. El alto nivel de variabilidad en las experiencias de las personas personaliza enormemente la forma en que se manifiesta una discapacidad. Las identidades superpuestas y las experiencias interseccionales ^{[ 142 ]} se excluyen de las estadísticas y los conjuntos de datos, ^{[ 143 ]} por lo que están subrepresentadas y no existen en los datos de entrenamiento. ^{[ 144 ]} Por lo tanto, los modelos de aprendizaje automático se entrenan de manera inequitativa y los sistemas de inteligencia artificial perpetúan un mayor sesgo algorítmico. ^{[ 145 ]} Por ejemplo, si las personas con discapacidades del habla no se incluyen en el entrenamiento de las funciones de control por voz y los asistentes de IA inteligentes, no pueden usar la función o las respuestas recibidas de un Google Home o Alexa son extremadamente deficientes.

Dados los estereotipos y estigmas que aún existen en torno a las discapacidades, la naturaleza delicada de revelar estas características identificativas también plantea enormes desafíos para la privacidad. Dado que revelar información sobre la discapacidad puede ser tabú y fomentar una mayor discriminación contra esta población, existe una falta de datos explícitos sobre discapacidad disponibles para que los sistemas algorítmicos interactúen con ellos. Las personas con discapacidad se enfrentan a daños y riesgos adicionales con respecto a su apoyo social, el costo del seguro médico, la discriminación laboral y otras necesidades básicas al revelar su condición de discapacidad. Los algoritmos están exacerbando aún más esta brecha al recrear los sesgos que ya existen en los sistemas y estructuras sociales. ^{[ 146 ]}^{[ 147 ]}

Búsqueda de Google

Si bien los usuarios generan resultados que se "completan" automáticamente, Google no ha logrado eliminar el texto de autocompletado sexista y racista. Por ejemplo, en Algorithms of Oppression: How Search Engines Reinforce Racism, Safiya Noble menciona un ejemplo de la búsqueda de "chicas negras", que, según se informó, arrojaba imágenes pornográficas. Google afirmó que no podía borrar esas páginas a menos que se consideraran ilegales. ^{[ 148 ]}

Obstáculos para la investigación

Varios problemas dificultan el estudio del sesgo algorítmico a gran escala, obstaculizando la aplicación de estudios académicamente rigurosos y la comprensión pública. ^{[ 17 ]}^{: 5}^{[ 149 ]}^{[ 150 ]}

Definiendo la equidad

La literatura sobre el sesgo algorítmico se ha centrado en la solución de la equidad, pero las definiciones de equidad suelen ser incompatibles entre sí y con las realidades de la optimización del aprendizaje automático. ^{[ 151 ]}^{[ 152 ]} Por ejemplo, definir la equidad como una "igualdad de resultados" puede referirse simplemente a un sistema que produce el mismo resultado para todas las personas, mientras que la equidad definida como "igualdad de trato" podría considerar explícitamente las diferencias entre individuos. ^{[ 153 ]}^{: 2} Como resultado, a veces se describe la equidad como un concepto en conflicto con la precisión de un modelo, lo que sugiere tensiones inherentes entre las prioridades del bienestar social y las prioridades de los proveedores que diseñan estos sistemas. ^{[ 154 ]}^{: 2} En respuesta a esta tensión, los investigadores han sugerido un mayor cuidado en el diseño y uso de sistemas que se basan en algoritmos potencialmente sesgados, con la "equidad" definida para aplicaciones y contextos específicos. ^{[ 155 ]}

Complejidad

Los procesos algorítmicos son complejos , a menudo más allá de la comprensión de las personas que los utilizan. ^{[ 17 ]}^{: 2}^{[ 156 ]}^{: 7} Las operaciones a gran escala pueden no ser comprendidas incluso por aquellos involucrados en su creación. ^{[ 157 ]} Los métodos y procesos de los programas contemporáneos a menudo se oscurecen por la incapacidad de conocer cada permutación de la entrada o salida de un código. ^{[ 35 ]}^{: 183} El científico social Bruno Latour ha identificado este proceso como caja negra , un proceso en el que "el trabajo científico y técnico se vuelve invisible por su propio éxito. Cuando una máquina funciona eficientemente, cuando un hecho está resuelto, uno necesita centrarse solo en sus entradas y salidas y no en su complejidad interna. Así, paradójicamente, cuanto más éxito tienen la ciencia y la tecnología, más opacas y oscuras se vuelven". ^{[ 158 ]} Otros han criticado la metáfora de la caja negra, sugiriendo que los algoritmos actuales no son una sola caja negra, sino una red de cajas interconectadas. ^{[ 159 ]}^{: 92}

Un ejemplo de esta complejidad se puede encontrar en la variedad de entradas para personalizar la retroalimentación. El sitio de redes sociales Facebook consideró al menos 100 000 puntos de datos para determinar el diseño del feed de redes sociales de un usuario en 2013. ^{[ 160 ]} Además, grandes equipos de programadores pueden operar de forma relativamente aislada entre sí y desconocer los efectos acumulativos de pequeñas decisiones dentro de algoritmos complejos y conectados. ^{[ 33 ]}^{: 118} No todo el código es original y puede tomarse prestado de otras bibliotecas, lo que crea un conjunto complejo de relaciones entre los sistemas de procesamiento y entrada de datos. ^{[ 10 ]}^{: 22}

La complejidad adicional surge del aprendizaje automático y la personalización de algoritmos basada en las interacciones del usuario, como clics, tiempo de permanencia en el sitio y otras métricas. Estos ajustes personales pueden dificultar la comprensión general de los algoritmos. ^{[ 161 ]}^{: 367}^{[ 156 ]}^{: 7} Un servicio de radio en streaming no identificado informó que utilizaba cinco algoritmos únicos de selección musical, elegidos para sus usuarios en función de su comportamiento. Esto crea experiencias diferentes de los mismos servicios de streaming entre distintos usuarios, lo que dificulta la comprensión del funcionamiento de estos algoritmos. ^{[ 17 ]}^{: 5} Las empresas también realizan pruebas A/B frecuentes para ajustar los algoritmos en función de la respuesta del usuario. Por ejemplo, el motor de búsqueda Bing puede ejecutar hasta diez millones de variaciones sutiles de su servicio al día, creando experiencias diferentes del servicio para cada uso y/o usuario. ^{[ 17 ]}^{: 5}

Falta de transparencia

Los algoritmos comerciales son de propiedad exclusiva y pueden ser tratados como secretos comerciales . ^{[ 17 ]}^{: 2}^{[ 156 ]}^{: 7}^{[ 35 ]}^{: 183} Tratar los algoritmos como secretos comerciales protege a las empresas, como los motores de búsqueda , donde un algoritmo transparente podría revelar tácticas para manipular las clasificaciones de búsqueda. ^{[ 161 ]}^{: 366} Esto dificulta que los investigadores realicen entrevistas o análisis para descubrir cómo funcionan los algoritmos. ^{[ 10 ]}^{: 20} Los críticos sugieren que tal secretismo también puede ocultar posibles métodos poco éticos utilizados en la producción o el procesamiento de la salida algorítmica. ^{[ 161 ]}^{: 369} Otros críticos, como la abogada y activista Katarzyna Szymielewicz, han sugerido que la falta de transparencia a menudo se disfraza como resultado de la complejidad algorítmica, protegiendo a las empresas de divulgar o investigar sus propios procesos algorítmicos. ^{[ 162 ]}

Falta de datos sobre categorías sensibles

Una barrera importante para comprender cómo abordar el sesgo en la práctica es que las categorías, como la demografía de las personas protegidas por la ley antidiscriminación , a menudo no se consideran explícitamente al recopilar y procesar datos. ^{[ 163 ]} En algunos casos, hay pocas oportunidades para recopilar estos datos explícitamente, como en la huella digital de dispositivos , la computación ubicua y el Internet de las cosas . En otros casos, el responsable del tratamiento de datos puede no desear recopilar dichos datos por razones de reputación, o porque representa un mayor riesgo de responsabilidad y seguridad. También puede darse el caso de que, al menos en relación con el Reglamento General de Protección de Datos de la Unión Europea , dichos datos se encuentren dentro de las disposiciones de la "categoría especial" (Artículo 9) y, por lo tanto, conllevan más restricciones en cuanto a su posible recopilación y procesamiento.

Algunos profesionales han intentado estimar e imputar estas categorizaciones sensibles faltantes para permitir la mitigación del sesgo, por ejemplo, construyendo sistemas para inferir la etnia a partir de nombres, ^{[ 164 ]} sin embargo, esto puede introducir otras formas de sesgo si no se realiza con cuidado. ^{[ 165 ]} Los investigadores de aprendizaje automático han recurrido a tecnologías criptográficas que mejoran la privacidad, como la computación multipartita segura, para proponer métodos mediante los cuales el sesgo algorítmico puede evaluarse o mitigarse sin que estos datos estén disponibles para los modeladores en texto plano . ^{[ 166 ]}

El sesgo algorítmico no solo incluye categorías protegidas, sino que también puede afectar características menos fácilmente observables o codificables, como las opiniones políticas. En estos casos, rara vez existe una verdad fundamental fácilmente accesible o no controvertida , y eliminar el sesgo de dicho sistema es más difícil. ^{[ 167 ]} Además, pueden surgir correlaciones falsas y accidentales por falta de comprensión de las categorías protegidas, por ejemplo, tarifas de seguros basadas en datos históricos de accidentes automovilísticos que pueden superponerse, estrictamente por coincidencia, con agrupaciones residenciales de minorías étnicas. ^{[ 168 ]}

Soluciones

Un estudio de 84 directrices políticas sobre IA ética reveló que la equidad y la "mitigación de sesgos no deseados" eran un punto de preocupación común, y se abordaron mediante una combinación de soluciones técnicas, transparencia y monitoreo, derecho a rectificación y mayor supervisión, y esfuerzos de diversidad e inclusión. ^{[ 169 ]}

Técnico

Se han realizado varios intentos de crear métodos y herramientas que puedan detectar y observar sesgos dentro de un algoritmo. Estos campos emergentes se centran en herramientas que se aplican típicamente a los datos (de entrenamiento) utilizados por el programa en lugar de a los procesos internos del algoritmo. Estos métodos también pueden analizar la salida de un programa y su utilidad y, por lo tanto, pueden implicar el análisis de su matriz de confusión (o tabla de confusión). ^{[ 170 ]}^{[ 171 ]}^{[ 172 ]}^{[ 173 ]}^{[ 174 ]}^{[ 175 ]}^{[ 176 ]}^{[ 177 ]}^{[ 178 ]} La IA explicable para detectar el sesgo del algoritmo es una forma sugerida de detectar la existencia de sesgo en un algoritmo o modelo de aprendizaje. ^{[ 179 ]} Usar el aprendizaje automático para detectar el sesgo se llama "realizar una auditoría de IA", donde el "auditor" es un algoritmo que pasa por el modelo de IA y los datos de entrenamiento para identificar sesgos. ^{[ 180 ]} Asegurar que una herramienta de IA, como un clasificador, esté libre de sesgos es más difícil que simplemente eliminar la información sensible de sus señales de entrada, ya que esta suele estar implícita en otras señales. Por ejemplo, los pasatiempos, deportes y escuelas a las que asistió un candidato a un puesto de trabajo podrían revelar su género al software, incluso cuando este se elimina del análisis. Las soluciones a este problema implican asegurar que el agente inteligente no tenga ninguna información que pueda usarse para reconstruir la información protegida y sensible sobre el sujeto, como se demostró por primera vez en ^{[ 181 ]} donde una red de aprendizaje profundo se entrenó simultáneamente para aprender una tarea y, al mismo tiempo, era completamente agnóstica con respecto a la característica protegida. Se propuso un método más simple en el contexto de las incrustaciones de palabras, que implica eliminar la información que está correlacionada con la característica protegida. ^{[ 182 ]}

Actualmente , se está elaborando un nuevo estándar IEEE que busca especificar metodologías que ayuden a los creadores de algoritmos a eliminar problemas de sesgo y a articular transparencia (es decir, ante las autoridades o los usuarios finales ) sobre la función y los posibles efectos de sus algoritmos. El proyecto fue aprobado en febrero de 2017 y está patrocinado por el Comité de Estándares de Ingeniería de Software y Sistemas, ^[¹⁸³^] un comité autorizado por la Sociedad de Computación IEEE . Se espera que un borrador del estándar se presente para votación en junio de 2019. ^[¹⁸⁴^]^[¹⁸⁵^] El estándar se publicó en enero de 2025. ^[¹⁸⁶^]

En 2022, el IEEE publicó un estándar destinado a especificar metodologías para ayudar a los creadores de algoritmos a abordar los problemas de sesgo y promover la transparencia con respecto a la función y los posibles efectos de sus algoritmos. El proyecto, aprobado inicialmente en febrero de 2017, fue patrocinado por el Comité de Estándares de Ingeniería de Software y Sistemas, ^{[ 187 ]} un comité de la Sociedad de Computación del IEEE . El estándar proporciona directrices para articular la transparencia ante las autoridades o los usuarios finales y mitigar los sesgos algorítmicos. ^{[ 184 ]}^{[ 185 ]}^{[ 188 ]}

Transparencia y seguimiento

Las directrices éticas sobre IA señalan la necesidad de rendición de cuentas, recomendando que se tomen medidas para mejorar la interpretabilidad de los resultados. ^{[ 189 ]} Estas soluciones incluyen la consideración del "derecho a la comprensión" en los algoritmos de aprendizaje automático y la resistencia a la implementación del aprendizaje automático en situaciones donde las decisiones no puedan explicarse o revisarse. ^{[ 190 ]} Con este fin, ya está en marcha un movimiento a favor de la " IA explicable " dentro de organizaciones como DARPA , por razones que van más allá de la corrección del sesgo. ^{[ 191 ]} Price Waterhouse Coopers , por ejemplo, también sugiere que monitorear la salida significa diseñar sistemas de tal manera que se garantice que los componentes individuales del sistema puedan aislarse y desactivarse si distorsionan los resultados. ^{[ 192 ]}

Un enfoque inicial hacia la transparencia incluyó la publicación de algoritmos como código abierto . ^{[ 193 ]} El código del software puede examinarse y se pueden proponer mejoras a través de plataformas de alojamiento de código fuente . Sin embargo, este enfoque no necesariamente produce los efectos deseados. Las empresas y organizaciones pueden compartir toda la documentación y el código posible, pero esto no establece transparencia si la audiencia no comprende la información proporcionada. Por lo tanto, vale la pena explorar el papel de una audiencia crítica interesada en relación con la transparencia. Los algoritmos no pueden rendir cuentas sin una audiencia crítica. ^{[ 194 ]}

Marcos de documentación y rendición de cuentas

Se han propuesto varios enfoques de documentación para mejorar la transparencia y apoyar la evaluación de sesgos en sistemas algorítmicos. Un método ampliamente citado es el uso de tarjetas de modelo , que proporcionan resúmenes estandarizados de los usos previstos de un sistema de IA, métricas de rendimiento, conjuntos de datos de evaluación y limitaciones conocidas. ^{[ 195 ]} Los esfuerzos relacionados incluyen hojas de datos para conjuntos de datos , que describen la procedencia, composición, métodos de recopilación y usos recomendados de los datos de entrenamiento. ^{[ 196 ]} Estos marcos de documentación tienen como objetivo aclarar los supuestos y los posibles sesgos inherentes a los datos de entrenamiento y los sistemas de aprendizaje automático, ayudando a los profesionales, auditores y grupos afectados a interpretar mejor el comportamiento del sistema.

Además de las prácticas de documentación, los investigadores y los responsables políticos han fomentado el uso de mecanismos de gobernanza estructurados, como las evaluaciones de impacto algorítmico , los procedimientos de evaluación basados en el riesgo y el monitoreo posterior a la implementación . Estos procesos buscan identificar posibles impactos dispares antes de la implementación y garantizar que los sistemas de IA sigan siendo evaluados para asegurar su equidad durante su funcionamiento en el mundo real. Las iniciativas del sector público, como la Directiva canadiense sobre la toma de decisiones automatizada, exigen evaluaciones de impacto, medidas de explicabilidad y auditorías periódicas para ciertos sistemas automatizados de alto riesgo. ^{[ 197 ]} En conjunto, estos enfoques de gobernanza complementan las estrategias de mitigación técnica al incorporar la rendición de cuentas y la transparencia a lo largo del ciclo de vida del desarrollo e implementación de la IA.

Derecho a remediar

Desde una perspectiva regulatoria, la Declaración de Toronto aboga por la aplicación de un marco de derechos humanos a los daños causados por el sesgo algorítmico. ^{[ 198 ]} Esto incluye legislar las expectativas de debida diligencia por parte de los diseñadores de estos algoritmos y establecer la rendición de cuentas cuando los actores privados no protegen el interés público, teniendo en cuenta que tales derechos pueden verse oscurecidos por la complejidad de determinar la responsabilidad dentro de una red de procesos complejos e interrelacionados. ^{[ 199 ]} Otros proponen la necesidad de mecanismos claros de seguro de responsabilidad civil. ^{[ 200 ]}

Diversidad e inclusión

En medio de la preocupación de que el diseño de sistemas de IA sea principalmente dominio de ingenieros blancos y varones, ^{[ 201 ]} varios académicos han sugerido que el sesgo algorítmico puede minimizarse ampliando la inclusión en las filas de quienes diseñan sistemas de IA. ^{[ 190 ]}^{[ 169 ]} Por ejemplo, solo el 12% de los ingenieros de aprendizaje automático son mujeres, ^{[ 202 ]} y los líderes negros de IA señalan una "crisis de diversidad" en el campo. ^{[ 203 ]} Grupos como Black in AI y Queer in AI están tratando de crear espacios más inclusivos en la comunidad de IA y trabajar contra los deseos a menudo dañinos de las corporaciones que controlan la trayectoria de la investigación de IA. ^{[ 204 ]} Las críticas a los esfuerzos de inclusión simples sugieren que los programas de diversidad no pueden abordar formas superpuestas de desigualdad, y han pedido aplicar una lente de interseccionalidad más deliberada al diseño de algoritmos. ^{[ 205 ]}^{[ 206 ]}^{: 4} Investigadores de la Universidad de Cambridge han argumentado que abordar la diversidad racial se ve obstaculizado por la "blancura" de la cultura de la IA. ^{[ 207 ]}

Interdisciplinariedad y colaboración

La integración de la interdisciplinariedad y la colaboración en el desarrollo de sistemas de IA puede desempeñar un papel fundamental para abordar el sesgo algorítmico. La integración de conocimientos, experiencia y perspectivas de disciplinas ajenas a la informática puede fomentar una mejor comprensión del impacto que las soluciones basadas en datos tienen en la sociedad. Un ejemplo de esto en la investigación de IA es PACT o Enfoque Participativo para Habilitar Capacidades en las Comunidades, un marco propuesto para facilitar la colaboración en el desarrollo de soluciones de IA con impacto social. ^{[ 208 ]} Este marco identifica principios rectores para la participación de las partes interesadas al trabajar en proyectos de IA para el Bien Social (IA4SG). PACT intenta reafirmar la importancia de los esfuerzos de descolonización y redistribución del poder en el diseño de soluciones de IA centradas en el ser humano. Una iniciativa académica en este sentido es el Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford, que tiene como objetivo fomentar la colaboración multidisciplinaria. La misión del instituto es impulsar la investigación, la educación, las políticas y la práctica de la inteligencia artificial (IA) para mejorar la condición humana. ^{[ 209 ]}

La colaboración con expertos externos y diversas partes interesadas facilita el desarrollo ético, inclusivo y responsable de sistemas inteligentes. Incorpora consideraciones éticas, comprende el contexto social y cultural, promueve el diseño centrado en el ser humano, aprovecha la experiencia técnica y aborda las consideraciones políticas y legales. ^{[ 210 ]} La colaboración interdisciplinaria es esencial para mitigar eficazmente los sesgos en los sistemas de IA y garantizar que las tecnologías de IA sean justas, transparentes y responsables.

Regulación

Europa

El Reglamento General de Protección de Datos (RGPD), el régimen revisado de protección de datos de la Unión Europea que entró en vigor en 2018, aborda la "Toma de decisiones individuales automatizadas, incluida la elaboración de perfiles " en su artículo 22. Estas normas prohíben las decisiones "exclusivamente" automatizadas que tengan un efecto "significativo" o "jurídico" sobre una persona, a menos que estén expresamente autorizadas por consentimiento, contrato o legislación del Estado miembro . Cuando se permiten, deben existir garantías, como el derecho a la intervención humana y el derecho no vinculante a la explicación de las decisiones adoptadas. Si bien estas normas se consideran generalmente nuevas, existen disposiciones casi idénticas en toda Europa desde 1995, en el artículo 15 de la Directiva de Protección de Datos . Las normas y garantías originales sobre decisiones automatizadas se encuentran en la legislación francesa desde finales de la década de 1970. ^{[ 211 ]}

El RGPD aborda el sesgo algorítmico en los sistemas de elaboración de perfiles, así como los enfoques estadísticos posibles para corregirlo, directamente en el considerando 71, ^{[ 212 ]} señalando que

El responsable del tratamiento deberá utilizar procedimientos matemáticos o estadísticos apropiados para la elaboración de perfiles, implementar medidas técnicas y organizativas adecuadas ... que impidan, entre otras cosas, efectos discriminatorios sobre las personas físicas por motivos de origen racial o étnico, opinión política, religión o creencias, afiliación sindical, estado genético o de salud u orientación sexual, o que den lugar a medidas que tengan tal efecto.

Al igual que el derecho no vinculante a una explicación en el considerando 71, el problema radica en la naturaleza no vinculante de los considerandos . ^{[ 213 ]} Si bien el Grupo de Trabajo del Artículo 29 , que asesoró sobre la implementación de la ley de protección de datos, lo ha tratado como un requisito , ^{[ 212 ]} sus dimensiones prácticas no están claras. Se ha argumentado que las Evaluaciones de Impacto en la Protección de Datos para la elaboración de perfiles de datos de alto riesgo (junto con otras medidas preventivas dentro de la protección de datos) pueden ser una mejor manera de abordar los problemas de discriminación algorítmica, ya que restringe las acciones de quienes implementan algoritmos, en lugar de exigir a los consumidores que presenten quejas o soliciten cambios. ^{[ 214 ]}

Estados Unidos

Estados Unidos no cuenta con una legislación general que controle el sesgo algorítmico, abordando el problema mediante diversas leyes estatales y federales que pueden variar según la industria, el sector y la forma en que se utilice un algoritmo. ^{[ 215 ]} Muchas políticas se aplican de forma autónoma o están controladas por la Comisión Federal de Comercio . ^{[ 215 ]} En 2016, la administración Obama publicó el Plan Estratégico Nacional de Investigación y Desarrollo de Inteligencia Artificial , ^{[ 216 ]} cuyo objetivo era orientar a los responsables políticos hacia una evaluación crítica de los algoritmos. Recomendaba a los investigadores «diseñar estos sistemas de manera que sus acciones y toma de decisiones sean transparentes y fácilmente interpretables por los humanos, y así puedan examinarse para detectar cualquier sesgo que puedan contener, en lugar de simplemente aprender y repetir estos sesgos». El informe, concebido únicamente como una guía, no sentó ningún precedente legal. ^{[ 217 ]}^{: 26}

En 2017, la ciudad de Nueva York aprobó el primer proyecto de ley de rendición de cuentas algorítmicas en los Estados Unidos. ^{[ 218 ]} El proyecto de ley, que entró en vigor el 1 de enero de 2018, requería "la creación de un grupo de trabajo que proporcione recomendaciones sobre cómo se puede compartir con el público la información sobre los sistemas de decisión automatizados de las agencias y cómo las agencias pueden abordar los casos en los que las personas resultan perjudicadas por los sistemas de decisión automatizados de las agencias". ^{[ 219 ]} En 2023, la ciudad de Nueva York implementó una ley que exige a los empleadores que utilizan herramientas de contratación automatizadas que realicen "auditorías de sesgo" independientes y publiquen los resultados. Esta ley marcó una de las primeras medidas de transparencia legalmente obligatorias para los sistemas de IA utilizados en las decisiones de empleo en los Estados Unidos. ^{[ 220 ]} El grupo de trabajo debe presentar hallazgos y recomendaciones para una acción regulatoria adicional en 2019. ^{[ 221 ]} El 11 de febrero de 2019, según la Orden Ejecutiva 13859 , el gobierno federal presentó la "Iniciativa Estadounidense de IA", una estrategia integral para mantener el liderazgo de los Estados Unidos en inteligencia artificial. La iniciativa resalta la importancia de la investigación y el desarrollo sostenidos de la IA, los estándares éticos, la capacitación de la fuerza laboral y la protección de las tecnologías críticas de IA. ^{[ 222 ]} Esto se alinea con esfuerzos más amplios para garantizar la transparencia, la rendición de cuentas y la innovación en los sistemas de IA en los sectores público y privado. Además, el 30 de octubre de 2023, el presidente firmó la Orden Ejecutiva 14110 , que enfatiza el desarrollo y uso seguros, confiables y responsables de la inteligencia artificial (IA). La orden describe un enfoque coordinado a nivel gubernamental para aprovechar el potencial de la IA y mitigar sus riesgos, incluidos el fraude, la discriminación y las amenazas a la seguridad nacional. Un punto importante del compromiso es promover la innovación responsable y la colaboración entre sectores para garantizar que la IA beneficie a la sociedad en su conjunto. ^{[ 223 ]} Con esta orden, el presidente Joe Biden ordenó al gobierno federal crear mejores prácticas para que las empresas optimicen los beneficios de la IA y minimicen sus daños. ^{[ 224 ]}

India

El 31 de julio de 2018 se presentó un borrador del Proyecto de Ley de Datos Personales. ^{[ 225 ]} El borrador propone estándares para el almacenamiento, procesamiento y transmisión de datos. Si bien no utiliza el término algoritmo, contempla disposiciones para "daños resultantes de cualquier procesamiento o cualquier tipo de procesamiento realizado por el responsable del tratamiento". Define "cualquier denegación o retirada de un servicio, beneficio o bien resultante de una decisión evaluativa sobre el titular de los datos" o "cualquier trato discriminatorio" como fuente de daño que podría surgir del uso indebido de los datos. También establece disposiciones especiales para personas con "condición intersexual". ^{[ 226 ]}

Véase también

Referencias

↑ Jacobi, Jennifer (13 de septiembre de 2001). "Patente n.° US2001021914" . Espacenet . Consultado el 4 de julio de 2018 .
↑ Hardebolle, Cécile; Héder, Mihály; Ramachandran, Vivek (25 de noviembre de 2024), «Educación en ética de la ingeniería e inteligencia artificial», The Routledge International Handbook of Engineering Ethics Education (1.ª ed.), Londres: Routledge, págs. 125–142 , doi : 10.4324/9781003464259-9 , ISBN 978-1-003-46425-9
↑ Van Eyghen, Hans (2025). "Algoritmos de IA como conocedores (no)virtuosos" . Discover Artificial Intelligence . 5 (2) 2. doi : 10.1007/s44163-024-00219-z .
↑ Marabelli, Marco (2024). IA, ética y discriminación en los negocios . Palgrave Studies in Equity, Diversity, Inclusion, and Indigenization in Business. Springer. doi : 10.1007/978-3-031-53919-0 . ISBN 978-3-031-53918-3.
↑ Suresh, Harini; Guttag, John (4 de noviembre de 2021). «Un marco para comprender las fuentes de daño a lo largo del ciclo de vida del aprendizaje automático» . Equidad y acceso en algoritmos, mecanismos y optimización . EAAMO '21. Nueva York, NY, EE. UU.: Association for Computing Machinery. págs. 1-9 . doi : 10.1145/3465416.3483305 . ISBN 978-1-4503-8553-4. S2CID 235436386 .
↑ Krištofík, Andrej (28 de abril de 2025). "Sesgo en la toma de decisiones (apoyada) por IA: viejos problemas, nuevas tecnologías" . Revista Internacional de Administración Judicial . 16 (1) 3. doi : 10.36745/ijca.598 . ISSN 2156-7964 .
↑ Mehrabi, N.; Morstatter, F.; Saxena, N.; Lerman, K.; Galstyan, A. (2021). "Una revisión sobre el sesgo y la equidad en el aprendizaje automático" . ACM Computing Surveys . 54 (6): 1– 35. arXiv : 1908.09635 . doi : 10.1145/3457607 . Recuperado el 30 de abril de 2025 .
↑ Striphas, Ted (febrero de 2012). "¿Qué es un algoritmo? – Culture Digitally" . culturedigitally.org . Consultado el 20 de noviembre de 2017 .
^ Cormen, Thomas H.; Leiserson, Charles E.; Rivest, Ronald L.; Stein, Clifford (2009). Introducción a los algoritmos (3ª ed.). Cambridge, Massachusetts: MIT Press. pag. 5 . ISBN 978-0-262-03384-8.
1 2 3 Kitchin, Rob (25 de febrero de 2016). "Pensar críticamente sobre los algoritmos e investigarlos" (PDF) . Information, Communication & Society . 20 (1): 14– 29. doi : 10.1080/1369118X.2016.1154087 . S2CID 13798875 .
↑ "Cómo funciona la búsqueda de Google" . Consultado el 19 de noviembre de 2017 .
↑ Luckerson, Victor. "Así es como funciona realmente tu sección de noticias de Facebook" . Time . Archivado del original el 14 de abril de 2021. Consultado el 19 de noviembre de 2017 .
↑ Vanderbilt, Tom (7 de agosto de 2013). "La ciencia detrás de los algoritmos de Netflix que deciden qué verás a continuación" . Wired . Consultado el 19 de noviembre de 2017 .
↑ Angwin, Julia ; Mattu, Surya (20 de septiembre de 2016). "Amazon dice que prioriza a los clientes, pero su algoritmo de precios no lo hace — ProPublica" . ProPublica . Consultado el 19 de noviembre de 2017 .
↑ Livingstone, Rob (13 de marzo de 2017). "El futuro de la publicidad en línea son los macrodatos y los algoritmos" . The Conversation . Consultado el 19 de noviembre de 2017 .
↑ Hickman, Leo (1 de julio de 2013). "Cómo los algoritmos gobiernan el mundo" . The Guardian . Consultado el 19 de noviembre de 2017 .
1 2 3 4 5 6 Seaver, Nick. "Conociendo algoritmos" (PDF) . Media in Transition 8, Cambridge, MA, abril de 2013. Archivado del original (PDF) el 1 de diciembre de 2017. Recuperado el 18 de noviembre de 2017 .
1 2 3 Graham, Stephen DN (julio de 2016). "Geografías clasificadas por software" (PDF) . Progress in Human Geography (manuscrito enviado). 29 (5): 562– 580. doi : 10.1191/0309132505ph568oa . S2CID 19119278 .
1 2 3 Tewell, Eamon (4 de abril de 2016). "Hacia la lectura resistente de la información: Google, la observación resistente y la alfabetización informacional crítica" . Portal: Libraries and the Academy . 16 (2): 289–310 . doi : 10.1353/pla.2016.0017 . ISSN 1530-7131 . S2CID 55749077. Recuperado el 19 de noviembre de 2017 .
↑ Crawford, Kate (1 de abril de 2013). "Los sesgos ocultos en los macrodatos" . Harvard Business Review .
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 Friedman, Batya ; Nissenbaum, Helen (julio de 1996). "Sesgo en los sistemas informáticos" (PDF) . ACM Transactions on Information Systems . 14 ( 3 ): 330–347 . doi : 10.1145/230538.230561 . S2CID 207195759. Recuperado el 10 de marzo de 2019 .
^ Gillespie , Tarleton ; Boczkowski, Pablo; Pie, Kristin (2014). Tecnologías de los medios . Cambridge: Prensa del MIT. págs. 1 a 30. ISBN 978-0-262-52537-4.
1 2 Diakopoulos, Nicholas. "Rendición de cuentas algorítmica: Sobre la investigación de las cajas negras |" . towcenter.org . Consultado el 19 de noviembre de 2017 .
↑ Lipartito, Kenneth (6 de enero de 2011). La narrativa y el algoritmo: géneros de informes crediticios desde el siglo XIX hasta la actualidad (PDF) (manuscrito enviado). doi : 10.2139/SSRN.1736283 . S2CID 166742927. SSRN 1736283 .
1 2 Goodman, Bryce; Flaxman, Seth (2017). "Regulaciones de la UE sobre la toma de decisiones algorítmicas y un "derecho a la explicación"". Revista AI . 38 (3): 50. arXiv : 1606.08813 . doi : 10.1609/aimag.v38i3.2741 . S2CID 7373959 .
1 2 3 4 5 6 7 Weizenbaum, Joseph (1976). El poder de la computadora y la razón humana: del juicio al cálculo . San Francisco: WH Freeman. ISBN 978-0-7167-0464-5.
1 2 Goffrey, Andrew (2008). «Algoritmo». En Fuller, Matthew (ed.). Estudios de software: un léxico . Cambridge, Mass.: MIT Press. pp. 15-20 . ISBN 978-1-4356-4787-9.
↑ Lowry, Stella; Macpherson, Gordon (5 de marzo de 1988). " Una mancha en la profesión&blobtype=pdf" . British Medical Journal . 296 (6623): 657–8 . doi : 10.1136/bmj.296.6623.657 . PMC 2545288. PMID 3128356 .
↑ "Alineación perpetua" . www.law.georgetown.edu . Consultado el 12 de diciembre de 2024 .
↑ Buolamwini, Joy. "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" . MIT Media Lab . Consultado el 12 de diciembre de 2024 .
↑ Barocas, Solon (19 de diciembre de 2023). Equidad y aprendizaje automático: limitaciones y oportunidades . The MIT Press. ISBN 978-0-262-04861-3.
↑ Miller, Alex P. (26 de julio de 2018). "¿Quieres decisiones menos sesgadas? Usa algoritmos" . Harvard Business Review . Recuperado el 31 de julio de 2018 .
1 2 3 Introna, Lucas D. (2 de diciembre de 2011). "El encuadre del código". Theory, Culture & Society . 28 (6): 113– 141. doi : 10.1177/0263276411418131 . S2CID 145190381 .
↑ Bogost, Ian (15 de enero de 2015). "La catedral de la computación" . The Atlantic . Consultado el 19 de noviembre de 2017 .
1 2 3 4 5 6 7 Introna, Lucas; Wood, David ( 2004). "Representando la vigilancia algorítmica: la política de los sistemas de reconocimiento facial" . Surveillance & Society . 2 : 177–198 . Recuperado el 19 de noviembre de 2017 .
1 2 3 4 Introna, Lucas D. (21 de diciembre de 2006). "Manteniendo la reversibilidad de los pliegues: Haciendo visible la ética (política) de la tecnología de la información". Ética y tecnología de la información . 9 (1): 11– 25. CiteSeerX 10.1.1.154.1313 . doi : 10.1007/s10676-006-9133-z . S2CID 17355392 .
1 2 Shirky, Clay. "Una publicación especulativa sobre la idea de autoridad algorítmica Clay Shirky" . www.shirky.com . Archivado del original el 15 de marzo de 2012. Recuperado el 20 de noviembre de 2017 .
1 2 Ziewitz, Malte (1 de enero de 2016). "Algoritmos de gobierno: mito, caos y métodos" . Ciencia, tecnología y valores humanos . 41 (1): 3– 16. doi : 10.1177/0162243915608948 . ISSN 0162-2439 . S2CID 148023125 .
↑ Lash, Scott (30 de junio de 2016). "El poder después de la hegemonía". Theory, Culture & Society . 24 (3): 55– 78. doi : 10.1177/0263276407075956 . S2CID 145639801 .
↑ Gaudeul, Alexia; Arrigoni, Ottla; Charisi, Vicky ; Escobar-Planas, Marina; Hupont, Isabelle (2024), "Understanding the Impact of Human Oversight on Discriminatory Outcomes in AI-Supported Decision-Making", ECAI 2024 , Frontiers in Artificial Intelligence and Applications, IOS Press, pp. 1067–1074 , doi : 10.3233/faia240598 , ISBN 978-1-64368-548-9
1 2 Garcia, Megan (1 de enero de 2016). "Racismo en la máquina". World Policy Journal . 33 (4): 111– 117. doi : 10.1215/07402775-3813015 . S2CID 151595343 .
↑ "Registro para ACM FAccT 2021" . fatconference.org . Consultado el 14 de noviembre de 2021 .
↑ Ochigame, Rodrigo (20 de diciembre de 2019). "La invención de la "IA ética": cómo las grandes tecnológicas manipulan al mundo académico para evitar la regulación" . The Intercept . Consultado el 11 de febrero de 2020 .
↑ "Marco de gestión de riesgos de inteligencia artificial (AI RMF 1.0)" (PDF) . NIST . Enero de 2023.
↑ Sergot, MJ; Sadri, F; Kowalski, RA; Kriwaczek, F; Hammond, P; Cory, HT (mayo de 1986). "La Ley de Nacionalidad Británica como un Programa Lógico" (PDF) . Communications of the ACM . 29 (5): 370– 386. doi : 10.1145/5689.5920 . S2CID 5665107. Recuperado el 18 de noviembre de 2017 .
1 2 "Para detener el sesgo algorítmico, primero tenemos que definirlo" . Brookings . Consultado el 27 de junio de 2023 .
↑ Evans, Melanie; Mathews, Anna Wilde (24 de octubre de 2019). "Investigadores encuentran sesgo racial en el algoritmo del hospital" . The Wall Street Journal . ISSN 0099-9660 . Consultado el 27 de junio de 2023 .
↑ "Sesgo en el aprendizaje automático: tipos y ejemplos" . SuperAnnotate . Consultado el 25 de febrero de 2026 .
↑ Nazer, Lama H.; Zatarah, Razan; Waldrip, Shai; Ke, Janny Xue Chen; Moukheiber, Mira; Khanna, Ashish K.; Hicklen, Rachel S.; Moukheiber, Lama; Moukheiber, Dana; Ma, Haobo; Mathur, Piyush (22 de junio de 2023). "Sesgo en algoritmos de inteligencia artificial y recomendaciones para su mitigación" . PLOS Digital Health . 2 (6) e0000278. doi : 10.1371/ journal.pdig.0000278 . ISSN 2767-3170 . PMC 10287014. PMID 37347721 .
1 2 3 Luo, Queenie; Puett, Michael J.; Smith, Michael D. (23 de mayo de 2023), Un espejo de perspectiva del elefante: investigación del sesgo lingüístico en Google, ChatGPT, Wikipedia y YouTube , arXiv : 2303.16281
↑ Hofmann, Valentín; Kalluri, Pratyusha Ria; Jurafsky, Dan; King, Sharese (5 de septiembre de 2024). "La IA genera decisiones encubiertamente racistas sobre las personas en función de su dialecto" . Naturaleza . 633 (8028): 147– 154. Bibcode : 2024Natur.633..147H . doi : 10.1038/s41586-024-07856-5 . PMC 11374696 . PMID 39198640 .
↑ Choi, Hyeong Kyu; Xu, Weijie; Xue, Chi; Eckman, Stephanie; Reddy, Chandan K. (27 de septiembre de 2024), Mitigating Selection Bias with Node Pruning and Auxiliary Options , arXiv : 2409.18857
^ Zheng, Chujie; Zhou, Hao; Meng, Fandong; Zhou, Jie; Huang, Minlie (7 de septiembre de 2023), Los modelos de lenguaje grandes no son selectores sólidos de opción múltiple , arXiv : 2309.03882
↑ Busker, Tony; Choenni, Sunil; Shoae Bargh, Mortaza (20 de noviembre de 2023). «Estereotipos en ChatGPT: un estudio empírico» . Actas de la 16.ª Conferencia Internacional sobre Teoría y Práctica de la Gobernanza Electrónica . ICEGOV '23. Nueva York, NY, EE. UU.: Association for Computing Machinery. págs. 24-32 . doi : 10.1145/3614321.3614325 . ISBN 979-8-4007-0742-1.
↑ Kotek, Hadas; Dockum, Rikker; Sun, David (5 de noviembre de 2023). «Sesgo de género y estereotipos en modelos de lenguaje a gran escala» . Actas de la Conferencia de Inteligencia Colectiva de la ACM . CI '23. Nueva York, NY, EE. UU.: Association for Computing Machinery. págs. 12-24 . arXiv : 2308.14921 . doi : 10.1145/3582269.3615599 . ISBN 979-8-4007-0113-9.
1 2 Mohammadi, Ehsan (2025). "Sesgo de género en la IA de Google Cloud Vision" . IA y ética . doi : 10.1007/s43681-025-00742-4 .
↑ Cheng, Myra; Durmus, Esin; Jurafsky, Dan (29 de mayo de 2023), Personas marcadas: Uso de indicaciones en lenguaje natural para medir estereotipos en modelos de lenguaje , arXiv : 2305.18189
↑ Wang, Angelina; Morgenstern, Jamie ; Dickerson, John P. (17 de febrero de 2025). "Los grandes modelos de lenguaje que reemplazan a los participantes humanos pueden tergiversar y aplanar perjudicialmente los grupos de identidad". Nature Machine Intelligence . 7 (3): 400– 411. arXiv : 2402.01908 . doi : 10.1038/s42256-025-00986-z .
↑ Friðriksdóttir, Steinunn Rut; Einarsson, Hafsteinn (2024), "¿Gramática de género o sesgo arraigado? Exploración del sesgo de género en modelos de lengua islandesa" , Lrec-Coling 2024 : 7596– 7610
↑ Feng, Shangbin; Park, Chan Young; Liu, Yuhan; Tsvetkov, Yulia (julio de 2023). Rogers, Anna; Boyd-Graber, Jordan; Okazaki, Naoaki (eds.). "De los datos de preentrenamiento a los modelos de lenguaje y a las tareas posteriores: rastreando los rastros de los sesgos políticos que conducen a modelos de PLN injustos" . Actas de la 61.ª Reunión Anual de la Asociación de Lingüística Computacional (Volumen 1: Artículos largos) . Toronto, Canadá: Asociación de Lingüística Computacional: 11737–11762 . arXiv : 2305.08283 . doi : 10.18653/v1/2023.acl-long.656 .
↑ Lazaro, Gina (17 de mayo de 2024). "Comprender el sesgo de género y racial en la IA" . Harvard Advanced Leadership Initiative Social Impact Review . Recuperado el 11 de diciembre de 2024 .
↑ Jindal, Atin (5 de septiembre de 2022). " Inteligencia artificial mal encaminada: cómo el sesgo racial está incorporado en los modelos clínicos" . Journal of Brown Hospital Medicine . 2 (1) 38021. doi : 10.56305/001c.38021 . PMC 11878858. PMID 40046549 .
↑ "Racismo e IA: "Los prejuicios del pasado generan prejuicios en el futuro"" . Derechos Humanos de las Naciones Unidas . 30 de julio de 2024 . Consultado el 18 de febrero de 2026 .
1 2 "El Leviatán de Datos: El creciente Estado de vigilancia de China" . Human Rights Watch . 16 de agosto de 2019. Consultado el 10 de febrero de 2026 .
↑ "BLOQUEANDO LA LÍNEA DE ENSAMBLAJE DE ARTEFACTOS INVENTABLES: IMPEDIENDO EL FLUJO DE NITRATO DE AMONIO EN EL SUR Y CENTRO DE ASIA" . gpo.gov . 2026. Consultado el 10 de febrero de 2026 .
↑ "Las autoridades exigen a los uigures de Aksu, Xinjiang, que coloquen códigos de barras en sus cuchillos" . Radio Free Asia . 2017. Consultado el 15 de febrero de 2026 .
↑ Hagendorff, Thilo; Bossert, Leonie N.; Tse, Yip Fai; Singer, Peter (1 de agosto de 2023). "Sesgo especista en la IA: cómo las aplicaciones de IA perpetúan la discriminación y los resultados injustos contra los animales". IA y ética . 3 (3): 717– 734. doi : 10.1007/s43681-022-00199-9 . ISSN 2730-5961 .
↑ Gillespie, Tarleton (25 de junio de 2014). "Algoritmo [ borrador ] [ #palabrasclavedigitales ] – Culture Digitally" . culturedigitally.org . Consultado el 20 de noviembre de 2017 .
↑ Roth, AE 1524–1528. (14 de diciembre de 1990). "Nuevos médicos: un experimento natural en la organización del mercado" . Science . 250 ( 4987): 1524–1528 . Bibcode : 1990Sci...250.1524R . doi : 10.1126/science.2274783 . PMID 2274783. S2CID 23259274. Recuperado el 18 de noviembre de 2017 . {{cite journal}}: CS1 maint: nombres numéricos: lista de autores ( enlace )
↑ Kuang, Cliff (21 de noviembre de 2017). "¿Se le puede enseñar a la IA a explicarse a sí misma?" . The New York Times Magazine . Consultado el 26 de noviembre de 2017 .
1 2 Jouvenal, Justin (17 de noviembre de 2016). "La policía está utilizando software para predecir delitos. ¿Es un 'santo grial' o discrimina a las minorías?" . The Washington Post . Recuperado el 25 de noviembre de 2017 .
1 2 Chamma, Maurice (3 de febrero de 2016). "Policing the Future" . The Marshall Project . Recuperado el 25 de noviembre de 2017 .
↑ Lum, Kristian; Isaac, William (octubre de 2016). "¿Predecir y servir?" . Significance . 13 (5): 14– 19. doi : 10.1111/j.1740-9713.2016.00960.x .
↑ Smith, Jack (9 de octubre de 2016). "Un estudio demuestra que la vigilancia predictiva solo amplifica el sesgo racial" . Mic . Consultado el 25 de noviembre de 2017 .
↑ Lum, Kristian; Isaac, William (1 de octubre de 2016). "Preguntas frecuentes sobre vigilancia predictiva y sesgo" . HRDAG . Consultado el 25 de noviembre de 2017 .
↑ Bahl, Utsav; Topaz, Chad; Obermüller, Lea; Goldstein, Sophie; Sneirson, Mira (21 de mayo de 2024). "Algoritmos en manos de los jueces: encarcelamiento e inequidad en el condado de Broward, Florida" . UCLA Law Review . 71 (246).
↑ Sun, Wenlong; Nasraoui, Olfa; Shafto, Patrick (2018). «Sesgo algorítmico iterativo en el proceso interactivo de aprendizaje automático de filtrado de información». Actas de la 10.ª Conferencia Internacional Conjunta sobre Descubrimiento de Conocimiento, Ingeniería del Conocimiento y Gestión del Conocimiento . Sevilla, España: SCITEPRESS - Science and Technology Publications. pp. 110–118 . doi : 10.5220/0006938301100118 . ISBN 978-989-758-330-8.
↑ Sinha, Ayan; Gleich, David F.; Ramani, Karthik (9 de agosto de 2018). "La ley de Gauss para redes revela directamente los límites de la comunidad" . Scientific Reports . 8 (1): 11909. Bibcode : 2018NatSR...811909S . doi : 10.1038 / s41598-018-30401-0 . ISSN 2045-2322 . PMC 6085300. PMID 30093660 .
↑ Hao, Karen (febrero de 2018). "Google finalmente admite que tiene un problema de burbuja de filtro" . Quartz . Consultado el 26 de febrero de 2019 .
↑ "Facebook está probando esta nueva función para combatir las 'burbujas de filtro'"" . Fortune . Consultado el 26 de febrero de 2019 .
1 2 Sandvig, Christian; Hamilton, Kevin; Karahalios, Karrie ; Langbort, Cedric (22 de mayo de 2014). "Auditoría de algoritmos: métodos de investigación para detectar discriminación en plataformas de Internet" (PDF) . 64.ª Reunión Anual de la Asociación Internacional de Comunicación . Recuperado el 18 de noviembre de 2017 .
↑ Brin, Sergey; Page, Lawrence. "La anatomía de un motor de búsqueda" . www7.scu.edu.au. Archivado del original el 2 de julio de 2019. Recuperado el 18 de noviembre de 2017 .
↑ Epstein, Robert; Robertson, Ronald E. (18 de agosto de 2015). "El efecto de manipulación de los motores de búsqueda (SEME) y su posible impacto en los resultados de las elecciones" . Actas de la Academia Nacional de Ciencias . 112 (33): E4512– E4521. Bibcode : 2015PNAS..112E4512E . doi : 10.1073 / pnas.1419828112 . PMC 4547273. PMID 26243876 .
↑ Bond, Robert M.; Fariss, Christopher J.; Jones, Jason J.; Kramer, Adam DI; Marlow, Cameron; Settle, Jaime E.; Fowler, James H. (13 de septiembre de 2012). "Un experimento de 61 millones de personas sobre influencia social y movilización política" . Nature . 489 ( 7415): 295–8 . Bibcode : 2012Natur.489..295B . doi : 10.1038/nature11421 . ISSN 0028-0836 . PMC 3834737. PMID 22972300 .
↑ Zittrain, Jonathan (2014). "Engineering an Election" (PDF) . Harvard Law Review Forum . 127 : 335–341 . Archivado del original (PDF) el 4 de marzo de 2021. Recuperado el 19 de noviembre de 2017 .
↑ Day, Matt (31 de agosto de 2016). "Cómo el motor de búsqueda de LinkedIn puede reflejar un sesgo de género" . The Seattle Times . Consultado el 25 de noviembre de 2017 .
1 2 Crawford, Kate; Schultz, Jason (2014). "Big Data y debido proceso: hacia un marco para reparar los daños predictivos a la privacidad" . Boston College Law Review . 55 (1): 93–128 . Recuperado el 18 de noviembre de 2017 .
↑ Duhigg, Charles (16 de febrero de 2012). "Cómo las empresas descubren tus secretos" . The New York Times Magazine . Consultado el 18 de noviembre de 2017 .
↑ Noble, Safiya (2012). "Conexiones perdidas: lo que dicen los motores de búsqueda sobre las mujeres" (PDF) . Bitch . 12 (4): 37– 41. Archivado del original (PDF) el 23 de abril de 2021. Recuperado el 30 de enero de 2019 .
↑ Guynn, Jessica (16 de marzo de 2017). "Google comienza a marcar contenido ofensivo en los resultados de búsqueda" . USA Today . Consultado el 19 de noviembre de 2017 .
↑ Simonite, Tom. "Un estudio sugiere que el sistema de segmentación de anuncios de Google podría discriminar" . MIT Technology Review . Instituto Tecnológico de Massachusetts . Consultado el 17 de noviembre de 2017 .
↑ Prates, Marcelo OR; Avelar, Pedro HC; Lamb, Luis (2018). "Evaluación del sesgo de género en la traducción automática: un estudio de caso con Google Translate". arXiv : 1809.02208 [ cs.CY ].
↑ Prates, Marcelo OR; Avelar, Pedro H.; Lamb, Luís C. (2019). "Evaluación del sesgo de género en la traducción automática: un estudio de caso con Google Translate". Neural Computing and Applications . 32 (10): 6363– 6381. arXiv : 1809.02208 . doi : 10.1007/s00521-019-04144-6 . S2CID 52179151 .
↑ Claburn, Thomas (10 de septiembre de 2018). "Científicos critican a Google Translate por sexismo" . The Register . Consultado el 28 de abril de 2022 .
↑ Dastin, Jeffrey (9 de octubre de 2018). "Amazon elimina una herramienta secreta de reclutamiento con IA que mostraba sesgo contra las mujeres" . Reuters .
↑ Vincent, James (10 de octubre de 2018). "Según informes, Amazon desecha una herramienta interna de reclutamiento con IA que discriminaba a las mujeres" . The Verge .
↑ "Reflexiones sobre el sistema de recomendaciones de Spotify – SongData" . Octubre de 2019. Consultado el 7 de agosto de 2020 .
↑ Buolamwini, Joy; Gebru, Timnit (21 de enero de 2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" . Proceedings of Machine Learning Research . 81 (2018): 77–91 . Recuperado el 27 de septiembre de 2020 .
↑ Noble, Safiya Umoja (20 de febrero de 2018). Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo . Nueva York: NYU Press. ISBN 978-1-4798-3724-3.
1 2 Nakamura, Lisa (2009). Magnet, Shoshana; Gates, Kelly (eds.). Los nuevos medios de vigilancia . Londres: Routledge. págs. 149–162 . ISBN 978-0-415-56812-8.
↑ Marco Marabelli; Sue Newell; Valerie Handunge (2021). "El ciclo de vida de los sistemas de toma de decisiones algorítmicas: opciones organizativas y desafíos éticos" . Journal of Strategic Information Systems . 30 (3): 1– 15. doi : 10.1016/j.jsis.2021.101683 .
↑ Alexander, Rudolph; Gyamerah, Jacquelyn (septiembre de 1997). "Castigo diferencial de afroamericanos y blancos que poseen drogas: ¿una política justa o una continuación del pasado?". Journal of Black Studies . 28 (1): 97–111 . doi : 10.1177/002193479702800106 . ISSN 0021-9347 . S2CID 152043501 .
↑ Petersilia, Joan (enero de 1985). "Disparidades raciales en el sistema de justicia penal: un resumen". Crime & Delinquency . 31 (1): 15– 34. doi : 10.1177/0011128785031001002 . ISSN 0011-1287 . S2CID 146588630 .
1 2 Guynn, Jessica (1 de julio de 2015). "Google Fotos etiquetó a personas negras como 'gorilas'" . USA Today . Consultado el 18 de noviembre de 2017 .
↑ Rose, Adam (22 de enero de 2010). "¿Son racistas las cámaras de detección facial?" . Time . Archivado del original el 11 de enero de 2024. Recuperado el 18 de noviembre de 2017 .
↑ "Alexa no entiende tu acento" . The Washington Post .
↑ Sweeney, Latanya (28 de enero de 2013). "Discriminación en la entrega de anuncios en línea". arXiv : 1301.6822 [ cs.IR ].
↑ Braun, Lundy (2015). " Raza , etnia y función pulmonar: una breve historia" . Revista canadiense de terapia respiratoria . 51 (4): 99– 101. ISSN 1205-9838 . PMC 4631137. PMID 26566381 .
↑ Robinson, Whitney R; Renson, Audrey; Naimi, Ashley I (1 de abril de 2020). "Aprender sobre el racismo estructural mejorará el aprendizaje automático" . Bioestadística . 21 ( 2): 339– 344. doi : 10.1093/biostatistics/kxz040 . ISSN 1465-4644 . PMC 7868043. PMID 31742353 .
↑ Johnson, Carolyn Y. (24 de octubre de 2019). "El sesgo racial en un algoritmo médico favorece a los pacientes blancos sobre los pacientes negros más enfermos" . The Washington Post . Consultado el 28 de octubre de 2019 .
↑ Bartlett, Robert; Morse, Adair; Stanton, Richard; Wallace, Nancy (junio de 2019). "Discriminación en préstamos al consumidor en la era FinTech" . Documento de trabajo del NBER n .° 25943. Serie de documentos de trabajo. doi : 10.3386/w25943 . S2CID 242410791 .
↑ Hofmann, V., Kalluri, PR, Jurafsky, D. et al. La IA genera decisiones racistas encubiertas sobre las personas basándose en su dialecto. Nature 633, 147–154 (2024). https://doi.org/10.1038/s41586-024-07856-5
↑ Buolamwini, J.; Gebru, T. (2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" . Actas de la 1.ª Conferencia sobre Equidad, Responsabilidad y Transparencia . págs. 77–91 . Recuperado el 30 de abril de 2025 .
↑ Jeff Larson, Julia Angwin (23 de mayo de 2016). "Cómo analizamos el algoritmo de reincidencia de COMPAS" . ProPublica . Archivado del original el 29 de abril de 2019. Recuperado el 19 de junio de 2020 .
↑ "Comentario: Malas noticias. La inteligencia artificial es parcial" . CNA . 12 de enero de 2019. Archivado del original el 12 de enero de 2019. Consultado el 19 de junio de 2020 .
1 2 Angwin, Julia; Larson, Jeff; Mattu, Surya; Kirchner, Lauren (23 de mayo de 2016). "Sesgo de máquina — ProPublica" . ProPublica . Recuperado el 18 de noviembre de 2017 .
↑ Harcourt, Bernard (16 de septiembre de 2010). " El riesgo como indicador de raza" . Federal Sentencing Reporter . 27 (4): 237. doi : 10.1525/fsr.2015.27.4.237 . S2CID 53611813. SSRN 1677654 .
↑ Skeem J, Lowenkamp C, Riesgo, raza y reincidencia: sesgo predictivo e impacto desproporcionado, (14 de junio de 2016). SSRN 2687339
↑ Thomas, C.; Nunez, A. (2022). "Automatización de la discreción judicial: cómo las evaluaciones de riesgo algorítmicas en las adjudicaciones previas al juicio violan los derechos de igualdad de protección por motivos de raza" . Law & Inequality . 40 (2): 371– 407. doi : 10.24926/25730037.649 .
1 2 Angwin, Julia; Grassegger, Hannes (28 de junio de 2017). "Las reglas secretas de censura de Facebook protegen a los hombres blancos del discurso de odio, pero no a los niños negros — ProPublica" . ProPublica . Recuperado el 20 de noviembre de 2017 .
↑ Angwin, Julia; Varner, Madeleine; Tobin, Ariana (14 de septiembre de 2017). "Facebook permitió a los anunciantes llegar a 'odiadores de judíos' — ProPublica" . ProPublica . Consultado el 20 de noviembre de 2017 .
↑ Sap, Maarten; Card, Dallas; Gabriel, Saadia; Choi, Yejin; Smith, Noah A. (28 de julio - 2 de agosto de 2019). "El riesgo de sesgo racial en la detección del discurso de odio" (PDF) . Actas de la 57.ª Reunión Anual de la Asociación de Lingüistas Computacionales . Florencia, Italia: Asociación de Lingüística Computacional. págs. 1668-1678 . Archivado (PDF) del original el 14 de agosto de 2019.
↑ Ghaffary, Shirin (15 de agosto de 2019). "Los algoritmos que detectan el discurso de odio en línea tienen un sesgo contra las personas negras" . Vox . Consultado el 19 de febrero de 2020 .
↑ Furl, N (diciembre de 2002). "Algoritmos de reconocimiento facial y el efecto de la otra raza: mecanismos computacionales para una hipótesis de contacto del desarrollo" . Cognitive Science . 26 (6): 797– 815. doi : 10.1207/s15516709cog2606_4 .
↑ Raji, Inioluwa Deborah; Gebru, Timnit; Mitchell, Margaret; Buolamwini, Joy; Lee, Joonseok; Denton, Emily (7 de febrero de 2020). "Salvar las apariencias" . Actas de la Conferencia AAAI/ACM sobre IA, Ética y Sociedad . Association for Computing Machinery. págs. 145–151 . arXiv : 2001.00964 . doi : 10.1145/3375627.3375820 . ISBN 978-1-4503-7110-0. S2CID 209862419 .
↑ "El reconocimiento facial es preciso, si eres un hombre blanco" . The New York Times . 9 de febrero de 2018. Consultado el 24 de agosto de 2023 .
↑ Buolamwini, Joy; Gebru, Timnit (2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" (PDF) . Proceedings of Machine Learning Research . 81 : 1 – vía MLR Press.
↑ Ananny, Mike (14 de abril de 2011). "La curiosa conexión entre las aplicaciones para hombres homosexuales y los delincuentes sexuales" . The Atlantic . Consultado el 18 de noviembre de 2017 .
↑ Kafka, Peter. "¿Realmente falló Amazon este fin de semana? La comunidad de Twitter dice 'Sí', el minorista en línea dice 'Fallo técnico'."" . AllThingsD . Consultado el 22 de noviembre de 2017 .
↑ Kafka, Peter. "Amazon se disculpa por un 'error de catalogación torpe'"" . AllThingsD . Consultado el 22 de noviembre de 2017 .
↑ Matsakis, Louise (22 de febrero de 2019). "Un error de búsqueda 'sexista' dice más de nosotros que Facebook" . Wired . ISSN 1059-1028 . Consultado el 26 de febrero de 2019 .
↑ "Algunas IA simplemente no deberían existir" . 19 de abril de 2019.
↑ Samuel, Sigal (19 de abril de 2019). "Algunas IA simplemente no deberían existir" . Vox . Consultado el 12 de diciembre de 2019 .
↑ Wang, Yilun; Kosinski, Michal (15 de febrero de 2017). "Las redes neuronales profundas son más precisas que los humanos para detectar la orientación sexual a partir de imágenes faciales" . OSF . doi : 10.17605/OSF.IO/ZN79K .
↑ Levin, Sam (9 de septiembre de 2017). «Grupos LGBT denuncian una IA "peligrosa" que utiliza el rostro para adivinar la sexualidad» . The Guardian . ISSN 0261-3077 . Consultado el 12 de diciembre de 2019 .
↑ Pal, GC (16 de septiembre de 2011). "Discapacidad, interseccionalidad y privación: una agenda excluida" . Psychology and Developing Societies . 23(2), 159–176. doi : 10.1177/097133361102300202 . S2CID 147322669 – vía Sagepub.
↑ Brinkman, Aurora H.; Rea-Sandin, Gianna; Lund, Emily M.; Fitzpatrick, Olivia M.; Gusman, Michaela S.; Boness, Cassandra L.; Scholars for Elevating Equity and Diversity (SEED) (20 de octubre de 2022). "Cambiar el discurso sobre la discapacidad: avanzar hacia un enfoque inclusivo e interseccional" . American Journal of Orthopsychiatry . 93 (1): 50– 62. doi : 10.1037/ort0000653 . ISSN 1939-0025 . PMC 9951269. PMID 36265035 .
↑ Whittaker, Meredith (noviembre de 2019). "Discapacidad, sesgo e IA" (PDF) . Archivado del original (PDF) el 27 de marzo de 2023. Recuperado el 2 de diciembre de 2022 .
↑ "Misión: La discapacidad es diversidad. Estimada industria del entretenimiento: NO HAY DIVERSIDAD, EQUIDAD E INCLUSIÓN SIN DISCAPACIDAD" . La discapacidad es diversidad . Consultado el 2 de diciembre de 2022 .
↑ "Diseño de Microsoft" . www.microsoft.com . Consultado el 2 de diciembre de 2022 .
↑ Pulrang, Andrew. "4 maneras de comprender la diversidad de la comunidad de personas con discapacidad" . Forbes . Consultado el 2 de diciembre de 2022 .
↑ Watermeyer, Brian; Swartz, Leslie (12 de octubre de 2022). "Discapacidad y el problema de la interseccionalidad perezosa". Disability & Society . 38 (2): 362– 366. doi : 10.1080/09687599.2022.2130177 . ISSN 0968-7599 . S2CID 252959399 .
↑ "Informe de datos sobre discapacidad 2021" . Iniciativa de datos sobre discapacidad . 23 de mayo de 2021. Consultado el 2 de diciembre de 2022 .
↑ White, Jason JG (2 de marzo de 2020). "Equidad de la IA para personas con discapacidad: análisis del problema y colaboración interdisciplinaria". ACM SIGACCESS Accessibility and Computing (125): 3:1. doi : 10.1145/3386296.3386299 . ISSN 1558-2337 . S2CID 211723415 .
↑ "Los modelos de lenguaje de IA muestran sesgo contra las personas con discapacidad, según un estudio | Universidad Estatal de Pensilvania" . www.psu.edu . 13 de octubre de 2022. Consultado el 2 de diciembre de 2022 .
↑ Givens, Alexandra Reeve (6 de febrero de 2020). "Cómo el sesgo algorítmico perjudica a las personas con discapacidad" . Revista Slate . Consultado el 2 de diciembre de 2022 .
↑ Morris, Meredith Ringel (22 de mayo de 2020). "IA y accesibilidad". Communications of the ACM . 63 (6): 35– 37. arXiv : 1908.08939 . doi : 10.1145/3356727 . ISSN 0001-0782 . S2CID 201645229 .
↑ Noble, Safiya Umoja (20 de febrero de 2018). Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo . Nueva York. ISBN 978-1-4798-3724-3OCLC 987591529 {{cite book}}: CS1 mantenimiento: falta el editor de ubicación ( enlace )
↑ Castelnovo, Alessandro; Inverardi, Nicole; Nanino, Gabriele; Penco, Ilaria; Regoli, Daniele (2023). "¿Suficientemente justo? Un mapa de las limitaciones actuales a los requisitos para tener algoritmos "justos". arXiv : 2311.12435 [ cs.AI ].
↑ Ruggieri, Salvatore; Alvarez, Jose M; Pugnana, Andrea; Turini, Franco (2023). "¿Podemos confiar en la IA justa?" . Actas de la Conferencia AAAI sobre Inteligencia Artificial . 37 (13): 5421– 15430. doi : 10.1609/aaai.v37i13.26798 . hdl : 11384/136444 . S2CID 259678387 .
↑ Samuel, Sigal (19 de abril de 2022). "Por qué es tan condenadamente difícil lograr que la IA sea justa e imparcial" . Vox . Recuperado el 23 de julio de 2024 .
↑ Fioretto, Ferdinando (19 de marzo de 2024). "Incorporar la equidad en la IA es crucial, y difícil de lograr correctamente" . The Conversation . Recuperado el 23 de julio de 2024 .
^ Friedler, Sorelle A.; Scheidegger, Carlos; Venkatasubramanian, Suresh (2016). "Sobre la (im)posibilidad de la justicia". arXiv : 1609.07236 [ cs.CY ].
↑ Hu, Lily; Chen, Yiling (2018). "Impactos en el bienestar y la distribución de la clasificación justa". arXiv : 1807.01134 [ cs.LG ].
^ Dwork, Cynthia; Hardt, Moritz; Pitassi, Toniann; Reingold, Omer; Zemel, Rich (28 de noviembre de 2011). "Equidad a través de la conciencia". arXiv : 1104.3913 [ cs.CC ].
1 2 3 Sandvig, Christian; Hamilton, Kevin; Karahalios, Karrie; Langbort, Cedric (2014). Gangadharan, Seeta Pena; Eubanks, Virginia; Barocas, Solon (eds.). "Una auditoría de algoritmos" (PDF) . Datos y discriminación: ensayos recopilados .
↑ LaFrance, Adrienne (18 de septiembre de 2015). "Los algoritmos que impulsan la web se vuelven cada vez más misteriosos" . The Atlantic . Consultado el 19 de noviembre de 2017 .
↑ Bruno Latour (1999). La esperanza de Pandora: Ensayos sobre la realidad de los estudios de la ciencia . Cambridge, Massachusetts : Harvard University Press .
↑ Kubitschko, Sebastian; Kaun, Anne (2016). Métodos innovadores en la investigación de medios y comunicación . Springer. ISBN 978-3-319-40700-5. Consultado el 19 de noviembre de 2017 .
↑ McGee, Matt (16 de agosto de 2013). "EdgeRank ha muerto: el algoritmo de noticias de Facebook ahora tiene cerca de 100 000 factores de ponderación" . Marketing Land . Recuperado el 18 de noviembre de 2017 .
1 2 3 Granka, Laura A. (27 de septiembre de 2010). "La política de la búsqueda: una retrospectiva de una década" (PDF) . The Information Society . 26 (5): 364– 374. doi : 10.1080/01972243.2010.511560 . S2CID 16306443. Recuperado el 18 de noviembre de 2017 .
↑ Szymielewicz, Katarzyna (20 de enero de 2020). "Política en caja negra" . Medium . Consultado el 11 de febrero de 2020 .
↑ Veale, Michael; Binns, Reuben (2017). "Aprendizaje automático más justo en el mundo real: Mitigar la discriminación sin recopilar datos sensibles" . Big Data & Society . 4 (2): 205395171774353. doi : 10.1177/2053951717743530 . SSRN 3060763 .
↑ Elliott, Marc N.; Morrison, Peter A.; Fremont, Allen; McCaffrey, Daniel F.; Pantoja, Philip; Lurie, Nicole (junio de 2009). "Uso de la lista de apellidos de la Oficina del Censo para mejorar las estimaciones de raza/etnia y las disparidades asociadas". Metodología de investigación de servicios y resultados de salud . 9 (2): 69– 83. doi : 10.1007/s10742-009-0047-1 . ISSN 1387-3741 . S2CID 43293144 .
↑ Chen, Jiahao; Kallus, Nathan; Mao, Xiaojie; Svacha, Geoffry; Udell, Madeleine (2019). «Equidad bajo desconocimiento» . Actas de la Conferencia sobre Equidad, Responsabilidad y Transparencia . Atlanta, GA, EE. UU.: ACM Press. págs. 339–348 . arXiv : 1811.11154 . doi : 10.1145/3287560.3287594 . ISBN 978-1-4503-6125-5. S2CID 58006233 .
↑ Kilbertus, Niki; Gascon, Adria; Kusner, Matt; Veale, Michael; Gummadi, Krishna; Weller, Adrian (2018). "Justicia ciega: equidad con atributos sensibles cifrados" . Conferencia internacional sobre aprendizaje automático : 2630–2639 . arXiv : 1806.03281 . Bibcode : 2018arXiv180603281K .
↑ Binns, Reuben; Veale, Michael; Kleek, Max Van; Shadbolt, Nigel (13 de septiembre de 2017). "¿Como entrenador, como bot? Herencia de sesgos en la moderación algorítmica de contenido". Informática social . Notas de clase en ciencias de la computación. Vol. 10540. págs. 405–415 . arXiv : 1707.01477 . doi : 10.1007/978-3-319-67256-4_32 . ISBN 978-3-319-67255-7. S2CID 2814848 .
↑ Claburn, Thomas (18 de julio de 2016). "La ley de protección de datos de la UE podría acabar con el algoritmo desconocido – InformationWeek" . InformationWeek . Consultado el 25 de noviembre de 2017 .
^ Jobín , Anna; Ienca, Marcello; Vayena, Effy (2 de septiembre de 2019). "El panorama global de las directrices éticas de la IA". Inteligencia de la máquina de la naturaleza . 1 (9): 389– 399. arXiv : 1906.11668 . Código Bib : 2019NatMI...1..389J . doi : 10.1038/s42256-019-0088-2 . S2CID 201827642 .
↑ Wattenberg, Martin; Viégas, Fernanda; Hardt, Moritz. "Combatir la discriminación con un aprendizaje automático más inteligente" . Google Research.
↑ Hardt, Moritz; Price, Eric; Srebro, Nathan (2016). "Igualdad de oportunidades en el aprendizaje supervisado". arXiv : 1610.02413 [ cs.LG ].
↑ Wiggers, Kyle (25 de mayo de 2018). "Microsoft está desarrollando una herramienta para ayudar a los ingenieros a detectar sesgos en los algoritmos" . VentureBeat.com .
↑ "Facebook afirma tener una herramienta para detectar sesgos en su inteligencia artificial" . Quartz . 3 de mayo de 2018. Archivado del original el 5 de marzo de 2023.
↑ "Pymetrics audit-AI" . GitHub.com .
↑ Johnson, Khari (31 de mayo de 2018). "Pymetrics publica como código abierto Audit AI, una herramienta de detección de sesgos algorítmicos" . VentureBeat.com .
↑ "Aequitas: Kit de herramientas para auditorías de sesgo y equidad" . GitHub.com .
↑ https://dsapp.uchicago.edu/aequitas/ IA de auditoría de código abierto, Aequitas en la Universidad de Chicago
↑ Puri, Ruchir (6 de febrero de 2018). "Mitigación de sesgos en modelos de IA" . IBM.com . Archivado del original el 7 de febrero de 2018.
↑ S. Sen, D. Dasgupta y KD Gupta, "Un estudio empírico sobre el sesgo algorítmico", 2020 IEEE 44th Annual Computers, Software, and Applications Conference (COMPSAC), Madrid, España, 2020, pp. 1189–1194, doi : 10.1109/COMPSAC48688.2020.00-95 .
↑ Zou, James; Schiebinger, Londa (julio de 2018). "La IA puede ser sexista y racista: es hora de hacerla justa" . Nature . 559 (7714): 324–326 . Bibcode : 2018Natur.559..324Z . doi : 10.1038/d41586-018-05707-8 . PMID 30018439 .
↑ Jia, Sen; Welfare, Thomas; Cristianini, Nello (2018). Correcto por la razón correcta: Entrenamiento de redes agnósticas . Simposio Internacional sobre Análisis Inteligente de Datos. Springer.
↑ Sutton, Adam; Welfare, Thomas; Cristianini, Nello (2018). Incrustaciones sesgadas a partir de datos reales: medición, comprensión y eliminación . Simposio Internacional sobre Análisis Inteligente de Datos. Springer. doi : 10.1007/978-3-030-01768-2_27 .
↑ "Comité de Normas de Ingeniería de Software y Sistemas" . 17 de abril de 2018.
1 2 Koene, Ansgar (junio de 2017). "Sesgo algorítmico: abordando las crecientes preocupaciones [ Leading Edge ] " (PDF) . Revista IEEE Technology and Society . 36 (2): 31–32 . doi : 10.1109/mts.2017.2697080 . ISSN 0278-0097 . Archivado del original (PDF) el 19 de julio de 2018. Recuperado el 1 de agosto de 2019 .
1 2 "P7003 - Consideraciones sobre el sesgo algorítmico" . IEEE . Archivado del original el 3 de diciembre de 2018. Recuperado el 3 de diciembre de 2018 .
↑ "IEEE 7003-2024 Norma IEEE para consideraciones sobre sesgos algorítmicos" . Consultado el 16 de marzo de 2025 .
↑ "Comité de Normas de Ingeniería de Software y Sistemas" . 17 de abril de 2018.
↑ "IEEE CertifAIEd™ – Especificación ontológica para el sesgo algorítmico ético" (PDF) . IEEE. 2022.
↑ The Internet Society (18 de abril de 2017). "Inteligencia artificial y aprendizaje automático: documento de política" . Internet Society . Consultado el 11 de febrero de 2020 .
1 2 "Libro Blanco: Cómo prevenir resultados discriminatorios en el aprendizaje automático" . Foro Económico Mundial . 12 de marzo de 2018. Consultado el 11 de febrero de 2020 .
↑ "Inteligencia Artificial Explicable" . www.darpa.mil . Consultado el 11 de febrero de 2020 .
↑ PricewaterhouseCoopers. "El marco de IA responsable" . PwC . Consultado el 11 de febrero de 2020 .
↑ Heald, David (7 de septiembre de 2006). Transparencia: ¿La clave para una mejor gobernanza? . British Academy. doi : 10.5871/bacad/9780197263839.003.0002 . ISBN 978-0-19-726383-9.
↑ Kemper, Jakko; Kolkman, Daan (6 de diciembre de 2019). "¿Transparente para quién? No hay rendición de cuentas algorítmica sin una audiencia crítica" . Information, Communication & Society . 22 (14): 2081–2096 . doi : 10.1080/1369118X.2018.1477967 . hdl : 11245.1/ 75cb1256-5fe5-4724-9a63-03ef66032d8e . ISSN 1369-118X .
↑ Mitchell, Margaret; Wu, Simone; Zaldivar, Andrew; Barnes, Parker; Vasserman, Lucy; Hutchinson, Ben; Spitzer, Elena; Raji, Inioluwa Deborah; Gebru, Timnit (29 de enero de 2019). «Model Cards for Model Reporting» . Actas de la Conferencia sobre Equidad, Responsabilidad y Transparencia . ACM. págs. 220–229 . arXiv : 1810.03993 . doi : 10.1145/3287560.3287596 . ISBN 978-1-4503-6125-5.
↑ Gebru, Timnit; Morgenstern, Jamie; Vecchione, Briana; Vaughan, Jennifer Wortman; Wallach, Hanna; Iii, Hal Daumé; Crawford, Kate (diciembre de 2021). "Hojas de datos para conjuntos de datos" . Comunicaciones de la ACM . 64 (12): 86– 92. arXiv : 1803.09010 . doi : 10.1145/3458723 . ISSN 0001-0782 .
↑ Bitar, Omar; Deshaies, Benoit; Hall, Dawn (2022). "3.ª revisión de la directiva de la Junta del Tesoro sobre la toma de decisiones automatizada". Revista electrónica SSRN . doi : 10.2139/ssrn.4087546 . ISSN 1556-5068 .
↑ «La Declaración de Toronto: Protección de los derechos a la igualdad y la no discriminación en los sistemas de aprendizaje automático» . Human Rights Watch . 3 de julio de 2018. Consultado el 11 de febrero de 2020 .
↑ La Declaración de Toronto: Protección del derecho a la igualdad y la no discriminación en los sistemas de aprendizaje automático (PDF) . Human Rights Watch. 2018. pág. 15.
^ Floridi, Luciano; Capuchas, Josh; Beltrametti, Mónica; Chatila, Raja; Chazerand, Patrice; Dignum, Virginia; Luetge, Christoph; Madelín, Robert; Pagallo, Ugo; Rossi, Francesca; Schafer, Burkhard (1 de diciembre de 2018). "AI4People: un marco ético para una buena sociedad de IA: oportunidades, riesgos, principios y recomendaciones" . Mentes y Máquinas . 28 (4): 703. doi : 10.1007/s11023-018-9482-5 . ISSN 1572-8641 . PMC 6404626 . PMID 30930541 .
↑ Crawford, Kate (25 de junio de 2016). "Opinión | El problema de los hombres blancos en la inteligencia artificial" . The New York Times . ISSN 0362-4331 . Consultado el 11 de febrero de 2020 .
↑ "La IA es el futuro, ¿pero dónde están las mujeres?" . Wired . ISSN 1059-1028 . Consultado el 11 de febrero de 2020 .
↑ Snow, Jackie .«Estamos en una crisis de diversidad»: la cofundadora de Black in AI habla sobre lo que está contaminando los algoritmos en nuestras vidas . MIT Technology Review . Consultado el 11 de febrero de 2020 .
↑ Hao, Karen (14 de junio de 2021). "Dentro de la lucha por recuperar la IA del control de las grandes tecnológicas" . MIT Technology Review . Recuperado el 21 de junio de 2021 .
↑ Ciston, Sarah (29 de diciembre de 2019). "La IA interseccional es esencial" . Journal of Science and Technology of the Arts . 11 (2): 3– 8. doi : 10.7559/citarj.v11i2.665 . ISSN 2183-0088 .
^ D'Ignazio, Catalina; Klein, Lauren F. (2020). Feminismo de datos . Prensa del MIT. ISBN 978-0-262-04400-4.
↑ Cave, Stephen; Dihal, Kanta (6 de agosto de 2020). "La blancura de la IA" . Philosophy & Technology . 33 (4): 685–703 . doi : 10.1007/s13347-020-00415-6 . ISSN 2210-5441 .
↑ Bondi, Elizabeth; Xu, Lily; Acosta-Navas, Diana; Killian, Jackson A. (2021). «Visualizando comunidades: un enfoque participativo hacia la IA para el bien social». Actas de la Conferencia AAAI/ACM de 2021 sobre IA, ética y sociedad . págs. 425–436 . arXiv : 2105.01774 . doi : 10.1145/3461702.3462612 . ISBN 978-1-4503-8473-5. S2CID 233740121 . Recuperado el 6 de abril de 2023 – a través de ezpa.library.ualberta.ca.
↑ Universidad de Stanford (18 de marzo de 2019). "La Universidad de Stanford lanza el Instituto de Inteligencia Artificial Centrada en el Ser Humano" . Noticias de Stanford . Consultado el 6 de abril de 2023 .
↑ Bondi, Elizabeth; Xu, Lily; Acosta-Navas, Diana; Killian, Jackson A. (21 de julio de 2021). «Visualizando comunidades: un enfoque participativo hacia la IA para el bien social». Actas de la Conferencia AAAI/ACM de 2021 sobre IA, ética y sociedad . págs. 425–436 . arXiv : 2105.01774 . doi : 10.1145/3461702.3462612 . ISBN 978-1-4503-8473-5. S2CID 233740121 .
↑ Bygrave, Lee A (2001). "Perfilado automatizado". Computer Law & Security Review . 17 (1): 17– 24. doi : 10.1016/s0267-3649(01)00104-2 .
1 2 Veale, Michael; Edwards, Lilian (2018). "Claridad, sorpresas y preguntas adicionales en el borrador de la guía del Grupo de Trabajo del Artículo 29 sobre la toma de decisiones automatizada y la elaboración de perfiles" ( PDF) . Computer Law & Security Review . 34 (2): 398– 404. doi : 10.1016/j.clsr.2017.12.002 . S2CID 4797884. SSRN 3071679 .
↑ Wachter, Sandra; Mittelstadt, Brent; Floridi, Luciano (1 de mayo de 2017). «Por qué no existe un derecho a la explicación de la toma de decisiones automatizada en el Reglamento General de Protección de Datos» . Derecho Internacional de la Privacidad de Datos . 7 (2): 76– 99. doi : 10.1093/idpl/ipx005 . ISSN 2044-3994 .
↑ Edwards, Lilian; Veale, Michael (23 de mayo de 2017). "¿Esclavo del algoritmo? Por qué el derecho a una explicación probablemente no sea el remedio que busca". Duke Law & Technology Review . 16 : 18–84 . SSRN 2972855 .
1 2 Singer, Natasha (2 de febrero de 2013). "Leyes de protección de datos del consumidor, un océano aparte" . The New York Times . Recuperado el 26 de noviembre de 2017 .
↑ Obama, Barack (12 de octubre de 2016). "Informe de la Administración sobre el futuro de la inteligencia artificial" . whitehouse.gov . Archivos Nacionales . Consultado el 26 de noviembre de 2017 .
↑ y Consejo Nacional de Ciencia y Tecnología (2016). Plan Estratégico Nacional de Investigación y Desarrollo de Inteligencia Artificial (PDF) . Gobierno de EE . UU . Recuperado el 26 de noviembre de 2017 .
↑ Kirchner, Lauren (18 de diciembre de 2017). "La ciudad de Nueva York toma medidas para crear rendición de cuentas sobre los algoritmos — ProPublica" . ProPublica . Consultado el 28 de julio de 2018 .
↑ "El Ayuntamiento de Nueva York - Expediente n.º: Int 1696-2017" . legistar.council.nyc.gov . Ayuntamiento de Nueva York . Consultado el 28 de julio de 2018 .
↑ Wiggers, Kyle (5 de julio de 2023). "Entra en vigor la ley de la ciudad de Nueva York contra la discriminación en los algoritmos de contratación" . TechCrunch . Consultado el 16 de abril de 2025 .
↑ Powles, Julia. "El audaz y defectuoso intento de la ciudad de Nueva York de hacer responsables a los algoritmos" . The New Yorker . Consultado el 28 de julio de 2018 .
↑ "Manteniendo el liderazgo estadounidense en inteligencia artificial" . 14 de febrero de 2019.
↑ "Desarrollo y uso seguros, protegidos y confiables de la inteligencia artificial" . Noviembre de 2023.
↑ "La vicepresidenta Kamala Harris presenta directrices de IA "seguras, protegidas y responsables" para las agencias federales" . 28 de marzo de 2024.
↑ "India sopesa un proyecto de ley integral de privacidad de datos, similar al RGPD de la UE" . Insurance Journal . 31 de julio de 2018. Consultado el 26 de febrero de 2019 .
↑ "Proyecto de Ley de Protección de Datos Personales de 2018" (PDF) . Ministerio de Electrónica y Tecnología de la Información, Gobierno de la India. 2018. Consultado el 29 de abril de 2022 .

Lecturas adicionales

Baer, Tobias (2019). Comprender, gestionar y prevenir el sesgo algorítmico: una guía para usuarios empresariales y científicos de datos . Nueva York: Apress. ISBN 978-1-4842-4884-3.
Noble, Safiya Umoja (2018). Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo . Nueva York: New York University Press. ISBN 978-1-4798-3724-3.

[1] Jacobi, Jennifer (13 de septiembre de 2001). "Patente n.° US2001021914" . Espacenet . Consultado el 4 de julio de 2018 .

[2] Hardebolle, Cécile; Héder, Mihály; Ramachandran, Vivek (25 de noviembre de 2024), «Educación en ética de la ingeniería e inteligencia artificial», The Routledge International Handbook of Engineering Ethics Education (1.ª ed.), Londres: Routledge, págs. 125–142 , doi : 10.4324/9781003464259-9 , ISBN 978-1-003-46425-9

[3] Van Eyghen, Hans (2025). "Algoritmos de IA como conocedores (no)virtuosos" . Discover Artificial Intelligence . 5 (2) 2. doi : 10.1007/s44163-024-00219-z .

[4] Marabelli, Marco (2024). IA, ética y discriminación en los negocios . Palgrave Studies in Equity, Diversity, Inclusion, and Indigenization in Business. Springer. doi : 10.1007/978-3-031-53919-0 . ISBN 978-3-031-53918-3.

[5] Suresh, Harini; Guttag, John (4 de noviembre de 2021). «Un marco para comprender las fuentes de daño a lo largo del ciclo de vida del aprendizaje automático» . Equidad y acceso en algoritmos, mecanismos y optimización . EAAMO '21. Nueva York, NY, EE. UU.: Association for Computing Machinery. págs. 1-9 . doi : 10.1145/3465416.3483305 . ISBN 978-1-4503-8553-4. S2CID 235436386 .

[6] Krištofík, Andrej (28 de abril de 2025). "Sesgo en la toma de decisiones (apoyada) por IA: viejos problemas, nuevas tecnologías" . Revista Internacional de Administración Judicial . 16 (1) 3. doi : 10.36745/ijca.598 . ISSN 2156-7964 .

[7] Mehrabi, N.; Morstatter, F.; Saxena, N.; Lerman, K.; Galstyan, A. (2021). "Una revisión sobre el sesgo y la equidad en el aprendizaje automático" . ACM Computing Surveys . 54 (6): 1– 35. arXiv : 1908.09635 . doi : 10.1145/3457607 . Recuperado el 30 de abril de 2025 .

[Striphas-8] Striphas, Ted (febrero de 2012). "¿Qué es un algoritmo? – Culture Digitally" . culturedigitally.org . Consultado el 20 de noviembre de 2017 .

[Cormen-9] Cormen, Thomas H.; Leiserson, Charles E.; Rivest, Ronald L.; Stein, Clifford (2009). Introducción a los algoritmos (3ª ed.). Cambridge, Massachusetts: MIT Press. pag. 5 . ISBN 978-0-262-03384-8.

[Kitchin-10] 1 2 3 Kitchin, Rob (25 de febrero de 2016). "Pensar críticamente sobre los algoritmos e investigarlos" (PDF) . Information, Communication & Society . 20 (1): 14– 29. doi : 10.1080/1369118X.2016.1154087 . S2CID 13798875 .

[GoogleAlgorithms-11] "Cómo funciona la búsqueda de Google" . Consultado el 19 de noviembre de 2017 .

[Luckerson-12] Luckerson, Victor. "Así es como funciona realmente tu sección de noticias de Facebook" . Time . Archivado del original el 14 de abril de 2021. Consultado el 19 de noviembre de 2017 .

[Vanderbilt-13] Vanderbilt, Tom (7 de agosto de 2013). "La ciencia detrás de los algoritmos de Netflix que deciden qué verás a continuación" . Wired . Consultado el 19 de noviembre de 2017 .

[AngwinMattu-14] Angwin, Julia ; Mattu, Surya (20 de septiembre de 2016). "Amazon dice que prioriza a los clientes, pero su algoritmo de precios no lo hace — ProPublica" . ProPublica . Consultado el 19 de noviembre de 2017 .

[Livingstone-15] Livingstone, Rob (13 de marzo de 2017). "El futuro de la publicidad en línea son los macrodatos y los algoritmos" . The Conversation . Consultado el 19 de noviembre de 2017 .

[Hickman-16] Hickman, Leo (1 de julio de 2013). "Cómo los algoritmos gobiernan el mundo" . The Guardian . Consultado el 19 de noviembre de 2017 .

[Seaver-17] 1 2 3 4 5 6 Seaver, Nick. "Conociendo algoritmos" (PDF) . Media in Transition 8, Cambridge, MA, abril de 2013. Archivado del original (PDF) el 1 de diciembre de 2017. Recuperado el 18 de noviembre de 2017 .

[Graham-18] 1 2 3 Graham, Stephen DN (julio de 2016). "Geografías clasificadas por software" (PDF) . Progress in Human Geography (manuscrito enviado). 29 (5): 562– 580. doi : 10.1191/0309132505ph568oa . S2CID 19119278 .

[Tewell-19] 1 2 3 Tewell, Eamon (4 de abril de 2016). "Hacia la lectura resistente de la información: Google, la observación resistente y la alfabetización informacional crítica" . Portal: Libraries and the Academy . 16 (2): 289–310 . doi : 10.1353/pla.2016.0017 . ISSN 1530-7131 . S2CID 55749077. Recuperado el 19 de noviembre de 2017 .

[20] Crawford, Kate (1 de abril de 2013). "Los sesgos ocultos en los macrodatos" . Harvard Business Review .

[FriedmanNissenbaum-21] 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 Friedman, Batya ; Nissenbaum, Helen (julio de 1996). "Sesgo en los sistemas informáticos" (PDF) . ACM Transactions on Information Systems . 14 ( 3 ): 330–347 . doi : 10.1145/230538.230561 . S2CID 207195759. Recuperado el 10 de marzo de 2019 .

[Gillespie_et_al-22] Gillespie , Tarleton ; Boczkowski, Pablo; Pie, Kristin (2014). Tecnologías de los medios . Cambridge: Prensa del MIT. págs. 1 a 30. ISBN 978-0-262-52537-4.

[TowCenter-23] 1 2 Diakopoulos, Nicholas. "Rendición de cuentas algorítmica: Sobre la investigación de las cajas negras |" . towcenter.org . Consultado el 19 de noviembre de 2017 .

[Lipartito-24] Lipartito, Kenneth (6 de enero de 2011). La narrativa y el algoritmo: géneros de informes crediticios desde el siglo XIX hasta la actualidad (PDF) (manuscrito enviado). doi : 10.2139/SSRN.1736283 . S2CID 166742927. SSRN 1736283 .

[GoodmanFlaxman2016-25] 1 2 Goodman, Bryce; Flaxman, Seth (2017). "Regulaciones de la UE sobre la toma de decisiones algorítmicas y un "derecho a la explicación"". Revista AI . 38 (3): 50. arXiv : 1606.08813 . doi : 10.1609/aimag.v38i3.2741 . S2CID 7373959 .

[Weizenbaum1976-26] 1 2 3 4 5 6 7 Weizenbaum, Joseph (1976). El poder de la computadora y la razón humana: del juicio al cálculo . San Francisco: WH Freeman. ISBN 978-0-7167-0464-5.

[Goffrey-27] 1 2 Goffrey, Andrew (2008). «Algoritmo». En Fuller, Matthew (ed.). Estudios de software: un léxico . Cambridge, Mass.: MIT Press. pp. 15-20 . ISBN 978-1-4356-4787-9.

[LowryMacpherson-28] Lowry, Stella; Macpherson, Gordon (5 de marzo de 1988). " Una mancha en la profesión&blobtype=pdf" . British Medical Journal . 296 (6623): 657–8 . doi : 10.1136/bmj.296.6623.657 . PMC 2545288. PMID 3128356 .

[29] "Alineación perpetua" . www.law.georgetown.edu . Consultado el 12 de diciembre de 2024 .

[30] Buolamwini, Joy. "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" . MIT Media Lab . Consultado el 12 de diciembre de 2024 .

[31] Barocas, Solon (19 de diciembre de 2023). Equidad y aprendizaje automático: limitaciones y oportunidades . The MIT Press. ISBN 978-0-262-04861-3.

[Miller-32] Miller, Alex P. (26 de julio de 2018). "¿Quieres decisiones menos sesgadas? Usa algoritmos" . Harvard Business Review . Recuperado el 31 de julio de 2018 .

[Introna1-33] 1 2 3 Introna, Lucas D. (2 de diciembre de 2011). "El encuadre del código". Theory, Culture & Society . 28 (6): 113– 141. doi : 10.1177/0263276411418131 . S2CID 145190381 .

[Bogost-34] Bogost, Ian (15 de enero de 2015). "La catedral de la computación" . The Atlantic . Consultado el 19 de noviembre de 2017 .

[IntronaWood-35] 1 2 3 4 5 6 7 Introna, Lucas; Wood, David ( 2004). "Representando la vigilancia algorítmica: la política de los sistemas de reconocimiento facial" . Surveillance & Society . 2 : 177–198 . Recuperado el 19 de noviembre de 2017 .

[Introna2-36] 1 2 3 4 Introna, Lucas D. (21 de diciembre de 2006). "Manteniendo la reversibilidad de los pliegues: Haciendo visible la ética (política) de la tecnología de la información". Ética y tecnología de la información . 9 (1): 11– 25. CiteSeerX 10.1.1.154.1313 . doi : 10.1007/s10676-006-9133-z . S2CID 17355392 .

[ShirkyAuthority-37] 1 2 Shirky, Clay. "Una publicación especulativa sobre la idea de autoridad algorítmica Clay Shirky" . www.shirky.com . Archivado del original el 15 de marzo de 2012. Recuperado el 20 de noviembre de 2017 .

[Ziewitz1-38] 1 2 Ziewitz, Malte (1 de enero de 2016). "Algoritmos de gobierno: mito, caos y métodos" . Ciencia, tecnología y valores humanos . 41 (1): 3– 16. doi : 10.1177/0162243915608948 . ISSN 0162-2439 . S2CID 148023125 .

[Lash-39] Lash, Scott (30 de junio de 2016). "El poder después de la hegemonía". Theory, Culture & Society . 24 (3): 55– 78. doi : 10.1177/0263276407075956 . S2CID 145639801 .

[40] Gaudeul, Alexia; Arrigoni, Ottla; Charisi, Vicky ; Escobar-Planas, Marina; Hupont, Isabelle (2024), "Understanding the Impact of Human Oversight on Discriminatory Outcomes in AI-Supported Decision-Making", ECAI 2024 , Frontiers in Artificial Intelligence and Applications, IOS Press, pp. 1067–1074 , doi : 10.3233/faia240598 , ISBN 978-1-64368-548-9

[Garcia-41] 1 2 Garcia, Megan (1 de enero de 2016). "Racismo en la máquina". World Policy Journal . 33 (4): 111– 117. doi : 10.1215/07402775-3813015 . S2CID 151595343 .

[42] "Registro para ACM FAccT 2021" . fatconference.org . Consultado el 14 de noviembre de 2021 .

[Ochigame-43] Ochigame, Rodrigo (20 de diciembre de 2019). "La invención de la "IA ética": cómo las grandes tecnológicas manipulan al mundo académico para evitar la regulación" . The Intercept . Consultado el 11 de febrero de 2020 .

[44] "Marco de gestión de riesgos de inteligencia artificial (AI RMF 1.0)" (PDF) . NIST . Enero de 2023.

[SergotEtAl-45] Sergot, MJ; Sadri, F; Kowalski, RA; Kriwaczek, F; Hammond, P; Cory, HT (mayo de 1986). "La Ley de Nacionalidad Británica como un Programa Lógico" (PDF) . Communications of the ACM . 29 (5): 370– 386. doi : 10.1145/5689.5920 . S2CID 5665107. Recuperado el 18 de noviembre de 2017 .

[brookings.edu-46] 1 2 "Para detener el sesgo algorítmico, primero tenemos que definirlo" . Brookings . Consultado el 27 de junio de 2023 .

[47] Evans, Melanie; Mathews, Anna Wilde (24 de octubre de 2019). "Investigadores encuentran sesgo racial en el algoritmo del hospital" . The Wall Street Journal . ISSN 0099-9660 . Consultado el 27 de junio de 2023 .

[48] "Sesgo en el aprendizaje automático: tipos y ejemplos" . SuperAnnotate . Consultado el 25 de febrero de 2026 .

[49] Nazer, Lama H.; Zatarah, Razan; Waldrip, Shai; Ke, Janny Xue Chen; Moukheiber, Mira; Khanna, Ashish K.; Hicklen, Rachel S.; Moukheiber, Lama; Moukheiber, Dana; Ma, Haobo; Mathur, Piyush (22 de junio de 2023). "Sesgo en algoritmos de inteligencia artificial y recomendaciones para su mitigación" . PLOS Digital Health . 2 (6) e0000278. doi : 10.1371/ journal.pdig.0000278 . ISSN 2767-3170 . PMC 10287014. PMID 37347721 .

[:3-50] 1 2 3 Luo, Queenie; Puett, Michael J.; Smith, Michael D. (23 de mayo de 2023), Un espejo de perspectiva del elefante: investigación del sesgo lingüístico en Google, ChatGPT, Wikipedia y YouTube , arXiv : 2303.16281

[51] Hofmann, Valentín; Kalluri, Pratyusha Ria; Jurafsky, Dan; King, Sharese (5 de septiembre de 2024). "La IA genera decisiones encubiertamente racistas sobre las personas en función de su dialecto" . Naturaleza . 633 (8028): 147– 154. Bibcode : 2024Natur.633..147H . doi : 10.1038/s41586-024-07856-5 . PMC 11374696 . PMID 39198640 .

[52] Choi, Hyeong Kyu; Xu, Weijie; Xue, Chi; Eckman, Stephanie; Reddy, Chandan K. (27 de septiembre de 2024), Mitigating Selection Bias with Node Pruning and Auxiliary Options , arXiv : 2409.18857

[53] Zheng, Chujie; Zhou, Hao; Meng, Fandong; Zhou, Jie; Huang, Minlie (7 de septiembre de 2023), Los modelos de lenguaje grandes no son selectores sólidos de opción múltiple , arXiv : 2309.03882

[54] Busker, Tony; Choenni, Sunil; Shoae Bargh, Mortaza (20 de noviembre de 2023). «Estereotipos en ChatGPT: un estudio empírico» . Actas de la 16.ª Conferencia Internacional sobre Teoría y Práctica de la Gobernanza Electrónica . ICEGOV '23. Nueva York, NY, EE. UU.: Association for Computing Machinery. págs. 24-32 . doi : 10.1145/3614321.3614325 . ISBN 979-8-4007-0742-1.

[55] Kotek, Hadas; Dockum, Rikker; Sun, David (5 de noviembre de 2023). «Sesgo de género y estereotipos en modelos de lenguaje a gran escala» . Actas de la Conferencia de Inteligencia Colectiva de la ACM . CI '23. Nueva York, NY, EE. UU.: Association for Computing Machinery. págs. 12-24 . arXiv : 2308.14921 . doi : 10.1145/3582269.3615599 . ISBN 979-8-4007-0113-9.

[Mohammadi2025-56] 1 2 Mohammadi, Ehsan (2025). "Sesgo de género en la IA de Google Cloud Vision" . IA y ética . doi : 10.1007/s43681-025-00742-4 .

[57] Cheng, Myra; Durmus, Esin; Jurafsky, Dan (29 de mayo de 2023), Personas marcadas: Uso de indicaciones en lenguaje natural para medir estereotipos en modelos de lenguaje , arXiv : 2305.18189

[58] Wang, Angelina; Morgenstern, Jamie ; Dickerson, John P. (17 de febrero de 2025). "Los grandes modelos de lenguaje que reemplazan a los participantes humanos pueden tergiversar y aplanar perjudicialmente los grupos de identidad". Nature Machine Intelligence . 7 (3): 400– 411. arXiv : 2402.01908 . doi : 10.1038/s42256-025-00986-z .

[59] Friðriksdóttir, Steinunn Rut; Einarsson, Hafsteinn (2024), "¿Gramática de género o sesgo arraigado? Exploración del sesgo de género en modelos de lengua islandesa" , Lrec-Coling 2024 : 7596– 7610

[60] Feng, Shangbin; Park, Chan Young; Liu, Yuhan; Tsvetkov, Yulia (julio de 2023). Rogers, Anna; Boyd-Graber, Jordan; Okazaki, Naoaki (eds.). "De los datos de preentrenamiento a los modelos de lenguaje y a las tareas posteriores: rastreando los rastros de los sesgos políticos que conducen a modelos de PLN injustos" . Actas de la 61.ª Reunión Anual de la Asociación de Lingüística Computacional (Volumen 1: Artículos largos) . Toronto, Canadá: Asociación de Lingüística Computacional: 11737–11762 . arXiv : 2305.08283 . doi : 10.18653/v1/2023.acl-long.656 .

[61] Lazaro, Gina (17 de mayo de 2024). "Comprender el sesgo de género y racial en la IA" . Harvard Advanced Leadership Initiative Social Impact Review . Recuperado el 11 de diciembre de 2024 .

[62] Jindal, Atin (5 de septiembre de 2022). " Inteligencia artificial mal encaminada: cómo el sesgo racial está incorporado en los modelos clínicos" . Journal of Brown Hospital Medicine . 2 (1) 38021. doi : 10.56305/001c.38021 . PMC 11878858. PMID 40046549 .

[63] "Racismo e IA: "Los prejuicios del pasado generan prejuicios en el futuro"" . Derechos Humanos de las Naciones Unidas . 30 de julio de 2024 . Consultado el 18 de febrero de 2026 .

[Data2019-64] 1 2 "El Leviatán de Datos: El creciente Estado de vigilancia de China" . Human Rights Watch . 16 de agosto de 2019. Consultado el 10 de febrero de 2026 .

[65] "BLOQUEANDO LA LÍNEA DE ENSAMBLAJE DE ARTEFACTOS INVENTABLES: IMPEDIENDO EL FLUJO DE NITRATO DE AMONIO EN EL SUR Y CENTRO DE ASIA" . gpo.gov . 2026. Consultado el 10 de febrero de 2026 .

[66] "Las autoridades exigen a los uigures de Aksu, Xinjiang, que coloquen códigos de barras en sus cuchillos" . Radio Free Asia . 2017. Consultado el 15 de febrero de 2026 .

[67] Hagendorff, Thilo; Bossert, Leonie N.; Tse, Yip Fai; Singer, Peter (1 de agosto de 2023). "Sesgo especista en la IA: cómo las aplicaciones de IA perpetúan la discriminación y los resultados injustos contra los animales". IA y ética . 3 (3): 717– 734. doi : 10.1007/s43681-022-00199-9 . ISSN 2730-5961 .

[Gillespie-68] Gillespie, Tarleton (25 de junio de 2014). "Algoritmo [ borrador ] [ #palabrasclavedigitales ] – Culture Digitally" . culturedigitally.org . Consultado el 20 de noviembre de 2017 .

[Roth-69] Roth, AE 1524–1528. (14 de diciembre de 1990). "Nuevos médicos: un experimento natural en la organización del mercado" . Science . 250 ( 4987): 1524–1528 . Bibcode : 1990Sci...250.1524R . doi : 10.1126/science.2274783 . PMID 2274783. S2CID 23259274. Recuperado el 18 de noviembre de 2017 . {{cite journal}}: CS1 maint: nombres numéricos: lista de autores ( enlace )

[Kuang-70] Kuang, Cliff (21 de noviembre de 2017). "¿Se le puede enseñar a la IA a explicarse a sí misma?" . The New York Times Magazine . Consultado el 26 de noviembre de 2017 .

[JouvenalPredPol-71] 1 2 Jouvenal, Justin (17 de noviembre de 2016). "La policía está utilizando software para predecir delitos. ¿Es un 'santo grial' o discrimina a las minorías?" . The Washington Post . Recuperado el 25 de noviembre de 2017 .

[Chamma-72] 1 2 Chamma, Maurice (3 de febrero de 2016). "Policing the Future" . The Marshall Project . Recuperado el 25 de noviembre de 2017 .

[LumIsaac-73] Lum, Kristian; Isaac, William (octubre de 2016). "¿Predecir y servir?" . Significance . 13 (5): 14– 19. doi : 10.1111/j.1740-9713.2016.00960.x .

[SmithPredPol-74] Smith, Jack (9 de octubre de 2016). "Un estudio demuestra que la vigilancia predictiva solo amplifica el sesgo racial" . Mic . Consultado el 25 de noviembre de 2017 .

[LumIsaacFAQ-75] Lum, Kristian; Isaac, William (1 de octubre de 2016). "Preguntas frecuentes sobre vigilancia predictiva y sesgo" . HRDAG . Consultado el 25 de noviembre de 2017 .

[76] Bahl, Utsav; Topaz, Chad; Obermüller, Lea; Goldstein, Sophie; Sneirson, Mira (21 de mayo de 2024). "Algoritmos en manos de los jueces: encarcelamiento e inequidad en el condado de Broward, Florida" . UCLA Law Review . 71 (246).

[77] Sun, Wenlong; Nasraoui, Olfa; Shafto, Patrick (2018). «Sesgo algorítmico iterativo en el proceso interactivo de aprendizaje automático de filtrado de información». Actas de la 10.ª Conferencia Internacional Conjunta sobre Descubrimiento de Conocimiento, Ingeniería del Conocimiento y Gestión del Conocimiento . Sevilla, España: SCITEPRESS - Science and Technology Publications. pp. 110–118 . doi : 10.5220/0006938301100118 . ISBN 978-989-758-330-8.

[78] Sinha, Ayan; Gleich, David F.; Ramani, Karthik (9 de agosto de 2018). "La ley de Gauss para redes revela directamente los límites de la comunidad" . Scientific Reports . 8 (1): 11909. Bibcode : 2018NatSR...811909S . doi : 10.1038 / s41598-018-30401-0 . ISSN 2045-2322 . PMC 6085300. PMID 30093660 .

[79] Hao, Karen (febrero de 2018). "Google finalmente admite que tiene un problema de burbuja de filtro" . Quartz . Consultado el 26 de febrero de 2019 .

[80] "Facebook está probando esta nueva función para combatir las 'burbujas de filtro'"" . Fortune . Consultado el 26 de febrero de 2019 .

[Sandvig1-81] 1 2 Sandvig, Christian; Hamilton, Kevin; Karahalios, Karrie ; Langbort, Cedric (22 de mayo de 2014). "Auditoría de algoritmos: métodos de investigación para detectar discriminación en plataformas de Internet" (PDF) . 64.ª Reunión Anual de la Asociación Internacional de Comunicación . Recuperado el 18 de noviembre de 2017 .

[BrinPage98-82] Brin, Sergey; Page, Lawrence. "La anatomía de un motor de búsqueda" . www7.scu.edu.au. Archivado del original el 2 de julio de 2019. Recuperado el 18 de noviembre de 2017 .

[Epstein-83] Epstein, Robert; Robertson, Ronald E. (18 de agosto de 2015). "El efecto de manipulación de los motores de búsqueda (SEME) y su posible impacto en los resultados de las elecciones" . Actas de la Academia Nacional de Ciencias . 112 (33): E4512– E4521. Bibcode : 2015PNAS..112E4512E . doi : 10.1073 / pnas.1419828112 . PMC 4547273. PMID 26243876 .

[Bond-etal-84] Bond, Robert M.; Fariss, Christopher J.; Jones, Jason J.; Kramer, Adam DI; Marlow, Cameron; Settle, Jaime E.; Fowler, James H. (13 de septiembre de 2012). "Un experimento de 61 millones de personas sobre influencia social y movilización política" . Nature . 489 ( 7415): 295–8 . Bibcode : 2012Natur.489..295B . doi : 10.1038/nature11421 . ISSN 0028-0836 . PMC 3834737. PMID 22972300 .

[Zittrain-85] Zittrain, Jonathan (2014). "Engineering an Election" (PDF) . Harvard Law Review Forum . 127 : 335–341 . Archivado del original (PDF) el 4 de marzo de 2021. Recuperado el 19 de noviembre de 2017 .

[Day-86] Day, Matt (31 de agosto de 2016). "Cómo el motor de búsqueda de LinkedIn puede reflejar un sesgo de género" . The Seattle Times . Consultado el 25 de noviembre de 2017 .

[CrawfordSchultz-87] 1 2 Crawford, Kate; Schultz, Jason (2014). "Big Data y debido proceso: hacia un marco para reparar los daños predictivos a la privacidad" . Boston College Law Review . 55 (1): 93–128 . Recuperado el 18 de noviembre de 2017 .

[Duhigg-88] Duhigg, Charles (16 de febrero de 2012). "Cómo las empresas descubren tus secretos" . The New York Times Magazine . Consultado el 18 de noviembre de 2017 .

[Noble-89] Noble, Safiya (2012). "Conexiones perdidas: lo que dicen los motores de búsqueda sobre las mujeres" (PDF) . Bitch . 12 (4): 37– 41. Archivado del original (PDF) el 23 de abril de 2021. Recuperado el 30 de enero de 2019 .

[Guynn2-90] Guynn, Jessica (16 de marzo de 2017). "Google comienza a marcar contenido ofensivo en los resultados de búsqueda" . USA Today . Consultado el 19 de noviembre de 2017 .

[SimoniteMIT-91] Simonite, Tom. "Un estudio sugiere que el sistema de segmentación de anuncios de Google podría discriminar" . MIT Technology Review . Instituto Tecnológico de Massachusetts . Consultado el 17 de noviembre de 2017 .

[92] Prates, Marcelo OR; Avelar, Pedro HC; Lamb, Luis (2018). "Evaluación del sesgo de género en la traducción automática: un estudio de caso con Google Translate". arXiv : 1809.02208 [ cs.CY ].

[93] Prates, Marcelo OR; Avelar, Pedro H.; Lamb, Luís C. (2019). "Evaluación del sesgo de género en la traducción automática: un estudio de caso con Google Translate". Neural Computing and Applications . 32 (10): 6363– 6381. arXiv : 1809.02208 . doi : 10.1007/s00521-019-04144-6 . S2CID 52179151 .

[94] Claburn, Thomas (10 de septiembre de 2018). "Científicos critican a Google Translate por sexismo" . The Register . Consultado el 28 de abril de 2022 .

[95] Dastin, Jeffrey (9 de octubre de 2018). "Amazon elimina una herramienta secreta de reclutamiento con IA que mostraba sesgo contra las mujeres" . Reuters .

[96] Vincent, James (10 de octubre de 2018). "Según informes, Amazon desecha una herramienta interna de reclutamiento con IA que discriminaba a las mujeres" . The Verge .

[97] "Reflexiones sobre el sistema de recomendaciones de Spotify – SongData" . Octubre de 2019. Consultado el 7 de agosto de 2020 .

[Buolamwini-Gebru-98] Buolamwini, Joy; Gebru, Timnit (21 de enero de 2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" . Proceedings of Machine Learning Research . 81 (2018): 77–91 . Recuperado el 27 de septiembre de 2020 .

[Noble2-99] Noble, Safiya Umoja (20 de febrero de 2018). Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo . Nueva York: NYU Press. ISBN 978-1-4798-3724-3.

[Nakamura1-100] 1 2 Nakamura, Lisa (2009). Magnet, Shoshana; Gates, Kelly (eds.). Los nuevos medios de vigilancia . Londres: Routledge. págs. 149–162 . ISBN 978-0-415-56812-8.

[101] Marco Marabelli; Sue Newell; Valerie Handunge (2021). "El ciclo de vida de los sistemas de toma de decisiones algorítmicas: opciones organizativas y desafíos éticos" . Journal of Strategic Information Systems . 30 (3): 1– 15. doi : 10.1016/j.jsis.2021.101683 .

[102] Alexander, Rudolph; Gyamerah, Jacquelyn (septiembre de 1997). "Castigo diferencial de afroamericanos y blancos que poseen drogas: ¿una política justa o una continuación del pasado?". Journal of Black Studies . 28 (1): 97–111 . doi : 10.1177/002193479702800106 . ISSN 0021-9347 . S2CID 152043501 .

[103] Petersilia, Joan (enero de 1985). "Disparidades raciales en el sistema de justicia penal: un resumen". Crime & Delinquency . 31 (1): 15– 34. doi : 10.1177/0011128785031001002 . ISSN 0011-1287 . S2CID 146588630 .

[Guynn-104] 1 2 Guynn, Jessica (1 de julio de 2015). "Google Fotos etiquetó a personas negras como 'gorilas'" . USA Today . Consultado el 18 de noviembre de 2017 .

[Rose-105] Rose, Adam (22 de enero de 2010). "¿Son racistas las cámaras de detección facial?" . Time . Archivado del original el 11 de enero de 2024. Recuperado el 18 de noviembre de 2017 .

[106] "Alexa no entiende tu acento" . The Washington Post .

[Sweeney-107] Sweeney, Latanya (28 de enero de 2013). "Discriminación en la entrega de anuncios en línea". arXiv : 1301.6822 [ cs.IR ].

[108] Braun, Lundy (2015). " Raza , etnia y función pulmonar: una breve historia" . Revista canadiense de terapia respiratoria . 51 (4): 99– 101. ISSN 1205-9838 . PMC 4631137. PMID 26566381 .

[109] Robinson, Whitney R; Renson, Audrey; Naimi, Ashley I (1 de abril de 2020). "Aprender sobre el racismo estructural mejorará el aprendizaje automático" . Bioestadística . 21 ( 2): 339– 344. doi : 10.1093/biostatistics/kxz040 . ISSN 1465-4644 . PMC 7868043. PMID 31742353 .

[110] Johnson, Carolyn Y. (24 de octubre de 2019). "El sesgo racial en un algoritmo médico favorece a los pacientes blancos sobre los pacientes negros más enfermos" . The Washington Post . Consultado el 28 de octubre de 2019 .

[111] Bartlett, Robert; Morse, Adair; Stanton, Richard; Wallace, Nancy (junio de 2019). "Discriminación en préstamos al consumidor en la era FinTech" . Documento de trabajo del NBER n .° 25943. Serie de documentos de trabajo. doi : 10.3386/w25943 . S2CID 242410791 .

[112] Hofmann, V., Kalluri, PR, Jurafsky, D. et al. La IA genera decisiones racistas encubiertas sobre las personas basándose en su dialecto. Nature 633, 147–154 (2024). https://doi.org/10.1038/s41586-024-07856-5

[113] Buolamwini, J.; Gebru, T. (2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" . Actas de la 1.ª Conferencia sobre Equidad, Responsabilidad y Transparencia . págs. 77–91 . Recuperado el 30 de abril de 2025 .

[114] Jeff Larson, Julia Angwin (23 de mayo de 2016). "Cómo analizamos el algoritmo de reincidencia de COMPAS" . ProPublica . Archivado del original el 29 de abril de 2019. Recuperado el 19 de junio de 2020 .

[115] "Comentario: Malas noticias. La inteligencia artificial es parcial" . CNA . 12 de enero de 2019. Archivado del original el 12 de enero de 2019. Consultado el 19 de junio de 2020 .

[ProPublica-116] 1 2 Angwin, Julia; Larson, Jeff; Mattu, Surya; Kirchner, Lauren (23 de mayo de 2016). "Sesgo de máquina — ProPublica" . ProPublica . Recuperado el 18 de noviembre de 2017 .

[Harcourt-117] Harcourt, Bernard (16 de septiembre de 2010). " El riesgo como indicador de raza" . Federal Sentencing Reporter . 27 (4): 237. doi : 10.1525/fsr.2015.27.4.237 . S2CID 53611813. SSRN 1677654 .

[118] Skeem J, Lowenkamp C, Riesgo, raza y reincidencia: sesgo predictivo e impacto desproporcionado, (14 de junio de 2016). SSRN 2687339

[119] Thomas, C.; Nunez, A. (2022). "Automatización de la discreción judicial: cómo las evaluaciones de riesgo algorítmicas en las adjudicaciones previas al juicio violan los derechos de igualdad de protección por motivos de raza" . Law & Inequality . 40 (2): 371– 407. doi : 10.24926/25730037.649 .

[AngwinGrassegger-120] 1 2 Angwin, Julia; Grassegger, Hannes (28 de junio de 2017). "Las reglas secretas de censura de Facebook protegen a los hombres blancos del discurso de odio, pero no a los niños negros — ProPublica" . ProPublica . Recuperado el 20 de noviembre de 2017 .

[AngwinVarnerTobin-121] Angwin, Julia; Varner, Madeleine; Tobin, Ariana (14 de septiembre de 2017). "Facebook permitió a los anunciantes llegar a 'odiadores de judíos' — ProPublica" . ProPublica . Consultado el 20 de noviembre de 2017 .

[122] Sap, Maarten; Card, Dallas; Gabriel, Saadia; Choi, Yejin; Smith, Noah A. (28 de julio - 2 de agosto de 2019). "El riesgo de sesgo racial en la detección del discurso de odio" (PDF) . Actas de la 57.ª Reunión Anual de la Asociación de Lingüistas Computacionales . Florencia, Italia: Asociación de Lingüística Computacional. págs. 1668-1678 . Archivado (PDF) del original el 14 de agosto de 2019.

[123] Ghaffary, Shirin (15 de agosto de 2019). "Los algoritmos que detectan el discurso de odio en línea tienen un sesgo contra las personas negras" . Vox . Consultado el 19 de febrero de 2020 .

[Furl2002-124] Furl, N (diciembre de 2002). "Algoritmos de reconocimiento facial y el efecto de la otra raza: mecanismos computacionales para una hipótesis de contacto del desarrollo" . Cognitive Science . 26 (6): 797– 815. doi : 10.1207/s15516709cog2606_4 .

[Raji-Gebru-Mitchell-2020-125] Raji, Inioluwa Deborah; Gebru, Timnit; Mitchell, Margaret; Buolamwini, Joy; Lee, Joonseok; Denton, Emily (7 de febrero de 2020). "Salvar las apariencias" . Actas de la Conferencia AAAI/ACM sobre IA, Ética y Sociedad . Association for Computing Machinery. págs. 145–151 . arXiv : 2001.00964 . doi : 10.1145/3375627.3375820 . ISBN 978-1-4503-7110-0. S2CID 209862419 .

[The_New_York_Times_2018_l903-126] "El reconocimiento facial es preciso, si eres un hombre blanco" . The New York Times . 9 de febrero de 2018. Consultado el 24 de agosto de 2023 .

[127] Buolamwini, Joy; Gebru, Timnit (2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" (PDF) . Proceedings of Machine Learning Research . 81 : 1 – vía MLR Press.

[Ananny-128] Ananny, Mike (14 de abril de 2011). "La curiosa conexión entre las aplicaciones para hombres homosexuales y los delincuentes sexuales" . The Atlantic . Consultado el 18 de noviembre de 2017 .

[Kafka2-129] Kafka, Peter. "¿Realmente falló Amazon este fin de semana? La comunidad de Twitter dice 'Sí', el minorista en línea dice 'Fallo técnico'."" . AllThingsD . Consultado el 22 de noviembre de 2017 .

[Kafka-130] Kafka, Peter. "Amazon se disculpa por un 'error de catalogación torpe'"" . AllThingsD . Consultado el 22 de noviembre de 2017 .

[131] Matsakis, Louise (22 de febrero de 2019). "Un error de búsqueda 'sexista' dice más de nosotros que Facebook" . Wired . ISSN 1059-1028 . Consultado el 26 de febrero de 2019 .

[132] "Algunas IA simplemente no deberían existir" . 19 de abril de 2019.

[133] Samuel, Sigal (19 de abril de 2019). "Algunas IA simplemente no deberían existir" . Vox . Consultado el 12 de diciembre de 2019 .

[134] Wang, Yilun; Kosinski, Michal (15 de febrero de 2017). "Las redes neuronales profundas son más precisas que los humanos para detectar la orientación sexual a partir de imágenes faciales" . OSF . doi : 10.17605/OSF.IO/ZN79K .

[135] Levin, Sam (9 de septiembre de 2017). «Grupos LGBT denuncian una IA "peligrosa" que utiliza el rostro para adivinar la sexualidad» . The Guardian . ISSN 0261-3077 . Consultado el 12 de diciembre de 2019 .

[136] Pal, GC (16 de septiembre de 2011). "Discapacidad, interseccionalidad y privación: una agenda excluida" . Psychology and Developing Societies . 23(2), 159–176. doi : 10.1177/097133361102300202 . S2CID 147322669 – vía Sagepub.

[137] Brinkman, Aurora H.; Rea-Sandin, Gianna; Lund, Emily M.; Fitzpatrick, Olivia M.; Gusman, Michaela S.; Boness, Cassandra L.; Scholars for Elevating Equity and Diversity (SEED) (20 de octubre de 2022). "Cambiar el discurso sobre la discapacidad: avanzar hacia un enfoque inclusivo e interseccional" . American Journal of Orthopsychiatry . 93 (1): 50– 62. doi : 10.1037/ort0000653 . ISSN 1939-0025 . PMC 9951269. PMID 36265035 .

[138] Whittaker, Meredith (noviembre de 2019). "Discapacidad, sesgo e IA" (PDF) . Archivado del original (PDF) el 27 de marzo de 2023. Recuperado el 2 de diciembre de 2022 .

[139] "Misión: La discapacidad es diversidad. Estimada industria del entretenimiento: NO HAY DIVERSIDAD, EQUIDAD E INCLUSIÓN SIN DISCAPACIDAD" . La discapacidad es diversidad . Consultado el 2 de diciembre de 2022 .

[140] "Diseño de Microsoft" . www.microsoft.com . Consultado el 2 de diciembre de 2022 .

[141] Pulrang, Andrew. "4 maneras de comprender la diversidad de la comunidad de personas con discapacidad" . Forbes . Consultado el 2 de diciembre de 2022 .

[142] Watermeyer, Brian; Swartz, Leslie (12 de octubre de 2022). "Discapacidad y el problema de la interseccionalidad perezosa". Disability & Society . 38 (2): 362– 366. doi : 10.1080/09687599.2022.2130177 . ISSN 0968-7599 . S2CID 252959399 .

[143] "Informe de datos sobre discapacidad 2021" . Iniciativa de datos sobre discapacidad . 23 de mayo de 2021. Consultado el 2 de diciembre de 2022 .

[144] White, Jason JG (2 de marzo de 2020). "Equidad de la IA para personas con discapacidad: análisis del problema y colaboración interdisciplinaria". ACM SIGACCESS Accessibility and Computing (125): 3:1. doi : 10.1145/3386296.3386299 . ISSN 1558-2337 . S2CID 211723415 .

[145] "Los modelos de lenguaje de IA muestran sesgo contra las personas con discapacidad, según un estudio | Universidad Estatal de Pensilvania" . www.psu.edu . 13 de octubre de 2022. Consultado el 2 de diciembre de 2022 .

[146] Givens, Alexandra Reeve (6 de febrero de 2020). "Cómo el sesgo algorítmico perjudica a las personas con discapacidad" . Revista Slate . Consultado el 2 de diciembre de 2022 .

[147] Morris, Meredith Ringel (22 de mayo de 2020). "IA y accesibilidad". Communications of the ACM . 63 (6): 35– 37. arXiv : 1908.08939 . doi : 10.1145/3356727 . ISSN 0001-0782 . S2CID 201645229 .

[148] Noble, Safiya Umoja (20 de febrero de 2018). Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo . Nueva York. ISBN 978-1-4798-3724-3OCLC 987591529 {{cite book}}: CS1 mantenimiento: falta el editor de ubicación ( enlace )

[149] Castelnovo, Alessandro; Inverardi, Nicole; Nanino, Gabriele; Penco, Ilaria; Regoli, Daniele (2023). "¿Suficientemente justo? Un mapa de las limitaciones actuales a los requisitos para tener algoritmos "justos". arXiv : 2311.12435 [ cs.AI ].

[150] Ruggieri, Salvatore; Alvarez, Jose M; Pugnana, Andrea; Turini, Franco (2023). "¿Podemos confiar en la IA justa?" . Actas de la Conferencia AAAI sobre Inteligencia Artificial . 37 (13): 5421– 15430. doi : 10.1609/aaai.v37i13.26798 . hdl : 11384/136444 . S2CID 259678387 .

[151] Samuel, Sigal (19 de abril de 2022). "Por qué es tan condenadamente difícil lograr que la IA sea justa e imparcial" . Vox . Recuperado el 23 de julio de 2024 .

[152] Fioretto, Ferdinando (19 de marzo de 2024). "Incorporar la equidad en la IA es crucial, y difícil de lograr correctamente" . The Conversation . Recuperado el 23 de julio de 2024 .

[Friedler-153] Friedler, Sorelle A.; Scheidegger, Carlos; Venkatasubramanian, Suresh (2016). "Sobre la (im)posibilidad de la justicia". arXiv : 1609.07236 [ cs.CY ].

[Hu-154] Hu, Lily; Chen, Yiling (2018). "Impactos en el bienestar y la distribución de la clasificación justa". arXiv : 1807.01134 [ cs.LG ].

[Dwork-155] Dwork, Cynthia; Hardt, Moritz; Pitassi, Toniann; Reingold, Omer; Zemel, Rich (28 de noviembre de 2011). "Equidad a través de la conciencia". arXiv : 1104.3913 [ cs.CC ].

[Sandvig2-156] 1 2 3 Sandvig, Christian; Hamilton, Kevin; Karahalios, Karrie; Langbort, Cedric (2014). Gangadharan, Seeta Pena; Eubanks, Virginia; Barocas, Solon (eds.). "Una auditoría de algoritmos" (PDF) . Datos y discriminación: ensayos recopilados .

[LaFrance-157] LaFrance, Adrienne (18 de septiembre de 2015). "Los algoritmos que impulsan la web se vuelven cada vez más misteriosos" . The Atlantic . Consultado el 19 de noviembre de 2017 .

[158] Bruno Latour (1999). La esperanza de Pandora: Ensayos sobre la realidad de los estudios de la ciencia . Cambridge, Massachusetts : Harvard University Press .

[KubitschkoKaun-159] Kubitschko, Sebastian; Kaun, Anne (2016). Métodos innovadores en la investigación de medios y comunicación . Springer. ISBN 978-3-319-40700-5. Consultado el 19 de noviembre de 2017 .

[McGee-160] McGee, Matt (16 de agosto de 2013). "EdgeRank ha muerto: el algoritmo de noticias de Facebook ahora tiene cerca de 100 000 factores de ponderación" . Marketing Land . Recuperado el 18 de noviembre de 2017 .

[Granka-161] 1 2 3 Granka, Laura A. (27 de septiembre de 2010). "La política de la búsqueda: una retrospectiva de una década" (PDF) . The Information Society . 26 (5): 364– 374. doi : 10.1080/01972243.2010.511560 . S2CID 16306443. Recuperado el 18 de noviembre de 2017 .

[162] Szymielewicz, Katarzyna (20 de enero de 2020). "Política en caja negra" . Medium . Consultado el 11 de febrero de 2020 .

[163] Veale, Michael; Binns, Reuben (2017). "Aprendizaje automático más justo en el mundo real: Mitigar la discriminación sin recopilar datos sensibles" . Big Data & Society . 4 (2): 205395171774353. doi : 10.1177/2053951717743530 . SSRN 3060763 .

[164] Elliott, Marc N.; Morrison, Peter A.; Fremont, Allen; McCaffrey, Daniel F.; Pantoja, Philip; Lurie, Nicole (junio de 2009). "Uso de la lista de apellidos de la Oficina del Censo para mejorar las estimaciones de raza/etnia y las disparidades asociadas". Metodología de investigación de servicios y resultados de salud . 9 (2): 69– 83. doi : 10.1007/s10742-009-0047-1 . ISSN 1387-3741 . S2CID 43293144 .

[165] Chen, Jiahao; Kallus, Nathan; Mao, Xiaojie; Svacha, Geoffry; Udell, Madeleine (2019). «Equidad bajo desconocimiento» . Actas de la Conferencia sobre Equidad, Responsabilidad y Transparencia . Atlanta, GA, EE. UU.: ACM Press. págs. 339–348 . arXiv : 1811.11154 . doi : 10.1145/3287560.3287594 . ISBN 978-1-4503-6125-5. S2CID 58006233 .

[166] Kilbertus, Niki; Gascon, Adria; Kusner, Matt; Veale, Michael; Gummadi, Krishna; Weller, Adrian (2018). "Justicia ciega: equidad con atributos sensibles cifrados" . Conferencia internacional sobre aprendizaje automático : 2630–2639 . arXiv : 1806.03281 . Bibcode : 2018arXiv180603281K .

[167] Binns, Reuben; Veale, Michael; Kleek, Max Van; Shadbolt, Nigel (13 de septiembre de 2017). "¿Como entrenador, como bot? Herencia de sesgos en la moderación algorítmica de contenido". Informática social . Notas de clase en ciencias de la computación. Vol. 10540. págs. 405–415 . arXiv : 1707.01477 . doi : 10.1007/978-3-319-67256-4_32 . ISBN 978-3-319-67255-7. S2CID 2814848 .

[Claburn-168] Claburn, Thomas (18 de julio de 2016). "La ley de protección de datos de la UE podría acabar con el algoritmo desconocido – InformationWeek" . InformationWeek . Consultado el 25 de noviembre de 2017 .

[:0-169] Jobín , Anna; Ienca, Marcello; Vayena, Effy (2 de septiembre de 2019). "El panorama global de las directrices éticas de la IA". Inteligencia de la máquina de la naturaleza . 1 (9): 389– 399. arXiv : 1906.11668 . Código Bib : 2019NatMI...1..389J . doi : 10.1038/s42256-019-0088-2 . S2CID 201827642 .

[170] Wattenberg, Martin; Viégas, Fernanda; Hardt, Moritz. "Combatir la discriminación con un aprendizaje automático más inteligente" . Google Research.

[171] Hardt, Moritz; Price, Eric; Srebro, Nathan (2016). "Igualdad de oportunidades en el aprendizaje supervisado". arXiv : 1610.02413 [ cs.LG ].

[172] Wiggers, Kyle (25 de mayo de 2018). "Microsoft está desarrollando una herramienta para ayudar a los ingenieros a detectar sesgos en los algoritmos" . VentureBeat.com .

[173] "Facebook afirma tener una herramienta para detectar sesgos en su inteligencia artificial" . Quartz . 3 de mayo de 2018. Archivado del original el 5 de marzo de 2023.

[174] "Pymetrics audit-AI" . GitHub.com .

[175] Johnson, Khari (31 de mayo de 2018). "Pymetrics publica como código abierto Audit AI, una herramienta de detección de sesgos algorítmicos" . VentureBeat.com .

[176] "Aequitas: Kit de herramientas para auditorías de sesgo y equidad" . GitHub.com .

[177] ttps://dsapp.uchicago.edu/aequitas/ IA de auditoría de código abierto, Aequitas en la Universidad de Chicago

[178] Puri, Ruchir (6 de febrero de 2018). "Mitigación de sesgos en modelos de IA" . IBM.com . Archivado del original el 7 de febrero de 2018.

[179] S. Sen, D. Dasgupta y KD Gupta, "Un estudio empírico sobre el sesgo algorítmico", 2020 IEEE 44th Annual Computers, Software, and Applications Conference (COMPSAC), Madrid, España, 2020, pp. 1189–1194, doi : 10.1109/COMPSAC48688.2020.00-95 .

[180] Zou, James; Schiebinger, Londa (julio de 2018). "La IA puede ser sexista y racista: es hora de hacerla justa" . Nature . 559 (7714): 324–326 . Bibcode : 2018Natur.559..324Z . doi : 10.1038/d41586-018-05707-8 . PMID 30018439 .

[181] Jia, Sen; Welfare, Thomas; Cristianini, Nello (2018). Correcto por la razón correcta: Entrenamiento de redes agnósticas . Simposio Internacional sobre Análisis Inteligente de Datos. Springer.

[Sutton-182] Sutton, Adam; Welfare, Thomas; Cristianini, Nello (2018). Incrustaciones sesgadas a partir de datos reales: medición, comprensión y eliminación . Simposio Internacional sobre Análisis Inteligente de Datos. Springer. doi : 10.1007/978-3-030-01768-2_27 .

[183] "Comité de Normas de Ingeniería de Software y Sistemas" . 17 de abril de 2018.

[:4-184] 1 2 Koene, Ansgar (junio de 2017). "Sesgo algorítmico: abordando las crecientes preocupaciones [ Leading Edge ] " (PDF) . Revista IEEE Technology and Society . 36 (2): 31–32 . doi : 10.1109/mts.2017.2697080 . ISSN 0278-0097 . Archivado del original (PDF) el 19 de julio de 2018. Recuperado el 1 de agosto de 2019 .

[:5-185] 1 2 "P7003 - Consideraciones sobre el sesgo algorítmico" . IEEE . Archivado del original el 3 de diciembre de 2018. Recuperado el 3 de diciembre de 2018 .

[186] "IEEE 7003-2024 Norma IEEE para consideraciones sobre sesgos algorítmicos" . Consultado el 16 de marzo de 2025 .

[187] "Comité de Normas de Ingeniería de Software y Sistemas" . 17 de abril de 2018.

[188] "IEEE CertifAIEd™ – Especificación ontológica para el sesgo algorítmico ético" (PDF) . IEEE. 2022.

[189] The Internet Society (18 de abril de 2017). "Inteligencia artificial y aprendizaje automático: documento de política" . Internet Society . Consultado el 11 de febrero de 2020 .

[:2-190] 1 2 "Libro Blanco: Cómo prevenir resultados discriminatorios en el aprendizaje automático" . Foro Económico Mundial . 12 de marzo de 2018. Consultado el 11 de febrero de 2020 .

[191] "Inteligencia Artificial Explicable" . www.darpa.mil . Consultado el 11 de febrero de 2020 .

[192] PricewaterhouseCoopers. "El marco de IA responsable" . PwC . Consultado el 11 de febrero de 2020 .

[193] Heald, David (7 de septiembre de 2006). Transparencia: ¿La clave para una mejor gobernanza? . British Academy. doi : 10.5871/bacad/9780197263839.003.0002 . ISBN 978-0-19-726383-9.

[194] Kemper, Jakko; Kolkman, Daan (6 de diciembre de 2019). "¿Transparente para quién? No hay rendición de cuentas algorítmica sin una audiencia crítica" . Information, Communication & Society . 22 (14): 2081–2096 . doi : 10.1080/1369118X.2018.1477967 . hdl : 11245.1/ 75cb1256-5fe5-4724-9a63-03ef66032d8e . ISSN 1369-118X .

[195] Mitchell, Margaret; Wu, Simone; Zaldivar, Andrew; Barnes, Parker; Vasserman, Lucy; Hutchinson, Ben; Spitzer, Elena; Raji, Inioluwa Deborah; Gebru, Timnit (29 de enero de 2019). «Model Cards for Model Reporting» . Actas de la Conferencia sobre Equidad, Responsabilidad y Transparencia . ACM. págs. 220–229 . arXiv : 1810.03993 . doi : 10.1145/3287560.3287596 . ISBN 978-1-4503-6125-5.

[196] Gebru, Timnit; Morgenstern, Jamie; Vecchione, Briana; Vaughan, Jennifer Wortman; Wallach, Hanna; Iii, Hal Daumé; Crawford, Kate (diciembre de 2021). "Hojas de datos para conjuntos de datos" . Comunicaciones de la ACM . 64 (12): 86– 92. arXiv : 1803.09010 . doi : 10.1145/3458723 . ISSN 0001-0782 .

[197] Bitar, Omar; Deshaies, Benoit; Hall, Dawn (2022). "3.ª revisión de la directiva de la Junta del Tesoro sobre la toma de decisiones automatizada". Revista electrónica SSRN . doi : 10.2139/ssrn.4087546 . ISSN 1556-5068 .

[198] «La Declaración de Toronto: Protección de los derechos a la igualdad y la no discriminación en los sistemas de aprendizaje automático» . Human Rights Watch . 3 de julio de 2018. Consultado el 11 de febrero de 2020 .

[199] La Declaración de Toronto: Protección del derecho a la igualdad y la no discriminación en los sistemas de aprendizaje automático (PDF) . Human Rights Watch. 2018. pág. 15.

[200] Floridi, Luciano; Capuchas, Josh; Beltrametti, Mónica; Chatila, Raja; Chazerand, Patrice; Dignum, Virginia; Luetge, Christoph; Madelín, Robert; Pagallo, Ugo; Rossi, Francesca; Schafer, Burkhard (1 de diciembre de 2018). "AI4People: un marco ético para una buena sociedad de IA: oportunidades, riesgos, principios y recomendaciones" . Mentes y Máquinas . 28 (4): 703. doi : 10.1007/s11023-018-9482-5 . ISSN 1572-8641 . PMC 6404626 . PMID 30930541 .

[201] Crawford, Kate (25 de junio de 2016). "Opinión | El problema de los hombres blancos en la inteligencia artificial" . The New York Times . ISSN 0362-4331 . Consultado el 11 de febrero de 2020 .

[202] "La IA es el futuro, ¿pero dónde están las mujeres?" . Wired . ISSN 1059-1028 . Consultado el 11 de febrero de 2020 .

[203] Snow, Jackie .«Estamos en una crisis de diversidad»: la cofundadora de Black in AI habla sobre lo que está contaminando los algoritmos en nuestras vidas . MIT Technology Review . Consultado el 11 de febrero de 2020 .

[204] Hao, Karen (14 de junio de 2021). "Dentro de la lucha por recuperar la IA del control de las grandes tecnológicas" . MIT Technology Review . Recuperado el 21 de junio de 2021 .

[205] Ciston, Sarah (29 de diciembre de 2019). "La IA interseccional es esencial" . Journal of Science and Technology of the Arts . 11 (2): 3– 8. doi : 10.7559/citarj.v11i2.665 . ISSN 2183-0088 .

[DataFeminism-206] D'Ignazio, Catalina; Klein, Lauren F. (2020). Feminismo de datos . Prensa del MIT. ISBN 978-0-262-04400-4.

[207] Cave, Stephen; Dihal, Kanta (6 de agosto de 2020). "La blancura de la IA" . Philosophy & Technology . 33 (4): 685–703 . doi : 10.1007/s13347-020-00415-6 . ISSN 2210-5441 .

[208] Bondi, Elizabeth; Xu, Lily; Acosta-Navas, Diana; Killian, Jackson A. (2021). «Visualizando comunidades: un enfoque participativo hacia la IA para el bien social». Actas de la Conferencia AAAI/ACM de 2021 sobre IA, ética y sociedad . págs. 425–436 . arXiv : 2105.01774 . doi : 10.1145/3461702.3462612 . ISBN 978-1-4503-8473-5. S2CID 233740121 . Recuperado el 6 de abril de 2023 – a través de ezpa.library.ualberta.ca.

[209] Universidad de Stanford (18 de marzo de 2019). "La Universidad de Stanford lanza el Instituto de Inteligencia Artificial Centrada en el Ser Humano" . Noticias de Stanford . Consultado el 6 de abril de 2023 .

[210] Bondi, Elizabeth; Xu, Lily; Acosta-Navas, Diana; Killian, Jackson A. (21 de julio de 2021). «Visualizando comunidades: un enfoque participativo hacia la IA para el bien social». Actas de la Conferencia AAAI/ACM de 2021 sobre IA, ética y sociedad . págs. 425–436 . arXiv : 2105.01774 . doi : 10.1145/3461702.3462612 . ISBN 978-1-4503-8473-5. S2CID 233740121 .

[211] Bygrave, Lee A (2001). "Perfilado automatizado". Computer Law & Security Review . 17 (1): 17– 24. doi : 10.1016/s0267-3649(01)00104-2 .

[:1-212] 1 2 Veale, Michael; Edwards, Lilian (2018). "Claridad, sorpresas y preguntas adicionales en el borrador de la guía del Grupo de Trabajo del Artículo 29 sobre la toma de decisiones automatizada y la elaboración de perfiles" ( PDF) . Computer Law & Security Review . 34 (2): 398– 404. doi : 10.1016/j.clsr.2017.12.002 . S2CID 4797884. SSRN 3071679 .

[213] Wachter, Sandra; Mittelstadt, Brent; Floridi, Luciano (1 de mayo de 2017). «Por qué no existe un derecho a la explicación de la toma de decisiones automatizada en el Reglamento General de Protección de Datos» . Derecho Internacional de la Privacidad de Datos . 7 (2): 76– 99. doi : 10.1093/idpl/ipx005 . ISSN 2044-3994 .

[Edwards-214] Edwards, Lilian; Veale, Michael (23 de mayo de 2017). "¿Esclavo del algoritmo? Por qué el derecho a una explicación probablemente no sea el remedio que busca". Duke Law & Technology Review . 16 : 18–84 . SSRN 2972855 .

[Singer-215] 1 2 Singer, Natasha (2 de febrero de 2013). "Leyes de protección de datos del consumidor, un océano aparte" . The New York Times . Recuperado el 26 de noviembre de 2017 .

[ObamaAdmin-216] Obama, Barack (12 de octubre de 2016). "Informe de la Administración sobre el futuro de la inteligencia artificial" . whitehouse.gov . Archivos Nacionales . Consultado el 26 de noviembre de 2017 .

[NSTC-217] y Consejo Nacional de Ciencia y Tecnología (2016). Plan Estratégico Nacional de Investigación y Desarrollo de Inteligencia Artificial (PDF) . Gobierno de EE . UU . Recuperado el 26 de noviembre de 2017 .

[Kirchner-218] Kirchner, Lauren (18 de diciembre de 2017). "La ciudad de Nueva York toma medidas para crear rendición de cuentas sobre los algoritmos — ProPublica" . ProPublica . Consultado el 28 de julio de 2018 .

[NYC-219] "El Ayuntamiento de Nueva York - Expediente n.º: Int 1696-2017" . legistar.council.nyc.gov . Ayuntamiento de Nueva York . Consultado el 28 de julio de 2018 .

[220] Wiggers, Kyle (5 de julio de 2023). "Entra en vigor la ley de la ciudad de Nueva York contra la discriminación en los algoritmos de contratación" . TechCrunch . Consultado el 16 de abril de 2025 .

[Powles-221] Powles, Julia. "El audaz y defectuoso intento de la ciudad de Nueva York de hacer responsables a los algoritmos" . The New Yorker . Consultado el 28 de julio de 2018 .

[222] "Manteniendo el liderazgo estadounidense en inteligencia artificial" . 14 de febrero de 2019.

[223] "Desarrollo y uso seguros, protegidos y confiables de la inteligencia artificial" . Noviembre de 2023.

[224] "La vicepresidenta Kamala Harris presenta directrices de IA "seguras, protegidas y responsables" para las agencias federales" . 28 de marzo de 2024.

[225] "India sopesa un proyecto de ley integral de privacidad de datos, similar al RGPD de la UE" . Insurance Journal . 31 de julio de 2018. Consultado el 26 de febrero de 2019 .

[226] "Proyecto de Ley de Protección de Datos Personales de 2018" (PDF) . Ministerio de Electrónica y Tecnología de la Información, Gobierno de la India. 2018. Consultado el 29 de abril de 2022 .

[ 1 ]

[

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]

[ 9 ]

[ 10 ]

[ 11 ]

[ 12 ]

[ 13 ]

[ 14 ]

[ 15 ]

[ 16 ]

[ 17 ]

[ 18 ]

[ 19 ]

[ 20 ]

[ 21 ]

[ 22 ]

[ 23 ]

[ 24 ]

[ 25 ]

[ 26 ]

[ 27 ]

[ 28 ]

[ 29 ]

[ 30 ]

[ 31 ]

[ 32 ]

[ 33 ]

[ 34 ]

[ 35 ]

[ 36 ]

[ 37 ]

[ 38 ]

[ 39 ]

[ 40 ]

[ 41 ]

[ 42 ]

[ 43 ]

[ 44 ]

[ 45 ]

[ 46 ]

[ 47 ].

[ 48 ]

[ 49 ]

[ 51 ]

[ 52 ]

[ 53 ]

[ 54 ]

[ 55 ]

[ 56 ]

[ 57 ]

[ 58 ]

[ 59 ]

[ 60 ]

[ 61 ]

[ 62 ]

[ 63 ]

[ 64 ]

[ 65 ]

[ 66 ]

[ 67 ]

[ 68 ]

[ 69 ]

[ 70 ]

[ 71 ]

[ 72 ]

[ 73 ]

[ 74 ]

[ 75 ]

[ 76 ]

[ 77 ]

[ 78 ]

[ 79 ]

[ 80 ]

[ 81 ]

[ 82 ]

[ 83 ]

[ 84 ]

[ 85 ]

[ 86 ]

[ 87 ]

[ 88 ]

[ 89 ]

[ 90 ]

[ 91 ]

[ 92 ]

[ 93 ]

[ 94 ]

[ 95 ]

[ 96 ]

[ 97 ]

[ 98 ]

[ 99 ]

[ 100 ]

[ 101 ]