COMPAS (software)

El sistema COMPAS ( Correctional Offender Management Profiling for Alternative Sanctions ) ^{[ 1 ]} es un software de gestión de casos y apoyo a la toma de decisiones desarrollado y propiedad de Northpointe (ahora Equivant), utilizado por los tribunales estadounidenses para evaluar la probabilidad de que un acusado se convierta en reincidente . ^{[ 2 ] [ 3 ]}

COMPAS ha sido utilizado por los estados estadounidenses de Nueva York, Wisconsin, California, el condado de Broward de Florida y otras jurisdicciones. ^{[ 4 ]}

COMPAS fue creado en 1998 por Northpointe, Inc., que se fusionó con otras empresas de tecnología de justicia para convertirse en Equivant en enero de 2017. ^{[ 5 ]} Se clasifica como un instrumento de evaluación de riesgos de "cuarta generación" porque evalúa tanto datos estáticos (como antecedentes penales) como necesidades "criminógenas" dinámicas (como el entorno social actual y la situación laboral). ^{[ 6 ]}

Aunque fue diseñado originalmente para la planificación de la rehabilitación penitenciaria, su uso se extendió a la imposición de penas judiciales. En 2012, el Departamento de Correcciones de Wisconsin adoptó COMPAS en todo el estado, una medida que posteriormente dio lugar al histórico litigio en el caso Loomis contra Wisconsin . ^{[ 7 ]}

El software COMPAS utiliza un algoritmo para evaluar el riesgo potencial de reincidencia. Northpointe creó escalas de riesgo para la reincidencia general y violenta, así como para la mala conducta previa al juicio. Según la Guía del Profesional de COMPAS, las escalas se diseñaron utilizando constructos conductuales y psicológicos "de gran relevancia para la reincidencia y las trayectorias delictivas". ^{[ 8 ]}

Escala de riesgo de liberación previa al juicio

El riesgo previo al juicio es una medida de la probabilidad de que un individuo no se presente ante el tribunal y/o cometa nuevos delitos graves durante su libertad condicional. Según la investigación que sirvió de base para la creación de la escala, los indicadores más significativos que afectan las puntuaciones de riesgo previo al juicio son: "los cargos actuales, los cargos pendientes, los antecedentes penales, el incumplimiento previo del juicio, la estabilidad residencial, la situación laboral, los vínculos con la comunidad y el abuso de sustancias". ^{[ 8 ]}

escala general de reincidencia

La escala general de reincidencia está diseñada para predecir nuevos delitos tras la liberación y después de la evaluación COMPAS. La escala utiliza los antecedentes penales y las personas con las que se relaciona el individuo, su participación en actividades relacionadas con las drogas e indicios de delincuencia juvenil. ^{[ 9 ]}

Escala de reincidencia violenta

La puntuación de reincidencia violenta tiene como objetivo predecir delitos violentos tras la liberación. La escala utiliza datos o indicadores que incluyen el historial de violencia, el historial de incumplimiento, los problemas vocacionales/educativos, la edad de ingreso y la edad de la primera detención. ^{[ 10 ]}

La escala de riesgo de reincidencia violenta se calcula de la siguiente manera:

${\displaystyle s=a(-w)+a_{\text{primero}}(-w)+h_{\text{violencia}}w+v_{\text{edu}}w+h_{\text{nc}}w}$

dónde${\displaystyle s}$es la puntuación de riesgo de reincidencia violenta,${\displaystyle w}$es un multiplicador de peso,${\displaystyle a}$es la edad actual,${\displaystyle a_{\text{primero}}}$es la edad en el momento de la primera detención,${\displaystyle h_{\text{violencia}}}$es la historia de la violencia,${\displaystyle v_{\text{edu}}}$es la escala de educación vocacional, y${\displaystyle h_{\text{nc}}}$es un historial de incumplimiento. El peso,${\displaystyle w}$, está "determinado por la fuerza de la relación del elemento con la reincidencia delictiva de la persona que observamos en los datos de nuestro estudio". ^{[ 11 ]}

Las herramientas de evaluación de riesgos, como COMPAS, se utilizan debido al deseo de procedimientos de sentencia objetivos y basados ​​en evidencia, así como a una mayor eficiencia en el sistema judicial. ^{[ 12 ]} Los defensores del uso de IA y algoritmos en los tribunales tienden a argumentar que estas soluciones mitigarán los sesgos y errores previsibles en el razonamiento de los jueces, como el efecto del juez hambriento (el fenómeno por el cual los jueces son más propensos a tomar decisiones indulgentes después de comer). ^{[ 13 ]} Existen alternativas a las herramientas de evaluación de riesgos, pero son difíciles de implementar. ^{[ 14 ]}

Una crítica general al uso de software propietario como COMPAS es que, dado que los algoritmos que utiliza son secretos comerciales , no pueden ser examinados por el público ni por las partes afectadas, lo que se ha descrito como una violación del debido proceso. ^{[ 14 ] [ 15 ]} Además, se ha demostrado que algoritmos simples, transparentes y más interpretables realizan predicciones aproximadamente tan buenas como el algoritmo COMPAS. ^{[ 14 ] [ 16 ]} Los análisis existentes de los algoritmos han utilizado los cuestionarios disponibles públicamente y aproximaciones de ingeniería inversa basadas en los datos disponibles públicamente. ^{[ 14 ]}

Otra crítica general a los algoritmos basados ​​en aprendizaje automático es que, dado que dependen de los datos, si estos están sesgados, es probable que el software produzca resultados sesgados. ^{[ 17 ]} De manera similar, la versión inicial del algoritmo LSI-R relacionado se entrenó principalmente con delincuentes caucásicos, lo que resultó en una menor validez para delincuentes negros y latinos. ^{[ 14 ]} Los algoritmos también pueden presentar otros tipos de sesgo a los que se les presta menos atención debido al enfoque en el sesgo racial. ^{[ 12 ]}

Se ha argumentado que las evaluaciones de riesgo de COMPAS violan los derechos de Igualdad de Protección de la 14.ª Enmienda por motivos de raza, ya que se sostiene que los algoritmos son discriminatorios por motivos raciales, dan lugar a un trato desigual y no están diseñados de forma precisa. ^{[ 18 ]}

El análisis empírico de las herramientas algorítmicas de evaluación de riesgos se inspiró en una investigación de ProPublica de 2016 sobre COMPAS y un estudio posterior de Dressel y Farid (2018). ^{[ 12 ]} ProPublica descubrió que COMPAS tenía un sesgo racial contra los acusados ​​negros, ^{[ 19 ] [ 15 ] [ 20 ]} y Northpointe respondió que el algoritmo predecía la reincidencia con precisión independientemente de la raza. ^{[ 14 ]} Contrariamente a la intuición, ambas afirmaciones son ciertas: se refieren a dos definiciones mutuamente excluyentes de equidad . ^{[ 14 ]} El análisis de ProPublica se centró en la tasa de errores de clasificación (la probabilidad de que la reincidencia de un acusado se prediga incorrectamente), mientras que Northpointe se centró en la precisión de la predicción (si el algoritmo trata a todos los acusados ​​por igual). Si el algoritmo es justo en una métrica, estará sesgado en la otra. ^{[ 14 ]}

El estudio de Dressel y Farid (2018) encontró que el software COMPAS es algo más preciso que individuos con poca o ninguna experiencia en justicia penal, pero menos preciso que grupos de dichos individuos. ^{[ 21 ] [ 15 ]} Sin embargo, una revisión posterior encontró que estos resultados "parecían un hecho específico y menos representativos de las condiciones generales y reales" y que los algoritmos se desempeñaron mejor que los humanos en condiciones más cercanas al mundo real. ^{[ 12 ]} Por ejemplo, un estudio de replicación encontró que los algoritmos se desempeñaron mejor cuando la probabilidad ( tasa base ) de reincidencia era baja, mientras que Dressel y Farid asumieron que la reincidencia y la no reincidencia eran aproximadamente igualmente probables. ^{[ 12 ]}

Las herramientas de evaluación de riesgos no incorporan explícitamente la raza, y hacerlo probablemente violaría la constitución de los Estados Unidos. ^{[ 14 ]} Sin embargo, dado que factores como el nivel educativo o la situación laboral están correlacionados con la raza, los algoritmos que utilizan estos factores producen resultados diferentes para distintos grupos raciales. ^{[ 14 ]}

Uno de los beneficios propuestos de las herramientas de evaluación de riesgos es una reducción esperada en las tasas de encarcelamiento. ^{[ 12 ]} En 2024, un análisis del impacto práctico de COMPAS en el condado de Broward encontró que su uso condujo a una tasa reducida de confinamiento en todos los grupos demográficos, pero que también exacerbó las diferencias entre los grupos raciales. ^{[ 22 ]}

En julio de 2016, el Tribunal Supremo de Wisconsin dictaminó que los jueces pueden considerar las puntuaciones de riesgo de COMPAS durante la imposición de sentencias, pero deben incluirse advertencias sobre las puntuaciones para representar las "limitaciones y precauciones" de la herramienta. ^{[ 4 ]}

• Sesgo algorítmico
• Si entra basura, sale basura.
• Sistemas de expertos legales
• Loomis contra Wisconsin
• Sentencias penales en los Estados Unidos

• Northpointe (15 de marzo de 2015). "Guía práctica de COMPAS Core" (PDF) .
• Angwin, Julia; Larson, Jeff (23 de mayo de 2016). "Sesgo de máquina" . ProPublica . Recuperado el 21 de noviembre de 2019 .
• Flores, Anthony; Lowenkamp, ​​Christopher; Bechtel, Kristin. "Falsos positivos, falsos negativos y análisis erróneos" (PDF) . Recursos comunitarios para la justicia . Consultado el 21 de noviembre de 2019 .
• Ejemplo de evaluación de riesgos de COMPAS