Toma de decisiones automatizada

La calidad de los datos disponibles y su idoneidad para los sistemas ADM son fundamentales para los resultados. Sin embargo, esto suele ser muy problemático por diversas razones. Los conjuntos de datos suelen ser muy variables; las corporaciones o los gobiernos pueden controlar grandes volúmenes de datos, estar restringidos por motivos de privacidad o seguridad, ser incompletos, sesgados, limitados en cuanto a tiempo o cobertura, medir y describir términos de diferentes maneras, entre otros muchos problemas.

Para que las máquinas aprendan de los datos, a menudo se requieren grandes corpus, que pueden ser difíciles de obtener o calcular; sin embargo, cuando están disponibles, han proporcionado avances significativos, por ejemplo, en el diagnóstico de radiografías de tórax. ^{[ 8 ]}

El aprendizaje automático (ML) implica entrenar programas informáticos mediante la exposición a grandes conjuntos de datos y ejemplos para aprender de la experiencia y resolver problemas. ^{[ 2 ]} El aprendizaje automático se puede utilizar para generar y analizar datos, así como para realizar cálculos algorítmicos, y se ha aplicado al reconocimiento de imágenes y voz, traducciones, texto, datos y simulaciones. Si bien el aprendizaje automático existe desde hace algún tiempo, se está volviendo cada vez más potente debido a los recientes avances en el entrenamiento de redes neuronales profundas (DNN) y al aumento drástico de la capacidad de almacenamiento de datos y la potencia computacional con coprocesadores GPU y computación en la nube . ^{[ 2 ]}

Los sistemas de aprendizaje automático basados ​​en modelos fundamentales se ejecutan en redes neuronales profundas y utilizan la coincidencia de patrones para entrenar un único sistema masivo con grandes cantidades de datos generales, como texto e imágenes. Los primeros modelos tendían a partir de cero para cada nuevo problema; sin embargo, desde principios de la década de 2020, muchos pueden adaptarse a nuevos problemas. ^{[ 9 ]} Ejemplos de estas tecnologías incluyen DALL-E de OpenAI (un programa de creación de imágenes) y sus diversos modelos de lenguaje GPT , así como el programa de modelo de lenguaje PaLM de Google .

Se están llevando a cabo investigaciones y desarrollos sobre el uso de la tecnología para evaluar la calidad de los argumentos, ^{[ 11 ] [ 12 ] [ 13 ]} evaluar ensayos argumentativos ^{[ 14 ] [ 15 ]} y juzgar debates. ^{[ 16 ] [ 17 ] [ 18 ] [ 19 ]} Las posibles aplicaciones de estas tecnologías argumentativas abarcan la educación y la sociedad. Los escenarios a considerar, en este sentido, incluyen aquellos que implican la evaluación de la argumentación y el debate conversacional , matemático , científico , interpretativo , jurídico y político .

En los sistemas legales de todo el mundo, las herramientas algorítmicas, como los instrumentos de evaluación de riesgos (IER), se utilizan para complementar o reemplazar el juicio humano de jueces, funcionarios públicos y agentes de policía en muchos contextos. ^{[ 20 ]} En Estados Unidos, los IER se utilizan para generar puntuaciones que predicen el riesgo de reincidencia en la detención preventiva y las decisiones sobre sentencias, ^{[ 21 ]} evaluar la libertad condicional de los presos y predecir "puntos críticos" para futuros delitos. ^{[ 22 ] [ 23 ] [ 24 ]} Estas puntuaciones pueden tener efectos automáticos o utilizarse para fundamentar las decisiones de los funcionarios del sistema judicial. ^{[ 20 ]} En Canadá, el ADM se utiliza desde 2014 para automatizar ciertas actividades realizadas por los funcionarios de inmigración y para apoyar la evaluación de algunas solicitudes de inmigrantes y visitantes. ^{[ 25 ]}

Los sistemas automatizados de toma de decisiones se utilizan en ciertos programas informáticos para crear órdenes de compra y venta relacionadas con transacciones financieras específicas y enviarlas automáticamente a los mercados internacionales. Estos programas pueden generar órdenes automáticamente basándose en un conjunto de reglas predefinidas, utilizando estrategias de negociación basadas en análisis técnicos, cálculos estadísticos y matemáticos avanzados o información procedente de otras fuentes electrónicas.

Los medios digitales, las plataformas de entretenimiento y los servicios de información ofrecen cada vez más contenido a las audiencias mediante sistemas de recomendación automatizados basados ​​en información demográfica, selecciones previas, filtrado colaborativo o filtrado basado en contenido. ^{[ 27 ]} Esto incluye plataformas de música y vídeo, publicaciones, información sanitaria, bases de datos de productos y motores de búsqueda. Muchos sistemas de recomendación también otorgan cierta autonomía a los usuarios para aceptar recomendaciones e incorporan bucles de retroalimentación algorítmica basados ​​en datos según las acciones del usuario del sistema. ^{[ 6 ]}

Los modelos de lenguaje de aprendizaje automático a gran escala y los programas de creación de imágenes desarrollados por empresas como OpenAI y Google en la década de 2020 tienen un acceso restringido; sin embargo, es probable que tengan una amplia aplicación en campos como la publicidad, la redacción publicitaria , las imágenes de archivo y el diseño gráfico, así como en otros campos como el periodismo y el derecho. ^{[ 9 ]}

La publicidad en línea está estrechamente integrada con muchas plataformas de medios digitales, sitios web y motores de búsqueda, y a menudo implica la entrega automatizada de anuncios gráficos en diversos formatos. La publicidad en línea "programática" implica la automatización de la venta y entrega de publicidad digital en sitios web y plataformas a través de software en lugar de la toma de decisiones directa por parte de humanos. ^{[ 27 ]} Esto a veces se conoce como el modelo de cascada , que implica una secuencia de pasos a través de varios sistemas y actores: editores y plataformas de gestión de datos, datos de usuario, servidores de anuncios y sus datos de entrega, sistemas de gestión de inventario, comerciantes de anuncios e intercambios de anuncios. ^{[ 27 ]} Existen varios problemas con este sistema, incluyendo la falta de transparencia para los anunciantes, métricas no verificables, falta de control sobre los lugares de anuncios, seguimiento de la audiencia y preocupaciones de privacidad. ^{[ 27 ]} Los usuarios de Internet que no les gustan los anuncios han adoptado contramedidas como tecnologías de bloqueo de anuncios que permiten a los usuarios filtrar automáticamente la publicidad no deseada de sitios web y algunas aplicaciones de Internet. En 2017, el 24% de los usuarios de Internet australianos tenían bloqueadores de anuncios. ^{[ 28 ]}

Los modelos de imágenes de IA de aprendizaje profundo se están utilizando para revisar radiografías y detectar la degeneración macular, una afección ocular.

Los gobiernos han estado implementando tecnologías digitales para brindar una administración y servicios sociales más eficientes desde principios de la década de 2000, a menudo denominado gobierno electrónico . Muchos gobiernos alrededor del mundo ahora están utilizando sistemas automatizados y algorítmicos para perfilar y dirigir políticas y servicios, incluyendo vigilancia algorítmica basada en riesgos, clasificación de vigilancia de personas como el control de aeropuertos, prestación de servicios basados ​​en perfiles de riesgo en protección infantil, prestación de servicios de empleo y gestión de los desempleados. ^{[ 29 ]} Una aplicación significativa de ADM en los servicios sociales se relaciona con el uso de análisis predictivos , por ejemplo, predicciones de riesgos para los niños por abuso/negligencia en protección infantil , predicciones de reincidencia o delincuencia en policía y justicia penal, predicciones de fraude de bienestar/fiscal en sistemas de cumplimiento, predicciones de desempleo a largo plazo en servicios de empleo. Históricamente, estos sistemas se basaban en análisis estadísticos estándar, sin embargo, desde principios de la década de 2000, el aprendizaje automático se ha desarrollado e implementado cada vez más. Los problemas clave con el uso de la toma de decisiones automatizada (ADM) en los servicios sociales incluyen el sesgo, la equidad, la rendición de cuentas y la explicabilidad, que se refiere a la transparencia en torno a las razones de una decisión y la capacidad de explicar la base sobre la cual una máquina tomó una decisión. ^{[ 29 ]} Por ejemplo, la agencia federal australiana de prestación de servicios de seguridad social, Centrelink, desarrolló e implementó procesos automatizados para detectar y cobrar deudas, lo que dio lugar a muchos casos de cobro indebido de deudas en lo que se conoció como el esquema RoboDebt . ^{[ 30 ]}

La movilidad conectada y automatizada (CAM) implica vehículos autónomos como automóviles autodirigidos y otras formas de transporte que utilizan sistemas automatizados de toma de decisiones para reemplazar diversos aspectos del control humano del vehículo. ^{[ 31 ]} Esto puede abarcar desde el nivel 0 (conducción completamente humana) hasta el nivel 5 (completamente autónomo). ^{[ 2 ]} En el nivel 5, la máquina es capaz de tomar decisiones para controlar el vehículo basándose en modelos de datos, mapeo geoespacial, sensores en tiempo real y procesamiento del entorno. Los automóviles con niveles 1 a 3 ya están disponibles en el mercado en 2021. En 2016, el gobierno alemán estableció una «Comisión de Ética sobre la Conducción Automatizada y Conectada» que recomendó el desarrollo de vehículos conectados y automatizados (CAV) si los sistemas causan menos accidentes que los conductores humanos (balance positivo de riesgo). También proporcionó 20 reglas éticas para la adaptación de la conducción automatizada y conectada. ^{[ 32 ]} En 2020, la estrategia de la Comisión Europea sobre los CAM recomendó su adopción en Europa para reducir las muertes en carretera y las emisiones; sin embargo, los coches autónomos también plantean muchos problemas políticos, de seguridad y legales en términos de responsabilidad y toma de decisiones éticas en caso de accidentes, así como problemas de privacidad. ^{[ 31 ]} Los problemas de confianza en los vehículos autónomos y las preocupaciones de la comunidad sobre su seguridad son factores clave que deben abordarse si se pretende que los AV se adopten ampliamente. ^{[ 33 ]}

La recopilación automatizada de datos digitales mediante sensores, cámaras, transacciones en línea y redes sociales ha ampliado significativamente el alcance, la escala y los objetivos de las prácticas e instituciones de vigilancia en los sectores gubernamentales y comerciales. ^{[ 34 ]} Como resultado, se ha producido un cambio importante, pasando del monitoreo selectivo de sospechosos a la capacidad de monitorear poblaciones enteras. ^{[ 35 ]} El nivel de vigilancia ahora posible como resultado de la recopilación automatizada de datos se ha descrito como capitalismo de vigilancia o economía de vigilancia para indicar la forma en que los medios digitales implican el seguimiento a gran escala y la acumulación de datos en cada interacción.

ADM puede incorporar sesgos algorítmicos derivados de:

• fuentes de datos, donde las entradas de datos están sesgadas en su recopilación o selección ^{[ 37 ]}
• Diseño técnico del algoritmo, por ejemplo, cuando se han hecho suposiciones sobre cómo se comportará una persona ^{[ 46 ].}
• Sesgo emergente, donde la aplicación de ADM en circunstancias imprevistas crea un resultado sesgado ^{[ 46 ].}

Las dudas sobre la veracidad o inexactitud de los datos o algoritmos, así como la preocupación de que algunos sistemas de toma de decisiones automatizadas (ADM) sean tecnologías opacas, ajenas al escrutinio o la supervisión humana, han dado lugar al debate sobre la explicabilidad, es decir, el derecho a una explicación de las decisiones automatizadas y la IA. Esto se conoce como IA explicable (XAI) o IA interpretable, en la que los resultados de la solución pueden ser analizados y comprendidos por los humanos. Se considera que los algoritmos de XAI siguen tres principios: transparencia, interpretabilidad y explicabilidad.

La toma de decisiones automatizada puede aumentar la asimetría de información entre los individuos cuyos datos alimentan el sistema y las plataformas y sistemas de toma de decisiones capaces de inferir información a partir de esos datos. Por otro lado, se ha observado que en el comercio financiero la asimetría de información entre dos agentes de inteligencia artificial puede ser mucho menor que entre dos agentes humanos o entre agentes humanos y máquinas. ^{[ 47 ]} Una investigación validó la teoría de Daniel Kahneman sobre las decisiones ruidosas de expertos humanos en finanzas. ^{[ 48 ]} Demuestra las inconsistencias inherentes en los juicios humanos, que en consecuencia afectan los resultados de las decisiones automatizadas tomadas por sistemas de apoyo a la decisión de IA.