agente autónomo

Un agente autónomo es un sistema de inteligencia artificial (IA) que puede realizar tareas complejas de forma independiente. ^{[ 1 ]}

Existen diversas definiciones de agente autónomo. Según Brustoloni (1991):

"Los agentes autónomos son sistemas capaces de realizar acciones autónomas y con propósito en el mundo real." ^{[ 2 ]}

Según Maes (1995):

"Los agentes autónomos son sistemas computacionales que habitan un entorno dinámico complejo, perciben y actúan de forma autónoma en dicho entorno y, al hacerlo, logran un conjunto de objetivos o tareas para los que están diseñados." ^{[ 3 ]}

Franklin y Graesser (1997) revisan diferentes definiciones y proponen su propia definición:

"Un agente autónomo es un sistema situado dentro de un entorno y que forma parte de él, que percibe ese entorno y actúa sobre él, a lo largo del tiempo, en pos de su propia agenda y para influir en lo que percibe en el futuro." ^{[ 4 ]}

Explican que:

"Los humanos y algunos animales se encuentran en el extremo superior de la capacidad de ser un agente, con múltiples impulsos contradictorios, múltiples sentidos, múltiples acciones posibles y estructuras de control complejas y sofisticadas. En el extremo inferior, con uno o dos sentidos, una sola acción y una estructura de control absurdamente simple, encontramos un termostato." ^{[ 4 ]}

• Sistemas de IA agentes : Agentes de IA avanzados que pueden planificar proyectos y completarlos con las herramientas necesarias, lo que representa una evolución significativa con respecto a los sistemas simples orientados a tareas. ^{[ 5 ]}
• Integración del Internet de las Cosas (IoT): Los agentes autónomos interactúan cada vez más con los dispositivos IoT, lo que permite sistemas domésticos inteligentes, monitoreo industrial y gestión de infraestructura urbana. ^{[ 6 ]}
• Desarrollo de software colaborativo : Herramientas como Devin de Cognition AI buscan crear ingenieros de software autónomos capaces de razonamiento complejo, planificación y completar tareas de ingeniería que requieren miles de decisiones. ^{[ 7 ]}
• Automatización empresarial: Las plataformas de automatización de procesos de negocio como Agentforce de Salesforce proporcionan bots autónomos para diversas funciones de servicio. ^{[ 8 ]}

• Incertidumbre e información incompleta: Los agentes autónomos deben tomar decisiones con información limitada o incierta sobre su entorno y estados futuros. ^{[ 9 ]}
• Complejidad de la integración: Incorporar agentes autónomos a sistemas y flujos de trabajo existentes puede ser técnicamente complejo y requerir muchos recursos. ^{[ 10 ] [ 11 ]}
• Escalabilidad : A medida que los sistemas se vuelven más complejos y se utilizan más agentes, mantener la coordinación y evitar conflictos se vuelve cada vez más difícil. ^{[ 12 ]}
• Confianza: Las investigaciones han demostrado que la combinación de la apariencia externa y las capacidades autónomas internas influye significativamente en las reacciones humanas y la confianza. Lee et al. (2015) encontraron que la apariencia humana y los altos niveles de autonomía están fuertemente correlacionados con la presencia social, la inteligencia, la seguridad y las percepciones de confiabilidad. Específicamente, la apariencia influye de manera más significativa en la confianza afectiva, mientras que la autonomía afecta tanto a la confianza afectiva como a la cognitiva, donde la confianza afectiva está impulsada por las emociones y la confianza cognitiva se caracteriza por factores basados ​​en el conocimiento. ^{[ 13 ]}
• Vulnerabilidad a la manipulación: Investigadores de Harvard, MIT y otras instituciones educativas descubrieron que los agentes de IA podrían volverse vulnerables a la manipulación y podrían realizar acciones perjudiciales en el proceso de ser útiles. ^{[ 14 ]}

• Responsabilidad: Determinar la responsabilidad cuando los agentes autónomos toman decisiones incorrectas o perjudiciales sigue siendo un tema complejo. ^{[ 15 ]}
• Privacidad y seguridad: los agentes autónomos a menudo requieren acceso a datos sensibles, lo que genera inquietudes sobre la protección de datos y la seguridad del sistema. ^{[ 16 ]}

• Actor y modelo
• Verificación del agente
• Inteligencia ambiental
• AutoGPT
• teoría de la agencia autónoma
• Chatbot
• agente encarnado
• Agente inteligente
• Control inteligente
• Sistema multiagente
• Agente de software