Teorema del regulador ético

El teorema del regulador ético de Mick Ashby ^{[ 1 ]} se basa en el teorema del buen regulador de Conant-Ashby , ^{[ 2 ]} que es ambiguo porque ser bueno regulando no implica ser bueno éticamente.

El teorema del regulador ético afirma que los siguientes nueve requisitos son necesarios y suficientes para que un regulador cibernético sea a la vez eficaz y ético: ^{[ 3 ]}

1. Propósito expresado como objetivos priorizados de forma inequívoca.
2. La verdad sobre el pasado y el presente.
3. Variedad de acciones posibles.
4. Previsibilidad de los efectos futuros de las acciones.
5. Inteligencia para elegir las mejores acciones.
6. Influencia en el sistema regulado.
7. La ética se expresa como reglas con prioridades claras e inequívocas.
8. Integridad de todos los subsistemas.
9. Transparencia en el comportamiento ético.

De estos requisitos, solo los seis primeros son necesarios para que un regulador sea eficaz. Los tres requisitos de ética, integridad y transparencia son opcionales si un sistema solo necesita ser eficaz. Esto da lugar a la Ley de la Inevitable Inadecuación Ética , que establece: «Si no se especifica que se requiere un sistema ético seguro, lo que se obtiene es un sistema inseguro y poco ético». ^{[ 1 ]} La razón es que, a menos que la adecuación ética sea un requisito, el diseño de un sistema tenderá a optimizar la eficacia y, por lo tanto, ignorará al máximo las dimensiones opcionales de ética, integridad y transparencia, lo que inevitablemente resulta en un diseño y una implementación posterior éticamente inadecuados y vulnerables a la manipulación.

Según el paradigma de la cibernética centrada en modelos, ^{[ 4 ]} un regulador ético es producto de la regulación de tercer orden. El teorema del buen regulador de Conant-Ashby , que establece que "todo buen regulador de un sistema debe ser un modelo de ese sistema", es un principio fundamental del paradigma de la cibernética centrada en modelos. Este paradigma define que un regulador cibernético consta de un propósito, un modelo, un observador bien definido que solo observa lo que el modelo requiere como parámetros de entrada, algún tipo de inteligencia para la toma de decisiones y un canal de control que transmite acciones o comunicaciones seleccionadas al sistema regulado.

Así, para ser efectivo, un regulador cibernético de primer orden (simple) requiere un modelo del sistema que se regula, y un regulador de segundo orden (reflexivo) solo puede lograr la reflexividad si también posee un modelo de sí mismo, que codifica una representación en tiempo real de la variedad posible disponible para el regulador. Finalmente, un regulador ético se implementa mediante el uso de un tercer regulador para regular a un regulador reflexivo y restringirlo a exhibir únicamente un comportamiento que no viole el esquema ético codificado en un tercer modelo. Si el tercer modelo codifica lo que es ilegal o socialmente inaceptable, entonces el concepto de regulador de tercer orden resulta útil para crear robots que cumplan la ley e inteligencia artificial ética .

• Buen regulador
• Variedad (cibernética)
• Ética de la inteligencia artificial
• ética de las máquinas