Directiva 3000.09 del Departamento de Defensa

La Directiva 3000.09 del Departamento de Defensa (DODD 3000.09), titulada Autonomía en los Sistemas de Armas, es la política militar actual de EE. UU. sobre armas autónomas . ^{[ 1 ] [ 2 ]} Establece: «Los sistemas de armas autónomos y semiautónomos se diseñarán para permitir a los comandantes y operadores ejercer niveles apropiados de juicio humano sobre el uso de la fuerza». ^{[ 3 ]}

El entonces subsecretario de Defensa, Ashton Carter, emitió la política del Departamento de Defensa sobre autonomía en sistemas de armas, Directiva del Departamento de Defensa (DODD) 3000.09, en noviembre de 2012. ^{[ 3 ]} El Departamento de Defensa actualizó la directiva en enero de 2023. ^{[ 1 ]} En febrero de 2023, Estados Unidos emitió una propuesta de política exterior relacionada, Declaración política sobre el uso militar responsable de la inteligencia artificial y la autonomía . ^{[ 4 ]}

No existe una definición consensuada de sistemas de armas autónomas letales que se utilice en foros internacionales. Sin embargo, la Directiva del Departamento de Defensa 3000.09 proporciona definiciones para diferentes categorías de sistemas de armas autónomas para los fines del ejército estadounidense. Estas definiciones se basan principalmente en el papel del operador humano con respecto a la selección de objetivos y las decisiones de ataque, más que en la sofisticación tecnológica del sistema de armas. ^{[ 1 ]}

La DODD 3000.09 define los LAWS como «sistemas de armas que, una vez activados, pueden seleccionar y atacar objetivos sin intervención humana». Este concepto de autonomía también se conoce como «autónomo total» o «autonomía completa». La directiva contrasta los LAWS con los sistemas de armas autónomos supervisados ​​por humanos, o «con intervención humana», en los que los operadores tienen la capacidad de supervisar y detener el ataque a un objetivo. Otra categoría son los sistemas de armas semiautónomos, o «con intervención humana», que «solo atacan objetivos individuales o grupos de objetivos específicos seleccionados por un operador humano». Las armas semiautónomos incluyen las llamadas armas de « dispara y olvida », como ciertos tipos de misiles guiados, que impactan objetivos identificados por humanos mediante funciones autónomas. ^{[ 1 ]}

La directiva no se aplica a las capacidades cibernéticas autónomas o semiautónomas ; plataformas desarmadas; municiones no guiadas; municiones guiadas manualmente por el operador (por ejemplo, municiones guiadas por láser o por cable ); minas ; artefactos explosivos sin detonar ; ni sistemas autónomos o semiautónomos que no sean sistemas de armas, ni los somete a sus directrices. ^{[ 1 ]}

La DODD 3000.09 exige que todos los sistemas, incluidos los LAWS, se diseñen para "permitir a los comandantes y operadores ejercer niveles apropiados de juicio humano sobre el uso de la fuerza". Como se señala en un libro blanco del gobierno estadounidense de agosto de 2018, "'apropiado' es un término flexible que refleja el hecho de que no existe un nivel fijo y universal de juicio humano que deba aplicarse a todos los contextos. Lo que se considera 'apropiado' puede variar entre sistemas de armas, dominios de guerra, tipos de guerra, contextos operacionales e incluso entre diferentes funciones dentro de un sistema de armas". ^{[ 1 ]}

Además, el “juicio humano sobre el uso de la fuerza” no requiere el “control” manual humano del sistema de armas, como se suele afirmar, sino más bien una participación humana más amplia en las decisiones sobre cómo, cuándo, dónde y por qué se empleará el arma. Esto incluye la determinación humana de que el arma se utilizará “con el debido cuidado y de conformidad con el derecho de la guerra, los tratados aplicables, las normas de seguridad del sistema de armas y las reglas de enfrentamiento aplicables”. ^{[ 1 ]}

Para facilitar esta determinación, la DODD 3000.09 exige que "[se disponga de] una capacitación adecuada, [tácticas, técnicas y procedimientos], y doctrina, que se revisen periódicamente y sean utilizados por los operadores y comandantes del sistema para comprender el funcionamiento, las capacidades y las limitaciones de la autonomía del sistema en condiciones operativas realistas". La directiva también exige que la interfaz hombre-máquina del arma sea "fácilmente comprensible para los operadores capacitados" para que puedan tomar decisiones informadas sobre el uso del arma. ^{[ 1 ]}

La Directiva del Departamento de Defensa 3000.09 exige que el software y el hardware de los sistemas de armas semiautónomos y autónomos cubiertos sean probados y evaluados para garantizar que:

Funcionar según lo previsto en entornos operativos realistas contra adversarios adaptables que adoptan contramedidas realistas y viables, [y] completar los enfrentamientos dentro de un plazo y área geográfica determinados, así como dentro de otras restricciones ambientales y operativas relevantes, de acuerdo con las intenciones del comandante y del operador. Si no puede hacerlo, los sistemas darán por terminado el enfrentamiento u obtendrán información adicional del operador antes de continuarlo. ^{[ 1 ]}

Los sistemas también deben ser «suficientemente robustos para minimizar la probabilidad y las consecuencias de las fallas». Cualquier cambio en el estado operativo del sistema —por ejemplo, debido al aprendizaje automático— requeriría que el sistema se sometiera nuevamente a pruebas y evaluaciones para garantizar que haya conservado sus características de seguridad y su capacidad para operar según lo previsto. La directiva también señala que «el uso de capacidades de IA en sistemas autónomos o semiautónomos será coherente con los Principios Éticos de IA del Departamento de Defensa». ^{[ 1 ]}

Además del proceso estándar de revisión de armas, se requiere una revisión secundaria de alto nivel para los sistemas autónomos y semiautónomos cubiertos. Esta revisión exige que el Subsecretario de Defensa para Política (USD[P]), el Vicepresidente del Estado Mayor Conjunto (VCJCS) y el Subsecretario de Defensa para Investigación e Ingeniería (USD[R&E]) aprueben el sistema antes de su desarrollo formal. Posteriormente, el USD(P), el VCJCS y el Subsecretario de Defensa para Adquisiciones y Sostenimiento (USD[A&S]) deben aprobar el sistema antes de su despliegue. En caso de "necesidad militar urgente", el Subsecretario Adjunto de Defensa puede eximir de esta revisión de alto nivel . La Directiva del Departamento de Defensa 3000.09 establece además el Grupo de Trabajo de Sistemas de Armas Autónomas, compuesto por representantes del USD(P); USD(R&E); USD(A&S); el Asesor Jurídico General del Departamento de Defensa ; el Director de Inteligencia Artificial y Digital; el Director de Pruebas y Evaluación Operativas ; y el Presidente del Estado Mayor Conjunto , para apoyar y asesorar el proceso de revisión de alto nivel. ^{[ 1 ]}

De conformidad con la Sección 251 de la Ley de Autorización de Defensa Nacional para el Año Fiscal 2024 (NDAA; Ley Pública 118-31 (texto) (PDF) ), el Secretario de Defensa deberá notificar a los comités de defensa cualquier modificación a la Directiva del Departamento de Defensa 3000.09 en un plazo de 30 días. El Secretario deberá proporcionar una descripción de la modificación y una explicación de los motivos de la misma. La Sección 1066 de la NDAA del año fiscal 2025 ( Ley Pública 118-159 (texto) (PDF) ) exige además que el Secretario "presente a los comités de defensa del Congreso un informe exhaustivo sobre la aprobación y el despliegue de sistemas de armas autónomas letales por parte de los Estados Unidos", anualmente hasta el 31 de diciembre de 2029. La Sección 1061 de la NDAA del año fiscal 2026 ( Ley Pública 119-60 (menú; la GPO aún no ha publicado la ley) ) modifica el Código de los Estados Unidos para exigir la notificación al Congreso de cualquier exención emitida en virtud de la DODD 3000.09. ^{[ 1 ]}   

La segunda revisión de la DoDD 3000.09, vigente a partir del 25 de enero de 2023, exige que "El Departamento de Defensa diseñe y desarrolle capacidades de IA para cumplir sus funciones previstas, al tiempo que posea la capacidad de detectar y evitar consecuencias no deseadas, y la capacidad de desconectar o desactivar los sistemas desplegados que demuestren un comportamiento no deseado". ^{[ 5 ]}

Como se señala en el Boletín de los Científicos Atómicos , la política exige que los sistemas de armas autónomos que matan personas o utilizan fuerza cinética, seleccionando y atacando objetivos sin intervención humana adicional, estén certificados como conformes con los "niveles apropiados" y otras normas, no que dichos sistemas de armas no puedan cumplir con estas normas y, por lo tanto, estén prohibidos. Los sistemas de caza y destrucción "semiautónomos" que identifican y atacan objetivos de forma autónoma no requieren certificación. ^{[ 6 ]}

• Uso de la inteligencia artificial por parte del Departamento de Defensa de los Estados Unidos

 Este artículo incorpora material de dominio público de Kelley M. Sayler. Defense Primer: US Policy on Lethal Autonomous Weapon Systems . Congressional Research Service .