Instituto de Seguridad de la IA

El Instituto de Seguridad de la IA ( AISI ) es una organización de investigación dependiente del Departamento de Ciencia, Innovación y Tecnología del Reino Unido cuyo objetivo es "proporcionar a los gobiernos una comprensión científica de los riesgos que plantea la IA avanzada". ^{[ 1 ]} Realiza investigaciones, desarrolla y prueba medidas de mitigación. Anteriormente, se conocía como el Instituto de Seguridad de la IA. ^{[ 2 ]} Su creación se produjo tras la primera gran Cumbre Mundial de Seguridad de la IA , celebrada en Bletchley Park en 2023. ^{[ 3 ]} El objetivo declarado del instituto es "construir el conocimiento líder a nivel mundial sobre los riesgos y soluciones de la IA avanzada, para informar a los gobiernos y que puedan mantener la seguridad pública". Está diseñado como una startup dentro del gobierno, "combinando la autoridad del gobierno con la experiencia y la agilidad del sector privado". ^{[ 4 ]}

AISI ha firmado acuerdos de acceso con Anthropic, Google y OpenAI para probar sus modelos antes de su lanzamiento. ^{[ 3 ]} Cuenta con una plataforma de código abierto llamada Inspect que permite a empresas, gobiernos y académicos realizar pruebas de seguridad estandarizadas para el uso de la IA. ^{[ 3 ]} Entre los trabajos realizados por AISI se encuentra la detección de múltiples vulnerabilidades graves que podrían permitir el desarrollo de armas biológicas; dichas vulnerabilidades se corrigieron antes del lanzamiento del modelo. ^{[ 3 ]}

Realiza investigaciones en diversos campos de aplicación de la IA. Un estudio de AISI descubrió que los LLMs entrenados posteriormente para la persuasión política se volvieron sistemáticamente menos precisos y hasta un 51 % más persuasivos en temas políticos. ^{[ 5 ]} AISI también ha trabajado en el uso de la IA para necesidades emocionales. Descubrió que casi el 10 % de los ciudadanos del Reino Unido utilizaban sistemas como chatbots con fines emocionales semanalmente. ^{[ 6 ]} En un informe publicado en diciembre de 2025, descubrió que "los sistemas ahora superan a los investigadores con doctorado en pruebas de conocimiento científico y ayudan a los no expertos a tener éxito en trabajos de laboratorio que antes habrían estado fuera de su alcance". ^{[ 7 ]}

Adam Beaumont , exdirector de IA del GCHQ, es el director interino de la institución. Jade Leung, asesora de IA del primer ministro británico , es la directora de tecnología. ^{[ 4 ]}

• Instituto Alan Turing , instituto británico de ciencia de datos e inteligencia artificial.
• Instituto de seguridad de inteligencia artificial

• Sitio web oficial