Hispanopedia Wiki
Articulo de referencia

Ley de Inteligencia Artificial

"},"madeby":{"wt":"[[European Parliament]] and [[European Council|Council]]"},"madeunder":{"wt":""},"OJrefurl":{"wt":"http://data.europa.eu/eli/reg/2024/1689/oj"},"OJref":{"wt":...

Hispanopedia WikiContenido en espanolLectura gratuita

La Ley de Inteligencia Artificial ( Ley de IA ) [ 1 ] es un reglamento de la Unión Europea relativo a la inteligencia artificial (IA). Establece un marco jurídico y regulatorio común para la IA dentro de la Unión Europea (UE). [ 2 ] El reglamento entró en vigor el 1 de agosto de 2024, [ 3 ] con disposiciones que entrarán en vigor gradualmente durante los siguientes 6 a 36 meses. [ 4 ]

Abarca la mayoría de los sistemas de IA en una amplia gama de sectores, con excepciones para la IA utilizada únicamente con fines militares, de seguridad nacional, de investigación o para uso no profesional. [ 5 ] Como forma de regulación de productos, no crea derechos individuales; en cambio, impone obligaciones a los proveedores de IA y a las organizaciones que utilizan IA en un contexto profesional. [ 6 ] [ 7 ]

La Ley clasifica las aplicaciones de IA no exentas según su riesgo de causar daño. Hay cuatro niveles: inaceptable, alto, limitado y mínimo, además de una categoría adicional para la IA de propósito general. [ 8 ]

  • Se prohíben las solicitudes que presenten riesgos inaceptables.
  • Las aplicaciones de alto riesgo deben cumplir con las obligaciones de seguridad, transparencia y calidad, y someterse a evaluaciones de conformidad .
  • Las solicitudes de riesgo limitado solo tienen obligaciones de transparencia.
  • Las aplicaciones de riesgo mínimo no están reguladas.

Para la IA de propósito general, se imponen requisitos de transparencia, con requisitos reducidos para los modelos de código abierto y evaluaciones adicionales para los modelos de alta capacidad. [ 9 ] [ 10 ]

La Ley también crea un Consejo Europeo de Inteligencia Artificial para promover la cooperación nacional y garantizar el cumplimiento del reglamento. [ 11 ] Al igual que el Reglamento General de Protección de Datos de la UE , la Ley puede aplicarse extraterritorialmente a proveedores de fuera de la UE si tienen usuarios dentro de la UE. [ 7 ]

Propuesta por la Comisión Europea el 21 de abril de 2021, [ 12 ] fue aprobada por el Parlamento Europeo el 13 de marzo de 2024, [ 13 ] y por unanimidad por el Consejo de la UE el 21 de mayo de 2024. [ 14 ] El proyecto de ley fue revisado para abordar el aumento de popularidad de los sistemas de inteligencia artificial generativa , como ChatGPT , cuyas capacidades de propósito general no se ajustaban al marco principal. [ 15 ]

Provisiones

Categorías de riesgo

Existen diferentes categorías de riesgo según el tipo de aplicación, con una categoría específica dedicada a la IA generativa de propósito general:

  • Riesgo inaceptable: las aplicaciones de IA de esta categoría están prohibidas, salvo excepciones específicas . [ 16 ] Cuando no se aplica ninguna excepción, esto incluye las aplicaciones de IA que manipulan el comportamiento humano , las que utilizan identificación biométrica remota en tiempo real (como el reconocimiento facial ) en espacios públicos y las que se utilizan para la puntuación social (clasificación de individuos en función de sus características personales, estatus socioeconómico o comportamiento). [ 10 ] [ 17 ]
  • Alto riesgo: aplicaciones de IA que se prevé que representen amenazas significativas para la salud, la seguridad o los derechos fundamentales de las personas. En particular, los sistemas de IA utilizados en salud, educación, reclutamiento, gestión de infraestructura crítica, aplicación de la ley o justicia. Están sujetos a obligaciones de calidad, transparencia, supervisión humana y seguridad, y en algunos casos requieren una Evaluación de Impacto en los Derechos Fundamentales antes de su implementación. [ 18 ] [ 19 ] Una Evaluación de Impacto en los Derechos Fundamentales (EIRF) es una revisión ex ante para identificar y mitigar los posibles impactos en los derechos fundamentales antes de que se implemente un sistema de IA. [ 18 ] [ 20 ] Trabajos anteriores sobre evaluaciones de impacto algorítmico han sugerido que dichas herramientas deberían identificar qué individuos y comunidades se ven afectados por un sistema automatizado, describir los posibles daños y proporcionar una base para el escrutinio público e institucional de su uso. [ 21 ] Deben evaluarse tanto antes de su comercialización como a lo largo de su ciclo de vida. La lista de aplicaciones de alto riesgo puede ampliarse con el tiempo, sin necesidad de modificar la Ley de IA en sí misma. [ 7 ] Los ciudadanos también tienen derecho a presentar quejas sobre los sistemas de IA y a recibir explicaciones de las decisiones tomadas por la IA de alto riesgo que afectan sus derechos. [ 22 ]
  • Riesgo limitado: los sistemas de IA de esta categoría tienen obligaciones de transparencia, lo que garantiza que los usuarios estén informados de que interactúan con un sistema de IA y les permite tomar decisiones informadas. Esta categoría incluye, por ejemplo, aplicaciones de IA que permiten generar o manipular imágenes, sonido o vídeos (como los deepfakes ). [ 10 ]
  • Riesgo mínimo: esta categoría incluye, por ejemplo, sistemas de IA utilizados para videojuegos o filtros de spam . Se prevé que la mayoría de las aplicaciones de IA se incluyan en esta categoría. [ 23 ] Estos sistemas no están regulados y los Estados miembros no pueden imponer regulaciones adicionales debido a las normas de máxima armonización . Las leyes nacionales vigentes relativas al diseño o uso de dichos sistemas quedan sin efecto. Sin embargo, se sugiere un código de conducta voluntario. [ 24 ]

El esquema basado en el riesgo sigue un modelo de seguridad del producto en el que se asignan deberes regulatorios a los proveedores y desplegadores de sistemas de IA, y estos deberes se vuelven más exigentes a medida que aumenta el impacto potencial en la salud, la seguridad o los derechos fundamentales. Esta estructura tiene como objetivo garantizar que la supervisión se centre en los sistemas que probablemente creen riesgos significativos, al tiempo que permite enfoques menos estrictos para usos considerados menos sensibles. [ 25 ] Algunos expertos en derecho también argumentan que, en la práctica, la Ley define la "IA confiable" como sistemas que pueden demostrar el cumplimiento de estos umbrales de seguridad y riesgo. [ 26 ] Según una evaluación inicial del Servicio de Investigación del Parlamento Europeo, la evaluación de impacto de la Comisión se basó en consultas con las partes interesadas y en una amplia gama de investigaciones existentes al comparar las opciones políticas para este marco basado en el riesgo. [ 27 ]

Añadida en 2023, la categoría de IA de propósito general incluye modelos básicos (por ejemplo, ChatGPT) que pueden realizar una amplia gama de tareas. Si los pesos y el diseño de un modelo se publican como código abierto, los desarrolladores deben publicar un resumen de los datos de entrenamiento y una política de derechos de autor; los modelos de código cerrado deben cumplir requisitos de transparencia más amplios. Los modelos de alto impacto que plantean riesgos sistémicos (que requieren más de 10²⁵ operaciones de punto flotante para su entrenamiento) [ 28 ] deben someterse a una evaluación adicional. [ 6 ] [ 10 ] Un Código de Buenas Prácticas para la IA de Propósito General , publicado el 10 de julio de 2025, describe tres capítulos principales sobre transparencia, derechos de autor y seguridad para ayudar a los proveedores a demostrar el cumplimiento de la Ley de IA. La participación en el código es voluntaria. [ 29 ]

Más allá de estas obligaciones básicas de transparencia, la Ley establece una lista común de obligaciones para los proveedores de modelos de IA de propósito general. Deben publicar un resumen de los datos de entrenamiento, adoptar una política para cumplir con la ley de derechos de autor y proporcionar documentación técnica a los proveedores posteriores y a las autoridades de supervisión. Los modelos que se consideren de riesgo sistémico también deben realizar evaluaciones de modelos y pruebas adversarias, evaluar y mitigar riesgos como sesgos y fallos de seguridad, informar sobre incidentes graves y garantizar un nivel adecuado de ciberseguridad. [ 30 ]

Exenciones

Los artículos 2.3 y 2.6 eximen de la Ley de IA a los sistemas de IA utilizados con fines militares o de seguridad nacional , o para investigación y desarrollo puramente científicos. [ 16 ] En particular, el Reglamento no se aplica cuando los sistemas de IA se utilizan exclusivamente con fines militares, de defensa o de seguridad nacional, ni a los sistemas desarrollados y puestos en servicio únicamente para investigación y desarrollo científicos; si dichos sistemas se utilizan posteriormente para otros fines (por ejemplo, usos civiles o policiales), se aplica la Ley. [ 1 ] Estas actividades siguen rigiéndose por normas separadas de la UE y nacionales sobre defensa, seguridad e inteligencia, en lugar de por la propia Ley de IA. [ 31 ]

El artículo 5.2 prohíbe la videovigilancia algorítmica de personas («El uso de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público» [ 32 ] ) únicamente si se realiza en tiempo real. Las excepciones que permiten la videovigilancia algorítmica en tiempo real incluyen fines policiales como «una amenaza real y presente o real y previsible de ataque terrorista». [ 16 ]

El considerando 31 de la Ley establece que tiene por objeto prohibir los «sistemas de IA que proporcionan puntuación social de personas físicas por parte de agentes públicos o privados», pero permite las «prácticas de evaluación lícitas de personas físicas que se llevan a cabo con un fin específico de conformidad con el Derecho de la Unión y el Derecho nacional». [ 33 ] La Quadrature du Net interpreta esta exención como una autorización para los sistemas de puntuación social específicos del sector, [ 16 ] como la puntuación de sospecha utilizada por la agencia francesa de pagos familiares Caisse d'allocations familiales . [ 34 ] [ 16 ]

Gobernancia

La Ley de IA establece varios órganos nuevos en el artículo 64 y los siguientes. Estos órganos se encargan de la aplicación y el cumplimiento de la Ley. El enfoque combina la coordinación a nivel de la UE con la implementación nacional, con la participación tanto de las autoridades públicas como del sector privado.

Se han establecido los siguientes organismos: [ 35 ] [ 36 ] [ 37 ]

  1. Oficina de IA: adscrita a la Comisión Europea, esta autoridad coordinará la aplicación de la Ley de IA en todos los Estados miembros y supervisará el cumplimiento por parte de los proveedores de IA de uso general. También puede solicitar información o iniciar investigaciones cuando se sospechen problemas graves. [ 6 ]
  2. Consejo Europeo de Inteligencia Artificial: compuesto por un representante de cada Estado miembro, el Consejo asesorará y asistirá a la Comisión y a los Estados miembros para facilitar la aplicación coherente y eficaz de la Ley de IA. Entre sus funciones se incluyen la recopilación y el intercambio de conocimientos técnicos y normativos, así como la formulación de recomendaciones, dictámenes escritos y otros tipos de asesoramiento.
  3. Foro Asesor: creado para asesorar y proporcionar conocimientos técnicos a la Junta y a la Comisión, este foro representará una selección equilibrada de partes interesadas, incluidos la industria, las empresas emergentes, las pequeñas y medianas empresas, la sociedad civil y el mundo académico, lo que garantiza que se represente un amplio espectro de opiniones durante el proceso de implementación y aplicación.
  4. Panel Científico de Expertos Independientes: este panel proporcionará asesoramiento técnico y aportaciones a la Oficina de IA y a las autoridades nacionales, velará por el cumplimiento de las normas para los modelos de IA de propósito general (en particular, mediante la emisión de alertas cualificadas sobre posibles riesgos a la Oficina de IA) y garantizará que las normas y la aplicación de la Ley de IA se correspondan con los últimos hallazgos científicos.

Si bien se prevé la creación de nuevos organismos a nivel de la UE, los Estados miembros deberán designar «autoridades nacionales competentes». [ nota 1 ] Estas autoridades serán responsables de garantizar la aplicación y ejecución de la Ley de IA y de llevar a cabo la «vigilancia del mercado». [ 38 ] Verificarán que los sistemas de IA cumplan con la normativa, en particular comprobando la correcta realización de las evaluaciones de conformidad y designando a terceros para que realicen evaluaciones de conformidad externas.

Una vez que se publiquen en el Diario Oficial las normas armonizadas para la Ley de IA, se presume que los productos que cumplan con ellas se ajustan a la normativa; estas normas están siendo elaboradas por el Comité Técnico Conjunto 21 (JTC 21) de CEN/CENELEC. [ 39 ]

Aplicación

La Ley regula el acceso al mercado interior de la UE mediante el Nuevo Marco Legislativo . Contiene requisitos esenciales que todos los sistemas de IA deben cumplir para acceder al mercado de la UE. Estos requisitos esenciales se transmiten a las Organizaciones Europeas de Normalización , que desarrollan normas técnicas que detallan aún más dichos requisitos. [ 40 ] Estas normas son desarrolladas por CEN/CENELEC JTC 21. [ 41 ]

La Ley exige que los Estados miembros establezcan sus propios organismos notificadores. Se realizan evaluaciones de conformidad para verificar si los sistemas de IA cumplen con las normas establecidas en la Ley de IA. [ 42 ] Esta evaluación puede realizarse de dos maneras: mediante autoevaluación, donde el proveedor del sistema de IA verifica la conformidad, o mediante evaluación de conformidad por terceros, donde el organismo notificador realiza la evaluación. [ 24 ] Los organismos notificadores también tienen la facultad de realizar auditorías para garantizar evaluaciones de conformidad adecuadas. [ 43 ]

Cada Estado miembro de la UE debe designar también una autoridad supervisora ​​nacional para controlar el cumplimiento, gestionar las quejas y compartir información con la Oficina Europea de IA, que coordina la aplicación de la normativa en toda la Unión. [ 6 ]

En conjunto, estos actores conforman un sistema de supervisión multinivel. Las autoridades nacionales de vigilancia y supervisión del mercado realizan controles y hacen cumplir las normas sobre sistemas de IA de alto riesgo y otros usos regulados, mientras que organismos a nivel de la UE, como la Oficina de IA y el Consejo Europeo de Inteligencia Artificial, apoyan la implementación de la Ley y contribuyen a garantizar una aplicación coherente, en particular para los modelos de IA de propósito general. [ 25 ]

Han surgido críticas respecto al hecho de que muchos sistemas de IA de alto riesgo no requieren evaluaciones de conformidad de terceros. [ 44 ] [ 45 ] [ 46 ] Algunos comentaristas argumentan que las evaluaciones independientes de terceros son necesarias para los sistemas de IA de alto riesgo para garantizar la seguridad antes de su implementación. Expertos en derecho han sugerido que los sistemas de IA capaces de generar deepfakes para desinformación política o crear imágenes íntimas no consensuales deberían clasificarse como de alto riesgo y estar sujetos a una regulación más estricta. [ 47 ] Sin embargo, la Ley no exige explícitamente mecanismos específicos de detección de deepfakes, ni aborda de manera integral las implicaciones más amplias para los derechos humanos derivadas de la proliferación de dichos medios sintéticos. [ 48 ]

Sanciones

El incumplimiento de las prohibiciones del artículo 5 está sujeto a multas administrativas de hasta 35.000.000 EUR o, si el infractor es una empresa, hasta el 7 % de su volumen de negocios anual mundial total, la cantidad que sea mayor. Otras obligaciones de los operadores pueden ser sancionadas con multas de hasta 15.000.000 EUR o el 3 % del volumen de negocios anual mundial, la cantidad que sea mayor; proporcionar información incorrecta, incompleta o engañosa puede ser sancionado con multas de hasta 7.500.000 EUR o el 1 % del volumen de negocios anual mundial. Para las pymes, incluidas las empresas emergentes, el límite máximo aplicable es el menor entre el porcentaje correspondiente y la cantidad fija. Para los proveedores de modelos de IA de propósito general, la Comisión puede imponer multas separadas de hasta 15.000.000 EUR o el 3 % del volumen de negocios anual mundial en los casos específicos enumerados en el artículo 101. [ 1 ]

entornos de pruebas regulatorios

La Ley prevé «entornos de prueba regulatorios», es decir, entornos de prueba controlados gestionados por las autoridades nacionales competentes, donde los desarrolladores pueden probar sistemas de IA bajo supervisión antes de su comercialización, para apoyar la innovación manteniendo las salvaguardias. Se alienta a los Estados miembros a establecer dichos entornos de prueba con arreglo a las normas coordinadas de la UE, y las pequeñas y medianas empresas (pymes) y las empresas emergentes pueden tener acceso prioritario a sistemas de prueba en un entorno que cumpla con la normativa. [ 49 ]

Procedimiento legislativo

En febrero de 2020, la Comisión Europea publicó el «Libro Blanco sobre Inteligencia Artificial: Un enfoque europeo hacia la excelencia y la confianza». [ 50 ] En octubre de 2020, se celebraron debates entre los líderes de la UE en el Consejo Europeo . El 21 de abril de 2021, la Comisión propuso oficialmente la Ley de IA. [ 12 ] El 6 de diciembre de 2022, el Consejo Europeo adoptó la orientación general, lo que permitió iniciar las negociaciones con el Parlamento Europeo . El 9 de diciembre de 2023, tras tres días de intensas conversaciones, el Consejo y el Parlamento de la UE concluyeron un acuerdo. [ 51 ] [ 52 ]

La ley fue aprobada en el Parlamento Europeo el 13 de marzo de 2024, cuando los eurodiputados adoptaron el texto final en sesión plenaria por una votación de 523 a favor, 46 en contra y 49 abstenciones. [ 22 ] Fue aprobada por el Consejo de la UE el 21 de mayo de 2024. [ 14 ] Entró en vigor el 1 de agosto de 2024, [ 3 ] 20 días después de su publicación en el Diario Oficial el 12 de julio de 2024. [ 13 ] [ 53 ] Tras su entrada en vigor, habrá un retraso antes de que sea aplicable, que depende del tipo de aplicación. Este retraso es de 6 meses para las prohibiciones de sistemas de IA de "riesgo inaceptable", 9 meses para los códigos de buenas prácticas, 12 meses para los sistemas de IA de propósito general, 36 meses para algunas obligaciones relacionadas con sistemas de IA de "alto riesgo" y 24 meses para todo lo demás. [ 53 ] [ 22 ]

Los comentaristas jurídicos han descrito la Ley de IA como un marco integral y sin precedentes para la regulación de la IA en múltiples sectores, y como un posible punto de referencia para las empresas y los reguladores fuera de la UE cuando diseñen sus propios enfoques para la gobernanza de la IA. [ 54 ]

Reacciones

Los expertos han argumentado que, si bien la jurisdicción de la ley es europea, podría tener implicaciones de gran alcance para las empresas internacionales que planean expandirse a Europa. [ 55 ] Anu Bradford, de Columbia, ha argumentado que la ley proporciona un impulso significativo al movimiento mundial para regular las tecnologías de IA. [ 55 ]

Amnistía Internacional afirmó que, si bien los responsables políticos de la UE presentan la Ley de IA como un modelo global para la regulación de la IA, la legislación no tiene en cuenta los principios básicos de derechos humanos y ofrece una protección limitada a las personas afectadas y marginadas. Argumentó que la Ley no prohíbe el uso y la exportación irresponsables de lo que denomina «tecnologías de IA draconianas», no garantiza la igualdad de protección para migrantes, refugiados y solicitantes de asilo, y carece de disposiciones adecuadas de rendición de cuentas y transparencia, lo que, en su opinión, corre el riesgo de exacerbar las violaciones de los derechos humanos. [ 56 ]

Algunos organismos de control tecnológico han argumentado que existían importantes lagunas legales que permitirían a los grandes monopolios tecnológicos afianzar su ventaja en la IA o ejercer presión para debilitar las normas. [ 57 ] [ 58 ] Algunas startups acogieron con satisfacción la aclaración que proporciona la Ley, mientras que otras argumentaron que la regulación adicional haría que las startups europeas fueran menos competitivas en comparación con las startups estadounidenses y chinas. [ 58 ] El análisis jurídico también ha sugerido que, si bien la Ley puede servir como punto de referencia inicial para los marcos de gobernanza de la IA, sus requisitos detallados podrían añadir una complejidad de cumplimiento significativa para los proveedores que operan en múltiples jurisdicciones. [ 54 ] La Quadrature du Net (LQDN) describió la Ley de IA como «hecha a medida para la industria tecnológica, las fuerzas policiales europeas y otras grandes burocracias deseosas de automatizar el control social». LQDN describió el papel de la autorregulación y las exenciones en la Ley como lo que la hace «en gran medida incapaz de impedir el daño social, político y ambiental vinculado a la proliferación de la IA». [ 16 ] A la luz de las preocupaciones ambientales, algunos académicos también han argumentado que el marco de categorización de alto riesgo de la Ley no tiene en cuenta los impactos ambientales de los sistemas de IA, incluido el consumo de energía y las demandas de recursos asociadas con el entrenamiento y despliegue de modelos a gran escala. [ 59 ] Sostienen que al centrarse principalmente en los derechos fundamentales y los riesgos de seguridad del producto, la regulación pasa por alto las preocupaciones de sostenibilidad y las implicaciones climáticas de la expansión de las infraestructuras de IA. [ 59 ] Los comentarios sobre seguridad nacional también han señalado que la exclusión sectorial de la Ley para seguridad y defensa se encuentra junto con marcos de seguridad separados, lo que plantea preguntas sobre cómo estas exenciones interactuarán con la futura política de seguridad y defensa. [ 31 ] Los comentarios académicos han descrito la Ley como una "mezcla" de marcos de seguridad del producto y derechos fundamentales y también han advertido que su enfoque de seguridad del producto depende en gran medida de la autoevaluación del proveedor, lo que plantea preocupaciones sobre la aplicación efectiva. [ 24 ] [ 46 ] Una evaluación inicial de la evaluación de impacto de la Comisión realizada por el Servicio de Investigación del Parlamento Europeo también señaló que gran parte del análisis es cualitativo y que algunas estimaciones, incluidas las de los costos de cumplimiento bajo las diferentes opciones, dependen de supuestos de modelización y evidencia disponible. [ 27 ]Algunos académicos también señalan que vincular la "IA confiable" con el cumplimiento de estos umbrales de riesgo puede hacer menos visibles las decisiones políticas subyacentes sobre qué niveles de riesgo son aceptables. [ 26 ] Propuestas separadas para evaluaciones de impacto algorítmico, como un marco desarrollado por el AI Now Institute para agencias públicas, argumentan que las evaluaciones de impacto deben mapear las comunidades afectadas, examinar la equidad, el sesgo y el debido proceso, y permitir el escrutinio público y de los investigadores continuo de los sistemas de decisión automatizados. [ 21 ]

Una amplia coalición de la sociedad civil, coordinada por European Digital Rights (EDRi), publicó un análisis conjunto que comparaba la Ley de IA final con sus demandas previas y concluyó que la ley no cumple con los requisitos necesarios para proteger los derechos a la privacidad, la igualdad, la no discriminación y la presunción de inocencia. La coalición también solicitó mayores garantías para las personas en movimiento y para las personas con discapacidad, argumentando que la normativa final presenta importantes lagunas en estos ámbitos. [ 60 ]

Organizaciones que representan a autores, intérpretes, editores y productores también han criticado la aplicación de la Ley, en particular sus normas para la IA de propósito general. Una declaración conjunta de 38 organizaciones de creadores globales, publicada por Le Monde , argumentó que el Código de Buenas Prácticas, las directrices para la IA de propósito general y la plantilla para los resúmenes de datos de entrenamiento según el Artículo 53 no protegen adecuadamente los derechos de propiedad intelectual ni garantizan suficiente transparencia sobre los datos utilizados para entrenar modelos de IA generativa, describiendo el resultado como una oportunidad perdida para cumplir con los objetivos declarados de la Ley. Esta crítica se ha debatido en el marco de debates más amplios sobre cómo la Ley de IA y sus disposiciones sobre IA de propósito general pueden afectar la posición de las industrias culturales y creativas en la UE. [ 61 ]

Partiendo de estas críticas, los académicos han expresado su preocupación, en particular, por el enfoque de la Ley para regular los usos secundarios de los modelos de IA entrenados, que pueden tener importantes repercusiones sociales. [ 62 ] [ 63 ] Argumentan que el enfoque limitado de la Ley en los contextos de implementación y la dependencia de que los proveedores declaren por sí mismos los propósitos previstos crea oportunidades para la mala interpretación y una supervisión insuficiente. [ 63 ] Además, la Ley a menudo exime a los modelos de código abierto y descuida fases críticas del ciclo de vida, como la reutilización de los modelos entrenados. [ 62 ] Los modelos entrenados almacenan mapeos de decisiones como parámetros que aproximan patrones de los datos de entrenamiento . Estos "datos del modelo" son distintos de los datos de entrenamiento originales y normalmente se clasifican como no personales, ya que a menudo no se pueden rastrear hasta los sujetos de datos individuales. En consecuencia, quedan fuera del alcance de otras regulaciones como el RGPD . [ 62 ] Algunos académicos también critican la Ley de IA por no regular suficientemente la reutilización de los datos del modelo, advirtiendo de consecuencias potencialmente dañinas para la privacidad individual, la equidad social y los procesos democráticos. [ 62 ] Otros comentaristas también han cuestionado la legitimidad democrática, la transparencia y la aplicabilidad práctica de las nuevas reglas para la IA de propósito general, señalando que su impacto dependerá de cómo los organismos de supervisión las apliquen con el tiempo. [ 30 ]

Los expertos en derecho han argumentado que los marcos basados ​​en el cumplimiento, como la Ley de IA de la UE, pueden ser insuficientes para prevenir daños, ya que los sistemas optimizados pueden satisfacer los requisitos formales al tiempo que producen resultados prohibidos; un fenómeno descrito como el problema del "fuera de la ley sintético", en el que la brecha entre el cumplimiento nominal y el impacto real permanece sin control. [ 64 ]

Véase también

Notas

  1. ↑ Definido en el Reglamento [ 1 ] en el artículo 3, §48: «“autoridad nacional competente” significa una autoridad notificante o una autoridad de vigilancia del mercado; en lo que respecta a los sistemas de IA puestos en servicio o utilizados por instituciones, agencias, oficinas y órganos de la Unión, las referencias a las autoridades nacionales competentes o a las autoridades de vigilancia del mercado en el presente Reglamento se interpretarán como referencias al Supervisor Europeo de Protección de Datos».

Referencias

  1. 1 2 3 4 5 6 Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas sobre inteligencia artificial y se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Ley de Inteligencia Artificial)
  2. ↑ «Propuesta de Reglamento que establece normas armonizadas sobre inteligencia artificial: Dando forma al futuro digital de Europa» . digital-strategy.ec.europa.eu . 21 de abril de 2021. Archivado del original el 4 de enero de 2023. Consultado el 6 de octubre de 2024 .
  3. 1 2 «Entra en vigor la Ley de IA» (Comunicado de prensa). Bruselas: Comisión Europea . 1 de agosto de 2024. Consultado el 5 de agosto de 2024 .
  4. ↑ "Cronología de los desarrollos" . artificialintelligenceact.eu . Future of Life Institute . Consultado el 13 de julio de 2024 .
  5. ↑ «Ley de inteligencia artificial: el Consejo y el Parlamento llegan a un acuerdo sobre las primeras normas para la IA en el mundo» . Consejo de la UE . 9 de diciembre de 2023. Archivado del original el 10 de enero de 2024. Consultado el 6 de enero de 2024 .
  6. 1 2 3 4 "Ley de Inteligencia Artificial de la UE | Novedades y análisis de la Ley de IA de la UE" . Consultado el 27 de octubre de 2025 .
  7. 1 2 3 Mueller, Benjamin (4 de mayo de 2021). "La Ley de Inteligencia Artificial: una breve explicación" . Centro para la Innovación de Datos . Archivado del original el 14 de octubre de 2022. Recuperado el 6 de enero de 2024 .
  8. ↑ Lilkov, Dimitar (2021). "Regular la inteligencia artificial en la UE: un juego arriesgado" . European View . 20 (2): 166– 174. doi : 10.1177/17816858211059248 .
  9. ↑ Espinoza, Javier (9 de diciembre de 2023). «La UE acuerda normas históricas sobre inteligencia artificial» . Financial Times . Archivado del original el 29 de diciembre de 2023. Consultado el 6 de enero de 2024 .
  10. 1 2 3 4 "Ley de IA de la UE: primer reglamento sobre inteligencia artificial" . Noticias del Parlamento Europeo . Archivado del original el 10 de enero de 2024. Consultado el 6 de enero de 2024 .
  11. ↑ MacCarthy, Mark; Propp, Kenneth (4 de mayo de 2021). «Las máquinas aprenden que Bruselas dicta las reglas: El nuevo reglamento de IA de la UE» . Brookings . Archivado del original el 27 de octubre de 2022. Consultado el 7 de septiembre de 2021 .
  12. 1 2 Propuesta de Reglamento que establece normas armonizadas sobre inteligencia artificial
  13. 1 2 "Primera ley importante del mundo para regular la IA aprobada por los legisladores europeos" . CNBC . 14 de marzo de 2024. Archivado del original el 13 de marzo de 2024. Recuperado el 13 de marzo de 2024 .
  14. 1 2 Browne, Ryan (21 de mayo de 2024). "La primera ley importante del mundo sobre inteligencia artificial recibe la aprobación final de la UE" . CNBC . Archivado del original el 21 de mayo de 2024. Recuperado el 22 de mayo de 2024 .
  15. ↑ Coulter, Martin (7 de diciembre de 2023). "¿Qué es la Ley de IA de la UE y cuándo entrará en vigor la normativa?" . Reuters . Archivado del original el 10 de diciembre de 2023. Consultado el 11 de enero de 2024 .
  16. 1 2 3 4 5 6 Con la aprobación de la Ley de IA, la fiebre del oro tecnosolucionista puede continuar , La Quadrature du Net , 22 de mayo de 2024, Wikidata Q126064181 , archivado del original el 23 de mayo de 2024 
  17. ↑ Henning, Maximilian (27 de agosto de 2025). "¿Tu IA está intentando que te enamores de ella?" . Euractiv . Archivado del original el 29 de agosto de 2025. Recuperado el 4 de septiembre de 2025 .
  18. 1 2 Mantelero, Alessandro (2024). "La Evaluación de Impacto en los Derechos Fundamentales (EIRF) en la Ley de IA: Orígenes, obligaciones legales y elementos clave para una plantilla modelo" . Computer Law & Security Review . 54 106020. arXiv : 2411.15149 . doi : 10.1016/j.clsr.2024.106020 . ISSN 0267-3649 . 
  19. ↑ Mantelero, Alessandro (2022), Más allá de los datos. Derechos humanos, evaluación del impacto ético y social en la IA , Serie de Tecnologías de la Información y Derecho, vol. 36, La Haya: Springer-TMC Asser Press, doi : 10.1007/978-94-6265-531-7 , ISBN  978-94-6265-533-1
  20. ↑ Muis, IM; Straatman, J.; Kamphorst, BA (2025). "Innovación responsable en IA en el sector público: lecciones y recomendaciones para facilitar las evaluaciones de impacto de los algoritmos y los derechos fundamentales". Journal of Responsible Technology . 22 100118. doi : 10.1016/j.jrt.2025.100118 .
  21. 1 2 Instituto, AI Now (9 de abril de 2018). "Informe de evaluaciones de impacto algorítmico: un marco práctico para la rendición de cuentas de las agencias públicas" . Instituto AI Now . Recuperado el 29 de noviembre de 2025 .
  22. 1 2 3 "Ley de Inteligencia Artificial: los eurodiputados aprueban una ley histórica" . Parlamento Europeo . 13 de marzo de 2024. Archivado del original el 15 de marzo de 2024. Consultado el 14 de marzo de 2024 .
  23. ↑ Liboreiro, Jorge (21 de abril de 2021). "«Mayor riesgo, normas más estrictas»: las nuevas normas de la UE sobre inteligencia artificial . Euronews . Archivado del original el 6 de enero de 2024. Consultado el 6 de enero de 2024 .
  24. 1 2 3 Veale, Michael; Borgesius, Frederik Zuiderveen (1 de agosto de 2021). "Desmitificando el proyecto de Ley de Inteligencia Artificial de la UE: análisis de los elementos buenos, malos y poco claros del enfoque propuesto". Computer Law Review International . 22 (4): 97– 112. arXiv : 2107.03721 . doi : 10.9785/cri-2021-220402 . ISSN 2194-4164 . S2CID 235765823 .  
  25. 1 2 "Ley de inteligencia artificial: Legislación de la UE en curso" . Archivado del original el 5 de octubre de 2025. Recuperado el 29 de noviembre de 2025 .
  26. 1 2 Laux, Johann; Wachter, Sandra; Mittelstadt, Brent (2024). "Inteligencia artificial confiable y la Ley de IA de la Unión Europea: Sobre la fusión de confiabilidad y aceptabilidad del riesgo" . Regulation & Governance . 18 (1): 3– 32. doi : 10.1111/rego.12512 . ISSN 1748-5991 . PMC 10903109. PMID 38435808 .   
  27. 1 2 "Ley de inteligencia artificial: Evaluación inicial de una evaluación de impacto de la Comisión Europea" . Archivado del original el 19 de febrero de 2025. Recuperado el 29 de noviembre de 2025 .
  28. ↑ Bertuzzi, Luca (7 de diciembre de 2023). «Ley de IA: los responsables políticos de la UE establecen normas sobre modelos de IA, pero discrepan en materia de aplicación de la ley» . Euractiv . Archivado del original el 8 de enero de 2024. Consultado el 6 de enero de 2024 .
  29. ↑ "Código de buenas prácticas de IA de propósito general | Dando forma al futuro digital de Europa" . digital-strategy.ec.europa.eu . Consultado el 27 de octubre de 2025 .
  30. 1 2 Oskar, Gstrein J.; Haleem, Noman; Zwitter, Andrej (1 de agosto de 2024). "Regulación de IA de propósito general y la Ley de IA de la Unión Europea" . policyreview.info . Recuperado el 29 de noviembre de 2025 .
  31. 1 2 Powell, Rosamund (31 de julio de 2024). "La Ley de IA de la UE: Implicaciones para la seguridad nacional" . El Instituto Alan Turing | Centro de Tecnología y Seguridad Emergentes . Recuperado el 29 de noviembre de 2025 .
  32. ↑ "Artículo 5: Prácticas prohibidas de IA" . artificialintelligenceact.eu . Consultado el 2 de mayo de 2025 .
  33. ↑ Ley de Inteligencia Artificial: [ 1 ] Considerando 31
  34. ↑ Notation des allocataires : la CAF étend sa vigilancia à l ' analyse des revenus en temps réel (en francés), La Quadrature du Net , 13 de marzo de 2024, Wikidata Q126066451 , archivado desde el original el 1 de abril de 2024  
  35. ↑ "Oficina Europea de IA" . Dando forma al futuro digital de Europa . Comisión Europea . Consultado el 18 de julio de 2026 .
  36. ↑ Bertuzzi, Luca (21 de noviembre de 2023). "Los legisladores de la UE debatirán la estructura de gobernanza revisada del reglamento de IA" . Euractiv . Archivado del original el 22 de mayo de 2024. Recuperado el 18 de abril de 2024 .
  37. ↑ Friedl, Paul; Gasiola, Gustavo Gil (7 de febrero de 2024). "Análisis de la Ley de Inteligencia Artificial de la UE" . Verfassungsblog . doi : 10.59704/789d6ad759d0a40b . Archivado del original el 22 de mayo de 2024. Consultado el 16 de abril de 2024 .
  38. ↑ «Inteligencia artificial: preguntas y respuestas» . Comisión Europea . 12 de diciembre de 2023. Archivado del original el 6 de abril de 2024. Consultado el 17 de abril de 2024 .
  39. ↑ "Inteligencia Artificial" . CEN-CENELEC . Consultado el 27 de octubre de 2025 .
  40. ↑ Tartaro, Alessio (2023). «Regulación mediante estándares: progresos actuales y principales desafíos en la estandarización de la Inteligencia Artificial en apoyo de la Ley de IA» . Revista Europea de Derecho y Tecnologías de la Privacidad . 1 (1). Archivado del original el 3 de diciembre de 2023. Recuperado el 10 de diciembre de 2023 .
  41. ↑ "Con la Ley de IA, debemos tener en cuenta la brecha de estándares" . CEPS . 25 de abril de 2023. Consultado el 15 de septiembre de 2024 .
  42. ↑ DOCUMENTO DE TRABAJO DE LOS SERVICIOS DE LA COMISIÓN EVALUACIÓN DE IMPACTO que acompaña a la propuesta de Reglamento del Parlamento Europeo y del Consejo POR EL QUE SE ESTABLECEN NORMAS ARMONIZADAS SOBRE INTELIGENCIA ARTIFICIAL (LEY DE INTELIGENCIA ARTIFICIAL) Y SE MODIFICAN CIERTOS ACTOS LEGISLATIVOS DE LA UNIÓN
  43. ↑ Casarosa, Federica (1 de junio de 2022). "Certificación de ciberseguridad de la inteligencia artificial: una oportunidad perdida para coordinar entre la Ley de Inteligencia Artificial y la Ley de Ciberseguridad". Revista Internacional de Derecho de Ciberseguridad . 3 (1): 115– 130. doi : 10.1365/s43439-021-00043-6 . hdl : 1814/77775 . ISSN 2662-9739 . S2CID 258697805 .  
  44. ↑ Smuha, Nathalie A.; Ahmed-Rengers, Emma; Harkens, Adam; Li, Wenlong; MacLaren, James; Piselli, Riccardo; Yeung, Karen (5 de agosto de 2021). "Cómo la UE puede lograr una IA jurídicamente confiable: una respuesta a la propuesta de la Comisión Europea para una Ley de Inteligencia Artificial". SSRN 3899991 . 
  45. ↑ Ebers, Martin; Hoch, Veronica RS; Rosenkranz, Frank; Ruschemeier, Hannah; Steinrötter, Björn (diciembre de 2021). "La propuesta de la Comisión Europea para una Ley de Inteligencia Artificial: una evaluación crítica por miembros de la Sociedad de Derecho de Robótica e IA (RAILS)" . J: Revista Científica Multidisciplinaria . 4 (4): 589– 603. doi : 10.3390/j4040043 . ISSN 2571-8800 . 
  46. 1 2 Almada, Marco; Petit, Nicolas (27 de octubre de 2023). "La Ley de IA de la UE: entre la seguridad de los productos y los derechos fundamentales". SSRN 4308072 . 
  47. ↑ Romero-Moreno, Felipe (29 de marzo de 2024). "Inteligencia artificial generativa y deepfakes: un enfoque de derechos humanos para abordar el contenido dañino" . Revista Internacional de Derecho, Computadoras y Tecnología . 39 (2): 297–326 . doi : 10.1080/13600869.2024.2324540 . hdl : 2299/20431 . ISSN 1360-0869 . 
  48. ↑ Romero-Moreno, Felipe (23 de junio de 2025). "Detección de deepfakes en IA generativa: una propuesta de marco legal para proteger los derechos humanos" . Computer Law & Security Review . 58 106162. doi : 10.1016/j.clsr.2025.106162 .
  49. ↑ "Ley de inteligencia artificial y entornos de pruebas regulatorios | Think Tank | Parlamento Europeo" . Archivado del original el 3 de octubre de 2025. Consultado el 27 de octubre de 2025 .
  50. ↑ «Libro Blanco sobre Inteligencia Artificial: un enfoque europeo hacia la excelencia y la confianza» . Comisión Europea . 19 de febrero de 2020. Archivado del original el 5 de enero de 2024. Consultado el 6 de enero de 2024 .
  51. ↑ Procedimiento 2021/0106/COD
  52. ↑ "Cronología – Inteligencia artificial" . Consejo Europeo . 9 de diciembre de 2023. Archivado del original el 6 de enero de 2024. Consultado el 6 de enero de 2024 .
  53. 1 2 David, Emilia (14 de diciembre de 2023). "La Ley de IA de la UE aprobada: ahora toca esperar" . The Verge . Archivado del original el 10 de enero de 2024. Recuperado el 6 de enero de 2024 .
  54. 1 2 "La primera de su tipo: la Ley de IA de la UE y lo que significa para el futuro de la IA" . Revista Fordham de Derecho Corporativo y Financiero . 23 de abril de 2024. Consultado el 29 de noviembre de 2025 .
  55. 1 2 "Europa acordó normas de IA pioneras a nivel mundial. ¿Cómo funcionan y afectarán a las personas en todo el mundo?" . AP News . 11 de diciembre de 2023 . Consultado el 31 de mayo de 2024 .
  56. ↑ "UE: El reglamento de inteligencia artificial no logra frenar la proliferación de tecnologías abusivas" . Amnistía Internacional . 13 de marzo de 2024. Consultado el 29 de noviembre de 2025 .
  57. ↑ "El Parlamento Europeo da luz verde a una normativa histórica sobre inteligencia artificial" . Al Jazeera . Consultado el 31 de mayo de 2024 .
  58. 1 2 "La UE aprobó la primera ley de IA. Los expertos en tecnología dicen que es 'agridulce'"" . euronews . 16 de marzo de 2024 . Consultado el 31 de mayo de 2024 .
  59. 1 2 Pagallo, Ugo (3 de febrero de 2025). "Sobre doce tonos de verde: evaluación de los niveles de protección ambiental en la Ley de Inteligencia Artificial" . Minds and Machines . 35 (1): 10. doi : 10.1007/s11023-025-09713-4 . ISSN 1572-8641 . 
  60. ↑ "La Ley de IA de la UE no logra establecer un estándar de oro en materia de derechos humanos" . Derechos Digitales Europeos (EDRi) . Consultado el 29 de noviembre de 2025 .
  61. ↑ "Ley de IA: 38 organizaciones de creadores globales condenan la 'traición' a los objetivos declarados de Europa" . Le Monde . 2 de agosto de 2025. Consultado el 30 de noviembre de 2025 .
  62. 1 2 3 4 Mühlhoff, Rainer; Ruschemeier, Hannah (2024). "Regulación de la IA con limitación de propósito para modelos" . Journal of AI Law and Regulation . 1 (1): 24– 39. doi : 10.21552/aire/2024/1/5 .
  63. 1 2 Muehlhoff, Rainer; Ruschmeier, Hannah (2024). "Actualización de la limitación de propósito para la IA: un enfoque normativo desde el derecho y la filosofía" . SSRN 4711621 . 
  64. ↑ Gropper, Jonathan (16 de febrero de 2026). "El forajido sintético: cómo la IA rompe la gobernanza sin intentarlo" . Revista CommonWealth . Consultado el 17 de febrero de 2026 .