Ley de Transparencia en la Inteligencia Artificial de Vanguardia

La Ley de Transparencia en Inteligencia Artificial de Vanguardia , también conocida como SB-53 , es una ley de California de 2025 que exige mayor transparencia para las empresas que desarrollan inteligencia artificial . ^{[ 1 ]} La SB-53 se centra principalmente en evaluar y reducir los posibles riesgos catastróficos de la IA , y es el primer proyecto de ley que aborda dichos riesgos que se aprueba en Estados Unidos. ^{[ 2 ]}

El proyecto de ley exige a las empresas que creen documentos de acceso público que evalúen los posibles "riesgos catastróficos" ^{[ 3 ]} derivados de sus modelos de IA, así como que publiquen documentación sobre cómo el modelo incorpora las normas de seguridad nacionales e internacionales. El SB-53 también establece protecciones para los denunciantes y procedimientos para alertar al gobierno sobre un "incidente crítico de seguridad". ^{[ 4 ] [ 5 ]}

El proyecto de ley SB-53 fue precedido en 2024 por la fallida Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Vanguardia ("SB-1047"), un proyecto de ley propuesto por el senador Scott Wiener que fue vetado por el gobernador Gavin Newsom . ^{[ 6 ]} Posteriormente, Newsom creó un "Grupo de Trabajo Conjunto de Políticas de IA de California" para brindar recomendaciones sobre la regulación de la IA, lo que guió la redacción del SB-53. ^{[ 4 ]}

El senador Scott Wiener presentó el proyecto de ley el 7 de enero de 2025 y, tras una serie de enmiendas, el SB-53 fue aprobado por el Senado con 29 votos a favor y 8 en contra el 13 de septiembre. El gobernador Gavin Newsom aprobó el proyecto de ley el 25 de septiembre, convirtiéndolo en ley.

La SB-53 se aplica principalmente a empresas con ingresos brutos anuales de al menos 500 millones de dólares. Define un "modelo frontera" como cualquier IA entrenada con más de 10²⁶ ^FLOPS ( incluido el ajuste fino ), incluidos los modelos internos no publicados. Tanto el umbral financiero como el computacional deben cumplirse antes de que se aplique la mayor parte de la ley, aunque el Departamento de Tecnología de California puede reducir o actualizar dicho umbral en una revisión anual que comienza en 2027. La mayoría de las disposiciones del proyecto de ley se centran en los "riesgos catastróficos" de la IA, que se definen como incidentes en los que un modelo contribuye a más de 50 muertes o lesiones graves, o causa más de mil millones de dólares (1.000.000.000) en daños económicos derivados de actos asistidos por IA (como ciberataques o la creación de armas biológicas ). ^{[ 2 ]}

El proyecto de ley exige que las empresas proporcionen marcos de seguridad de acceso público para los modelos de IA de vanguardia, describiendo cómo la empresa evalúa el riesgo catastrófico de su IA y cómo implementa medidas de protección contra dichos riesgos. Esto incluye abordar la posibilidad de que la IA intente eludir las salvaguardas o los mecanismos de supervisión internos. (Ciertos incidentes de seguridad, como el comportamiento peligrosamente engañoso del modelo, lesiones físicas o la muerte, deben notificarse a la Oficina de Servicios de Emergencia de California (OES) en un plazo de 15 días, a menos que el incidente represente un riesgo físico inminente, en cuyo caso debe notificarse de inmediato). La empresa debe seguir su marco publicado y, si se realizan cambios, este debe actualizarse en un plazo de 30 días, y la justificación de dichos cambios también debe hacerse pública.

Además, todas las empresas emergentes están obligadas a publicar información básica sobre los modelos emergentes recién lanzados (como los términos de servicio , los idiomas compatibles y el uso previsto), aunque solo las grandes empresas (con ingresos anuales superiores a 500 millones de dólares) necesitan publicar marcos de seguridad completos.

La SB-53 también establece diversas protecciones para los denunciantes en beneficio de los empleados cubiertos. Las grandes empresas deben contar con canales anónimos de denuncia que protejan a los empleados de represalias por informar sobre riesgos a las autoridades estatales o federales si tienen motivos razonables para creer que su empleador está poniendo en riesgo de manera sustancial la salud y la seguridad públicas. ^{[ 2 ]}

• Ley de Seguridad y Educación en IA Responsable , estado de Nueva York
• Proyecto de Ley 2013 (2024) de la Asamblea de California
• Regulación de la IA en los Estados Unidos
• Regulación de la inteligencia artificial
• Riesgo catastrófico global
• Protección de los denunciantes en Estados Unidos