Hispanopedia Wiki
Articulo de referencia

Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Vanguardia

La Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Vanguardia , o SB 1047 , fue un proyecto de ley fallido de California de 2024 destinado a "mit...

Hispanopedia WikiContenido en espanolLectura gratuita

La Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Vanguardia , o SB 1047 , fue un proyecto de ley fallido de California de 2024 destinado a "mitigar el riesgo de daños catastróficos de modelos de IA tan avanzados que aún no se sabe que existen". [ 2 ] Específicamente, el proyecto de ley se habría aplicado a modelos que costaran más de $100 millones para entrenar y que se entrenaran utilizando una cantidad de potencia de cálculo mayor a 10 26 operaciones enteras o de punto flotante. [ 3 ] SB 1047 se habría aplicado a todas las empresas de IA que operan en California, independientemente de la ubicación de la empresa. [ 4 ] El proyecto de ley habría creado protecciones para los denunciantes [ 5 ] y habría exigido a los desarrolladores que realizaran evaluaciones de riesgo de sus modelos antes de su lanzamiento, con la orientación de la Agencia de Operaciones del Gobierno . También habría establecido CalCompute, un clúster de computación en la nube pública de la Universidad de California para startups, investigadores y grupos comunitarios.

Fondo

El rápido aumento de las capacidades de los sistemas de IA en la década de 2020, incluido el lanzamiento de ChatGPT en noviembre de 2022, provocó que algunos investigadores y miembros del público se preocuparan por los riesgos existenciales asociados con sistemas de IA cada vez más potentes . [ 6 ] [ 7 ] Cientos de ejecutivos tecnológicos e investigadores de IA, incluidos dos de los llamados "padrinos de la IA", Geoffrey Hinton y Yoshua Bengio , firmaron una declaración en mayo de 2023 pidiendo que la mitigación del "riesgo de extinción por IA" fuera una prioridad global junto con las "pandemias y la guerra nuclear". [ 8 ] Sin embargo, la plausibilidad de estos riesgos aún se debate ampliamente. [ 9 ]

La fuerte regulación de la IA ha sido criticada por supuestamente causar captura regulatoria por parte de grandes empresas de IA como OpenAI , un fenómeno en el que la regulación promueve los intereses de las grandes empresas a expensas de la competencia más pequeña y del público en general, [ 7 ] aunque OpenAI terminó oponiéndose al proyecto de ley. [ 10 ] Otros defensores de la regulación de la IA buscan prevenir el sesgo y las violaciones de la privacidad, en lugar de los riesgos existenciales. [ 7 ] Por ejemplo, algunos expertos que consideran que las preocupaciones existenciales son exageradas y poco realistas las ven como una distracción de los daños a corto plazo de la IA, como la toma de decisiones automatizada discriminatoria. [ 11 ]

Ante las preocupaciones existenciales, las empresas tecnológicas han asumido compromisos voluntarios para realizar pruebas de seguridad, por ejemplo, en la Cumbre de Seguridad de la IA y la Cumbre de IA de Seúl . [ 12 ] [ 13 ]

En 2023, poco antes de que se propusiera el proyecto de ley, el gobernador Newsom de California y el presidente Biden emitieron órdenes ejecutivas sobre inteligencia artificial. [ 14 ] [ 15 ] [ 16 ] El senador estatal Wiener dijo que el SB 1047 se basa en gran medida en la orden ejecutiva de Biden y está motivado por la ausencia de una legislación federal unificada sobre seguridad de la IA . [ 17 ] Históricamente, California ha aprobado por sí misma regulaciones sobre varios temas tecnológicos, incluyendo la privacidad del consumidor y la neutralidad de la red , en ausencia de acción por parte del Congreso. [ 18 ] [ 19 ]

Historia

Propuesta y votación

El proyecto de ley fue redactado por el senador estatal Scott Wiener . [ 20 ] [ 21 ] Wiener propuso por primera vez legislación sobre IA para California a través de un proyecto de ley de intención llamado SB 294, la Ley de Seguridad en la Inteligencia Artificial , en septiembre de 2023. [ 22 ] [ 23 ] [ 24 ] El 7 de febrero de 2024, Wiener presentó el SB 1047. [ 25 ] [ 26 ]

El 21 de mayo, el SB 1047 fue aprobado por el Senado con 32 votos a favor y 1 en contra. [ 27 ] [ 28 ] El proyecto de ley fue enmendado significativamente por Wiener el 15 de agosto de 2024, en respuesta a las recomendaciones de la industria. [ 29 ] Las enmiendas incluyeron la adición de aclaraciones y la eliminación de la creación de una "División Modelo Frontera" y la pena por perjurio . [ 30 ] [ 31 ]

El 28 de agosto, el proyecto de ley fue aprobado por la Asamblea Estatal con 48 votos a favor y 16 en contra. Luego, debido a las enmiendas, el Senado volvió a votar el proyecto de ley, aprobándolo con 30 votos a favor y 9 en contra. [ 32 ] [ 33 ]

Veto del gobernador

El 29 de septiembre, el gobernador Gavin Newsom vetó el proyecto de ley. [ 34 ] La fecha límite para que los legisladores de California anularan el veto de Newsom era el 30 de noviembre de 2024. [ 1 ]

Newsom expresó su preocupación por el marco regulatorio del proyecto de ley, que se centra únicamente en los modelos de IA grandes en función de su tamaño computacional, sin tener en cuenta si estos modelos se implementan en entornos de alto riesgo. [ 35 ] [ 36 ] Newsom enfatizó que este enfoque podría crear una falsa sensación de seguridad, pasando por alto modelos más pequeños que podrían presentar riesgos igualmente significativos. [ 35 ] [ 37 ] Reconoció la necesidad de protocolos de seguridad para la IA [ 35 ] [ 38 ] pero destacó la importancia de la adaptabilidad en la regulación, dado que la tecnología de IA continúa evolucionando rápidamente. [ 35 ] [ 39 ]

El gobernador Newsom también se comprometió a trabajar con expertos en tecnología, socios federales e instituciones de investigación, incluyendo la Fundación Carnegie para la Paz Internacional , dirigida por el exjuez de la Corte Suprema de California Mariano-Florentino Cuéllar ; y el Instituto de IA Centrada en el Ser Humano (HAI) de la Universidad de Stanford , dirigido por la Dra. Fei-Fei Li . Anunció planes para colaborar con estas entidades para impulsar el desarrollo responsable de la IA, con el objetivo de proteger al público y, al mismo tiempo, fomentar la innovación. [ 35 ] [ 40 ]

Provisiones

El proyecto de ley SB 1047 habría cubierto los modelos de IA con un cálculo de entrenamiento superior a 10²⁶ operaciones enteras o de punto flotante y un costo superior a 100 millones de dólares. [ 3 ] [ 41 ] Si un modelo cubierto se ajusta con un costo superior a 10 millones de dólares, el modelo resultante también habría estado cubierto. [ 31 ]

El proyecto de ley habría definido los daños críticos con respecto a cuatro categorías: [ 2 ] [ 42 ]

Los desarrolladores habrían necesitado crear un "protocolo de seguridad" antes de entrenar los modelos cubiertos. Antes del despliegue, habrían presentado una declaración de cumplimiento, confirmando que tomaron las precauciones razonables para prevenir que los modelos cubiertos presentaran un riesgo irrazonable de daños críticos. La declaración habría incluido evaluaciones de riesgos y descripciones de su proceso de cumplimiento. Estas reglas se habrían aplicado tanto a los modelos cubiertos como a sus derivados, incluidas las modificaciones posteriores al entrenamiento, con auditorías anuales de terceros requeridas a partir de 2026. Las salvaguardas para reducir el riesgo incluían la capacidad de apagar el modelo, [ 5 ] que se ha descrito de diversas maneras como un " interruptor de apagado " [ 44 ] y un " disyuntor ". [ 45 ] Las disposiciones de denuncia habrían protegido a los empleados que informaran sobre problemas e incidentes de seguridad. [ 5 ]

Además, el proyecto de ley SB 1047 habría creado un clúster de computación en la nube pública llamado CalCompute, asociado con la Universidad de California , para apoyar a empresas emergentes, investigadores y grupos comunitarios que carecen de recursos informáticos a gran escala. [ 30 ]

Cumplimiento y supervisión

El proyecto de ley SB 1047 habría exigido a los desarrolladores, a partir del 1 de enero de 2026, contratar anualmente a un auditor externo para realizar una auditoría independiente del cumplimiento de los requisitos del proyecto de ley, según lo dispuesto. [ 30 ] La Agencia de Operaciones Gubernamentales habría revisado los resultados de las pruebas de seguridad y los incidentes, y habría emitido directrices, normas y mejores prácticas. [ 30 ] El proyecto de ley habría creado una Junta de Modelos Fronterizos para supervisar la aplicación del proyecto de ley por parte de la Agencia de Operaciones Gubernamentales. Estaría compuesta por 9 miembros. [ 30 ]

Recepción

Temas de debate

Los defensores del proyecto de ley describieron sus disposiciones como simples y de alcance limitado, y el senador Scott Weiner lo describió como un "proyecto de ley de seguridad básica y de bajo impacto". [ 7 ] Esto fue refutado por los críticos del proyecto de ley, quienes describieron su lenguaje como vago y lo criticaron por consolidar el poder en las mayores empresas de IA a expensas de las más pequeñas. [ 7 ] Los defensores, a su vez, argumentaron que el proyecto de ley solo se aplica a modelos entrenados con más de 10²⁶ FLOPS y con más de 100 millones de dólares, o ajustados con más de 10 millones de dólares, y que el umbral podría aumentarse si fuera necesario. [ 46 ]

La pena por perjurio también fue objeto de debate y, finalmente, se eliminó mediante una enmienda. El alcance del requisito del "interruptor de apagado" también se redujo, tras las preocupaciones expresadas por los desarrolladores de código abierto. El uso del término "garantía razonable" en el proyecto de ley también fue controvertido y, finalmente, se modificó a "cuidado razonable". Los críticos argumentaron entonces que el "cuidado razonable" imponía una carga excesiva al exigir la certeza de que los modelos no podrían utilizarse para causar daños catastróficos; los defensores afirmaron que la norma no requería certeza y que ya se aplicaba a los desarrolladores de IA en virtud de la legislación vigente. [ 46 ]

Apoyo y oposición

Entre los partidarios individuales del proyecto de ley se encontraban los galardonados con el Premio Turing Yoshua Bengio [ 47 ] y Geoffrey Hinton , [ 48 ] Elon Musk , [ 49 ] Bill de Blasio , [ 50 ] Kevin Esvelt , [ 51 ] Dan Hendrycks , [ 52 ] Vitalik Buterin , [ 53 ] los denunciantes de OpenAI Daniel Kokotajlo [ 43 ] y William Saunders, [ 54 ] Lawrence Lessig , [ 55 ] Sneha Revanur , [ 56 ] Stuart Russell , [ 55 ] Jan Leike , [ 57 ] los actores Mark Ruffalo , Sean Astin y Rosie Perez , [ 58 ] Scott Aaronson , [ 59 ] y Max Tegmark . [ 60 ] Más de 120 celebridades de Hollywood, incluyendo a Mark Hamill , Jane Fonda y JJ Abrams , también firmaron una declaración en apoyo del proyecto de ley. [ 61 ] Max Tegmark comparó el enfoque del proyecto de ley en responsabilizar a las empresas por los daños causados ​​por sus modelos con la exigencia de la FDA de realizar ensayos clínicos antes de que una empresa pueda lanzar un medicamento al mercado. [ 60 ]

Entre las organizaciones que patrocinaron el proyecto de ley se encontraban el Center for AI Safety , Economic Security California y Encode. [ 62 ] El sindicato SAG-AFTRA y dos grupos de mujeres, la National Organization for Women y Fund Her , enviaron cartas de apoyo al gobernador Newsom. [ 63 ] El consejo editorial de Los Angeles Times también escribió en apoyo del proyecto de ley. [ 64 ]

Entre los opositores individuales al proyecto de ley se encontraban Andrew Ng , Fei-Fei Li , [ 65 ] Russell Wald, [ 66 ] Ion Stoica , Jeremy Howard , el ganador del Premio Turing Yann LeCun y los congresistas estadounidenses Nancy Pelosi , Zoe Lofgren , Anna Eshoo , Ro Khanna , Scott Peters , Tony Cárdenas , Ami Bera , Nanette Barragán y Lou Correa . [ 7 ] [ 67 ] [ 68 ] Andrew Ng pidió enfoques regulatorios más específicos, como la focalización de la pornografía deepfake , la marca de agua de los materiales generados y la inversión en equipos rojos y otras medidas de seguridad. [ 69 ]

Los investigadores de la Universidad de California y Caltech también escribieron cartas abiertas en oposición. [ 67 ]

Industria

El proyecto de ley fue rechazado por asociaciones comerciales de la industria , incluyendo la Cámara de Comercio de California , la Cámara de Progreso , [ a ] la Asociación de la Industria de la Computación y las Comunicaciones [ b ] y TechNet. [ c ] [ 3 ] Empresas como Meta [ 73 ] y OpenAI [ 74 ] se opusieron al proyecto de ley o plantearon preocupaciones al respecto, mientras que Google , [ 73 ] Microsoft y Anthropic [ 60 ] propusieron enmiendas sustanciales. [ 4 ] Sin embargo, Anthropic anunció su apoyo a una versión enmendada del proyecto de ley, aunque mencionó que algunos aspectos del mismo les parecían preocupantes o ambiguos. [ 75 ] Varias organizaciones de fundadores de startups y de capital de riesgo se opusieron al proyecto de ley, por ejemplo, Y Combinator , [ 76 ] [ 77 ] Andreessen Horowitz , [ 78 ] [ 79 ] [ 80 ] Context Fund [ 81 ] [ 82 ] y Alliance for the Future. [ 83 ]

Después de que el proyecto de ley fue enmendado, el CEO de Anthropic, Dario Amodei, escribió que "el nuevo SB 1047 está sustancialmente mejorado, hasta el punto de que creemos que sus beneficios probablemente superan sus costos. Sin embargo, no estamos seguros de esto, y todavía hay algunos aspectos del proyecto de ley que nos parecen preocupantes o ambiguos". [ 84 ] El CEO de xAI, Elon Musk, apoyó el proyecto de ley. [ 85 ] El 9 de septiembre de 2024, al menos 113 empleados actuales y exempleados de las empresas de IA OpenAI, Google DeepMind , Anthropic, Meta y xAI firmaron una carta al gobernador Newsom en apoyo del SB 1047. [ 57 ] [ 59 ]

desarrolladores de código abierto

Los críticos expresaron su preocupación por la responsabilidad que el proyecto de ley impondría al software de código abierto si utilizan o mejoran modelos existentes disponibles gratuitamente. Yann LeCun , director de IA de Meta , sugirió que el proyecto de ley acabaría con los modelos de IA de código abierto. [ 69 ] En la comunidad de código abierto existía la preocupación de que, debido a la amenaza de responsabilidad legal, empresas como Meta optaran por no poner a disposición gratuitamente modelos (por ejemplo, Llama ). [ 86 ] [ 87 ] La Alianza de IA se pronunció en contra del proyecto de ley, entre otras organizaciones de código abierto. [ 67 ] Por el contrario, Lawrence Lessig, cofundador de Creative Commons, escribió que el SB 1047 haría que los modelos de IA de código abierto fueran más seguros y populares entre los desarrolladores, ya que tanto el daño como la responsabilidad por ese daño serían menos probables. [ 45 ]

encuestas de opinión pública

El Instituto de Políticas de Inteligencia Artificial, un grupo de expertos a favor de la regulación de la IA, [ 88 ] [ 89 ] realizó tres encuestas a encuestados de California sobre si apoyaban u oponían al SB 1047. [ 90 ] [ 91 ] [ 92 ] [ 93 ] [ 94 ] [ 95 ] La tercera encuesta planteó la pregunta: "Algunos legisladores están proponiendo una ley en California, el Proyecto de Ley del Senado 1047, que exigiría que las empresas que desarrollan IA avanzada realicen pruebas de seguridad y crearía responsabilidad para los desarrolladores de modelos de IA si sus modelos causan daños catastróficos y no tomaron las precauciones adecuadas". [ 96 ] Las opciones eran "Apoyo", "Opongo" y "No estoy seguro". [ 90 ] [ 91 ] Los resultados de su encuesta fueron de 53,8–64,2% de apoyo en julio, [ 90 ] [ 91 ] de 60,1–69,9% de apoyo a principios de agosto, [ 92 ] [ 93 ] y de 65,8–74,2% de apoyo a finales de agosto. [ 94 ] [ 95 ]

Por otro lado, la Cámara de Comercio de California realizó su propia encuesta, que mostró que el 28% de los encuestados apoyaba el proyecto de ley, el 46% se oponía y el 26% era neutral. Sin embargo, la formulación de la pregunta ha sido descrita como "muy sesgada". [ 89 ] El resumen del proyecto de ley en su pregunta fue: "Los legisladores en Sacramento han propuesto una nueva ley estatal —SB 1047— que crearía una nueva agencia reguladora estatal de California para determinar cómo se pueden desarrollar los modelos de IA. Esta nueva ley obligaría a las pequeñas empresas emergentes a pagar potencialmente decenas de millones de dólares en multas si no implementan las órdenes de los burócratas estatales. Algunos dicen que regulaciones onerosas como la SB 1047 podrían llevar a las empresas a mudarse fuera del estado o del país, lo que provocaría la pérdida de inversiones y empleos en California". [ 97 ]

Una encuesta de YouGov, encargada por el Economic Security Project , que copatrocinó el proyecto de ley, reveló que el 78% de los votantes registrados en Estados Unidos apoyaban el SB 1047, y el 80% consideraba que el gobernador Newsom debía firmarlo. [ 98 ] Su pregunta era: «La legislatura de California aprobó recientemente un proyecto de ley para regular la inteligencia artificial (IA), y dado que muchas empresas de IA tienen su sede allí, podría tener repercusiones a nivel nacional. El proyecto de ley exigiría a las empresas californianas que desarrollan la próxima generación de los sistemas de IA más potentes que realicen pruebas de seguridad antes de su lanzamiento. Si las pruebas demuestran que el sistema de IA podría utilizarse para causar daños catastróficos a la sociedad, como perturbar el sistema financiero, interrumpir la red eléctrica o crear armas biológicas, la empresa debe añadir medidas de seguridad razonables para prevenir estos riesgos. Si la empresa no realiza las pruebas o no adopta las medidas de seguridad razonables, podría ser responsabilizada por el Fiscal General de California ». [ 98 ]

Una encuesta de David Binder Research, encargada por el Center for AI Safety , un grupo enfocado en mitigar el riesgo a escala social y patrocinador del proyecto de ley, reveló que el 77% de los californianos apoya una propuesta para exigir a las empresas que prueben los modelos de IA en busca de riesgos de seguridad, y el 86% considera que es una prioridad importante para California desarrollar regulaciones de seguridad para la IA. [ 99 ] [ 100 ] [ 101 ] [ 102 ] Su pregunta fue: "La propuesta exigiría a las empresas californianas que desarrollen la próxima generación de los sistemas de IA más potentes que realicen pruebas de seguridad antes de su lanzamiento. Si las pruebas demuestran que el sistema de IA podría usarse para causar daños catastróficos a la sociedad, como perturbar el sistema financiero, paralizar la red eléctrica o crear armas biológicas, la empresa debe agregar salvaguardas razonables para prevenir estos riesgos. Si la empresa no realiza las pruebas o no adopta salvaguardas razonables, podría ser responsabilizada por el Fiscal General de California." [ 99 ]

Véase también

Notas

  1. ↑ cuyos socios corporativos incluyen Amazon , Apple , Google y Meta [ 70 ]
  2. ↑ cuyos miembros incluyen Amazon , Apple , Google y Meta [ 71 ]
  3. ↑ cuyos miembros incluyen Amazon , Anthropic , Apple , Google , Meta y OpenAI [ 72 ]

Referencias

  1. 1 2 "Historial del proyecto de ley - SB-1047 Ley de innovación segura y protegida para modelos de inteligencia artificial de vanguardia" . Gobierno de California . Consultado el 29 de marzo de 2025 .
  2. 1 2 Bauer-Kahan, Rebecca. "COMITÉ DE LA ASAMBLEA SOBRE PRIVACIDAD Y PROTECCIÓN DEL CONSUMIDOR" (PDF) . Asamblea de California . Estado de California . Consultado el 1 de agosto de 2024 .
  3. 1 2 3 Daniels, Owen J. (17 de junio de 2024). "El proyecto de ley de IA de California se convierte en un foco de controversia, tanto para los defensores de la seguridad como para los desarrolladores" . Boletín de los científicos atómicos .
  4. 1 2 Rana, Preetika (2024-08-07). "Las empresas de IA luchan para detener las normas de seguridad de California" . The Wall Street Journal . Recuperado el 2024-08-08 .
  5. 1 2 3 Thibodeau, Patrick (2024-06-06). "Los riesgos catastróficos de la IA resaltan la necesidad de leyes de protección a los denunciantes" . TechTarget . Recuperado el 2024-08-06 .
  6. ^ Henshall, Will (7 de septiembre de 2023). «Yoshua Bengio» . TIEMPO .
  7. 1 2 3 4 5 6 Goldman, Sharon. "Es la 'combate entre tiburones y aviones' de la IA: bienvenidos a la lucha por el proyecto de ley de seguridad de la IA de California" . Fortune . Consultado el 29 de julio de 2024 .
  8. ↑ Gregg, Aaron; Lima-Strong, Cristiano; Vynck, Gerrit De (31 de mayo de 2023). "La IA plantea un 'riesgo de extinción' comparable al de las armas nucleares, afirman líderes tecnológicos" . Washington Post . ISSN 0190-8286 . Consultado el 3 de julio de 2024 . 
  9. ↑ De Vynck, Gerrit (20 de mayo de 2023). "El debate sobre si la IA nos destruirá está dividiendo a Silicon Valley" . The Washington Post .
  10. ↑ Ghaffary, Shirin (22 de agosto de 2024). "OpenAI afirma que el controvertido proyecto de ley de IA de California perjudicará la innovación" .
  11. ↑ "La inteligencia artificial podría llevar a la extinción, advierten los expertos" . BBC News . 30 de mayo de 2023. Consultado el 30 de agosto de 2024 .
  12. ↑ Milmo, Dan (3 de noviembre de 2023). "Las empresas tecnológicas permitirán la verificación de herramientas de IA, mientras Musk advierte que todos los empleos humanos están amenazados" . The Guardian . Consultado el 12 de agosto de 2024 .
  13. ↑ Browne, Ryan (21 de mayo de 2024). "Los gigantes tecnológicos prometen medidas de seguridad para la IA, incluido un 'interruptor de apagado' si no pueden mitigar los riesgos" . CNBC . Consultado el 12 de agosto de 2024 .
  14. ↑ "El gobernador Newsom firma una orden ejecutiva para preparar a California para el avance de la inteligencia artificial" . Gobernador Gavin Newsom . 6 de septiembre de 2023.
  15. ↑ "El presidente Biden emite una orden ejecutiva sobre inteligencia artificial segura, protegida y confiable" . Casa Blanca . 30 de octubre de 2023.
  16. ↑ Riquelmy, Alan (8 de febrero de 2024). "Legislador de California busca establecer límites para el desarrollo de la IA" . Courthouse News Service . Consultado el 4 de agosto de 2024 .
  17. ↑ Myrow, Rachael (16 de febrero de 2024). "Legisladores de California abordan la regulación de la IA con una serie de proyectos de ley" . KQED .
  18. ↑ Piper, Kelsey (29 de agosto de 2024). "Hablamos con el arquitecto detrás del infame proyecto de ley de seguridad de la IA" . Vox . Consultado el 4 de septiembre de 2024 .
  19. ↑ Lovely, Garrison (15 de agosto de 2024). "El proyecto de ley de seguridad de la IA de California supone un momento de transparencia para la industria" . The Nation . Consultado el 4 de septiembre de 2024 .
  20. ↑ "Decenas de trabajadores de IA desafían a sus empleadores y firman una carta en apoyo del proyecto de ley de IA de Wiener" . The San Francisco Standard . 9 de septiembre de 2024. Consultado el 28 de mayo de 2025 .
  21. ↑ "Gobernador de California veta proyecto de ley para crear medidas de seguridad de IA pioneras en el país" . AP News . 29 de septiembre de 2024. Consultado el 28 de mayo de 2025 .
  22. ↑ Perrigo, Billy (13 de septiembre de 2023). "Proyecto de ley de California propone regular la IA a nivel estatal" . TIME . Consultado el 12 de agosto de 2024 .
  23. ↑ David, Emilia (14 de septiembre de 2023). "Legisladora de California propone regulación de modelos de IA" . The Verge . Consultado el 12 de agosto de 2024 .
  24. ↑ "El senador Wiener presenta un marco de seguridad en la legislación sobre inteligencia artificial" . Senador Scott Wiener . 13 de septiembre de 2023. Consultado el 12 de agosto de 2024 .
  25. ↑ "SB-1047 de California: Entendiendo la Ley de Innovación Segura y Protegida para la Inteligencia Artificial de Vanguardia" . DLA Piper . Consultado el 30 de agosto de 2024 .
  26. ↑ Edwards, Benj (29 de julio de 2024). "De la ciencia ficción a la ley estatal: el plan de California para prevenir la catástrofe de la IA" . Ars Technica . Consultado el 30 de agosto de 2024 .
  27. ↑ Hendrycks, Dan (27 de agosto de 2024). "El proyecto de ley de IA de California protegería más que solo a las personas" . TIME . Consultado el 30 de agosto de 2024 .
  28. ↑ "California SB1047 | 2023-2024 | Sesión Ordinaria" . LegiScan . Consultado el 30 de agosto de 2024 .
  29. ↑ Zeff, Maxwell (15 de agosto de 2024). "California debilita el proyecto de ley para prevenir desastres de IA antes de la votación final, siguiendo el consejo de Anthropic" . TechCrunch . Consultado el 23 de agosto de 2024 .
  30. 1 2 3 4 5 Calvin, Nathan (15 de agosto de 2024). "SB 1047 Resumen de las enmiendas del autor del 15 de agosto" . safesecureai.org . Recuperado el 16 de agosto de 2024 .
  31. 1 2 "El innovador proyecto de ley de inteligencia artificial del senador Wiener avanza al pleno de la Asamblea con enmiendas en respuesta a la participación de la industria" . Senador Scott Wiener . 16 de agosto de 2024. Consultado el 17 de agosto de 2024 .
  32. ↑ escritor, Troy Wolverton | Personal del Examiner (29 de agosto de 2024). "La legislatura aprueba el controvertido proyecto de ley de seguridad de la IA de Wiener" . San Francisco Examiner . Consultado el 30 de agosto de 2024 .
  33. ↑ "Votación del proyecto de ley - SB-1047 Ley de innovación segura para modelos de inteligencia artificial de vanguardia" . leginfo.legislature.ca.gov . Consultado el 4 de septiembre de 2024 .
  34. ↑ Lee, Wendy (29 de septiembre de 2024). "El gobernador Gavin Newsom veta el proyecto de ley de seguridad de la IA al que se opone Silicon Valley" . Los Angeles Times . Consultado el 29 de septiembre de 2024 .
  35. 1 2 3 4 5 "Carta de veto de Gavin Newsome al proyecto de ley SB 1047" (PDF) . Oficina del Gobernador.
  36. ↑ "La adaptabilidad es fundamental mientras nos apresuramos a regular una tecnología que aún está en sus inicios. Esto requerirá un delicado equilibrio. Si bien la SB 1047 tiene buenas intenciones, no considera si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales. En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre y cuando se trate de un sistema de gran envergadura. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea esta tecnología."
  37. ↑ "Al centrarse únicamente en los modelos más caros y a gran escala, el proyecto de ley SB 1047 establece un marco regulatorio que podría generar en el público una falsa sensación de seguridad respecto al control de esta tecnología de rápido avance. Es posible que surjan modelos más pequeños y especializados que resulten igual o incluso más peligrosos que los contemplados en el SB 1047, con el riesgo potencial de frenar la innovación que impulsa el progreso en beneficio del bien común."
  38. ↑ "Permítanme ser claro: estoy de acuerdo con el autor; no podemos permitirnos esperar a que ocurra una catástrofe importante antes de tomar medidas para proteger al público. California no eludirá su responsabilidad. Deben adoptarse protocolos de seguridad. Deben implementarse medidas de protección proactivas, y las consecuencias para quienes actúen de mala fe deben ser claras y aplicables."
  39. ↑ "La adaptabilidad es fundamental mientras nos apresuramos a regular una tecnología que aún está en sus inicios. Esto requerirá un delicado equilibrio. Si bien la SB 1047 tiene buenas intenciones, no considera si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales. En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre y cuando se trate de un sistema de gran envergadura. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea esta tecnología."
  40. ↑ Newsom, Gavin (29 de septiembre de 2024). "El gobernador Newsom anuncia nuevas iniciativas para promover una IA segura y responsable y proteger a los californianos" . Gobernador Gavin Newsom . Consultado el 29 de septiembre de 2024 .
  41. ↑ "07/01/24 - Análisis del proyecto de ley judicial de la Asamblea" . Información legislativa de California .
  42. ↑ "Análisis de la revisión del 7/3 del SB 1047" . Context Fund .
  43. 1 2 Johnson, Khari (12 de agosto de 2024). "Por qué Silicon Valley se esfuerza tanto por acabar con este proyecto de ley de IA en California" . CalMatters . Recuperado el 12 de agosto de 2024 .
  44. ↑ Times, Financial (07-06-2024). "Protestas de las grandes empresas de IA por el proyecto de ley de California sobre el 'interruptor de apagado' de la IA" . Ars Technica . Consultado el 30-08-2024 .
  45. 1 2 Lessig, Lawrence (30 de agosto de 2024). "Las grandes tecnológicas temen mucho un proyecto de ley de seguridad de IA muy modesto" . The Nation . Recuperado el 3 de septiembre de 2024 .
  46. 1 2 "Declaraciones falsas sobre el proyecto de ley de seguridad de la IA de California" . Brookings . Consultado el 2 de octubre de 2024 .
  47. ↑ Bengio, Yoshua. "Yoshua Bengio: El proyecto de ley de seguridad de la IA de California protegerá a los consumidores y la innovación" . Fortune . Consultado el 17 de agosto de 2024 .
  48. ^ Kokalitcheva, Kia (26 de junio de 2024). "Las restricciones de seguridad de la IA en California" . Axios .
  49. ↑ Coldewey, Devin (26 de agosto de 2024). "Elon Musk ofrece inesperadamente su apoyo al proyecto de ley de IA de California" . TechCrunch . Consultado el 27 de agosto de 2024 .
  50. ↑ de Blasio, Bill (24-08-2024). "X post". X .
  51. ↑ Riquelmy, Alan (14 de agosto de 2024). "El proyecto de ley de regulación de la IA en California se someterá a una audiencia de aprobación obligatoria" . Courthouse News Service . Recuperado el 15 de agosto de 2024 .
  52. ↑ Metz, Cade (14 de agosto de 2024). "El proyecto de ley de IA de California causa alarma en Silicon Valley" . New York Times . Consultado el 22 de agosto de 2024 .
  53. ^ Jamal, Nynu V. (27 de agosto de 2024). "El audaz proyecto de ley de seguridad de la IA de California: Buterin, Musk respaldan, OpenAI cautelosos" . Edición de monedas . Consultado el 27 de agosto de 2024 .
  54. ↑ Zeff, Maxwell (23 de agosto de 2024) .«Decepcionados pero no sorprendidos»: Ex empleados hablan sobre la oposición de OpenAI al proyecto de ley SB 1047. TechCrunch . Consultado el 23 de agosto de 2024 .
  55. 1 2 Pillay, Tharin (2024-08-07). "Expertos de renombre escriben en apoyo del proyecto de ley histórico de seguridad de la IA de California" . TIME . Recuperado el 2024-08-08 .
  56. ↑ "Comité Permanente de la Asamblea sobre Privacidad y Protección del Consumidor" . CalMatters . Consultado el 8 de agosto de 2024 .
  57. 1 2 "Decenas de trabajadores de IA desafían a sus empleadores y firman una carta en apoyo del proyecto de ley de IA de Wiener" . The San Francisco Standard . 9 de septiembre de 2024. Consultado el 10 de septiembre de 2024 .
  58. ^ Korte, Lara; Gardiner, Dustin (17 de septiembre de 2024). "Actúa con naturalidad" . Político .
  59. 1 2 "Llamada a liderar" . Llamada a liderar . Consultado el 10 de septiembre de 2024 .
  60. 1 2 3 Samuel, Sigal (5 de agosto de 2024). "Es prácticamente imposible dirigir una gran empresa de IA de forma ética" . Vox . Recuperado el 6 de agosto de 2024 .
  61. ↑ Lee, Wendy (24 de septiembre de 2024). "Mark Hamill, Jane Fonda y JJ Abrams instan al gobernador Newsom a firmar el proyecto de ley de seguridad de la IA" . LA Times . Consultado el 24 de septiembre de 2024 .
  62. ↑ Korte, Lara (12 de febrero de 2024). "Una batalla inminente sobre la IA" . Político .
  63. ↑ Lovely, Garrison (12 de septiembre de 2024). "El sindicato de actores y los grupos de mujeres presionan a Gavin Newsom para que firme el proyecto de ley de seguridad de la IA" . The Verge . Consultado el 12 de septiembre de 2024 .
  64. ↑ Consejo Editorial de The Times (22 de agosto de 2024). «Editorial: Por qué California debería liderar la regulación de la IA» . Los Angeles Times . Consultado el 23 de agosto de 2024 .
  65. ↑ Li, Fei-Fei. "La "madrina de la IA" afirma que el proyecto de ley de inteligencia artificial de California, aunque bienintencionado, perjudicará el ecosistema estadounidense . Fortune . Consultado el 8 de agosto de 2024 .
  66. ↑ Lee, Wendy (16 de agosto de 2024). "Este controvertido proyecto de ley de IA de California fue enmendado para calmar los temores de Silicon Valley. Esto es lo que cambió" . Los Angeles Times .
  67. 1 2 3 "Análisis de impactos de la SB 1047" . Fondo de contexto .
  68. ↑ "Comité Judicial de la Asamblea 2024-07-02" . Asamblea del Estado de California .
  69. 1 2 Edwards, Benj (29 de julio de 2024). "De la ciencia ficción a la ley estatal: el plan de California para prevenir la catástrofe de la IA" . Ars Technica . Recuperado el 30 de julio de 2024 .
  70. ↑ "Socios Corporativos" . Cámara del Progreso . 16 de mayo de 2022.
  71. ↑ "Miembros" . Asociación de la Industria Informática y de Comunicaciones .
  72. ↑ "Miembros" . TechNet .
  73. 1 2 Korte, Lara (26 de junio de 2024). "Las grandes tecnológicas y el pequeño empresario" . Politico .
  74. ↑ Zeff, Maxwell (21 de agosto de 2024). "La oposición de OpenAI al proyecto de ley de IA de California 'no tiene sentido', dice un senador estatal" . TechCrunch . Consultado el 23 de agosto de 2024 .
  75. ↑ Waters, John K. (26 de agosto de 2024). "Anthropic anuncia un apoyo cauteloso a la nueva legislación de regulación de IA de California" . Campus Technology . Recuperado el 12 de noviembre de 2024 .
  76. ↑ "Pequeña empresa tecnológica aporta gran dinamismo a Sacramento" . Politico . 21 de junio de 2024.
  77. ↑ "Propuesta de ley en California busca proteger al público de las catástrofes de la IA" . The Mercury News . 25 de julio de 2024.
  78. ↑ "Proyecto de Ley 1047 del Senado de California: lo que necesita saber" . Andreessen Horowitz .
  79. ↑ Midha, Anjney (25 de julio de 2024). "El proyecto de ley de IA de California socava los logros del sector" . Financial Times .
  80. ↑ "El proyecto de ley del Senado 1047 frenará la innovación en IA en California" . Orange County Register . 10 de julio de 2024.
  81. ↑ "Empresas emergentes de IA presionan para limitar o eliminar el proyecto de ley de seguridad pública de California" . Bloomberg Law .
  82. ↑ "The Batch: Issue 257" . Deeplearning.ai . 10 de julio de 2024.
  83. ↑ "La niebla de la guerra en materia de seguridad de la IA" . Politico . 2 de mayo de 2024.
  84. ↑ "Anthropic afirma que los beneficios del proyecto de ley de IA de California probablemente superan los costos" . Reuters . 23 de agosto de 2024. Consultado el 23 de agosto de 2024 .
  85. ↑ Coldewey, Devin (26 de agosto de 2024). "Elon Musk ofrece inesperadamente su apoyo al proyecto de ley de IA de California" . TechCrunch . Consultado el 27 de agosto de 2024 .
  86. ↑ Piper, Kelsey (19 de julio de 2024). "Dentro de la lucha por el nuevo proyecto de ley de IA de California" . Vox . Recuperado el 29 de julio de 2024 .
  87. ↑ Piper, Kelsey (14 de junio de 2024). "El proyecto de ley de IA que tiene a las grandes tecnológicas en pánico" . Vox . Recuperado el 29 de julio de 2024 .
  88. ↑ Robertson, Derek (6 de mayo de 2024). "Encuesta exclusiva: los estadounidenses están a favor de la regulación de datos de IA" . Politico . Consultado el 18 de agosto de 2024 .
  89. 1 2 Lovely, Garrison (28 de agosto de 2024). "La industria tecnológica utiliza encuestas manipuladas para detener el proyecto de ley de IA de California" . The American Prospect . Recuperado el 12 de noviembre de 2024 .
  90. 1 2 3 Bordelon, Brendan. "Lo que Kamala Harris significa para la tecnología" . POLITICO Pro .(Se requiere suscripción)
  91. 1 2 3 "Nueva encuesta: los votantes de California, incluidos los trabajadores del sector tecnológico, apoyan firmemente el proyecto de ley de regulación de la IA SB1047" . Instituto de Políticas de Inteligencia Artificial . 22 de julio de 2024.
  92. 1 2 Sullivan, Mark (2024-08-08). "El chatbot Grok de Elon Musk difundió desinformación electoral" . Fast Company . Recuperado el 2024-08-13 .
  93. 1 2 "Encuesta: Los californianos apoyan la versión fuerte del SB1047, pero discrepan con los cambios propuestos por Anthropic" . Instituto de Políticas de Inteligencia Artificial . 7 de agosto de 2024. Recuperado el 13 de agosto de 2024 .
  94. 1 2 Gardiner, Dustin (28 de agosto de 2024). "El papel de Newsom como representante reducido" . Politico .
  95. 1 2 "Encuesta: 7 de cada 10 californianos apoyan el SB1047 y culparán al gobernador Newsom por la catástrofe habilitada por la IA si lo veta" . Instituto de Políticas de Inteligencia Artificial . 16 de agosto de 2024. Consultado el 28 de agosto de 2024 .
  96. ↑Error de cita: La referencia con nombre ccc_poll2fue invocada pero nunca definida (consulte la página de ayuda ).
  97. ↑Error de cita: La referencia con nombre ccc_poll3fue invocada pero nunca definida (consulte la página de ayuda ).
  98. 1 2 "Nueva encuesta nacional de YouGov muestra un 80% de apoyo al SB 1047 y la seguridad de la IA" . Economic Security Project Action . Recuperado el 19 de septiembre de 2024 .
  99. 1 2 "Encuesta a votantes probables de California: Resumen de la investigación de opinión pública" . David Binder Research.
  100. ↑ Lee, Wendy (19 de junio de 2024). "Los legisladores de California están tratando de regular la IA antes de que sea demasiado tarde. Aquí te contamos cómo" . Los Angeles Times .
  101. ↑ Piper, Kelsey (19 de julio de 2024). "Dentro de la lucha por el nuevo proyecto de ley de IA de California" . Vox . Recuperado el 22 de julio de 2024 .
  102. ↑ "El proyecto de ley histórico sobre IA del senador Wiener es aprobado por la Asamblea" . Oficina del senador Wiener. 29 de agosto de 2024.
  • Rastreador de facturas CalMatters
  • Sitios web de apoyo: Economic Security California Action, Center for AI Safety Action Fund y Encode AI.
  • Sitio web de la oposición Andreessen Horowitz