Declaración sobre el riesgo de la IA

El 30 de mayo de 2023, cientos de expertos en inteligencia artificial y otras figuras destacadas firmaron la siguiente breve Declaración sobre el riesgo de la IA : ^{[ 1 ] [ 2 ] [ 3 ]}

Mitigar el riesgo de extinción provocado por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear.

En el momento de la publicación de la declaración, los firmantes incluían a más de 100 profesores de IA , entre ellos los dos científicos informáticos más citados y laureados con el premio Turing, Geoffrey Hinton y Yoshua Bengio , así como a los líderes científicos y ejecutivos de varias empresas importantes de IA (incluidas OpenAI , Google DeepMind y Anthropic ), y expertos en pandemias, clima, desarme nuclear, filosofía, ciencias sociales y otros campos. ^{[ 4 ]} La cobertura mediática enfatizó las firmas de varios líderes tecnológicos; esto fue seguido por preocupaciones en otros periódicos de que la declaración pudiera estar motivada por relaciones públicas o captura regulatoria. ^{[ 5 ]} La declaración se publicó poco después de una carta abierta que pedía una pausa en los experimentos de IA . ^{[ 6 ] [ 7 ]}

La declaración se encuentra alojada en el sitio web del Centro para la Seguridad de la IA, una organización sin fines de lucro dedicada a la investigación y promoción de la IA . La idea de esta declaración de una sola frase fue propuesta originalmente por el investigador de IA David Krueger , entonces profesor de la Universidad de Cambridge . ^{[ 8 ]} Se publicó con un texto adjunto que afirma que aún es difícil hablar sobre los riesgos extremos de la IA y que la declaración busca superar este obstáculo. El director ejecutivo del centro, Dan Hendrycks, declaró que "el sesgo sistémico, la desinformación, el uso malicioso, los ciberataques y la militarización" son ejemplos de "riesgos importantes y urgentes de la IA... no solo el riesgo de extinción" y agregó: "[l]as sociedades pueden gestionar múltiples riesgos a la vez; no es 'o esto o aquello', sino 'sí y además '" . ^{[ 9 ]}

Entre los firmantes más conocidos de la declaración se encuentran: Sam Altman , Bill Gates , Dario Amodei , Peter Singer , Daniel Dennett , Sam Harris , Grimes , Stuart J. Russell , Jaan Tallinn , Vitalik Buterin , David Chalmers , Ray Kurzweil , Max Tegmark , Lex Fridman , Martin Rees , Demis Hassabis , Dawn Song , Ted Lieu , Ilya Sutskever , Martin Hellman , Bill McKibben , Angela Kane , Audrey Tang , David Silver , Andrew Barto , Mira Murati , Pattie Maes , Eric Horvitz , Peter Norvig , Joseph Sifakis , Erik Brynjolfsson , Ian Goodfellow , Baburam Bhattarai , Kersti Kaljulaid , Rusty Schweickart , Nicholas Fairfax , David Haussler , Peter Railton , Bart Selman , Dustin Moskovitz , Scott Aaronson , Bruce Schneier , Martha Minow , Andrew Revkin , Rob Pike , Jacob Tsimerman , Ramy Youssef , James Pennebaker y Ronald C. Arkin . ^{[ 10 ]}

Rishi Sunak , entonces primer ministro del Reino Unido , retuiteó la declaración y escribió: «El gobierno está analizando esto con mucha atención». ^{[ 11 ]} Cuando se le preguntó sobre la declaración, la secretaria de prensa de la Casa Blanca , Karine Jean-Pierre , comentó que la IA «es una de las tecnologías más poderosas que vemos actualmente en nuestro tiempo. Pero para aprovechar las oportunidades que presenta, primero debemos mitigar sus riesgos». ^{[ 12 ]}

Los escépticos de la carta señalan que la IA no ha alcanzado ciertos hitos, como las predicciones sobre los coches autónomos . También argumentan que los firmantes de la carta seguían financiando la investigación en IA. Las empresas se beneficiarían de la percepción pública de que los algoritmos de IA eran mucho más avanzados de lo que es posible actualmente. Los escépticos, incluidos los de Human Rights Watch , han argumentado que los científicos deberían centrarse en los riesgos conocidos de la IA en lugar de distraerse con riesgos futuros especulativos. ^{[ 13 ]} Timnit Gebru ha criticado la elevación del riesgo de la agencia de la IA, especialmente por parte de "las mismas personas que han invertido miles de millones de dólares en estas empresas". ^{[ 13 ]} Émile P. Torres y Gebru argumentan en contra de la declaración, sugiriendo que podría estar motivada por ideologías TESCREAL . ^{[ 14 ]}

• Controversias sobre la inteligencia artificial
• alineación de IA
• Riesgo existencial derivado de la inteligencia artificial general
• Suspender los experimentos gigantescos de IA: una carta abierta