P(perdición)

En seguridad de la IA , P(catástrofe) es la probabilidad de resultados existencialmente catastróficos (los llamados "escenarios del fin del mundo") como resultado de la inteligencia artificial . ^{[ 1 ] [ 2 ]} Los resultados exactos en cuestión difieren de una predicción a otra, pero generalmente aluden al riesgo existencial de la inteligencia artificial. ^{[ 3 ]} Los análisis económicos muestran que incluso pequeños riesgos existenciales debido a la IA justificarían inversiones sustanciales en investigación sobre seguridad y alineación de la IA. ^{[ 4 ] [ 5 ]}

Originado como una abreviatura para la comunicación en la comunidad racionalista y entre los investigadores de IA, el término cobró relevancia en 2023 tras el lanzamiento de GPT-4 , cuando figuras destacadas como Geoffrey Hinton ^{[ 6 ]} y Yoshua Bengio ^{[ 7 ]} comenzaron a advertir sobre los riesgos de la IA. ^{[ 8 ]} En una encuesta de 2023, se pidió a los investigadores de IA que estimaran la probabilidad de que los futuros avances en IA pudieran conducir a la extinción humana o a una pérdida de poder igualmente grave y permanente en los próximos 100 años. El valor medio de las respuestas fue del 14,4%, con una mediana del 5%. ^{[ 9 ]}

Ha habido cierto debate sobre la utilidad del término P(doom), en parte debido a la falta de claridad sobre si una predicción dada está condicionada o no a la existencia de inteligencia artificial general , el marco temporal y el significado preciso de "doom". ^{[ 8 ] [ 33 ]}

En 2024, la banda de rock australiana King Gizzard & the Lizard Wizard lanzó su nuevo sello discográfico, llamado p(doom) Records. ^{[ 34 ]}

• Riesgo existencial derivado de la inteligencia artificial general
• Declaración sobre el riesgo de extinción de la IA
• alineación de IA
• La IA tomará el control
• seguridad de la IA
• Instituto del Futuro de la Vida
• Supervivencia

• Declaración sobre la superinteligencia