Teoría de la decisión funcional

La teoría de la decisión funcional (TFD) es una escuela de pensamiento dentro de la teoría de la decisión que establece que, cuando un agente racional se enfrenta a un conjunto de acciones posibles, debe seleccionar el procedimiento de decisión (una función de decisión matemática fija , en oposición a un acto singular) que conduzca al mejor resultado. ^{[1] [2]} Su objetivo es proporcionar un método más confiable para maximizar la utilidad (la medida de cuánto satisface un resultado la preferencia de un agente) que las teorías de decisión más destacadas, la teoría de la decisión causal (TDC) y la teoría de la decisión evidencial (TDE).

En general, la CDT establece que el agente debe considerar los efectos causales de sus acciones para maximizar la utilidad; ^[3] en otras palabras, prescribe actuar de la manera que producirá las mejores consecuencias dada la situación en cuestión. ^[4] La EDT establece que el agente debe observar qué tan probables son ciertos resultados dadas sus acciones y observaciones (independientemente de la causalidad); en otras palabras, aconseja al agente "hacer lo que más desea aprender que hará". ^[5] Muchos defensores de la FDT argumentan que, dado que hay algunos escenarios en los que ni la CDT, ni la EDT o ambas prescriben la elección más racional , ambas teorías son incorrectas. ^{[1] [6]}

La FDT fue propuesta por primera vez por Eliezer Yudkowsky y Nate Soares en un artículo de investigación de 2017 respaldado por el Machine Intelligence Research Institute (MIRI) . ^[1] Antes de esta publicación, Yudkowsky había propuesto otra teoría de decisión, aunque similar, a la que llamó Teoría de la decisión atemporal (TDT) . ^[7] En términos generales, la Teoría de la decisión atemporal establece que, en lugar de actuar como si estuviera determinando una decisión individual, debería actuar como si estuviera determinando el resultado de un cálculo abstracto. ^[8] El artículo original y la idea detrás de la TDT fueron vistos como un trabajo en progreso, que encontró muchas críticas debido a su vaguedad. ^[9]

En términos generales, la FDT puede considerarse un reemplazo de la TDT, ^[10] y una generalización de la teoría de decisiones sin actualizaciones (UDT) de Wei Dai . ^{[11] [12]}

De manera informal, la teoría de la decisión funcional recomienda al agente que seleccione el procedimiento de decisión que produzca el mejor resultado. Afirma que el agente posee un modelo de sus procedimientos de decisión (que un predictor fiable también debe conocer con gran certeza) y que puede modificar en consecuencia. Como ejemplo visual, cuando escribes "2 + 2" en una calculadora y recibes la respuesta "4", concluyes que 2 + 2 = 4 porque la calculadora ejecuta la misma función. De manera similar, un predictor, como el de los problemas tipo Newcomb, también ejecuta la misma función de decisión del agente para predecir sus acciones. ^[2]

Este problema muestra un escenario en el que la FDT supera a la CDT y a la EDT simultáneamente. ^{[ cita requerida ]} Afirma que: “Un agente está muriendo en el desierto. Un conductor se acerca y se ofrece a llevar al agente a la ciudad, pero solo si el agente acepta visitar un cajero automático una vez que llegue y le da al conductor $1,000. El conductor no tendrá forma de hacer cumplir esto después de que llegue, pero tiene una capacidad extraordinaria para detectar mentiras con una precisión del 99%. Si lo dejan morir, el agente pierde el equivalente a $1,000,000. En el caso de que el agente llegue a la ciudad, ¿debería proceder a visitar el cajero automático y pagarle al conductor?” ^[13]

El agente del CDT dice que no. Dado que ha llegado a salvo a la ciudad, no ve nada más que ganar pagando al conductor. El agente del EDT está de acuerdo: suponiendo que ya esté en la ciudad, sería una mala noticia para ella enterarse de que ha perdido 1.000 dólares. Suponiendo que los agentes del CDT y del EDT sean lo suficientemente inteligentes como para saber lo que harían al llegar a la ciudad, esto significa que ninguno de los dos puede afirmar honestamente que pagaría. El conductor, al detectar la mentira, los deja en el desierto para que mueran. Las prescripciones del CDT y del EDT en este caso son contrarias a las intuiciones de muchas personas, que dicen que el curso de acción más "racional" es pagar al llegar a la ciudad. Sin duda, si estos agentes tuvieran la oportunidad de hacer compromisos vinculantes previos de pagar al llegar, obtendrían mejores resultados.

El agente del FDT razona que el conductor imita su razonamiento para detectar sus mentiras. Por lo tanto, paga, aunque sabe que ya salió del desierto. Si bien puede parecer irracional pagar aunque uno ya esté fuera del desierto, es conveniente ser el tipo de agente que paga en este tipo de situaciones, porque significa que, mientras todavía está en el desierto, puede afirmar honestamente que pagará una vez que esté en la ciudad y, por lo tanto, significa que el conductor lo llevará. ^[1]

El siguiente dilema, tal como lo plantea Yudkowsky:

Un chantajista tiene una información desagradable que incrimina tanto al chantajista como al agente. Ha escrito un programa informático que, si se ejecuta, lo publicará en Internet, lo que costará un millón de dólares en daños y perjuicios a ambos. Si se ejecuta el programa, la única forma de detenerlo es que el agente le envíe al chantajista 1.000 dólares en 24 horas; el chantajista no podrá detener el programa una vez que esté en ejecución. El chantajista querría los 1.000 dólares, pero no quiere arriesgarse a incriminarse a sí mismo, por lo que solo ejecuta el programa si está bastante seguro de que el agente pagará. También es un predictor perfecto del agente y ejecuta el programa (que, cuando se ejecuta, le notifica automáticamente mediante una carta de chantaje) si predice que pagará al recibir el chantaje. Imaginemos que el agente recibe la carta de chantaje. ¿Debería enviarle 1.000 dólares al chantajista?

Mientras que tanto CDT como EDT pagarían al chantajista, el agente de FDT razona: “Pagar corresponde a un mundo en el que pierdo $1,000; negarme corresponde a un mundo en el que nunca me chantajean (como el chantajista habría predicho esto). Esto último parece mejor, así que me niego”. Por lo tanto, nunca es chantajeada: su razonamiento contrafáctico resulta correcto, según Yudkowsky. ^[1]

En la paradoja de Newcomb , un agente se encuentra de pie frente a una caja transparente etiquetada como “A” que contiene $1,000, y una caja opaca etiquetada como “B” que contiene $1,000,000 o $0. Un predictor confiable, que ha hecho predicciones similares en el pasado y ha acertado el 99% de las veces, afirma haber colocado $1,000,000 en la caja B si predijo que el agente dejaría atrás la caja A. El predictor ya hizo su predicción y se fue. La caja B ahora está vacía o llena. ¿Debe el agente tomar ambas cajas (“dos cajas”), o solo la caja B, dejando atrás la caja transparente que contiene $1,000 (“una caja”)?

Un agente que utiliza la TDC argumenta que en el momento en que está tomando la decisión de poner una o dos cajas, el predictor ya ha puesto un millón de dólares o nada en la caja B. Su propia decisión ahora no puede cambiar la decisión anterior del predictor; no puede hacer que el pasado sea diferente. Además, no importa cuál sea realmente el contenido de la caja B, poner dos cajas le da mil dólares adicionales. Por lo tanto, el agente de la TDC pone dos cajas. En cambio, un agente de la TDC argumenta de la siguiente manera: “Si pongo dos cajas, el predictor casi seguramente habrá predicho esto. Por lo tanto, poner dos cajas en el futuro sería una prueba sólida de que la caja B está vacía. Si pongo una caja, el predictor casi seguramente también lo habrá predicho, por lo que poner una caja en el futuro sería una prueba sólida de que la caja B contiene un millón de dólares”. Siguiendo esta línea de razonamiento, el agente de la TDC, a diferencia del agente de la TDC, pone una caja. ^[14]

En el caso de un agente FDT, ella razona que el predictor debe tener un modelo de su proceso de decisión. Por lo tanto, sería mejor si el procedimiento de decisión del agente FDT condujera a su one-boxing, porque entonces el modelo del predictor del procedimiento de decisión del agente FDT también daría como resultado one-boxing, lo que lo llevaría a predecir que el agente FDT hará one-boxing y colocará un millón de dólares en la caja B. Entonces, dado que tanto FDT como EDT hacen one-boxing, recibirán un millón, superando a CDT, que solo obtiene $1,000 mediante two-boxing. ^[15]

En general, un problema de Newcomb ilustra situaciones de elección en las que:

• Una opción (one-boxing) que indica de manera confiable la presencia de algún estado deseable (la caja B contiene un millón de dólares)
• Otra opción (dos casillas) que indica de manera confiable la presencia de algún estado indeseable (la casilla B está vacía), a menudo acompañada de algún beneficio adicional ($1,000 de la casilla A)
• Ninguna de las opciones hace nada para que se produzca el estado (el predictor ya ha colocado el dinero en las cajas) ^[16]

En esta variante del dilema del prisionero , un agente y su gemelo deben elegir entre “cooperar” o “desertar”. Si ambos cooperan, cada uno recibe $1,000,000. Si ambos desertan, cada uno recibe $1,000. Si uno coopera y el otro deserta, el desertor recibe $1,001,000 y el cooperador nada. El agente y el gemelo saben que razonan de la misma manera, usando las mismas consideraciones para llegar a sus conclusiones. Sin embargo, sus decisiones son causalmente independientes, tomadas en habitaciones separadas sin comunicación. ¿Debe el agente cooperar con su gemelo? ^[1]

Un agente de la CDT desertaría, ya que argumentaría que, independientemente de lo que haga su gemela, ganaría mil dólares adicionales desertando. Tanto ella como su gemela razonan de esta manera, y así ambos se marchan con 1.000 dólares. La EDT prescribiría la cooperación, con el argumento de que sería una buena noticia saber que una de ellas ha cooperado, ya que proporcionaría pruebas de que la gemela también cooperó. ^[17]

En el caso de un agente de FDT, cooperaría, razonando que, dado que su gemelo y ella siguen el mismo curso de razonamiento, si concluye que la cooperación es mejor, entonces ambos cooperan y obtienen $1,000,000. Si concluye que la deserción es mejor, entonces ambos desertan y obtienen apenas $1,000. Dado que lo primero es preferible, y dado que ambos gemelos tienen el mismo procedimiento de decisión, el curso de razonamiento concluye que hay cooperación. ^{[2] [1]}

En esta trama , un agente se encuentra con la Muerte en Damasco y le dicen que la Muerte vendrá por ella mañana, como está escrito en su agenda, incluida la ubicación del evento. Este agente sabe que decidir huir a Alepo (a un costo de $ 1,000) significa que la Muerte estará en Alepo mañana, mientras que quedarse en Damasco significa que la Muerte estará en Damasco mañana. ¿Debería quedarse o huir? FDT sugeriría quedarse, ya que no importa lo que pase, la Muerte la estará esperando ya que tiene su procedimiento de decisión, por lo tanto, es mejor ahorrar los $ 1000 adicionales. Sin embargo, CDT se pone inestable ya que basa su decisión en la hipótesis de que la acción de la Muerte es independiente de su acción (como ya estaba escrito en el libro). ^{[18] [1]}

Mientras que en la paradoja de Newcomb, FDT y EDT superan a CDT, en el problema de la lesión por tabaquismo se afirma que FDT y CDT superan a EDT.

Consideremos un mundo hipotético en el que el tabaquismo está fuertemente correlacionado con el cáncer de pulmón , pero sólo porque existe una causa común: una afección que tiende a causar tanto tabaquismo como cáncer. Una vez que fijamos la presencia o ausencia de esta afección, no hay correlación adicional entre el tabaquismo y el cáncer. Si Susan prefiere fumar sin cáncer a no fumar sin cáncer, y prefiere fumar con cáncer a no fumar con cáncer, ¿debería fumar Susan? ^[19]

La EDT le dice a Susan que no fume ^{[ cita requerida ]} , porque considera que el hecho de que fume es evidencia de que tiene la lesión y, por lo tanto, es evidencia de que es probable que tenga cáncer, como una razón para no fumar. La teoría de la decisión causal le dice que fume, ya que no considera la conexión entre una acción y un mal resultado como una razón para no realizar la acción, sino que considera que fumar no tiene un efecto causal sobre si uno contrae cáncer o no. En el caso de la FDT, que el cáncer haga metástasis o no no depende del resultado del procedimiento de la FDT, ya que no existe dependencia entre fumar y el cáncer, por lo tanto, la FDT recomienda fumar. Dado que fumar proporciona más utilidad a Susan independientemente de si tiene cáncer o no, algo que no puede controlar, se considera que la respuesta "correcta" es fumar. ^{[19] [2] [1]} No obstante, ha habido discusión sobre si este es realmente el enfoque correcto. ^[20]

Yudkowsky formaliza la teoría de la decisión funcional mediante la siguiente fórmula: ^[1]

${\displaystyle \operatorname {FDT} (P,G,x):=\operatorname {arg\,max} \operatorname {E} [V|\operatorname {do} (\operatorname {FDT} (P,G,x)=a)]}$

Yudkowsky y Soares suponen que un agente FDT está seguro de que sigue la FDT, y este conocimiento se mantiene fijo bajo todas las suposiciones contrafácticas. Además, los teóricos de la decisión no están de acuerdo en una solución "correcta" o "racional" para todos los problemas que Yudkowsky y Soares afirman que la FDT resuelve. De hecho, muchos sugerirían que la FDT proporciona recomendaciones absurdas en ciertos casos, como lo detalla Wolfgang Schwarz: ^[6]

Supongamos que usted ha cometido una indiscreción que lo arruinaría si se hiciera pública. Puede evitar la ruina pagando un dólar una vez a un chantajista. ¡Por supuesto que debe pagar! FDT dice que no debe pagar porque, si usted fuera el tipo de persona que no paga, probablemente no lo hubieran chantajeado. ¿Qué importancia tiene eso? Usted está siendo chantajeado. No ser chantajeado no está sobre la mesa. No es algo que pueda elegir.

De manera similar, en la variante del problema de Newcomb donde ya se conoce el contenido de la caja del millón de dólares:

Supongamos que vemos 1000 dólares en la caja de la izquierda y un millón en la de la derecha. Si tomáramos ambas cajas, obtendríamos un millón y mil. Si tomáramos sólo la caja de la derecha, obtendríamos un millón. Por lo tanto, la teoría de la decisión causal dice que deberíamos tomar [ambas] cajas. Sin embargo, seguimos la FDT y estamos seguros de que lo hacemos. Si la FDT recomendara dos cajas, entonces cualquier agente de la FDT a lo largo de la historia haría dos cajas. Y, fundamentalmente, el predictor (probablemente) habría previsto que haríamos dos cajas, por lo que no habría puesto nada en la caja de la derecha. Como resultado, si la FDT recomendara dos cajas, probablemente terminaríamos con 1000 dólares. Sin duda, sabemos que hay un millón en la caja de la derecha. Podemos verlo. Pero según la FDT, esto es irrelevante. Lo que importa es lo que habría en la caja en relación con diferentes suposiciones sobre lo que la FDT recomienda. Por lo tanto, FDT recomienda hacer una caja única a pesar de que se ganan $1000 menos. ^[6]

En general, las críticas a la teoría de la decisión funcional se pueden resumir en los siguientes puntos de argumentación: ^[21]

• FDT puede hacer recomendaciones extrañas, es decir, no maximiza la utilidad
• FDT asume que el predictor está ejecutando su algoritmo para predecir sus acciones, en lugar de otros métodos de predicción confiable.
• 'Discontinuidades inverosímiles': si se intercambia un predictor con un proceso físico (por ejemplo, la lesión de la lesión por tabaquismo), entonces la FDT altera sus recomendaciones
• No existe ningún hecho objetivo para determinar si dos procesos están ejecutando el mismo algoritmo o no

• Toma de decisiones
• Teoría de la decisión causal
• Teoría de la decisión basada en evidencias
• La paradoja de Newcomb
• Eliezer Yudkowsky
• Instituto de Investigación de Inteligencia de Máquinas
• Menos incorrecto