Filosofía de la inteligencia artificial

En 1949, el científico informático Alan Turing redujo el problema de definir la inteligencia a una simple pregunta sobre la conversación. Sugiere que si una máquina puede responder cualquier pregunta que se le plantee, utilizando las mismas palabras que una persona común, entonces podemos llamar a esa máquina inteligente. ^{[ 15 ]} Una versión moderna de su diseño experimental utilizaría una sala de chat en línea , donde uno de los participantes es una persona real y el otro es un programa informático. El programa supera la prueba si nadie puede distinguir cuál de los dos participantes es humano. ^{[ 8 ]} Turing señala que nadie (excepto los filósofos) se pregunta jamás "¿pueden pensar las personas?". Escribe: "en lugar de discutir continuamente sobre este punto, es habitual tener la convención cortés de que todo el mundo piensa". ^{[ 16 ]} La prueba de Turing extiende esta convención cortés a las máquinas, proponiendo que si una máquina actúa con la misma inteligencia que un ser humano, entonces es tan inteligente como un ser humano.

Una crítica a la prueba de Turing es que solo mide la "humanidad" del comportamiento de la máquina, en lugar de la "inteligencia" de dicho comportamiento. Dado que el comportamiento humano y el comportamiento inteligente no son exactamente lo mismo, la prueba no logra medir la inteligencia. Stuart J. Russell y Peter Norvig escriben que "los textos de ingeniería aeronáutica no definen el objetivo de su campo como 'construir máquinas que vuelen tan exactamente como palomas que puedan engañar a otras palomas'". ^{[ 17 ]}

La investigación en IA del siglo XXI define la inteligencia en términos de comportamiento orientado a objetivos. Considera la inteligencia como un conjunto de problemas que se espera que la máquina resuelva: cuantos más problemas pueda resolver y mejores sean sus soluciones, más inteligente será el programa. El fundador de la IA, John McCarthy, definió la inteligencia como "la parte computacional de la capacidad de lograr objetivos en el mundo". ^{[ 18 ]}

Stuart Russell y Peter Norvig formalizaron esta definición utilizando agentes inteligentes abstractos . Un "agente" es algo que percibe y actúa en un entorno. Una "medida de desempeño" define qué se considera éxito para el agente. ^{[ 19 ]}

• "Si un agente actúa de manera que maximice el valor esperado de una medida de desempeño basándose en la experiencia y el conocimiento pasados, entonces es inteligente." ^{[ 20 ]}

Definiciones como esta intentan capturar la esencia de la inteligencia. Tienen la ventaja de que, a diferencia de la prueba de Turing, no evalúan rasgos humanos no inteligentes como cometer errores tipográficos. ^{[ 21 ]} Tienen la desventaja de que pueden no diferenciar entre "cosas que piensan" y "cosas que no piensan". Según esta definición, incluso un termostato posee una inteligencia rudimentaria. ^{[ 22 ]}

Hubert Dreyfus describe este argumento afirmando que "si el sistema nervioso obedece las leyes de la física y la química, lo cual tenemos todas las razones para suponer que hace, entonces  ... deberíamos  ... poder reproducir el comportamiento del sistema nervioso con algún dispositivo físico". ^{[ 23 ]} Este argumento, introducido por primera vez ya en 1943 ^{[ 24 ]} y descrito vívidamente por Hans Moravec en 1988, ^{[ 25 ]} ahora se asocia con el futurista Ray Kurzweil , quien estima que la potencia informática será suficiente para una simulación cerebral completa para el año 2029. ^{[ 26 ]} En 2005 se realizó una simulación no en tiempo real de un modelo talamocortical que tiene el tamaño del cerebro humano (10 ¹¹ neuronas), ^{[ 27 ]} y se necesitaron 50 días para simular 1 segundo de dinámica cerebral en un clúster de 27 procesadores.

Incluso los críticos más acérrimos de la IA (como Hubert Dreyfus y John Searle ) coinciden en que, en teoría, es posible simular un cerebro. ^{[ a ]} Sin embargo, Searle señala que, en principio, cualquier cosa puede ser simulada por una computadora; por lo tanto, llevar la definición al límite implica concluir que cualquier proceso puede considerarse técnicamente "computación". "Lo que queríamos saber es qué distingue a la mente de los termostatos y los hígados", escribe. ^{[ 30 ]} Así, simular el funcionamiento de un cerebro vivo sería en sí mismo una admisión de ignorancia respecto a la inteligencia y la naturaleza de la mente, como intentar construir un avión de pasajeros copiando un pájaro vivo con precisión, pluma por pluma, sin ningún conocimiento teórico de ingeniería aeronáutica . ^{[ 31 ]}

En 1963, Allen Newell y Herbert A. Simon propusieron que la "manipulación de símbolos" era la esencia tanto de la inteligencia humana como de la artificial. Escribieron:

• "Un sistema de símbolos físicos posee los medios necesarios y suficientes para la acción inteligente general." ^{[ 10 ]}

Esta afirmación es muy fuerte: implica tanto que el pensamiento humano es una especie de manipulación de símbolos (porque un sistema de símbolos es necesario para la inteligencia) como que las máquinas pueden ser inteligentes (porque un sistema de símbolos es suficiente para la inteligencia). ^{[ 32 ]} Otra versión de esta postura fue descrita por el filósofo Hubert Dreyfus, quien la denominó "la suposición psicológica":

• "La mente puede ser vista como un dispositivo que opera sobre bits de información de acuerdo con reglas formales." ^{[ 33 ]}

Los "símbolos" que Newell, Simon y Dreyfus describieron eran similares a palabras y de alto nivel : símbolos que se corresponden directamente con objetos del mundo, como <perro> y <cola> . La mayoría de los programas de IA escritos entre 1956 y 1990 utilizaban este tipo de símbolos. La IA moderna, basada en estadísticas y optimización matemática, no utiliza el "procesamiento de símbolos" de alto nivel que Newell y Simon mencionaron.

En 1931, Kurt Gödel demostró con un teorema de incompletitud que siempre es posible construir una " enunciado de Gödel " que un sistema formal de lógica (como un programa de manipulación de símbolos de alto nivel) no podría probar. A pesar de ser una afirmación verdadera, la enunciación de Gödel construida es indemostrable dentro del sistema dado. (La verdad de la enunciación de Gödel construida depende de la consistencia del sistema dado; aplicar el mismo proceso a un sistema sutilmente inconsistente parecerá tener éxito, pero en realidad producirá una "enunciación de Gödel" falsa). De manera más especulativa, Gödel conjeturó que la mente humana puede eventualmente determinar correctamente la verdad o falsedad de cualquier enunciado matemático bien fundamentado (incluido cualquier posible enunciado de Gödel), y que por lo tanto el poder de la mente humana no es reducible a un mecanismo . ^{[ 34 ]} El filósofo John Lucas (desde 1961) y Roger Penrose (desde 1989) han defendido este argumento filosófico antimecanicista . ^{[ 35 ]}

Los argumentos antimecanicistas de Gödel suelen basarse en la afirmación, aparentemente inocua, de que un sistema de matemáticos humanos (o alguna idealización de los mismos) es consistente (completamente libre de errores) y cree plenamente en su propia consistencia (y puede realizar todas las inferencias lógicas que se derivan de ella, incluida la creencia en su enunciado de Gödel) . Esto probablemente sea imposible para una máquina de Turing (véase el problema de la parada ); por lo tanto, el gödeliano concluye que el razonamiento humano es demasiado poderoso para ser capturado por una máquina de Turing y, por extensión, por cualquier dispositivo mecánico digital.

Sin embargo, el consenso moderno en la comunidad científica y matemática es que el razonamiento humano real es inconsistente; que cualquier "versión idealizada" consistente H del razonamiento humano se vería lógicamente obligada a adoptar un escepticismo sano pero contraintuitivo de mente abierta sobre la consistencia de H (de lo contrario, H es demostrablemente inconsistente); y que los teoremas de Gödel no conducen a ningún argumento válido de que los humanos tengan capacidades de razonamiento matemático más allá de lo que una máquina podría duplicar. ^{[ 36 ] [ 37 ] [ 38 ]} Este consenso de que los argumentos antimecanicistas de Gödel están condenados al fracaso se expone con fuerza en Inteligencia Artificial : " cualquier intento de utilizar (los resultados de incompletitud de Gödel) para atacar la tesis computacionalista está destinado a ser ilegítimo, ya que estos resultados son bastante consistentes con la tesis computacionalista". ^{[ 39 ]}

Stuart Russell y Peter Norvig coinciden en que el argumento de Gödel no considera la naturaleza del razonamiento humano en el mundo real. Se aplica a lo que teóricamente se puede demostrar, con una cantidad infinita de memoria y tiempo. En la práctica, las máquinas reales (incluidos los humanos) tienen recursos finitos y tendrán dificultades para demostrar muchos teoremas. No es necesario poder demostrarlo todo para ser una persona inteligente. ^{[ 40 ]}

De manera menos formal, Douglas Hofstadter , en su libro ganador del Premio Pulitzer, Gödel, Escher, Bach: Una eterna trenza dorada , afirma que estas «declaraciones de Gödel» siempre se refieren al sistema mismo, estableciendo una analogía con la forma en que la paradoja de Epiménides utiliza enunciados que se refieren a sí mismos, como «esta afirmación es falsa» o «estoy mintiendo». ^{[ 41 ]} Pero, por supuesto, la paradoja de Epiménides se aplica a cualquier cosa que haga enunciados, ya sea una máquina o un ser humano, incluso el propio Lucas. Consideremos:

• Lucas no puede afirmar la veracidad de esta declaración. ^{[ 42 ]}

Esta afirmación es cierta, pero Lucas no puede sostenerla. Esto demuestra que el propio Lucas está sujeto a los mismos límites que describe para las máquinas, al igual que todas las personas, por lo que el argumento de Lucas carece de sentido. ^{[ 43 ]}

Tras concluir que el razonamiento humano es incomputable, Penrose especuló, de forma controvertida, que ciertos procesos hipotéticos incomputables, que implican el colapso de estados cuánticos, otorgan a los humanos una ventaja especial sobre las computadoras actuales. Estas últimas solo son capaces de reducir la complejidad de las tareas computables por Turing y aún se limitan a tareas dentro del ámbito de las máquinas de Turing. Según los argumentos de Penrose y Lucas, el hecho de que las computadoras cuánticas solo puedan completar tareas computables por Turing implica que no son suficientes para emular la mente humana. Por lo tanto, Penrose busca algún otro proceso que involucre nueva física, como la gravedad cuántica, que podría manifestar nueva física a la escala de la masa de Planck mediante el colapso cuántico espontáneo de la función de onda. Estos estados, sugirió, ocurren tanto dentro de las neuronas como abarcando más de una neurona. ^{[ 44 ]} Sin embargo, otros científicos señalan que no existe ningún mecanismo orgánico plausible en el cerebro para aprovechar ningún tipo de computación cuántica, y además que la escala temporal de la decoherencia cuántica parece demasiado rápida para influir en la activación neuronal. ^{[ 45 ]}

Hubert Dreyfus argumentó que la inteligencia y la pericia humanas dependían principalmente de juicios intuitivos rápidos en lugar de manipulación simbólica paso a paso, y sostuvo que estas habilidades nunca podrían ser capturadas en reglas formales. ^{[ 46 ]}

El argumento de Dreyfus ya había sido anticipado por Turing en su artículo de 1950 , Computing machinery and intelligence , donde lo clasificó como el «argumento de la informalidad del comportamiento». ^{[ 47 ]} Turing argumentó en respuesta que, el hecho de que no conozcamos las reglas que rigen un comportamiento complejo no significa que tales reglas no existan. Escribió: «No podemos convencernos tan fácilmente de la ausencia de leyes completas del comportamiento  ... La única forma que conocemos de encontrar tales leyes es la observación científica, y ciertamente no conocemos ninguna circunstancia bajo la cual podamos decir: "Hemos buscado lo suficiente. No existen tales leyes"». ^{[ 48 ]}

Russell y Norvig señalan que, en los años transcurridos desde que Dreyfus publicó su crítica, se ha avanzado en el descubrimiento de las "reglas" que rigen el razonamiento inconsciente. ^{[ 49 ]} El enfoque situado en la investigación robótica intenta capturar nuestras habilidades inconscientes de percepción y atención. ^{[ 50 ]} Los paradigmas de inteligencia computacional , como las redes neuronales , los algoritmos evolutivos , etc., se dirigen principalmente a la simulación del razonamiento y el aprendizaje inconscientes. Los enfoques estadísticos de la IA pueden realizar predicciones que se aproximan a la precisión de las intuiciones humanas. La investigación sobre el conocimiento de sentido común se ha centrado en reproducir el "trasfondo" o contexto del conocimiento. De hecho, la investigación en IA en general se ha alejado de la manipulación de símbolos de alto nivel, hacia nuevos modelos que pretenden capturar más de nuestro razonamiento intuitivo . ^{[ 49 ]}

La ciencia cognitiva y la psicología finalmente coincidieron con la descripción de Dreyfus sobre la pericia humana. Daniel Kahnemann y otros desarrollaron una teoría similar en la que identificaron dos "sistemas" que los humanos utilizan para resolver problemas, a los que denominaron "Sistema 1" (juicios intuitivos rápidos) y "Sistema 2" (pensamiento lento, deliberado y paso a paso). ^{[ 51 ]}

Aunque las ideas de Dreyfus se han visto confirmadas en muchos sentidos, el trabajo en ciencia cognitiva e inteligencia artificial surgió como respuesta a problemas específicos en esos campos y no estuvo directamente influenciado por él. El historiador e investigador de IA Daniel Crevier escribió que «el tiempo ha demostrado la exactitud y la perspicacia de algunos de los comentarios de Dreyfus. Si los hubiera formulado de manera menos agresiva, las acciones constructivas que sugería podrían haberse tomado mucho antes». ^{[ 52 ]}

John Searle nos invita a considerar un experimento mental : supongamos que hemos escrito un programa informático que supera la prueba de Turing y demuestra una acción inteligente general. Supongamos, específicamente, que el programa puede conversar en chino fluido. Escribamos el programa en tarjetas de 3x5 y démoselas a una persona común que no hable chino. Encerremos a la persona en una habitación y le pediremos que siga las instrucciones de las tarjetas. Copiará caracteres chinos y los introducirá y sacará de la habitación a través de una ranura. Desde fuera, parecerá que la habitación china contiene a una persona plenamente inteligente que habla chino. La pregunta es: ¿hay alguien (o algo) en la habitación que entienda chino? Es decir, ¿hay algo que tenga la capacidad mental de comprender, o que tenga conciencia de lo que se está discutiendo en chino? Es evidente que el hombre no es consciente. La habitación no puede ser consciente. Las tarjetas ciertamente no son conscientes. Searle concluye que la habitación china, o cualquier otro sistema físico de símbolos, no puede tener mente. ^{[ 60 ]}

Searle continúa argumentando que los estados mentales reales y la conciencia requieren (aún por describir) "propiedades físico-químicas reales de los cerebros humanos reales". ^{[ 61 ]} Argumenta que existen "propiedades causales" especiales de los cerebros y las neuronas que dan origen a las mentes : en sus palabras, "los cerebros causan las mentes". ^{[ 62 ]}

Gottfried Leibniz planteó esencialmente el mismo argumento que Searle en 1714, utilizando el experimento mental de expandir el cerebro hasta que alcanzara el tamaño de un molino. ^{[ 63 ]} En 1974, Lawrence Davis imaginó duplicar el cerebro utilizando líneas telefónicas y oficinas atendidas por personas, y en 1978 Ned Block imaginó a toda la población de China involucrada en tal simulación cerebral. Este experimento mental se denomina "la Nación China" o "el Gimnasio Chino". ^{[ 64 ]} Ned Block también propuso su argumento Blockhead , que es una versión de la habitación china en la que el programa se ha refactorizado en un conjunto simple de reglas de la forma "mira esto, haz aquello", eliminando todo misterio del programa.

Las respuestas a la habitación china destacan varios puntos diferentes.

• La respuesta del sistema y la respuesta de la mente virtual : ^{[ 65 ]} Esta respuesta argumenta que el sistema , incluyendo al hombre, el programa, la habitación y las cartas, es lo que entiende chino. Searle afirma que el hombre en la habitación es lo único que podría "tener una mente" o "entender", pero otros discrepan, argumentando que es posible que haya dos mentes en el mismo lugar físico, de manera similar a como una computadora puede "ser" simultáneamente dos máquinas a la vez: una física (como una Macintosh ) y una " virtual " (como un procesador de textos ).
• Respuestas sobre velocidad, potencia y complejidad : ^{[ 66 ]} Varios críticos señalan que el hombre en la sala probablemente tardaría millones de años en responder a una pregunta sencilla y requeriría «archivadores» de proporciones astronómicas. Esto pone en duda la claridad de la intuición de Searle.
• Respuesta del robot : ^{[ 67 ]} Para comprender verdaderamente, algunos creen que la Habitación China necesita ojos y manos. Hans Moravec escribe: «Si pudiéramos injertar un robot en un programa de razonamiento, ya no necesitaríamos a una persona para proporcionar el significado: provendría del mundo físico». ^{[ 68 ]}
• Respuesta del simulador cerebral : ^{[ 69 ]} ¿Qué pasaría si el programa simulara la secuencia de descargas nerviosas en las sinapsis de un cerebro real de un hablante de chino real? El hombre en la habitación estaría simulando un cerebro real. Esta es una variación de la "respuesta del sistema" que parece más plausible porque "el sistema" ahora opera claramente como un cerebro humano, lo que refuerza la intuición de que hay algo más allá del hombre en la habitación que podría entender chino.
• Otras mentes responden y los epifenómenos responden : ^{[ 70 ]} Varias personas han señalado que el argumento de Searle es solo una versión del problema de otras mentes , aplicada a las máquinas. Dado que es difícil decidir si las personas están "realmente" pensando, no debería sorprendernos que sea difícil responder a la misma pregunta sobre las máquinas.

Una cuestión relacionada es si existe la «conciencia» (tal como la entiende Searle). Searle argumenta que la experiencia de la conciencia no puede detectarse examinando el comportamiento de una máquina, un ser humano o cualquier otro animal. Daniel Dennett señala que la selección natural no puede preservar una característica de un animal que no afecte a su comportamiento, por lo que la conciencia (tal como la entiende Searle) no puede ser producida por la selección natural. Por lo tanto, o bien la selección natural no produjo la conciencia, o bien la «inteligencia artificial fuerte» tiene razón al afirmar que la conciencia puede detectarse mediante una prueba de Turing diseñada adecuadamente.