La paradoja de Moravec

La paradoja de Moravec radica en la observación de que, como escribió Hans Moravec en 1988, «es relativamente fácil lograr que las computadoras muestren un rendimiento de nivel adulto en pruebas de inteligencia o jugando a las damas, y difícil o imposible dotarlas de las habilidades de un niño de un año en lo que respecta a la percepción y la movilidad». ^{[ 1 ]} Este patrón contraintuitivo puede deberse a que habilidades que parecen sencillas para los humanos, como reconocer rostros o caminar, requirieron millones de años de evolución para desarrollarse, mientras que las capacidades de razonamiento abstracto, como las matemáticas, son evolutivamente recientes. Esta observación fue formulada en la década de 1980 por Hans Moravec , Rodney Brooks , Marvin Minsky y otros.

De manera similar, Minsky enfatizó que las habilidades humanas más difíciles de descifrar son aquellas que están por debajo del nivel de la consciencia. «En general, somos menos conscientes de lo que mejor hacen nuestras mentes», escribió, y agregó: «somos más conscientes de los procesos simples que no funcionan bien que de los complejos que funcionan a la perfección». ^{[ 2 ]} Steven Pinker escribió en 1994 que «la principal lección de treinta y cinco años de investigación en IA es que los problemas difíciles son fáciles y los problemas fáciles son difíciles». ^{[ 3 ]}

Para la década de 2020, de acuerdo con la ley de Moore , las computadoras eran cientos de millones de veces más rápidas que en la década de 1970, y la potencia de cálculo adicional finalmente fue suficiente para comenzar a manejar la percepción y las habilidades sensoriales, como Moravec había predicho en 1976. ^{[ 4 ]} En 2017, el destacado investigador de aprendizaje automático Andrew Ng presentó una "regla general muy imperfecta" que indicaba que "casi cualquier cosa que un ser humano típico pueda hacer con menos de un segundo de pensamiento mental, probablemente podamos automatizarla ahora o en un futuro cercano usando IA". ^{[ 5 ]} Actualmente no existe consenso sobre en qué tareas tiende a sobresalir la IA. ^{[ 6 ]}

Una posible explicación de la paradoja, propuesta por Moravec, se basa en la evolución . Todas las habilidades humanas se implementan biológicamente, mediante mecanismos diseñados por la selección natural . A lo largo de su evolución, la selección natural ha tendido a preservar las mejoras y optimizaciones del diseño. Cuanto más antigua es una habilidad, más tiempo ha tenido la selección natural para perfeccionar su diseño. El pensamiento abstracto se desarrolló muy recientemente y, por consiguiente, no cabe esperar que su implementación sea particularmente eficiente.

Como escribe Moravec:

En las grandes y altamente evolucionadas áreas sensoriales y motoras del cerebro humano se encuentra codificado mil millones de años de experiencia sobre la naturaleza del mundo y cómo sobrevivir en él. El proceso deliberado que llamamos razonamiento es, creo, la capa más delgada del pensamiento humano, eficaz solo porque se sustenta en este conocimiento sensoriomotor mucho más antiguo y poderoso, aunque generalmente inconsciente. Todos somos prodigiosos atletas en las áreas perceptivas y motoras, tan buenos que hacemos que lo difícil parezca fácil. El pensamiento abstracto, sin embargo, es un arte nuevo, quizás con menos de 100 mil años de antigüedad. Todavía no lo dominamos. No es intrínsecamente tan difícil; simplemente lo parece cuando lo practicamos. ^{[ 7 ]}

Una forma concisa de expresar este argumento sería:

• Cabe esperar que la dificultad de aplicar ingeniería inversa a cualquier habilidad humana sea aproximadamente proporcional al tiempo que dicha habilidad ha estado evolucionando en los animales.
• Las habilidades humanas más antiguas son en gran medida inconscientes y, por lo tanto, nos parecen realizadas sin esfuerzo.
• Por lo tanto, cabe esperar que las habilidades que parecen fáciles sean difíciles de descifrar mediante ingeniería inversa, pero las habilidades que requieren esfuerzo no necesariamente serán difíciles de desarrollar en absoluto.

Algunos ejemplos de habilidades que han evolucionado durante millones de años son: reconocer un rostro, desplazarse en el espacio, juzgar las motivaciones de las personas, atrapar una pelota, reconocer una voz, establecer metas apropiadas, prestar atención a cosas interesantes; todo lo relacionado con la percepción, la atención, la visualización, las habilidades motoras, las habilidades sociales, etc.

Algunos ejemplos de habilidades que han surgido más recientemente son las matemáticas, la ingeniería, los juegos, la lógica y el razonamiento científico. Estas nos resultan difíciles porque no son para lo que nuestros cuerpos y cerebros fueron diseñados principalmente. Son habilidades y técnicas adquiridas recientemente, en tiempos históricos, y que han tenido, como máximo, unos pocos miles de años para perfeccionarse, principalmente mediante la evolución cultural.

En los inicios de la investigación en inteligencia artificial, los investigadores más destacados solían predecir que podrían crear máquinas pensantes en tan solo unas décadas (véase la historia de la inteligencia artificial ). Su optimismo se debía en parte a que habían logrado escribir programas que utilizaban la lógica, resolvían problemas de álgebra y geometría y jugaban a juegos como las damas y el ajedrez. La lógica y el álgebra son difíciles para las personas y se consideran un signo de inteligencia. Muchos investigadores prominentes ^{[ a ]} asumieron que, habiendo resuelto (casi) los problemas "difíciles", los problemas "fáciles" de la visión y el razonamiento de sentido común pronto se resolverían. Se equivocaron (véase también el invierno de la IA ), y una de las razones es que estos problemas no son fáciles en absoluto, sino increíblemente difíciles. El hecho de que hubieran resuelto problemas como la lógica y el álgebra era irrelevante, porque estos problemas son extremadamente fáciles de resolver para las máquinas. ^{[ b ]}

Rodney Brooks explica que, según las primeras investigaciones sobre IA, la inteligencia se caracterizaba mejor por aquello que los científicos varones con un alto nivel educativo consideraban un desafío, como el ajedrez, la integración simbólica , la demostración de teoremas matemáticos y la resolución de problemas complejos de álgebra verbal. «Las cosas que los niños de cuatro o cinco años podían hacer sin esfuerzo, como distinguir visualmente entre una taza de café y una silla, caminar sobre dos piernas o encontrar el camino de su habitación a la sala de estar, no se consideraban actividades que requirieran inteligencia. Tampoco se incluían los juicios estéticos en el repertorio de habilidades basadas en la inteligencia». ^{[ 9 ]}

En la década de 1980, esto llevó a Brooks a explorar una nueva dirección en la investigación de la inteligencia artificial y la robótica . Decidió construir máquinas inteligentes que no tuvieran «cognición. Solo percepción y acción. Eso es todo lo que construiría y dejaría completamente de lado lo que tradicionalmente se consideraba la inteligencia de la inteligencia artificial». ^{[ 9 ]} Llamó a esta nueva dirección « Nueva IA ». ^{[ 10 ]}

En un capítulo de 1983 sobre la historia de la inteligencia artificial, el fundador de la IA, Allen Newell, criticó la idea, calificándola de «mito». Escribió: «Surgió el mito de que era relativamente fácil automatizar las funciones de razonamiento superior del ser humano, pero muy difícil automatizar aquellas funciones que el ser humano compartía con el resto del reino animal y que realizaba bien automáticamente, por ejemplo, el reconocimiento». ^{[ 11 ]}

Arvind Narayanan describe la paradoja de Moravec como "una afirmación sobre en qué considera la comunidad de IA que vale la pena trabajar" en lugar de "un poder predictivo sobre qué problemas serán fáciles o difíciles para la IA". ^{[ 12 ]}

El lingüista y científico cognitivo Steven Pinker considera que esta es la principal lección descubierta por los investigadores de IA en su libro de 1994, El instinto del lenguaje . ^{[ 13 ]}

• efecto de la IA
• cognición corporizada
• Historia de la inteligencia artificial
• Arquitectura de subsunción

• Explicación de la tira cómica de XKCD sobre la paradoja de Moravec.