Cómo crear una mente

Kurzweil opens the book by reminding us of the importance of thought experiments in the development of major theories, including evolution and relativity.^[15] It's worth noting that Kurzweil sees Darwin as "a good contender" for the leading scientist of the 19th century.^[16] He suggests his own thought experiments related to how the brain thinks and remembers things. For example, he asks the reader to recite the alphabet, but then to recite the alphabet backwards. The difficulty in going backwards suggests "our memories are sequential and in order".^[17] Later he asks the reader to visualize someone he has met only once or twice, the difficulty here suggests "there are no images, videos, or sound recordings stored in the brain" only sequences of patterns.^[18] Eventually he concludes the brain uses a hierarchy of pattern recognizers.^[19]

Kurzweil states that the neocortex contains about 300 million very general pattern recognizers, arranged in a hierarchy.^[20] For example, to recognize a written word there might be several pattern recognizers for each different letter stroke: diagonal, horizontal, vertical or curved. The output of these recognizers would feed into higher level pattern recognizers, which look for the pattern of strokes which form a letter. Finally a word-level recognizer uses the output of the letter recognizers. All the while signals feed both "forward" and "backward". For example, if a letter is obscured, but the remaining letters strongly indicate a certain word, the word-level recognizer might suggest to the letter-recognizer which letter to look for, and the letter-level would suggest which strokes to look for. Kurzweil also discusses how listening to speech requires similar hierarchical pattern recognizers.^[21]

Kurzweil's main thesis is that these hierarchical pattern recognizers are used not just for sensing the world, but for nearly all aspects of thought. For example, Kurzweil says memory recall is based on the same patterns that were used when sensing the world in the first place. Kurzweil says that learning is critical to human intelligence. A computer version of the neocortex would initially be like a new born baby, unable to do much. Only through repeated exposure to patterns would it eventually self-organize and become functional.^[22]

Kurzweil writes extensively about neuroanatomy, of both the neocortex and "the old brain".^[23] He cites recent evidence that interconnections in the neocortex form a grid structure, which suggests to him a common algorithm across "all neocortical functions".^[24]

Kurzweil next writes about creating a digital brain inspired by the biological brain he has been describing. One existing effort he points to is Henry Markram's Blue Brain Project, which is attempting to create a full brain simulation by 2023.^[25] Kurzweil says the full molecular modeling they are attempting will be too slow, and that they will have to swap in simplified models to speed up initial self-organization.^[26]

Kurzweil believes these large scale simulations are valuable, but says a more explicit "functional algorithmic model" will be required to achieve human levels of intelligence.^[26] Kurzweil is unimpressed with neural networks and their potential while he's very bullish on vector quantization, hidden Markov models and genetic algorithms since he used all three successfully in his speech recognition work.^[27] Kurzweil equates pattern recognizers in the neocortex with statements in the LISP programming language, which is also hierarchical.^[28] He also says his approach is similar to Jeff Hawkins' hierarchical temporal memory, although he feels the hierarchical hidden Markov models have an advantage in pattern detection.^[29]

Kurzweil touches on some modern applications of advanced AI including Google's self-driving cars, IBM's Watson which beat the best human players at the game Jeopardy!, the Siri personal assistant in the AppleiPhone or its competitor Google Voice Search. He contrasts the hand-coded knowledge of the Douglas Lenat's Cyc project with the automated learning of systems like Google Translate and suggests the best approach is to use a combination of both, which is how IBM's Watson was so effective.^[30] Kurzweil says that John Searle's has leveled his "Chinese Room" objection at Watson, arguing that Watson only manipulates symbols without meaning. Kurzweil thinks the human brain is "just" doing hierarchical statistical analysis as well.^[31]

In a section entitled A Strategy for Creating a Mind Kurzweil summarizes how he would put together a digital mind. He would start with a pattern recognizer and arrange for a hierarchy to self-organize using a hierarchical hidden Markov model. All parameters of the system would be optimized using genetic algorithms. He would add in a "critical thinking module" to scan existing patterns in the background for incompatibilities, to avoid holding inconsistent ideas. Kurzweil says the brain should have access to "open questions in every discipline" and have the ability to "master vast databases", something traditional computers are good at. He feels the final digital brain would be "as capable as biological ones of effecting changes in the world".^[32]

A digital brain with human-level intelligence raises many philosophical questions, the first of which is whether it is conscious. Kurzweil feels that consciousness is "an emergent property of a complex physical system", such that a computer emulating a brain would have the same emergent consciousness as the real brain. This is in contrast to people like John Searle, Stuart Hameroff and Roger Penrose who believe there is something special about the physical brain that a computer version could not duplicate.^[33]

Otro tema es el del libre albedrío , el grado en que las personas son responsables de sus propias decisiones. El libre albedrío se relaciona con el determinismo ; si todo está estrictamente determinado por un estado previo, entonces algunos dirían que nadie puede tener libre albedrío. Kurzweil sostiene una creencia pragmática en el libre albedrío porque considera que la sociedad lo necesita para funcionar. También sugiere que la mecánica cuántica puede proporcionar "una fuente continua de incertidumbre en el nivel más básico de la realidad", de modo que el determinismo no existe. ^{[ 34 ]}

Finalmente, Kurzweil aborda la identidad con escenarios futuristas que implican la clonación de una versión no biológica de alguien, o la transformación gradual de esa misma persona en una entidad no biológica mediante cirugías sucesivas. En el primer caso, resulta tentador afirmar que el clon no es la persona original, ya que esta aún existe. Sin embargo, Kurzweil concluye que ambas versiones son, por lo tanto, la misma persona. Explica que una ventaja de los sistemas no biológicos es "la capacidad de ser copiados, respaldados y recreados", y que esto es algo a lo que la gente simplemente tendrá que acostumbrarse. Kurzweil cree que la identidad "se preserva mediante la continuidad del patrón de información que nos conforma" y que los humanos no están ligados a un "sustrato" específico como la biología. ^{[ 35 ]}

La ley de rendimientos acelerados es la base de todas estas especulaciones sobre la creación de un cerebro digital. Explica por qué la capacidad computacional seguirá aumentando sin cesar incluso después de que expire la Ley de Moore, lo que Kurzweil predice que ocurrirá alrededor de 2020. Los circuitos integrados, el método actual para crear chips de computadora, pasarán a un segundo plano, mientras que alguna tecnología nueva y más avanzada tomará el relevo. Es esta nueva tecnología la que nos permitirá alcanzar los niveles masivos de computación necesarios para crear un cerebro artificial. ^{[ 36 ]}

A medida que el progreso exponencial continúa dentro y más allá de la Singularidad, Kurzweil afirma que «nos fusionaremos con la tecnología inteligente que estamos creando». ^{[ 37 ]} Desde allí, la inteligencia se expandirá rápidamente. Kurzweil incluso se pregunta si la velocidad de la luz es realmente un límite firme para la capacidad de la civilización de colonizar el universo. ^{[ 38 ]}

Simson Garfinkel , empresario y profesor de informática en la Escuela Naval de Posgrado , afirma que la teoría de la mente basada en el reconocimiento de patrones (PRTM) de Kurzweil está mal denominada debido a la palabra "teoría", pues considera que no es una teoría ya que no puede ser comprobada. Garfinkel rechaza el enfoque de un solo algoritmo de Kurzweil y, en cambio, sostiene que "es probable que el cerebro tenga muchos más secretos y algoritmos que el que describe Kurzweil". Garfinkel caricaturiza el plan de Kurzweil para la inteligencia artificial como "construir algo que pueda aprender y luego darle material para aprender", lo cual, en su opinión, dista mucho del "secreto del pensamiento humano" prometido en el subtítulo del libro. ^{[ 39 ]}

Gary Marcus , psicólogo investigador y profesor de la Universidad de Nueva York , afirma que solo el nombre PRTM es nuevo. Explica que la teoría básica detrás de PRTM se inspira en un modelo de visión conocido como neocognitrón , introducido en 1980. Añade que PRTM se asemeja aún más a la Memoria Temporal Jerárquica promovida por Jeff Hawkins en los últimos años. Marcus considera que cualquier teoría de este tipo debe ser probada con un modelo informático funcional. En ese sentido, señala que se han programado numerosas máquinas con un enfoque similar a PRTM, y que a menudo han tenido un rendimiento deficiente. ^{[ 6 ]}

Colin McGinn , profesor de filosofía en la Universidad de Miami , afirmó en The New York Review of Books que "el reconocimiento de patrones se refiere específicamente a la percepción, no a toda la actividad mental". ^{[ 40 ]} Si bien Kurzweil afirma que "los recuerdos se almacenan como secuencias de patrones" ^{[ 18 ],} McGinn pregunta sobre "la emoción, la imaginación, el razonamiento, la voluntad, la intención, el cálculo, el diálogo interno silencioso, la sensación de dolor y placer, la picazón y el estado de ánimo", insistiendo en que estos no tienen nada que ver con el reconocimiento de patrones. McGinn también critica el "lenguaje homúnculo" que utiliza Kurzweil, la antropomorfización de partes anatómicas como las neuronas. Kurzweil escribe que una neurona "grita" cuando "ve" un patrón, mientras que McGinn prefiere que diga que una neurona "se dispara" cuando recibe ciertos estímulos. En la mente de McGinn, solo las entidades conscientes pueden "reconocer" algo; un conjunto de neuronas no puede. Finalmente, objeta la "ley" de Kurzweil sobre la aceleración del cambio, insistiendo en que no es una ley, sino simplemente un "afortunado hecho histórico del siglo XX". ^{[ 40 ]}

En 2015, la teoría de Kurzweil se extendió a una Teoría de la Mente de Activación/Reconocimiento de Patrones con un modelo estocástico de circuitos neuronales autodescriptivos. ^{[ 41 ]}

Garfinkel afirma que Kurzweil está en su mejor momento con los experimentos mentales al principio del libro, pero señala que falta la «calidez y el humanitarismo» evidentes en sus charlas. ^{[ 39 ]} Marcus elogia a Kurzweil por su «lúcida discusión» sobre Alan Turing y John von Neumann , y se mostró impresionado por sus descripciones de algoritmos informáticos y las detalladas historias de sus propias empresas. ^{[ 6 ]}

Matthew Feeney, editor adjunto de Reason , se mostró decepcionado por la brevedad con la que Kurzweil abordó los aspectos filosóficos del problema mente-cuerpo y las implicaciones éticas de las máquinas que parecen ser conscientes. Sin embargo, afirma que el optimismo de Kurzweil sobre un futuro asistido por IA es contagioso. ^{[ 42 ]} Por su parte, Drew DeSilver, periodista de negocios del Seattle Times , comenta que la primera mitad del libro tiene el mismo dinamismo y energía que un manual de ingeniería, pero añade que la descripción que hace Kurzweil del funcionamiento de Watson , el campeón informático de Jeopardy!, es reveladora y sorprendentemente clara. ^{[ 5 ]}

McGinn afirma que el libro es «interesante en algunos pasajes, bastante legible, moderadamente informativo, pero tremendamente exagerado». Se burla del subtítulo escribiendo «¡Todo está revelado!» tras parafrasear la teoría de la mente basada en el reconocimiento de patrones de Kurzweil. Como filósofo, McGinn opina que Kurzweil está «completamente fuera de lugar» al hablar de Wittgenstein . ^{[ 40 ]}

Matt Ridley , periodista y autor, escribió en The Wall Street Journal que Kurzweil "tiene un historial más impresionante que la mayoría en la predicción del progreso tecnológico" y, por lo tanto, considera que "sería una tontería, no una sensatez, apostar en contra de la emulación del cerebro humano en silicio dentro de un par de décadas". ^{[ 4 ]}

• Español: "Cómo crear una mente. El secreto del pensamiento humano" (Lola Books, 2013).
• Alemán: "Das Geheimnis des menschlichen Denkens. Einblicke in das Reverse Engineering des Gehirns" (Lola Books, 2014).