Hispanopedia Wiki
Articulo de referencia

Compatible con humanos

Human Compatible: Artificial Intelligence and the Problem of Control es un libro de no ficción de 2019 del científico informático Stuart J. Russell . Afirma que el riesgo que su...

Hispanopedia WikiContenido en espanolLectura gratuita

Human Compatible: Artificial Intelligence and the Problem of Control es un libro de no ficción de 2019 del científico informático Stuart J. Russell . Afirma que el riesgo que supone para la humanidad la inteligencia artificial (IA) avanzadaes una preocupación seria, a pesar de la incertidumbre que rodea el progreso futuro de la IA. También propone un enfoque para el problema del control de la IA .

Resumen

Russell comienza afirmando que el modelo estándar de investigación en IA, en el que la principal definición de éxito es mejorar cada vez más en el logro de objetivos rígidos especificados por humanos, es peligrosamente erróneo. Dichos objetivos pueden no reflejar las intenciones de los diseñadores humanos, por ejemplo, al no tener en cuenta valores humanos no incluidos en ellos. Si una IA desarrollada según el modelo estándar llegara a ser superinteligente , probablemente no reflejaría plenamente los valores humanos y podría ser catastrófica para la humanidad. Russell afirma que, precisamente porque el cronograma para desarrollar una IA de nivel humano o superinteligente es muy incierto, la investigación sobre seguridad debería comenzar cuanto antes, ya que también es muy incierto cuánto tiempo tomaría completarla.

Russell argumenta que el progreso continuo en la capacidad de la IA es inevitable debido a las presiones económicas. Dichas presiones ya se observan en el desarrollo de tecnologías de IA existentes, como los automóviles autónomos y el software de asistente personal . Además, la IA a nivel humano podría valer billones de dólares. A continuación, Russell examina el debate actual en torno al riesgo de la IA. Refuta varios argumentos comunes que desestiman el riesgo de la IA y atribuye gran parte de su persistencia al tribalismo: los investigadores de IA pueden ver las preocupaciones sobre el riesgo de la IA como un "ataque" a su campo. Russell reitera que existen razones legítimas para tomar en serio las preocupaciones sobre el riesgo de la IA y que las presiones económicas hacen inevitable la innovación continua en IA.

Russell propone entonces un enfoque para desarrollar máquinas con beneficios demostrables que se centren en el respeto a los humanos. A diferencia del modelo estándar de IA, donde el objetivo es rígido y certero, este enfoque plantearía que el verdadero objetivo de la IA permanezca incierto, y que la IA solo se acerque a la certeza al respecto a medida que obtenga más información sobre los humanos y el mundo. Idealmente, esta incertidumbre evitaría malentendidos catastróficos sobre las preferencias humanas y fomentaría la cooperación y la comunicación con los humanos. Russell concluye abogando por una gobernanza más estricta de la investigación y el desarrollo de la IA, así como por una introspección cultural sobre el grado apropiado de autonomía que se debe conservar en un mundo dominado por la IA.

Los tres principios de Russell

Russell enumera tres principios para guiar el desarrollo de máquinas beneficiosas. Enfatiza que estos principios no deben codificarse explícitamente en las máquinas, sino que están destinados a los desarrolladores humanos. Los principios son los siguientes: [ 1 ] : 173

1. El único objetivo de la máquina es maximizar la realización de las preferencias humanas.

2. La máquina inicialmente no está segura de cuáles son esas preferencias.

3. La fuente última de información sobre las preferencias humanas es el comportamiento humano.

Las "preferencias" a las que se refiere Russell "son omnicomprensivas; abarcan todo lo que te pueda importar, arbitrariamente lejos en el futuro". [ 1 ] : 173 De manera similar, el "comportamiento" incluye cualquier elección entre opciones, [ 1 ] : 177 y la incertidumbre es tal que se debe asignar alguna probabilidad, que puede ser bastante pequeña, a cada preferencia humana lógicamente posible. [ 1 ] : 201

Russell explora el aprendizaje por refuerzo inverso , en el que una máquina infiere una función de recompensa a partir del comportamiento observado, como una posible base para un mecanismo de aprendizaje de las preferencias humanas. [ 1 ] : 191–193

Recepción

Varios críticos coincidieron con los argumentos del libro. Ian Sample, de The Guardian, lo calificó de «convincente» y «el libro más importante sobre IA de este año». [ 2 ] Richard Waters, del Financial Times, elogió el «rigor intelectual estimulante» del libro. [ 3 ] Kirkus Reviews lo avaló como «una sólida defensa de la planificación para el día en que las máquinas puedan superarnos en inteligencia». [ 4 ]

Los mismos críticos caracterizaron el libro como "irónico e ingenioso" [ 2 ] o "accesible" [ 4 ] debido a su "estilo lacónico y humor seco" [ 3 ] . Matthew Hutson del Wall Street Journal dijo: "El apasionante libro del Sr. Russell profundiza a la vez que brilla con ingeniosos comentarios" [ 5 ] . Un crítico de Library Journal lo llamó "La guía adecuada en el momento adecuado" [ 6 ] .

James McConnachie, de The Times, escribió: «Este no es precisamente el libro de divulgación que la IA necesita con urgencia. Sus partes técnicas son demasiado difíciles y las filosóficas demasiado fáciles. Pero es fascinante e importante». [ 7 ]

Por el contrario, Human Compatible fue criticado en su reseña de Nature por David Leslie, investigador de ética en el Instituto Alan Turing ; y de manera similar en un artículo de opinión del New York Times por Melanie Mitchell . Un punto de controversia fue si la superinteligencia es posible. Leslie afirma que Russell "no logra convencernos de que alguna vez veremos la llegada de una 'segunda especie inteligente ' " [ 8 ] y Mitchell duda que una máquina pueda alguna vez "superar la generalidad y flexibilidad de la inteligencia humana" sin perder "la velocidad, precisión y programabilidad de una computadora" [ 9 ] . Un segundo desacuerdo fue si las máquinas inteligentes tenderían naturalmente a adoptar los llamados valores morales de "sentido común". En el experimento mental de Russell sobre un robot de geoingeniería que "asfixia a la humanidad para desacidificar los océanos", Leslie "tiene dificultades para identificar alguna inteligencia". De manera similar, Mitchell cree que un robot inteligente tendería naturalmente a estar "moderado por el sentido común, los valores y el juicio social sin los cuales la inteligencia general no puede existir" [ 10 ] [ 11 ] .

El libro fue preseleccionado para el premio Financial Times /McKinsey de 2019. [ 12 ]

Véase también

Referencias

  1. 1 2 3 4 5 Russell, Stuart (8 de octubre de 2019). Human Compatible: Inteligencia artificial y el problema del control . Estados Unidos: Viking. ISBN 978-0-525-55861-3OCLC 1083694322​​ 
  2. 1 2 Sample, Ian (24 de octubre de 2019). "Reseña de Human Compatible de Stuart Russell: la IA y nuestro futuro" . The Guardian .
  3. 1 2 Waters, Richard (18 de octubre de 2019). "Compatible con los humanos: ¿podemos mantener el control sobre una superinteligencia?" . www.ft.com . Recuperado el 23 de febrero de 2020 .
  4. 1 2 "COMPATIBLE CON LOS HUMANOS | Kirkus Reviews" . Kirkus Reviews . 2019. Consultado el 23 de febrero de 2020 .
  5. ↑ Hutson, Matthew (19 de noviembre de 2019) .Análisis de "Compatibilidad Humana" e "Inteligencia Artificial": Aprende como una máquina . The Wall Street Journal .
  6. ↑ Hahn, Jim (2019). "Compatible con los humanos: la inteligencia artificial y el problema del control" . Library Journal . Recuperado el 23 de febrero de 2020 .
  7. ↑ McConnachie, James (6 de octubre de 2019). "Reseña de Human Compatible de Stuart Russell: una escalofriante advertencia de un experto en IA" . The Times .
  8. ↑ Leslie, David (2019-10-02). "Robots furiosos, humanos desafortunados: la distopía de la IA" . Nature . 574 (7776): 32– 33. Bibcode : 2019Natur.574...32L . doi : 10.1038/d41586-019-02939-0 .
  9. ↑ Mitchell, Melanie (31 de octubre de 2019). "Opinión | No deberíamos tener miedo de la 'IA superinteligente'"" . The New York Times . ISSN 0362-4331 . Consultado el 18 de julio de 2023 . 
  10. ↑ Leslie, David (2 de octubre de 2019). "Robots furiosos, humanos desafortunados: la distopía de la IA". Nature . 574 (7776): 32– 33. Bibcode : 2019Natur.574...32L . doi : 10.1038/d41586-019-02939-0 .
  11. ↑ Mitchell, Melanie (31 de octubre de 2019). "No deberíamos tener miedo de la 'IA superinteligente'"" . The New York Times .
  12. ↑ Hill, Andrew (11 de agosto de 2019). "Premio al Libro de Negocios del Año 2019: la lista preliminar" . www.ft.com . Consultado el 23 de febrero de 2020 .
  • Entrevista con Stuart J. Russell