Carta abierta sobre inteligencia artificial

En enero de 2015, Stephen Hawking , Elon Musk y decenas de expertos en inteligencia artificial ^{[ 1 ]} firmaron una carta abierta sobre inteligencia artificial ^{[ 2 ]} en la que solicitaban investigación sobre los impactos sociales de la IA. La carta afirmaba que la sociedad puede obtener grandes beneficios potenciales de la inteligencia artificial, pero pedía investigación concreta sobre cómo prevenir ciertos "riesgos" potenciales: la inteligencia artificial tiene el potencial de erradicar enfermedades y pobreza, pero los investigadores no deben crear algo que sea inseguro o incontrolable . ^{[ 1 ]} La carta de cuatro párrafos, titulada " Prioridades de investigación para una inteligencia artificial robusta y beneficiosa: una carta abierta ", expone prioridades de investigación detalladas en un documento adjunto de doce páginas. ^{[ 3 ]}

Para 2014, tanto el físico Stephen Hawking como el magnate Elon Musk habían expresado públicamente la opinión de que la inteligencia artificial sobrehumana podría proporcionar beneficios incalculables, pero también podría acabar con la raza humana si se implementaba sin precaución. En ese momento, Hawking y Musk formaban parte del consejo asesor científico del Future of Life Institute , una organización que trabaja para "mitigar los riesgos existenciales que enfrenta la humanidad". El instituto redactó una carta abierta dirigida a la comunidad de investigación en IA en general, ^{[ 4 ]} y la distribuyó entre los asistentes a su primera conferencia en Puerto Rico durante el primer fin de semana de 2015. ^{[ 5 ]} La carta se hizo pública el 12 de enero. ^{[ 6 ]}

La carta destaca tanto los efectos positivos como negativos de la inteligencia artificial. ^{[ 7 ]} Según Bloomberg Business , el profesor Max Tegmark del MIT distribuyó la carta para encontrar puntos en común entre los firmantes que consideran que la IA superinteligente representa un riesgo existencial significativo , y otros firmantes como el profesor Oren Etzioni , quienes creen que el campo de la IA estaba siendo "desacreditado" por un enfoque mediático sesgado sobre los supuestos riesgos. ^{[ 6 ]} La carta sostiene que:

Los beneficios potenciales (de la IA) son enormes, ya que todo lo que la civilización ofrece es producto de la inteligencia humana; no podemos predecir lo que podríamos lograr cuando esta inteligencia se vea amplificada por las herramientas que la IA pueda proporcionar, pero la erradicación de enfermedades y pobreza no es descabellada. Debido al gran potencial de la IA, es importante investigar cómo aprovechar sus beneficios evitando posibles inconvenientes. ^{[ 8 ]}

Uno de los firmantes, el profesor Bart Selman de la Universidad de Cornell , afirmó que el objetivo es lograr que los investigadores y desarrolladores de IA presten mayor atención a la seguridad de la IA. Además, para los responsables políticos y el público en general, la carta pretende ser informativa, pero no alarmista. ^{[ 4 ]} Otra firmante, la profesora Francesca Rossi , declaró que «creo que es muy importante que todos sepan que los investigadores de IA están reflexionando seriamente sobre estas preocupaciones y cuestiones éticas». ^{[ 9 ]}

Los firmantes preguntan: ¿Cómo pueden los ingenieros crear sistemas de IA que sean beneficiosos para la sociedad y que sean robustos? Los humanos deben mantener el control de la IA ; nuestros sistemas de IA deben "hacer lo que queremos que hagan". ^{[ 1 ]} La investigación requerida es interdisciplinaria y se nutre de áreas que van desde la economía y el derecho hasta diversas ramas de la informática , como la seguridad informática y la verificación formal . Los desafíos que surgen se dividen en verificación ("¿Construí bien el sistema?"), validez ("¿Construí el sistema correcto?"), seguridad y control ("Bien, construí mal el sistema, ¿puedo corregirlo?"). ^{[ 10 ]}

Algunas preocupaciones a corto plazo se refieren a los vehículos autónomos, desde drones civiles hasta coches sin conductor . Por ejemplo, en caso de emergencia, un coche sin conductor podría tener que elegir entre un riesgo pequeño de un accidente grave y una alta probabilidad de un accidente menor. Otras preocupaciones se refieren a las armas autónomas inteligentes letales: ¿Deberían prohibirse? De ser así, ¿cómo debería definirse con precisión la «autonomía»? De no ser así, ¿cómo debería repartirse la responsabilidad por cualquier mal uso o mal funcionamiento?

Otros problemas incluyen las preocupaciones sobre la privacidad a medida que la IA se vuelve cada vez más capaz de interpretar grandes conjuntos de datos de vigilancia, y cómo gestionar mejor el impacto económico de los empleos desplazados por la IA. ^{[ 4 ]}

El documento concluye haciéndose eco de las preocupaciones expresadas por Eric Horvitz, director de investigación de Microsoft , de que:

Podríamos perder algún día el control de los sistemas de IA debido al surgimiento de superinteligencias que no actúen de acuerdo con los deseos humanos, y que tales sistemas poderosos amenacen a la humanidad. ¿Son posibles tales escenarios distópicos? De ser así, ¿cómo podrían surgir estas situaciones? ¿Qué tipo de inversiones en investigación deberían realizarse para comprender mejor y abordar la posibilidad del surgimiento de una superinteligencia peligrosa o la ocurrencia de una «explosión de inteligencia»?

Las herramientas existentes para aprovechar la IA, como el aprendizaje por refuerzo y las funciones de utilidad simples, son insuficientes para resolver esto; por lo tanto, es necesaria más investigación para encontrar y validar una solución robusta al "problema de control". ^{[ 10 ]}

Entre los firmantes se encuentran el físico Stephen Hawking , el magnate Elon Musk , los emprendedores detrás de DeepMind y Vicarious , el director de investigación de Google , Peter Norvig , ^{[ 1 ]} el profesor Stuart J. Russell de la Universidad de California, Berkeley , ^{[ 11 ]} y otros expertos en IA, fabricantes de robots, programadores y especialistas en ética. ^{[ 12 ]} El número original de firmantes superaba las 150 personas, ^{[ 13 ]} incluyendo académicos de Cambridge, Oxford, Stanford, Harvard y el MIT. ^{[ 14 ]}

• Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter