Hispanopedia Wiki
Articulo de referencia

Centro para la Inteligencia Artificial Compatible con el Ser Humano

El Centro para la Inteligencia Artificial Compatible con los Humanos ( CHAI ) es un centro de investigación de la Universidad de California, Berkeley, que se centra en métodos a...

Hispanopedia WikiContenido en espanolLectura gratuita

El Centro para la Inteligencia Artificial Compatible con los Humanos ( CHAI ) es un centro de investigación de la Universidad de California, Berkeley, que se centra en métodos avanzados de seguridad de la inteligencia artificial (IA) . El centro fue fundado en 2016 por un grupo de académicos liderados por el profesor de informática de Berkeley y experto en IA Stuart J. Russell . [ 1 ] [ 2 ] Russell es conocido por ser coautor del libro de texto de IA ampliamente utilizado Inteligencia Artificial: Un Enfoque Moderno .

El profesorado de CHAI incluye a Russell , Pieter Abbeel y Anca Dragan de Berkeley , Bart Selman y Joseph Halpern de Cornell , [ 3 ] Michael Wellman y Satinder Singh Baveja de la Universidad de Michigan , y Tom Griffiths y Tania Lombrozo de Princeton . [ 4 ] En 2016, el Open Philanthropy Project (OpenPhil) recomendó que Good Ventures proporcionara a CHAI un apoyo de 5.555.550 dólares durante cinco años. [ 5 ] Desde entonces, CHAI ha recibido subvenciones adicionales de OpenPhil y Good Ventures por más de 12.000.000 de dólares, incluyendo colaboraciones con el Foro Económico Mundial y el Consejo Global de IA. [ 6 ] [ 7 ] [ 8 ]

Investigación

El enfoque de CHAI para la investigación de la seguridad de la IA se centra en estrategias de alineación de valores, en particular el aprendizaje por refuerzo inverso , en el que la IA infiere valores humanos a partir de la observación del comportamiento humano. [ 9 ] También ha trabajado en el modelado de la interacción humano-máquina en escenarios donde las máquinas inteligentes tienen un "interruptor de apagado" que pueden anular. [ 10 ]

Véase también

Referencias

  1. ↑ Norris, Jeffrey (29 de agosto de 2016). "UC Berkeley lanza el Centro de Inteligencia Artificial Compatible con los Humanos" . Recuperado el 27 de diciembre de 2019 .
  2. ↑ Solon, Olivia (30 de agosto de 2016). "El auge de los robots: olvídese de la IA malvada: el riesgo real es mucho más insidioso" . The Guardian . Consultado el 27 de diciembre de 2019 .
  3. ↑ Universidad de Cornell . "Inteligencia artificial compatible con los humanos" . Consultado el 27 de diciembre de 2019 .
  4. ↑ Centro para la Inteligencia Artificial Compatible con los Humanos. "Personas" . Consultado el 27 de diciembre de 2019 .
  5. ↑ Open Philanthropy Project (agosto de 2016). "UC Berkeley — Centro para la IA compatible con los humanos (2016)" . Consultado el 27 de diciembre de 2019 .
  6. ↑ Open Philanthropy Project (noviembre de 2019). "UC Berkeley — Centro para la IA compatible con los humanos (2019)" . Consultado el 27 de diciembre de 2019 .
  7. ↑ "UC Berkeley — Centro para la Inteligencia Artificial Compatible con los Humanos (2021)" . openphilanthropy.org .
  8. ↑ "Foro Económico Mundial - Taller del Consejo Global de IA" . Open Philanthropy . Abril de 2020. Consultado el 1 de septiembre de 2023 .{{cite web}}: CS1 maint: servicio de archivado obsoleto ( enlace )
  9. ↑ Conn, Ariel (31 de agosto de 2016). "Nuevo centro para IA compatible con humanos" . Future of Life Institute . Recuperado el 27 de diciembre de 2019 .
  10. ↑ Bridge, Mark (10 de junio de 2017). "Hacer que los robots sean menos seguros de sí mismos podría evitar que tomen el control" . The Times .
  • Sitio web oficial