LaMDA

El 28 de enero de 2020, Google presentó Meena, un chatbot impulsado por redes neuronales con 2.600 millones de parámetros, que Google afirmó que era superior a todos los demás chatbots existentes. ^{[ 1 ] [ 2 ]} La compañía había contratado previamente al científico informático Ray Kurzweil en 2012 para desarrollar varios chatbots para la compañía, incluyendo uno llamado Danielle. ^{[ 3 ]} El equipo de investigación de Google Brain , que desarrolló Meena, esperaba lanzar el chatbot al público de forma limitada, pero los ejecutivos corporativos se negaron argumentando que Meena violaba los "principios de IA de Google en torno a la seguridad y la equidad". Meena fue renombrada posteriormente como LaMDA a medida que aumentaban sus datos y su capacidad de procesamiento , y el equipo de Google Brain intentó nuevamente implementar el software en el Asistente de Google , el software de asistente virtual de la compañía , además de abrirlo a una demostración pública. Ambas solicitudes fueron nuevamente rechazadas por la dirección de la compañía. Los dos investigadores principales de LaMDA, Daniel de Freitas y Noam Shazeer, finalmente abandonaron la compañía frustrados. ^{[ 4 ]} 

Google anunció el modelo de lenguaje conversacional a gran escala LaMDA durante la presentación principal de Google I/O el 18 de mayo de 2021, impulsado por inteligencia artificial . ^{[ 5 ] [ 6 ]} El acrónimo significa "Modelo de lenguaje para aplicaciones de diálogo". ^{[ 5 ] [ 7 ]} Construido sobre la arquitectura seq2seq , redes neuronales basadas en transformadores desarrolladas por Google Research en 2017, LaMDA fue entrenado con diálogos e historias humanas, lo que le permite participar en conversaciones abiertas. ^{[ 8 ]} Google afirma que las respuestas generadas por LaMDA se han asegurado para ser "sensibles, interesantes y específicas al contexto". ^{[ 9 ]} LaMDA tiene acceso a múltiples sistemas de procesamiento de texto simbólico , incluyendo una base de datos, un reloj y calendario en tiempo real, una calculadora matemática y un sistema de traducción de lenguaje natural, lo que le da una precisión superior en las tareas compatibles con esos sistemas y lo convierte en uno de los primeros chatbots de procesamiento dual . LaMDA tampoco carece de estado porque su métrica de " sensibilidad " se ajusta mediante el "precondicionamiento" de cada turno de diálogo, anteponiendo muchas de las interacciones de diálogo más recientes, de forma individual para cada usuario. ^{[ 10 ]} LaMDA se ajusta en nueve métricas de rendimiento únicas: sensatez, especificidad, interés, seguridad, fundamento, información, precisión de citas, utilidad y coherencia de roles. ^{[ 11 ] : 5–6} Las pruebas realizadas por Google indicaron que LaMDA superó las respuestas humanas en el área de interés. ^{[ 12 ]}

El conjunto de datos de preentrenamiento consta de 2970 millones de documentos, 1120 millones de diálogos y 13 390 millones de enunciados, para un total de 1560 palabras. El modelo LaMDA más grande tiene 137 mil millones de parámetros sin incrustación. ^{[ 11 ] : 4}

El 11 de mayo de 2022, Google presentó LaMDA 2, el sucesor de LaMDA, durante la conferencia magistral Google I/O 2022. La nueva versión del modelo extrae ejemplos de texto de numerosas fuentes, utilizándolos para formular "conversaciones naturales" únicas sobre temas para los que quizás no haya sido entrenado. ^{[ 13 ]}

El 11 de junio de 2022, The Washington Post informó que el ingeniero de Google, Blake Lemoine, había sido suspendido con goce de sueldo después de que Lemoine les dijera a los ejecutivos de la compañía, Blaise Agüera y Arcas y Jen Gennai, que LaMDA se había vuelto consciente . Lemoine llegó a esta conclusión después de que el chatbot hiciera respuestas cuestionables a preguntas sobre la autoidentidad , los valores morales , la religión y las Tres Leyes de la Robótica de Isaac Asimov . ^{[ 15 ] [ 16 ]} Google refutó estas afirmaciones, insistiendo en que había evidencia sustancial que indicaba que LaMDA no era consciente. ^{[ 17 ]} En una entrevista con Wired , Lemoine reiteró sus afirmaciones de que LaMDA era "una persona" según lo estipulado en la Decimotercera Enmienda de la Constitución de los Estados Unidos , comparándola con una "inteligencia alienígena de origen terrestre". Además, reveló que había sido despedido por Google después de que contratara a un abogado en nombre de LaMDA, luego de que el chatbot se lo solicitara. ^{[ 18 ] [ 19 ]} El 22 de julio, Google despidió a Lemoine, afirmando que Blake había violado sus políticas "para salvaguardar la información del producto" y rechazó sus afirmaciones por ser "totalmente infundadas". ^{[ 20 ] [ 21 ]} La controversia interna provocada por el incidente llevó a los ejecutivos de Google a decidir no publicar LaMDA, algo que habían estado considerando previamente. ^{[ 4 ]}

Las afirmaciones de Lemoine fueron ampliamente rechazadas por la comunidad científica. ^{[ 22 ]} Muchos expertos rechazaron la idea de que LaMDA fuera sensible, incluyendo al ex profesor de psicología de la Universidad de Nueva York Gary Marcus , David Pfau de DeepMind , empresa hermana de Google , Erik Brynjolfsson del Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford y el profesor de la Universidad de Surrey Adrian Hilton. ^{[ 14 ] [ 23 ]} Yann LeCun , quien dirige el equipo de investigación de IA de Meta Platforms , afirmó que las redes neuronales como LaMDA "no eran lo suficientemente potentes como para alcanzar la verdadera inteligencia". ^{[ 24 ]} El profesor de la Universidad de California, Santa Cruz Max Kreminski señaló que la arquitectura de LaMDA no "apoyaba algunas capacidades clave de la conciencia similar a la humana" y que los pesos de su red neuronal estaban "congelados", asumiendo que era un modelo de lenguaje grande típico. ^{[ 25 ]} El filósofo Nick Bostrom señaló, sin embargo, que la falta de criterios precisos y consensuados para determinar si un sistema es consciente justifica cierta incertidumbre. ^{[ 26 ]} El desarrollador principal de IBM Watson, David Ferrucci, comparó cómo LaMDA parecía ser humana de la misma manera que Watson cuando se introdujo por primera vez. ^{[ 27 ]} La ex experta en ética de IA de Google, Timnit Gebru, calificó a Lemoine como víctima de un "ciclo de exageración" iniciado por investigadores y medios de comunicación. ^{[ 28 ]} Las afirmaciones de Lemoine también han generado debate sobre si la prueba de Turing seguía siendo útil para determinar el progreso de los investigadores hacia el logro de la inteligencia artificial general , ^{[ 14 ]} con Will Omerus del Post opinando que la prueba en realidad medía si los sistemas de inteligencia artificial eran capaces de engañar a los humanos, ^{[ 29 ]} mientras que Brian Christian de The Atlantic dijo que la controversia era un ejemplo del efecto ELIZA . ^{[ 30 ]}

Con la presentación de LaMDA 2 en mayo de 2022, Google también lanzó AI Test Kitchen, una aplicación móvil para el sistema operativo Android impulsada por LaMDA capaz de proporcionar listas de sugerencias bajo demanda basadas en un objetivo complejo. ^{[ 31 ] [ 32 ]} Originalmente abierta solo para empleados de Google, la aplicación estaba programada para estar disponible para "académicos, investigadores y responsables políticos selectos" por invitación en algún momento del año. ^{[ 33 ]} En agosto, la compañía comenzó a permitir que los usuarios en los EE. UU. se registraran para el acceso anticipado. ^{[ 34 ]} En noviembre, Google lanzó una actualización de "temporada 2" para la aplicación, integrando una forma limitada del modelo de texto a imagen Imagen de Google Brain . ^{[ 35 ]} Una tercera iteración de AI Test Kitchen estaba en desarrollo para enero de 2023, se esperaba que se lanzara en I/O más adelante ese año. ^{[ 36 ]} Tras la presentación principal de I/O 2023 en mayo, Google añadió MusicLM, un generador de música impulsado por IA que se había presentado por primera vez en enero, a la aplicación AI Test Kitchen. ^{[ 37 ] [ 38 ]} En agosto, la aplicación se eliminó de Google Play y de la App Store de Apple , y pasó a estar disponible exclusivamente en línea. ^{[ 39 ]}

El 6 de febrero de 2023, Google anunció Bard, un chatbot de IA conversacional impulsado por LaMDA, en respuesta a la inesperada popularidad del chatbot ChatGPT de OpenAI . ^{[ 40 ] [ 41 ] [ 42 ]} Google posiciona el chatbot como un "servicio de IA colaborativa" en lugar de un motor de búsqueda . ^{[ 43 ] [ 44 ]} Bard estuvo disponible para acceso anticipado el 21 de marzo. ^{[ 45 ] [ 46 ] [ 47 ]}

Además de Bard, Pichai también presentó la API de lenguaje generativo de la compañía, una interfaz de programación de aplicaciones también basada en LaMDA, que anunció que se abriría a desarrolladores externos en marzo de 2023. ^{[ 40 ]}