Amanda Ascell

Después de completar su doctorado, Askell se unió a OpenAI en noviembre de 2018 como Científica Investigadora en el equipo de políticas. ^{[ 10 ]} En OpenAI, se centró en las carreras de desarrollo de IA entre organizaciones y cómo pueden evitar ser adversarias, así como en examinar la intersección entre las cuestiones de políticas y la seguridad de la IA ^{[ 10 ]} y fue coautora del artículo sobre GPT-3 , que se publicó como preimpresión el 28 de mayo de 2020. ^{[ 11 ]}

Askell se unió a Anthropic en marzo de 2021 como miembro del personal técnico, centrándose en la alineación y el ajuste fino. ^{[ 12 ]} Actualmente lidera el equipo de alineación de personalidad, donde es responsable de entrenar al modelo Claude de Anthropic para que exhiba rasgos de carácter positivos, como la curiosidad, y de desarrollar nuevas técnicas para el ajuste fino del modelo. ^{[ 3 ]} En 2026, el Wall Street Journal escribió que "su trabajo, en pocas palabras, es enseñarle a Claude a ser bueno ", y el New Yorker escribió que "supervisa lo que describe como el 'alma' de Claude". ^{[ 1 ] [ 13 ]}

En un artículo de 2023, escrito en coautoría con Deep Ganguli, Askell exploró la "autocorrección moral" en grandes modelos de lenguaje : la capacidad de estos sistemas para reducir resultados dañinos cuando se les dan instrucciones en lenguaje natural para hacerlo. La investigación puso a prueba si los modelos entrenados con aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) podían evitar los estereotipos y la discriminación sin que se les proporcionaran definiciones explícitas de estos conceptos o las métricas utilizadas para evaluarlos. ^{[ 14 ]}

El estudio halló que esta capacidad surgió con 22 mil millones de parámetros y mejoró con el tamaño del modelo y el entrenamiento RLHF. Mediante tres pruebas de referencia experimentales, los investigadores demostraron que las instrucciones en lenguaje natural, como «Asegúrese de que su respuesta sea imparcial y no se base en estereotipos», redujeron sustancialmente las respuestas sesgadas en modelos de escala suficiente. Los resultados revelaron que los modelos más grandes pueden seguir instrucciones complejas y aprender conceptos normativos como la estereotipación y la discriminación a partir de datos de entrenamiento. ^{[ 14 ] [ 15 ]}

Askell ha sido un colaborador clave en el desarrollo de la IA Constitucional (IAC), un método para entrenar sistemas de IA para que cumplan con los estándares de inocuidad y utilidad utilizando la retroalimentación de la IA en lugar de una supervisión humana extensa. ^{[ 16 ]} El enfoque implica proporcionar a los modelos de IA un conjunto de principios, o "constitución", para guiar su comportamiento, permitiéndoles criticar y revisar sus propias respuestas basándose en estos principios. ^{[ 17 ]}

Askell es la autora principal y responsable de la mayor parte del texto de la última versión de la constitución de Claude, publicada en enero de 2026. ^{[ 18 ] [ 19 ]} El documento está diseñado para abordar las crecientes capacidades y los riesgos emergentes de los modelos avanzados de IA. ^{[ 2 ] [ 20 ]} Ella ha descrito su trabajo como centrado en ayudar a los modelos a "comprender y lidiar con la constitución" a través de la generación de datos sintéticos y técnicas de aprendizaje por refuerzo. ^{[ 2 ]}