Connor Leahy

Connor Leahy es un investigador y emprendedor germano-estadounidense ^{[ 1 ]} de inteligencia artificial, conocido por su trabajo en grandes modelos de lenguaje y su defensa de los riesgos de la IA avanzada. Cofundó EleutherAI ^{[ 2 ] [ 3 ]} y fundó la empresa de investigación sobre seguridad de la IA Conjecture, que dirigió como CEO hasta 2026. ^{[ 4 ] [ 5 ] [ 6 ]} Es director en EE. UU. de ControlAI , una organización sin fines de lucro centrada en la prevención del riesgo de extinción por la superinteligencia artificial. Leahy ha advertido sobre la amenaza de extinción humana por la superinteligencia artificial. ^{[ 7 ]} Ha testificado ante la Cámara de los Comunes de Canadá ^{[ 8 ]} y participó en la Cumbre inaugural de Seguridad de la IA en 2023. ^{[ 9 ]}

En 2019, cuando aún era estudiante, Leahy realizó ingeniería inversa de GPT-2 en su habitación de la residencia estudiantil, en un momento en que OpenAI inicialmente había retenido el modelo completo. ^{[ 10 ]} En julio de 2020, Leahy cofundó EleutherAI junto con Sid Black y Leo Gao, con un enfoque inicial en replicar GPT-3 . ^{[ 11 ] [ 12 ]} Durante el tiempo de Leahy como colíder, EleutherAI produjo algunos de los primeros modelos de lenguaje y conjuntos de datos de gran tamaño de código abierto, incluidos The Pile en diciembre de 2020, ^{[ 13 ]} GPT-Neo en marzo de 2021, ^{[ 14 ]} GPT-J-6B en junio de 2021, ^{[ 15 ] [ 16 ]} y GPT-NeoX-20B en febrero de 2022. ^{[ 17 ]} En el momento de su lanzamiento, GPT-J-6B era el modelo de lenguaje de estilo GPT-3 de código abierto más grande del mundo. ^{[ 18 ]}

En marzo de 2022, Leahy cofundó Conjecture, una empresa de investigación sobre seguridad en IA que dirigió como director ejecutivo. La misión declarada de la empresa es ampliar la investigación aplicada sobre alineación en IA. ^{[ 19 ] [ 20 ]}

Leahy se muestra escéptico ante el aprendizaje por refuerzo a partir de la retroalimentación humana como solución al problema de la alineación . «Estos sistemas, a medida que se vuelven más potentes, no se vuelven menos extraños. En todo caso, les estamos poniendo una bonita máscara con una carita sonriente. Si no se les presiona demasiado, la carita sonriente permanece. Pero entonces se les da una señal [inesperada] y, de repente, se ve este enorme lado oscuro de locura, de procesos de pensamiento extraños y de una comprensión claramente no humana». ^{[ 21 ]}

En marzo de 2023, Leahy fue uno de los firmantes de la carta abierta de 2023 del Future of Life Institute que pedía que "todos los laboratorios de IA suspendieran inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4". ^{[ 22 ] [ 23 ]}

En mayo de 2023, Leahy fue uno de los firmantes de la Declaración sobre el Riesgo de la IA , una declaración de una sola frase que dice: "Mitigar el riesgo de extinción por la IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear". La declaración fue firmada por cientos de figuras destacadas, incluidos premios Nobel, investigadores de IA y directores ejecutivos de importantes empresas de IA como OpenAI , Anthropic y Google DeepMind . ^{[ 24 ] [ 25 ]}

En noviembre de 2023, Leahy fue invitado a hablar en la Cumbre inaugural sobre seguridad de la IA . Le preocupaba que la cumbre no abordara los riesgos derivados del desarrollo de sistemas de IA que superaran a los humanos, argumentando que «Si se construyen sistemas más capaces que los humanos en manipulación, negocios, política, ciencia y todo lo demás, y no los controlamos, entonces el futuro les pertenece a ellos, no a nosotros». Colaboró ​​con la organización sin fines de lucro ControlAI para abogar por que los gobiernos implementaran una pausa en el desarrollo de la inteligencia artificial general y criticó a las principales empresas de IA por sus intentos de eludir la supervisión y regulación gubernamental de los sistemas de IA potentes. ^{[ 4 ]}

En marzo de 2026, Leahy anunció en una retrospectiva que el capítulo de Conjecture estaba llegando a su fin y que se uniría a la organización sin fines de lucro ControlAI, donde anteriormente había sido asesor, como su director en Estados Unidos. ^{[ 26 ] [ 27 ]}

• Nat Friedman
• Geoffrey Hinton
• Stuart Russell
• Max Tegmark
• Eliezer Yudkowsky

• Expedición a las Tierras Lejanas - El Subpiso de Leahy
• Connor Leahy en X