Deborah Raji

Inioluwa Deborah Raji (nacida en 1995/1996 ^{[ 1 ]} ) es una científica informática y líder sociotecnológica nigeriano-canadiense que trabaja en el sesgo algorítmico , la rendición de cuentas de la IA y la auditoría algorítmica. Actualmente becaria de Mozilla , ha sido reconocida por MIT Technology Review y Forbes como una de las jóvenes innovadoras más destacadas del mundo. ^{[ 2 ] [ 3 ]}

Raji comenzó su trabajo sobre el sesgo racial en la tecnología durante su pasantía en Clarifai cuando reconoció que las personas de color eran etiquetadas con más frecuencia como NSFW en comparación con las personas blancas. ^{[ 4 ]} Raji ha trabajado anteriormente con Joy Buolamwini , Timnit Gebru y la Algorithmic Justice League en la investigación del sesgo de género y racial en la tecnología de reconocimiento facial. ^{[ 5 ]} Su trabajo sobre el sesgo racial en el reconocimiento facial ha obligado a las empresas a cambiar sus prácticas. ^{[ 4 ]} También ha trabajado con el equipo de IA ética de Google y ha sido investigadora asociada en Partnership on AI y AI Now Institute en la Universidad de Nueva York trabajando en cómo operacionalizar las consideraciones éticas en la práctica de la ingeniería de aprendizaje automático . ^{[ 6 ]} Estaba trabajando en un modelo de visión artificial que ayudaría a los clientes a marcar imágenes inapropiadas como NSFW. ^{[ 4 ]}

Raji nació en Port Harcourt , Nigeria , y se mudó a Mississauga , Ontario , Canadá, cuando tenía cuatro años. Finalmente, su familia se mudó a Ottawa . ^{[ 2 ]} Asistió a la escuela secundaria Colonel By y completó el programa de Bachillerato Internacional. Estudió Ciencias de la Ingeniería en la Universidad de Toronto , graduándose en 2019. ^{[ 7 ] [ 8 ]} En 2015, fundó Project Include, una organización sin fines de lucro que proporciona mayor acceso de los estudiantes a la educación en ingeniería, tutoría y recursos en comunidades de bajos ingresos e inmigrantes en el área metropolitana de Toronto . ^{[ 9 ]} Comenzó un doctorado en Filosofía (PhD) en Ciencias de la Computación de la Universidad de California, Berkeley ^{[ 10 ]} en agosto de 2021.

Raji trabajó con Joy Buolamwini en el MIT Media Lab y Algorithmic Justice League , donde auditó tecnologías comerciales de reconocimiento facial de Microsoft, Amazon, IBM, Face++ y Kairos. ^{[ 11 ]} Descubrieron que estas tecnologías eran significativamente menos precisas para mujeres de piel oscura que para hombres blancos. ^{[ 7 ] [ 12 ]} Con el apoyo de otros investigadores destacados de IA y una mayor presión pública y campañas, su trabajo llevó a IBM y Amazon a aceptar apoyar la regulación del reconocimiento facial y posteriormente detener la venta de su producto a la policía durante al menos un año. ^{[ 3 ] [ 13 ] [ 14 ] [ 15 ]} Raji también realizó una pasantía en la startup de aprendizaje automático Clarifai , donde trabajó en un modelo de visión artificial para marcar imágenes. ^{[ 1 ]}

Participó en un programa de mentoría de investigación en Google y trabajó con su equipo de IA ética en la creación de tarjetas de modelos, un marco de documentación para una presentación de informes más transparente de modelos de aprendizaje automático. También codirigió el desarrollo de prácticas de auditoría interna en Google. ^{[ 1 ]} Sus contribuciones en Google fueron presentadas y publicadas por separado en la conferencia AAAI y en la Conferencia ACM sobre Equidad, Responsabilidad y Transparencia . ^{[ 16 ] [ 17 ] [ 18 ]}

En 2019, Raji fue becaria de investigación de verano en The Partnership on AI, donde trabajó en el establecimiento de estándares de transparencia y normas de evaluación comparativa para el aprendizaje automático en la industria. ^{[ 19 ] [ 20 ]} Raji fue becaria tecnológica en el AI Now Institute, donde trabajó en auditoría algorítmica y de IA. Actualmente, es becaria en la Fundación Mozilla, donde investiga la auditoría y evaluación algorítmica. ^{[ 6 ]}

El trabajo de Raji sobre el sesgo en los sistemas de reconocimiento facial se ha destacado en el documental de 2020 Coded Bias dirigido por Shalini Kantayya . ^{[ 21 ]} También participó en el documental de 2026 The AI ​​Doc: Or How I Became an Apocaloptimist dirigido por Daniel Roher .

• Premio Venture Beat AI Innovations Award 2019 en la categoría IA para el bien (recibido junto con Joy Buolamwini y Timnit Gebru ) ^{[ 22 ]}
• Premio MIT Technology Review 35 Under 35 Innovator Award 2020 ^{[ 2 ]}
• Premio Pionero EFF 2020 (recibido junto con Buolamwini y Gebru) ^{[ 23 ]}
• Premio Forbes 30 Under 30 de 2021 en Tecnología Empresarial ^{[ 3 ]}
• Homenajeada en el Salón de la Fama de las 100 Mujeres Brillantes en Ética de la IA de 2021 ^{[ 24 ]}
• Revista Time 2023: Las 100 personas más influyentes en IA ^{[ 25 ]}