Instituto AI Now

El Instituto AI Now ( AI Now ) es un instituto de investigación estadounidense que estudia las implicaciones sociales de la inteligencia artificial y realiza investigaciones políticas que abordan la concentración de poder en la industria tecnológica. ^{[ 2 ] [ 3 ] [ 4 ]} AI Now se ha asociado con organizaciones como el Instituto de Investigación de IA Distribuida (DAIR), Data & Society, el Instituto Ada Lovelace, la Escuela de Ingeniería Tandon de la Universidad de Nueva York , el Centro de Ciencia de Datos de la Universidad de Nueva York , Partnership on AI y la ACLU . AI Now ha producido informes anuales que examinan las implicaciones sociales de la inteligencia artificial . En 2021-22, el liderazgo de AI Now se desempeñó como Asesores Principales en IA de la Presidenta Lina Khan en la Comisión Federal de Comercio. ^{[ 5 ]} Su directora ejecutiva es Amba Kak . ^{[ 6 ] [ 7 ]}

AI Now surgió de un simposio organizado en 2016 por la Oficina de Política Científica y Tecnológica de la Casa Blanca de Obama . El evento fue liderado por Meredith Whittaker , fundadora del Open Research Group de Google , y Kate Crawford , investigadora principal de Microsoft Research. ^{[ 8 ]} El evento se centró en las implicaciones a corto plazo de la IA en ámbitos sociales: desigualdad, trabajo, ética y atención médica. ^{[ 9 ]}

En noviembre de 2017, AI Now celebró un segundo simposio sobre IA y cuestiones sociales, y lanzó públicamente el Instituto AI Now en colaboración con la Universidad de Nueva York. ^{[ 8 ]} Se afirma que es el primer instituto de investigación universitaria centrado en las implicaciones sociales de la IA, y el primer instituto de IA fundado y dirigido por mujeres. ^{[ 1 ]} Actualmente es un instituto totalmente independiente.

En una entrevista con NPR, Crawford afirmó que la motivación para fundar AI Now fue que la aplicación de la IA en ámbitos sociales —como la sanidad, la educación y la justicia penal— se estaba tratando como un problema puramente técnico. El objetivo de la investigación de AI Now es abordar estos problemas como sociales en primer lugar, e incorporar a expertos en áreas como la sociología, el derecho y la historia para estudiar las implicaciones de la IA. ^{[ 10 ]}

AI Now publica un informe anual sobre el estado de la IA y su integración en la sociedad. Su informe de 2017 afirmaba que «los enfoques actuales de la ética de la IA están fallando» y proporcionaba diez recomendaciones estratégicas para el sector, entre ellas, pruebas previas al lanzamiento de sistemas de IA y una mayor investigación sobre el sesgo y la diversidad en el campo. El informe destacó por su llamado a poner fin a los sistemas de « caja negra » en ámbitos sociales fundamentales, como los responsables de la justicia penal, la sanidad, el bienestar social y la educación. ^{[ 11 ] [ 12 ] [ 13 ]}

En abril de 2018, AI Now publicó un marco para evaluaciones de impacto algorítmico, como una forma para que los gobiernos evalúen el uso de la IA en las agencias públicas. Según AI Now, una AIA sería similar a una evaluación de impacto ambiental , ya que requeriría divulgación pública y acceso para que expertos externos evalúen los efectos de un sistema de IA y cualquier consecuencia no deseada. Esto permitiría examinar los sistemas para detectar problemas como resultados sesgados o datos de entrenamiento distorsionados, que los investigadores ya han identificado en sistemas algorítmicos implementados en todo el país. ^{[ 14 ] [ 15 ] [ 16 ]}

Su Informe de 2023 ^{[ 17 ]} argumentó que una reforma significativa del sector tecnológico debe centrarse en abordar la concentración de poder en la industria tecnológica. ^{[ 18 ]}

• Banjo (aplicación)
• Clearview AI