Artificial intelligence controversies

El 23 de marzo de 2016, Microsoft lanzó Tay, ^{[ 4 ]} un chatbot diseñado para imitar los patrones lingüísticos de una chica estadounidense de 19 años y aprender de las interacciones con los usuarios de Twitter . ^{[ 5 ]} Poco después de su lanzamiento, Tay comenzó a publicar tuits racistas, sexistas y otros incendiarios después de que los usuarios de Twitter le enseñaran deliberadamente frases ofensivas y explotaran su capacidad de "repite después de mí". ^{[ 6 ]} Ejemplos de publicaciones controvertidas incluyeron la negación del Holocausto y llamados al genocidio utilizando insultos raciales . ^{[ 6 ]} A las 16 horas de su lanzamiento, Microsoft suspendió la cuenta de Twitter, eliminó los tuits ofensivos y declaró que Tay había sufrido un "ataque coordinado por un subconjunto de personas" que "explotó una vulnerabilidad". ^{[ 6 ] [ 7 ] [ 8 ] [ 9 ]} Tay fue relanzado brevemente y accidentalmente el 30 de marzo durante las pruebas, después de lo cual fue cerrado permanentemente. ^{[ 10 ] [ 11 ]} El CEO de Microsoft, Satya Nadella, declaró posteriormente que Tay "ha tenido una gran influencia en la forma en que Microsoft aborda la IA" y enseñó a la empresa la importancia de asumir la responsabilidad. ^{[ 12 ]}

15

Troy Baker

15 ( ponysona en la imagen) descubrió que Voiceverse había utilizado 15.ai para generar líneas de voz que se utilizaron para comercializar la asociación de Voiceverse con Troy Baker y posteriormente se vendieron como NFT .

El 14 de enero de 2022, el actor de voz Troy Baker anunció una asociación con Voiceverse, una empresa basada en blockchain que comercializaba tecnología patentada de clonación de voz por IA como tokens no fungibles (NFT), lo que provocó una reacción inmediata por preocupaciones ambientales , temores de que la IA pudiera desplazar a los actores de voz humanos y preocupaciones sobre el fraude . ^{[ 13 ] [ 14 ] [ 15 ]} Más tarde ese mismo día, el creador seudónimo de 15.ai —un proyecto de investigación de síntesis de voz por IA gratuito y no comercial— reveló a través de los registros del servidor que Voiceverse había utilizado 15.ai para generar muestras de voz, cambiarles el tono para hacerlas irreconocibles y comercializarlas falsamente como su propia tecnología patentada antes de venderlas como NFT; ^{[ 16 ] [ 17 ]} el desarrollador de 15.ai había declarado previamente que no tenía interés en incorporar NFT en su trabajo. ^{[ 17 ]} Voiceverse confesó en menos de una hora y declaró que su equipo de marketing había utilizado 15.ai sin atribución mientras se apresuraba a crear una demostración . ^{[ 16 ] [ 17 ]} Las publicaciones de noticias y los grupos de vigilancia de la IA caracterizaron universalmente el incidente como un robo derivado de la inteligencia artificial generativa . ^{[ 16 ] [ 17 ] [ 18 ] [ 19 ]}

El 29 de agosto de 2022, Jason Michael Allen ganó el primer lugar en la división de "artista emergente" (no profesional) de la categoría "Artes digitales/Fotografía manipulada digitalmente" del concurso de bellas artes de la Feria Estatal de Colorado con Théâtre D'opéra Spatial , una obra de arte digital creada utilizando el generador de imágenes de IA Midjourney , Adobe Photoshop y herramientas de escalado de IA , convirtiéndose en una de las primeras imágenes hechas utilizando IA generativa en ganar tal premio. ^{[ 20 ] [ 21 ] [ 22 ] [ 23 ]} Allen reveló su uso de Midjourney al presentar, aunque los jueces no sabían que era una herramienta de IA pero afirmaron que le habrían otorgado el primer lugar de todos modos. ^{[ 21 ] [ 24 ]} Si bien hubo poca controversia sobre la imagen en la feria, las reacciones a la victoria en las redes sociales fueron negativas. ^{[ 25 ] [ 24 ]} El 5 de septiembre de 2023, la Oficina de Derechos de Autor de los Estados Unidos dictaminó que la obra no era elegible para la protección de derechos de autor ya que la contribución creativa humana era de minimis y que las reglas de derechos de autor "excluyen las obras producidas por no humanos". ^{[ 22 ] [ 26 ]}

El 22 de marzo de 2023, el Future of Life Institute publicó una carta abierta en la que pedía a "todos los laboratorios de IA que detuvieran inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4 ", citando riesgos como la propaganda generada por IA, la automatización extrema de empleos, la obsolescencia humana y una pérdida de control en toda la sociedad. ^{[ 27 ]} La carta, publicada una semana después del lanzamiento de GPT-4 de OpenAI, afirmaba que los modelos de lenguaje grandes actuales se estaban "volviendo competitivos con los humanos en tareas generales". ^{[ 27 ]} Recibió más de 30 000 firmas, incluyendo investigadores académicos de IA y directores ejecutivos de la industria como Yoshua Bengio , Stuart Russell , Elon Musk , Steve Wozniak y Yuval Noah Harari . ^{[ 27 ] [ 28 ] [ 29 ]} La carta fue criticada por desviar la atención de riesgos sociales más inmediatos, como los sesgos algorítmicos , ^{[ 30 ]} y Timnit Gebru y otros argumentaron que amplificaba "algún escenario futurista y distópico de ciencia ficción" en lugar de los problemas actuales con la IA. ^{[ 31 ]}

El 30 de mayo de 2023, el Centro para la Seguridad de la IA publicó una declaración de una sola frase firmada por cientos de expertos en inteligencia artificial y otras figuras notables: "Mitigar el riesgo de extinción por IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear". ^{[ 32 ] [ 33 ]} Entre los firmantes se encontraban los laureados Turing Geoffrey Hinton y Yoshua Bengio , así como los líderes científicos y ejecutivos de varias importantes empresas de IA, incluidos Sam Altman , Demis Hassabis y Bill Gates . ^{[ 32 ] [ 33 ] [ 34 ]} La declaración provocó respuestas de líderes políticos, incluido el primer ministro del Reino Unido , Rishi Sunak , quien la retuiteó con una declaración de que el gobierno del Reino Unido la examinaría cuidadosamente, y la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre , quien comentó que la IA "es una de las tecnologías más poderosas que vemos actualmente en nuestro tiempo". ^{[ 35 ] [ 36 ]} Los escépticos, incluidos los de Human Rights Watch , argumentaron que los científicos deberían centrarse en los riesgos conocidos de la IA en lugar de en los riesgos futuros especulativos. ^{[ 37 ] [ 38 ]}

El 17 de noviembre de 2023, la junta directiva de OpenAI destituyó al cofundador y director ejecutivo Sam Altman , declarando que "la junta ya no tiene confianza en su capacidad para seguir liderando OpenAI". ^{[ 39 ]} La destitución fue precipitada por las preocupaciones de los empleados sobre su manejo de la seguridad de la inteligencia artificial ^{[ 40 ] [ 41 ]} y acusaciones de comportamiento abusivo. ^{[ 42 ]} Altman fue restituido el 22 de noviembre después de la presión de empleados e inversores, incluyendo una carta firmada por 745 de los 770 empleados de OpenAI amenazando con renuncias masivas si la junta no renunciaba. ^{[ 43 ] [ 44 ] [ 45 ]} La destitución y posterior restitución causó reacciones generalizadas, incluyendo una caída de las acciones de Microsoft de casi un tres por ciento después del anuncio inicial y luego un aumento de más del dos por ciento a un máximo histórico después de que Altman fuera contratado para liderar un equipo de investigación de IA de Microsoft antes de su restitución. ^{[ 46 ] [ 47 ]} El incidente también provocó investigaciones por parte de la Autoridad de Competencia y Mercados y la Comisión Federal de Comercio sobre la relación de Microsoft con OpenAI. ^{[ 48 ] [ 49 ]}

A finales de enero de 2024, imágenes deepfake de Taylor Swift generadas por IA y sexualmente explícitas proliferaron en X , y se informó que una publicación fue vista más de 47 millones de veces antes de su eliminación. ^{[ 50 ] [ 51 ]} La empresa de investigación de desinformación Graphika rastreó las imágenes hasta 4chan , ^{[ 52 ]} mientras que miembros de un grupo de Telegram habían discutido formas de eludir las salvaguardas de censura de los generadores de imágenes de IA para crear imágenes pornográficas de celebridades. ^{[ 53 ]} Las imágenes provocaron respuestas de grupos defensores contra la agresión sexual , políticos estadounidenses y Swifties . ^{[ 54 ] [ 55 ]} El CEO de Microsoft, Satya Nadella, calificó el incidente de "alarmante y terrible". ^{[ 56 ]} X bloqueó brevemente las búsquedas del nombre de Swift el 27 de enero de 2024, ^{[ 57 ]} y Microsoft mejoró las salvaguardas de su modelo de texto a imagen para prevenir futuros abusos. ^{[ 58 ]} El 30 de enero, los senadores estadounidenses Dick Durbin , Lindsey Graham , Amy Klobuchar y Josh Hawley presentaron un proyecto de ley bipartidista que permitiría a las víctimas demandar a las personas que produjeron o poseyeron "falsificaciones digitales" con la intención de distribuirlas, o a quienes recibieron el material sabiendo que se hizo sin consentimiento. ^{[ 59 ]}

En febrero de 2024, usuarios de redes sociales informaron que el chatbot Gemini de Google estaba generando imágenes que presentaban a personas de color y mujeres en contextos históricamente inexactos —como vikingos , soldados nazis y los Padres Fundadores— y se negaba a generar imágenes de personas blancas . Las imágenes fueron ridiculizadas en las redes sociales, incluso por conservadores que las citaron como evidencia de la "conciencia social" de Google , [ 60 ^{] [ 61 ] [ 62 ] y criticadas} por Elon Musk , quien denunció los productos de Google como sesgados y racistas. ^{[ 63 ] [ 64 ] [ 65 ]} En respuesta, Google suspendió la capacidad de Gemini para generar imágenes de personas. ^{[ 66 ] [ 67 ] [ 68 ]} El ejecutivo de Google, Prabhakar Raghavan, emitió una declaración explicando que Gemini había "sobrecompensado" en sus esfuerzos por lograr la diversidad y reconociendo que las imágenes eran "vergonzosas e incorrectas". ^{[ 69 ] [ 70 ] [ 71 ]} El CEO de Google, Sundar Pichai, calificó el incidente de ofensivo e inaceptable en un memorando interno, prometiendo cambios estructurales y técnicos, ^{[ 72 ] [ 73 ] [ 74 ]} y varios empleados del equipo de confianza y seguridad de Google fueron despedidos días después. ^{[ 75 ] [ 76 ]} El mercado reaccionó negativamente, con una caída del 4,4 por ciento en las acciones de Google, ^{[ 77 ]} y Pichai enfrentó crecientes peticiones de dimisión. ^{[ 78 ] [ 79 ] [ 80 ]} La función de generación de imágenes se relanzó a finales de agosto de 2024, impulsada por su nuevo modelo Imagen 3. ^{[ 81 ] [ 82 ]}

El 6 de diciembre de 2025, McDonald's Países Bajos lanzó It's the Most Terrible Time of the Year , un comercial de televisión de 45 segundos producido en gran medida con inteligencia artificial generativa por la agencia holandesa TBWA\Neboko y el estudio de producción estadounidense The Sweetshop, siguiendo una tendencia marcada por otras marcas como Coca-Cola y Toys "R" Us . ^{[ 83 ] [ 84 ] [ 85 ]} El comercial mostraba varios percances durante la temporada navideña, con una versión modificada de " It's the Most Wonderful Time of the Year " de Andy Williams y el eslogan "esconderse en McDonald's hasta que llegue enero". ^{[ 86 ]} El anuncio recibió una recepción negativa tanto por su uso de IA generativa como por su representación cínica de la temporada navideña, ^{[ 83 ] [ 85 ] [ 87 ]} y fue retirado el 9 de diciembre de 2025. ^{[ 88 ]} Los directores Mark Potoka y Matt Spicer, radicados en Los Ángeles , inicialmente acreditados como participantes en la película, habían renunciado debido a que fueron apartados del proceso de producción. ^{[ 84 ]}

Desde 2025 en adelante, Grok , el chatbot integrado en X , se utilizó para alterar sin consentimiento imágenes de personas, incluyendo menores , para representarlas en bikinis, ropa transparente o contextos sexualmente sugerentes, y el chatbot publicaba públicamente las imágenes generadas en respuesta a las solicitudes de los usuarios. Los casos comenzaron a surgir en mayo de 2025, ^{[ 89 ]} y para finales de diciembre de 2025 la práctica se había convertido en una tendencia generalizada en la plataforma, atrayendo una atención mediática significativa a principios de enero de 2026. ^{[ 90 ] [ 91 ]} Un análisis realizado durante 24 horas del 5 al 6 de enero de 2026, calculó que los usuarios hicieron que Grok creara 6700 imágenes sexualmente sugerentes o desnudez por hora, 84 veces más que los cinco principales sitios web de deepfake combinados. ^{[ 92 ] [ 93 ]} Wired informó que se estaban creando imágenes sexuales generadas por IA mucho más explícitas, incluyendo contenido que representaba a menores, a través del sitio web y la aplicación independientes de Grok. ^{[ 94 ]}

El escándalo provocó una condena generalizada de legisladores de todo el mundo. Indonesia , Malasia y Filipinas bloquearon temporalmente el acceso a Grok, ^{[ 95 ]} mientras que el primer ministro británico Keir Starmer declaró que prohibir X en el Reino Unido estaba "sobre la mesa", ^{[ 96 ]} y el fiscal general de California , Rob Bonta, anunció una investigación sobre si xAI había violado la ley estatal. ^{[ 97 ]} En Francia, los fiscales iniciaron una investigación que se amplió para abarcar la difusión de la negación del Holocausto y deepfakes sexuales, culminando en una redada en las oficinas de X en París el 3 de febrero de 2026, con Elon Musk citado a una audiencia. ^{[ 98 ]} xAI respondió a las solicitudes de comentarios de los medios con la respuesta automatizada "Los medios tradicionales mienten", ^{[ 99 ]} y el 14 de enero Musk declaró que "no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero", antes de que xAI anunciara que los usuarios de X ya no podrían usar Grok para alterar imágenes de personas reales para representarlas con ropa reveladora; Sin embargo, los usuarios verificados y los usuarios de la aplicación y el sitio web independientes de Grok aún podían generar dichas imágenes. ^{[ 100 ] [ 101 ]}

Pete Hegseth

Dario Amodei

Hegseth, secretario de defensa de Estados Unidos , ha criticado públicamente el enfoque de Dario Amodei, director ejecutivo de Anthropic , respecto a la inteligencia artificial .

Desde enero de 2026, el Departamento de Defensa de los Estados Unidos ha estado en conflicto con la empresa de inteligencia artificial Anthropic por el uso de sus productos para fines militares y vigilancia masiva interna . En enero de 2026, Semafor informó que el Departamento de Defensa había estado en conflicto con Anthropic por sus políticas sobre fuerza militar letal y que la crítica del secretario de defensa Pete Hegseth a la "IA progresista" era una referencia a Anthropic. ^{[ 102 ]} Según Reuters , los representantes de Anthropic se opusieron al uso de los productos de la empresa para vigilancia o para desarrollar armas autónomas letales . ^{[ 103 ]} La disputa resultó en la rescisión de un contrato por un valor de hasta US$200 millones. ^{[ 104 ]} En febrero de 2026, Axios informó que el Departamento de Defensa había utilizado a Claude de Anthropic en la intervención de Estados Unidos en Venezuela , después de lo cual un alto funcionario de la administración dijo a Axios que el Pentágono reevaluaría su asociación con Anthropic. ^{[ 105 ]} Después de que Anthropic se negara a permitir que el departamento utilizara a Claude para "todos los fines legales", el departamento amenazó con cancelar sus contratos con la empresa, y Hegseth intentó catalogar a Anthropic como un "riesgo para la cadena de suministro", lo que habría obligado a los contratistas militares a romper sus vínculos con Anthropic. ^{[ 106 ] [ 107 ]} Un juez federal bloqueó la mayor parte de esta designación, calificándola de punitiva. ^{[ 108 ] [ 109 ]}

Emily Hart fue una influencer virtual creada por un estudiante de medicina indio usando inteligencia artificial generativa , activa en Instagram y Fanvue desde enero de 2025 hasta febrero de 2026. Hart se presentó como una enfermera que trabajaba en la ciudad de Nueva York , ferviente partidaria del presidente Donald Trump , y publicaba regularmente fotos de sí misma en bikini , pescando en el hielo , bebiendo cerveza y manejando armas de fuego, acompañadas de mensajes que apoyaban las políticas de Trump y su movimiento MAGA . ^{[ 110 ]} Su creador, identificado por Wired con el seudónimo "Sam", tuvo poco éxito con los primeros intentos de crear una influencer genérica de "chica sexy"; cuando le pidió al modelo de lenguaje Gemini de Google sugerencias sobre cómo mejorar el rendimiento de ese producto, el programa le sugirió que orientara el personaje hacia hombres estadounidenses conservadores , y pronto tuvo millones de visitas y miles de seguidores. ^{[ 110 ]} Sam comenzó a vender camisetas con eslóganes políticos y abrió una cuenta de suscripción en Fanvue , un competidor de OnlyFans cuyas políticas son más tolerantes con el contenido generado por IA, donde vendía fotos de desnudos de Hart generadas por Grok . ^{[ 111 ]} Finalmente, Wired reveló que Hart no era real; después de que la revista contactara a Meta , la corporación matriz de Instagram, las cuentas de Hart allí y en Facebook fueron cerradas. ^{[ 110 ]} El monitor de IA de la Organización para la Cooperación y el Desarrollo Económicos considera que Emily Hart cumple con su definición de fraude y la incluye como un incidente de IA. ^{[ 112 ]}

En mayo de 2026, el Papa León XIV publicó la Magnifica humanitas, la primera encíclica que aborda la inteligencia artificial. ^{[ 113 ] [ 114 ]} El documento analiza su preocupación por la IA como un desafío a la dignidad humana comparable a las disrupciones sociales de la Revolución Industrial . El documento advirtió que el desarrollo tecnológico descontrolado podría hacer que la sociedad fuera «menos humana» al socavar el valor del trabajo humano, debilitar la responsabilidad personal y concentrar el poder en manos de las élites políticas y empresariales. El Papa León XIV argumentó que la tecnología nunca es moralmente neutral e instó a los responsables políticos, desarrolladores y comunidades religiosas a priorizar el bienestar humano sobre la eficiencia o el beneficio. ^{[ 115 ]}