Clonación digital

La clonación digital es una tecnología emergente que utiliza algoritmos de aprendizaje profundo, lo que permite manipular audio , fotos y videos existentes con un realismo extremo. ^{[ 1 ]} Uno de los efectos de esta tecnología es que los videos y fotos hiperrealistas dificultan la distinción entre lo real y lo falso. ^{[ 2 ]} Además, dado que diversas empresas ponen estas tecnologías a disposición del público, pueden ofrecer diversos beneficios, así como posibles problemas legales y éticos.

La clonación digital se puede clasificar en clonación audiovisual (AV), de memoria, de personalidad y de comportamiento del consumidor . ^{[ 3 ]} En la clonación AV, la creación de una versión digital clonada del original digital o no digital se puede utilizar, por ejemplo, para crear una imagen falsa, un avatar o un vídeo o audio falso de una persona que no se puede diferenciar fácilmente de la persona real que se supone que representa. Un clon de memoria y personalidad, como un clon mental, es esencialmente una copia digital de la mente de una persona. Un clon de comportamiento del consumidor es un perfil o grupo de clientes basado en datos demográficos.

Truby y Brown acuñaron el término "clon de pensamiento digital" para referirse a la evolución de la clonación digital hacia un clon digital personalizado más avanzado que consiste en "una réplica de todos los datos y comportamientos conocidos de una persona viva específica, registrando en tiempo real sus elecciones, preferencias, tendencias de comportamiento y procesos de toma de decisiones". ^{[ 3 ]}

La clonación digital se popularizó inicialmente en la industria del entretenimiento. La idea de los clones digitales surgió de las productoras cinematográficas que creaban actores virtuales a partir de actores fallecidos. Cuando un actor muere durante la producción de una película, se puede sintetizar un clon digital del actor utilizando grabaciones de vídeo, fotos y voz anteriores para imitar a la persona real y así continuar con la producción. ^{[ 4 ]}

La inteligencia artificial moderna ha permitido la creación de deepfakes . Esto implica la manipulación de un video hasta el punto en que la persona representada en él dice o realiza acciones a las que podría no haber dado su consentimiento. ^{[ 5 ]} En abril de 2018, BuzzFeed publicó un video deepfake de Jordan Peele , que fue manipulado para mostrar al expresidente Barack Obama haciendo declaraciones que no había hecho públicamente con anterioridad para advertir al público sobre los peligros potenciales de los deepfakes. ^{[ 6 ]}

Además de los deepfakes, empresas como Intellitar permiten ahora crear fácilmente un clon digital de uno mismo mediante una serie de imágenes y grabaciones de voz. Esto crea, en esencia, la inmortalidad digital , permitiendo a los seres queridos interactuar con representaciones de quienes han fallecido. ^{[ 7 ]} La ​​clonación digital no solo permite honrar la memoria de los seres queridos digitalmente, sino que también puede utilizarse para crear representaciones de figuras históricas y con fines educativos.

Con el desarrollo de diversas tecnologías, como se mencionó anteriormente, surgen numerosas preocupaciones, entre ellas el robo de identidad , las filtraciones de datos y otras cuestiones éticas. Uno de los problemas de la clonación digital es que existen pocas o ninguna legislación para proteger a las posibles víctimas contra estos posibles problemas. ^{[ 8 ]}

La Plataforma de Avatares Inteligentes (PAI) se define como una plataforma en línea con inteligencia artificial que permite crear un clon de uno mismo. ^{[ 7 ]} El usuario debe entrenar a su clon para que actúe y hable como él mismo, proporcionándole al algoritmo numerosas grabaciones de voz y vídeos. ^{[ 9 ]} En esencia, estas plataformas se promocionan como un lugar donde se puede "vivir eternamente", ya que permiten interactuar con otros avatares. La PAI se está convirtiendo en una plataforma para alcanzar la inmortalidad digital , además de preservar un árbol genealógico y un legado para las generaciones futuras. ^{[ 7 ]}

Algunos ejemplos de IAP incluyen Intellitar y Eterni.me. Aunque la mayoría de estas empresas aún están en fase de desarrollo, todas buscan alcanzar el mismo objetivo: permitir al usuario crear una réplica exacta de sí mismo para almacenar todos sus recuerdos en el ciberespacio. ^{[ 7 ]} Algunas ofrecen una versión gratuita que solo permite al usuario elegir su avatar de un conjunto de imágenes y audio. Sin embargo, con la versión premium, estas empresas solicitan al usuario que suba fotos, videos y grabaciones de audio para crear una versión realista de sí mismo. ^{[ 10 ]} Además, para garantizar que el clon sea lo más parecido posible a la persona original, las empresas también fomentan la interacción con el clon mediante chats y respuestas a preguntas. Esto permite que el algoritmo aprenda la cognición de la persona original y la aplique al clon. Intellitar cerró en 2012 debido a disputas por la propiedad intelectual de la tecnología que utilizaba. ^{[ 11 ]}

Entre las posibles preocupaciones relacionadas con la IAP se incluyen las posibles filtraciones de datos y la falta de consentimiento del fallecido. La IAP debe contar con una base sólida y una responsabilidad contra las filtraciones de datos y el pirateo informático para proteger la información personal del fallecido, que puede incluir grabaciones de voz, fotos y mensajes. ^{[ 9 ]} Además del riesgo de que se vea comprometida la privacidad personal , también existe el riesgo de violar la privacidad del fallecido . Si bien una persona puede dar su consentimiento para crear un clon digital de sí misma antes de su muerte física, no puede dar su consentimiento sobre las acciones que dicho clon digital pueda realizar.

Los deepfakes son videos manipulados para representar a las personas diciendo o haciendo cosas que, en realidad, no hicieron. Una persona puede introducir imágenes, videos y grabaciones de voz de una persona en una aplicación de inteligencia artificial para crear un deepfake. El público tuvo acceso a la tecnología deepfake en 2018, con el lanzamiento de FakeApp, que se usaría para crear un video de BuzzFeed del expresidente Barack Obama . ^{[ 6 ] [ 12 ]} Las industrias del cine y la publicidad pueden reducir el costo de contratar actores o modelos creando deepfakes de ellos. ^{[ 13 ]} Los deepfakes se han creado con fines maliciosos, como para actuar como porno vengativo o para fabricar declaraciones de funcionarios públicos. ^{[ 14 ]}

La clonación de voz es un ejemplo de los métodos de deepfake de audio que utilizan inteligencia artificial para generar un clon de la voz de una persona. La clonación de voz implica un algoritmo de aprendizaje profundo que toma grabaciones de voz de un individuo y puede sintetizar dicha voz hasta el punto de replicar fielmente una voz humana con gran precisión en tono y semejanza. ^{[ 15 ]}

La clonación de una voz requiere ordenadores de alto rendimiento. Por lo general, los cálculos se realizan mediante la Unidad de Procesamiento Gráfico (GPU) y, con mucha frecuencia, se recurre a la computación en la nube debido a la enorme cantidad de cálculos necesarios.

Los datos de audio para el entrenamiento deben introducirse en un modelo de inteligencia artificial. Suelen ser grabaciones originales que proporcionan un ejemplo de la voz de la persona en cuestión. La inteligencia artificial puede utilizar estos datos para crear una voz auténtica, capaz de reproducir tanto texto escrito (conversión de texto a voz) como voz hablada (conversión de voz a voz).

Esta tecnología preocupa a muchos debido a su impacto en diversos temas, desde el discurso político hasta el estado de derecho. Algunas de las primeras señales de alerta ya han aparecido en forma de estafas telefónicas ^{[ 16 ] [ 17 ]} y videos falsos en redes sociales de personas haciendo cosas que nunca hicieron. ^{[ 18 ]}

Las protecciones contra estas amenazas se pueden implementar principalmente de dos maneras. La primera es crear un método para analizar o detectar la autenticidad de un video. Este enfoque inevitablemente tendrá desventajas, ya que los generadores en constante evolución burlarán estos detectores. La segunda manera podría ser incorporar la información de creación y modificación en software o hardware. ^{[ 19 ] [ 20 ]} Esto solo funcionaría si los datos no fueran editables, pero la idea sería crear una marca de agua inaudible que actuara como fuente de verdad. ^{[ 21 ]} En otras palabras, podríamos saber si el video es auténtico al ver dónde se grabó, produjo, editó, etc. ^{[ 15 ]}

15.ai —una aplicación web gratuita y no comercial que comenzó como una prueba de concepto de la democratización de la actuación de voz y el doblaje mediante tecnología— brinda al público acceso a dicha tecnología. ^{[ 22 ]} Su naturaleza gratuita y no comercial (con la única condición de que se acredite correctamente el proyecto cuando se utilice ^{[ 23 ]} ), facilidad de uso y mejoras sustanciales a las implementaciones actuales de conversión de texto a voz han sido elogiadas por los usuarios; ^{[ 24 ] [ 25 ] [ 26 ]} sin embargo, algunos críticos y actores de voz han cuestionado la legalidad y la ética de dejar dicha tecnología disponible públicamente y fácilmente accesible. ^{[ 22 ] [ 27 ] [ 28 ] [ 29 ]}

Aunque esta aplicación aún se encuentra en fase de desarrollo, está avanzando rápidamente, ya que grandes corporaciones tecnológicas, como Google y Amazon, están invirtiendo enormes cantidades de dinero en su desarrollo. ^{[ 30 ]}

Algunos de los usos positivos de la clonación de voz incluyen la capacidad de sintetizar millones de audiolibros sin necesidad de mano de obra humana. ^{[ 31 ]} Además, la clonación de voz se utilizó para traducir contenido de podcasts a diferentes idiomas usando la voz del podcaster. ^{[ 32 ]} Otro ejemplo es que las personas que han perdido la voz pueden recuperar un sentido de individualidad creando su clon de voz mediante la introducción de grabaciones de sí mismas hablando antes de perder la voz. ^{[ 33 ]}

Por otro lado, la clonación de voz también es susceptible de mal uso. Un ejemplo de esto es la clonación de las voces de celebridades y funcionarios públicos, y la voz puede decir algo para provocar conflicto a pesar de que la persona real no tenga ninguna relación con lo que dijo su voz. ^{[ 34 ]}

En reconocimiento de la amenaza que la clonación de voz supone para la privacidad, la civilidad y los procesos democráticos, las instituciones, entre ellas la Comisión Federal de Comercio , el Departamento de Justicia de los Estados Unidos, la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) y el Ministerio de Educación, Universidad e Investigación de Italia (MIUR) , se han pronunciado sobre diversos casos de uso de deepfake de audio y métodos que podrían emplearse para combatirlos. ^{[ 35 ] [ 36 ] [ 37 ]}

La clonación digital puede ser útil en un entorno educativo para crear una experiencia más inmersiva para los estudiantes. Algunos estudiantes aprenden mejor a través de una experiencia más interactiva, y la creación de deepfakes puede mejorar su capacidad de aprendizaje. Un ejemplo de esto es la creación de un clon digital de figuras históricas, como Abraham Lincoln , para mostrar los problemas que enfrentó durante su vida y cómo logró superarlos. Otro ejemplo del uso de clones digitales en un entorno educativo es que los oradores creen un clon digital de sí mismos. Diversos grupos de defensa pueden tener problemas de agenda al recorrer varias escuelas durante el año. Sin embargo, al crear clones digitales, estos pueden presentar el tema en lugares a los que el grupo no podría asistir físicamente. Estos beneficios educativos pueden brindar a los estudiantes una nueva forma de aprender, además de facilitar el acceso a recursos a quienes antes no podían acceder debido a condiciones ambientales. ^{[ 13 ]}

Aunque la clonación digital ya lleva un tiempo en la industria del entretenimiento y las artes, la inteligencia artificial puede ampliar enormemente los usos de esta tecnología en el sector. La industria cinematográfica puede crear actores y actrices aún más hiperrealistas que hayan fallecido. Además, también puede crear clones digitales en escenas que requieran extras, lo que puede reducir enormemente los costes de producción. Sin embargo, la clonación digital y otras tecnologías pueden ser beneficiosas para fines no comerciales. Por ejemplo, los artistas pueden ser más expresivos si buscan sintetizar avatares para que formen parte de su producción de vídeo. También pueden crear avatares digitales para esbozar su trabajo y ayudar a formular sus ideas antes de pasar a trabajar en la obra final. ^{[ 13 ]} El actor Val Kilmer perdió la voz en 2014 tras una traqueotomía debido a su cáncer de garganta . Sin embargo, se asoció con una empresa de IA que produjo una voz sintética basada en sus grabaciones anteriores. La voz permitió a Kilmer retomar su papel de "Iceman" de Top Gun de 1986 en la secuela de 2022, Top Gun: Maverick . ^{[ 38 ]}

Aunque la inmortalidad digital existe desde hace tiempo, ya que las cuentas de redes sociales de los fallecidos permanecen en el ciberespacio, la creación de un clon virtual inmortal adquiere un nuevo significado. Con la creación de un clon digital, no solo se puede capturar la presencia visual de uno mismo, sino también sus gestos, incluyendo la personalidad y la cognición. Gracias a la inmortalidad digital, se puede seguir interactuando con una representación de los seres queridos después de su muerte. Además, las familias pueden conectar con las representaciones de varias generaciones, formando, en cierto modo, un árbol genealógico para transmitir el legado familiar a las generaciones futuras, proporcionando una forma de que la historia se transmita de generación en generación. ^{[ 7 ]}

Debido a la falta de regulación de los deepfakes, han surgido varias preocupaciones. Algunos videos deepfake preocupantes que pueden causar daño potencial incluyen la representación de funcionarios políticos con comportamientos inapropiados, policías disparando a hombres negros desarmados y soldados asesinando a civiles inocentes, aunque esto nunca haya ocurrido en la vida real. ^{[ 39 ]} Con la difusión de estos videos hiperrealistas en Internet, es muy fácil que el público se desinforme, lo que podría llevar a las personas a tomar acciones, contribuyendo así a este círculo vicioso de daño innecesario. Además, con el aumento de las noticias falsas en los últimos tiempos, también existe la posibilidad de combinar deepfakes y noticias falsas. Esto dificultará aún más la distinción entre lo real y lo falso. La información visual puede ser muy convincente para el ojo humano; por lo tanto, la combinación de deepfakes y noticias falsas puede tener un efecto perjudicial en la sociedad. ^{[ 13 ]} Las empresas de redes sociales y otras plataformas de noticias deberían establecer regulaciones estrictas. ^{[ 40 ]}

Otra razón por la que los deepfakes pueden usarse maliciosamente es para sabotear a alguien a nivel personal. Con la mayor accesibilidad de las tecnologías para crear deepfakes, los chantajistas y ladrones pueden extraer fácilmente información personal para obtener ganancias financieras y otras razones creando videos de seres queridos de la víctima pidiendo ayuda. ^{[ 13 ]} Además, la clonación de voz puede usarse maliciosamente para que los delincuentes hagan llamadas telefónicas falsas a las víctimas. Las llamadas telefónicas tendrán la voz y los gestos exactos de la persona, lo que puede engañar a la víctima para que proporcione información privada al delincuente sin saberlo. ^{[ 41 ]} Alternativamente, un actor malintencionado podría, por ejemplo, crear un deepfake de una persona superpuesto en un video para obtener un pago de chantaje y/o como un acto de porno vengativo .

La creación de deepfakes y clones de voz para uso personal puede ser extremadamente difícil de erradicar legalmente, ya que no existe daño comercial. Más bien, suelen manifestarse en forma de daño psicológico y emocional, lo que dificulta que el tribunal proporcione una reparación. ^{[ 5 ]}

Aunque el desarrollo de esta tecnología plantea numerosos problemas legales, también existen problemas éticos que podrían no estar protegidos por la legislación vigente. Uno de los mayores problemas derivados del uso de deepfakes y la clonación de voz es el potencial de robo de identidad. Sin embargo, el robo de identidad mediante deepfakes es difícil de perseguir judicialmente, ya que actualmente no existen leyes específicas para este tipo de fraude. Además, los daños que puede ocasionar el uso malicioso de deepfakes son más psicológicos y emocionales que económicos, lo que dificulta aún más la búsqueda de una solución. Allen argumenta que el trato que se le debe dar a la privacidad es similar al imperativo categórico de Kant . ^{[ 5 ]}

Otra implicación ética es el uso de información privada y personal que se debe ceder para utilizar la tecnología. Dado que la clonación digital, los deepfakes y la clonación de voz utilizan un algoritmo de aprendizaje profundo, cuanta más información recibe el algoritmo, mejores son los resultados. ^{[ 42 ]} Sin embargo, toda plataforma conlleva el riesgo de una filtración de datos, lo que podría permitir que grupos sin el consentimiento de los usuarios accedan a información muy personal. Además, la privacidad post mortem se ve comprometida cuando los familiares de un ser querido intentan recopilar la mayor cantidad de información posible para crear un clon digital del fallecido sin su consentimiento sobre la cantidad de información que están dispuestos a ceder. ^{[ 43 ]}

En Estados Unidos, las leyes de derechos de autor exigen cierto grado de originalidad y creatividad para proteger la individualidad del autor. Sin embargo, crear un clon digital simplemente implica tomar datos personales, como fotos, grabaciones de voz y otra información, para crear una persona virtual lo más parecida posible a la persona real. En la sentencia del Tribunal Supremo en el caso Feist Publications Inc. v. Rural Television Services Company, Inc. , la jueza O'Connor enfatizó la importancia de la originalidad y cierto grado de creatividad. No obstante, el alcance de la originalidad y la creatividad no está claramente definido, lo que genera una zona gris en las leyes de derechos de autor. ^{[ 44 ]} La creación de clones digitales requiere no solo los datos de la persona, sino también la aportación del creador sobre cómo debe actuar o moverse el clon digital. En el caso Meshwerks v. Toyota, se planteó esta cuestión y el tribunal declaró que las mismas leyes de derechos de autor creadas para la fotografía deberían aplicarse a los clones digitales. ^{[ 44 ]}

Ante la actual falta de legislación para proteger a las personas contra el posible uso malicioso de la clonación digital, el derecho a la propia imagen puede ser la mejor manera de protegerse en un entorno legal. ^{[ 4 ]} El derecho a la propia imagen , también conocido como derecho a la personalidad, otorga autonomía al individuo en lo que respecta al control de su voz, apariencia y otros aspectos que esencialmente conforman su personalidad en un contexto comercial. ^{[ 45 ]} Si se crea un vídeo deepfake o un clon digital de una persona sin su consentimiento, que la muestra realizando acciones o haciendo declaraciones que no se corresponden con su personalidad, puede emprender acciones legales alegando que se está violando su derecho a la propia imagen. Aunque el derecho a la propia imagen establece específicamente que está destinado a proteger la imagen de un individuo en un contexto comercial, lo cual requiere algún tipo de beneficio, algunos afirman que la legislación podría actualizarse para proteger prácticamente la imagen y la personalidad de cualquier persona. ^{[ 46 ]} Otro punto importante es que el derecho a la propia imagen solo se implementa en determinados estados, por lo que algunos estados pueden tener interpretaciones diferentes del derecho en comparación con otros.

Los clones digitales y de pensamiento plantean cuestiones legales relacionadas con la privacidad de los datos, el consentimiento informado, la no discriminación, los derechos de autor y el derecho a la propia imagen. Es urgente que más jurisdicciones promulguen leyes similares al Reglamento General de Protección de Datos (RGPD) europeo para proteger a las personas contra el uso inescrupuloso y perjudicial de sus datos y el desarrollo y uso no autorizados de clones digitales de pensamiento. ^{[ 3 ]}

Una forma de evitar ser víctima de cualquiera de las tecnologías mencionadas anteriormente es desarrollar inteligencia artificial contra estos algoritmos. Ya existen varias empresas que han desarrollado inteligencia artificial capaz de detectar imágenes manipuladas analizando los patrones de cada píxel. ^{[ 47 ]} Aplicando una lógica similar, están intentando crear un software que tome cada fotograma de un vídeo y lo analice píxel a píxel para encontrar el patrón del vídeo original y determinar si ha sido manipulado o no. ^{[ 48 ]}

Además de desarrollar nuevas tecnologías que puedan detectar cualquier manipulación de vídeo, muchos investigadores están destacando la importancia de que las empresas privadas establezcan directrices más estrictas para proteger la privacidad individual. ^{[ 30 ]} Con el desarrollo de la inteligencia artificial, es necesario preguntarse cómo impacta esto en la sociedad actual, ya que comienza a aparecer en prácticamente todos los aspectos de la misma, incluyendo la medicina , la educación , la política y la economía . Además, la inteligencia artificial comenzará a aparecer en diversos aspectos de la sociedad, lo que hace importante contar con leyes que protejan los derechos humanos a medida que la tecnología se impone. A medida que el sector privado adquiere mayor poder digital sobre el público, es importante establecer regulaciones y leyes estrictas para evitar que las empresas privadas utilicen datos personales de forma maliciosa. Además, el historial de diversas filtraciones de datos y violaciones de la política de privacidad también debería servir de advertencia sobre cómo se puede acceder a la información personal y utilizarla sin el consentimiento de la persona. ^{[ 8 ]}

Otra forma de prevenir los daños causados ​​por estas tecnologías es educar a las personas sobre las ventajas y desventajas de la clonación digital. De esta manera, se empodera a cada individuo para que tome una decisión racional basada en sus propias circunstancias. ^{[ 49 ]} Además, también es importante educar a las personas sobre cómo proteger la información que publican en Internet. Al aumentar la alfabetización digital del público, las personas tienen mayores posibilidades de determinar si un video ha sido manipulado, ya que pueden ser más escépticas ante la información que encuentran en línea. ^{[ 30 ]}

• Inteligencia artificial
• Deepfake
• Aprendizaje profundo
• Medios digitales
• Privacidad post mortem
• Actor virtual
• Humano virtual  : simulación informática de una persona.