Articulo de referencia

Manipulación de vídeo

Un vídeo deepfake de Vladimir Putin hablando sobre la interferencia electoral, creado en 2020 por el grupo de defensa no partidista RepresentUs. La manipulación de vídeo es un t...

Un vídeo deepfake de Vladimir Putin hablando sobre la interferencia electoral, creado en 2020 por el grupo de defensa no partidista RepresentUs.

La manipulación de vídeo es un tipo de manipulación de medios que se dirige al vídeo digital mediante técnicas de procesamiento y edición de vídeo . Las aplicaciones de estos métodos abarcan desde vídeos educativos [ 1 ] hasta vídeos destinados a la manipulación ( masiva ) y la propaganda , una extensión directa de las posibilidades ya existentes de la manipulación fotográfica . Esta forma de desinformación generada por ordenador ha contribuido a la difusión de noticias falsas , y se han dado casos en los que esta tecnología se ha utilizado durante campañas políticas. [ 2 ] Otros usos son menos siniestros; fines de entretenimiento y bromas inofensivas ofrecen a los usuarios posibilidades artísticas de calidad cinematográfica.

Historia

El concepto de manipulación de vídeo se remonta a la década de 1950, cuando la cinta Quadruplex de 2 pulgadas utilizada en las grabadoras de vídeo se cortaba y empalmaba manualmente. Tras ser recubiertas con ferrofluido , los dos extremos de la cinta que se iban a unir se pintaban con una mezcla de limaduras de hierro y tetracloruro de carbono , un compuesto tóxico y cancerígeno, para hacer visibles las pistas de la cinta al observarlas a través de un microscopio y así poder alinearlas en una empalmadora diseñada para esta tarea [ 3 ].

Con el desarrollo de las videograbadoras en las décadas de 1960, 1970, 1980 y 1990, se hizo posible grabar sobre una cinta magnética existente . Esto dio lugar al concepto de superponer partes específicas de una película para crear la ilusión de un vídeo grabado de forma continua, lo que constituye el primer ejemplo identificable de manipulación de vídeo.

En 1985, Quantel lanzó The Harry, el primer sistema de edición de vídeo y composición de efectos totalmente digital. Grababa y aplicaba efectos a un máximo de 80 segundos de vídeo digital sin comprimir de 8 bits . Unos años más tarde, en 1991, Adobe lanzó la primera versión de Premiere para Mac, un programa que desde entonces se ha convertido en un estándar de la industria para la edición y que ahora se utiliza habitualmente para la manipulación de vídeo. En 1999, Apple lanzó Final Cut Pro , que competía con Adobe Premiere y se utilizó en la producción de películas importantes como Las reglas de la atracción y No es país para viejos . [ 4 ]

La detección de rostros se convirtió en un tema de investigación importante a principios de la década de 2000 y continúa siendo objeto de estudio hasta la actualidad. En 2017, un programador aficionado llamado "DeepFakes" alteraba videos pornográficos sustituyendo digitalmente los rostros de celebridades por los de los videos originales. El término deepfake se ha convertido en un sustantivo genérico para referirse al uso de algoritmos y tecnología de mapeo facial para manipular videos.

En lo que respecta al consumidor, los populares programas de manipulación de vídeo FaceApp y Faceswap, desarrollados a partir de una tecnología similar, se han vuelto cada vez más sofisticados.

El software de prueba de concepto Face2Face fue desarrollado en la Universidad de Erlangen-Nuremberg , el Instituto Max Planck de Informática y la Universidad de Stanford . [ 5 ] Esta manipulación de vídeo avanzada debe clasificarse junto con los ejemplos anteriores de deepfakes y superarlos .

Tipos de manipulación de vídeo

Las aplicaciones informáticas se están volviendo más avanzadas en cuanto a la capacidad de generar contenido de audio y video falso que parece real. [ 6 ] Un video publicado por investigadores muestra cómo funciona la manipulación de video y audio usando reconocimiento facial . [ 6 ] Aunque la manipulación de video podría pensarse como unir diferentes clips de video , los tipos de manipulación de video van más allá. Por ejemplo, un actor puede sentarse frente a una cámara moviendo su rostro. La computadora luego genera el mismo movimiento facial en tiempo real en un video existente de Barack Obama . Cuando el actor sacude la cabeza, Obama también sacude la cabeza, y lo mismo sucede cuando el actor habla. [ 6 ] Esto no solo crea contenido falso, sino que enmascara el contenido como incluso más auténtico que otros tipos de noticias falsas, ya que el video y el audio alguna vez fueron los tipos de medios más confiables para muchas personas.

Una de las partes más peligrosas de la manipulación de video es el concepto de política; los videos de campaña se manipulan para representar una amenaza para otras naciones. [ 2 ] Hany Farid, profesor de informática del Dartmouth College, comentó sobre la manipulación de video y sus peligros. Farid dijo que actores podrían generar videos de Trump afirmando lanzar armas nucleares. Estos videos falsificados podrían compartirse en redes sociales antes de que se pueda corregir el error, lo que podría resultar en una guerra. [ 2 ] A pesar de la presencia de video y audio manipulados, equipos de investigación están trabajando para combatir el problema. El profesor Christian Theobalt , miembro de un equipo que trabaja en la tecnología en el Instituto Max Planck de Informática en Alemania, afirma que los investigadores han creado métodos forenses para detectar falsificaciones. [ 6 ]

El equipo de verificación de datos del Washington Post ha identificado seis formas de manipulación de video, clasificadas en tres categorías: [ 7 ]

  1. Falta contexto
    • Tergiversación: Colocar imágenes de vídeo originales en un contexto incorrecto para desinformar a la audiencia.
    • Aislamiento: Publicar un breve fragmento de un vídeo que presenta una narrativa diferente a la del vídeo completo.
  2. Edición engañosa
    • Omisión: Eliminar segmentos importantes de un video para presentar una historia diferente.
    • Empalme: Combinar segmentos de diferentes videos para formar una narrativa que no está respaldada por ninguno de los videos individuales.
  3. Transformación maliciosa
    • Manipulación: Modificación directa de fotogramas de vídeo
    • Fabricación: Utilizar tecnología para construir vídeos falsos, como los deepfakes.

Manipulación de vídeo y noticias falsas

Con la creciente presencia de noticias falsas en la cultura popular y los rápidos avances en la tecnología de manipulación de audio y video, el público se encuentra cada vez más con noticias falsas respaldadas por videos engañosos. [ 2 ] En cuanto a los tipos de noticias falsas, el potencial para ser clasificados es cada vez mayor, pero incluye cinco tipos principales: sátira o parodia , reportajes selectivos , periodismo negligente , clickbait y conspiraciones . [ 2 ] Si bien los cinco tipos principales de noticias falsas son prominentes a nivel mundial, uno de los tipos más destructivos se encuentra dentro de los cinco tipos y es la manipulación de video y audio. La manipulación de video y audio se define como una nueva variante de manipulación de medios que se dirige al video digital utilizando una combinación de técnicas tradicionales de procesamiento y edición de video con métodos auxiliares de inteligencia artificial como el reconocimiento facial. Los resultados van desde videos artísticos producidos para efectos estéticos hasta videos destinados a la manipulación (masiva) y propaganda , una extensión directa de las posibilidades de larga data de la manipulación de fotos .

falsificaciones digitales

Un vídeo, foto o archivo de audio digital falsificado se refiere a un archivo digital alterado o manipulado mediante software. Los vídeos deepfake entran en la categoría de contenido digital falsificado, pero un vídeo puede alterarse digitalmente sin ser considerado un deepfake. Estas alteraciones pueden realizarse con fines de entretenimiento o con fines más maliciosos, como la difusión de desinformación. La información puede utilizarse para llevar a cabo ataques maliciosos, obtener beneficios políticos, cometer delitos financieros o fraudes .

Regulación

Debido a las repercusiones sociales y políticas causadas por los deepfakes, muchos estados nacionales implementan regulaciones para combatir los efectos de la manipulación de video. Las regulaciones técnicas abarcan desde requisitos de verificación de identidad, etiquetado de información, censura y prohibición de imágenes, audio y video sintéticos . [ 8 ]

Porcelana

El 28 de enero de 2022, China promulgó la «Disposición sobre la administración del servicio de información de síntesis profunda en Internet». La Oficina Estatal de Información de Internet de China implementó esta normativa para controlar el contenido manipulado en Internet y aumentar la estabilidad tecnológica dentro del Partido Comunista Chino (PCCh) . La normativa consta de 25 artículos, y cada sección explica los términos y condiciones de la misma.

"Artículo 5: Alentar a las organizaciones pertinentes de la industria a fortalecer la autodisciplina de la industria, establecer y mejorar los estándares, las directrices y los sistemas de gestión autorregulatorios de la industria, supervisar y guiar a los proveedores de servicios de síntesis profunda para que formulen y mejoren las especificaciones de los servicios, fortalecer la gestión de la seguridad del contenido de la información, prestar servicios de conformidad con la ley y aceptar la supervisión social." [ 9 ]

Uno de los artículos de política mencionados en el texto de Emmie Hine y Luciano Floridi fue el Artículo 5, que establece que, si bien el gobierno supervisará la información publicada públicamente, las empresas también son responsables de controlar el contenido publicado en sus plataformas sociales . Esta política impulsa a las empresas en China a ser más conscientes de lo que se muestra en línea, ya que, de lo contrario, serán multadas. [ 8 ]

Estados Unidos

Estados Unidos promulgó la Ley de Responsabilidad por Deep Fakes en 2019. Sin embargo, Hine y Luciano afirmaron que esta política solo prohíbe las " recreaciones digitales no autorizadas de personas". Esta ley, en última instancia, impone sanciones penales por suplantación de identidad y delitos relacionados con la pornografía. [ 10 ] Debido a esta regulación, muchas plataformas conocidas, como Facebook y Twitter, comenzaron a eliminar información ilegal que infringía la política e incluso exigieron regulaciones de etiquetado. [ 8 ]

Fallos del mercado de manipulación de vídeo

Algunas de las principales razones por las que grandes estados nacionales como Estados Unidos y China están implementando regulaciones/políticas sobre manipulación de video se deben a fallas del mercado . [ 8 ] En particular, las fallas del mercado giran en torno a los temas de bienes públicos y externalidades negativas . Los bienes públicos se refieren a productos y servicios que pueden ser utilizados por todos. Por otro lado, las externalidades negativas son acciones negativas que afectan a alguien que no dio su consentimiento completo o no estuvo involucrado en la situación.

bienes públicos

La información sintética, incluido el contenido tomado mediante Deepfake, se muestra y está disponible para todos en el ojo público (características de los bienes públicos generales). Debido al fácil acceso mundial, la desinformación se propaga rápidamente y, a veces, sin control. A su vez, los legisladores y las organizaciones gubernamentales crean políticas que controlan lo que se publica en internet. [ 11 ] Un ejemplo que demuestra explícitamente el "sobreconsumo" de contenido en la sociedad es el evento "La Voz de Abril". La Voz de Abril fue un día en el que numerosos videos de ciudadanos de Shanghái fueron censurados y prohibidos durante la COVID-19 . Sin embargo, debido a que estos videos se publicaron en internet, continuaron circulando por toda China e incluso algunas personas hicieron diferentes versiones cuando el contenido original fue eliminado. [ 12 ] Según informó MIT Technology Review , Zeyi Yang informó que los videos censurados por el gobierno fueron vueltos a subir en copias y almacenados a través de plataformas sociales externas. [ 13 ] Debido a los desafíos que enfrenta el contenido de acceso abierto publicado en línea, las naciones continúan implementando más regulaciones para mantener la información verificada.

Externalidades negativas

La manipulación de vídeo crea esencialmente escenarios falsos que nunca ocurrieron. Como resultado de este acto, muchas personas pueden verse afectadas por información sintética a pesar de no ser parte directa de la escena. Jack Langa afirma en un artículo de Law Journal que "un actor malintencionado podría aprovechar la inestabilidad de una región utilizando un deepfake para inflamar a la población local, lo que podría provocar bajas civiles..." [ 11 ] Un ejemplo que muestra externalidades negativas de la información engañosa/manipulada es el ataque del 6 de enero de 2021 al Capitolio de los Estados Unidos . Este evento provocó que aproximadamente 140 agentes de policía fueran agredidos (señalado por el Departamento de Justicia de los Estados Unidos ). [ 14 ] Sin embargo, Judy Woodruff declaró en PBS News Hours que todo el incidente fue causado por una gran mentira sobre fraude electoral en 2020. Aunque la situación se basó en contenido manipulado, finalmente provocó que numerosos agentes resultaran heridos en el proceso.

Referencias

  1. Pea, Roy (2006). «Capítulo 55: El vídeo como dato y las técnicas de manipulación de vídeo digital para transformar la investigación en ciencias del aprendizaje, la educación y otras prácticas culturales». En Weiss, J.; et  al. (eds.). Manual internacional de entornos virtuales de aprendizaje . Springer. pp. 100–110 . 
  2. 1 2 3 4 5 "Noticias falsas: La peligrosa nueva tecnología que nos hará cuestionar nuestra idea básica de la realidad — Quartz" . qz.com . 5 de diciembre de 2017. Consultado el 14 de noviembre de 2018 .
  3. "Edit Suite: Érase una vez: La historia de la edición de cintas de vídeo - Videomaker" . Videomaker . 1997-07-01. Archivado del original el 22-04-2021 . Consultado el 14-11-2018 .
  4. "Curiosidades y fechas sobre los 'primeros' hitos de la edición digital - The Beat: Un blog de PremiumBeat" . The Beat: Un blog de PremiumBeat . 10 de diciembre de 2011. Archivado del original el 4 de octubre de 2018. Consultado el 14 de noviembre de 2018 .
  5. "Face2Face: Captura facial en tiempo real y recreación de vídeos RGB" . gvv.mpi-inf.mpg.de . Archivado del original el 31/12/2019 . Consultado el 18/12/2019 .
  6. 1 2 3 4 Schellmann, Hilke. "Los vídeos deepfake se están volviendo reales y eso es un problema" . WSJ . Recuperado el 14 de noviembre de 2018 .
  7. "Ver para no creer: la guía del verificador de hechos sobre vídeos manipulados" . The Washington Post . 25 de junio de 2019. Archivado del original el 25 de diciembre de 2020. Consultado el 19 de enero de 2021 .
  8. 1 2 3 4 Hine, Emmie; Floridi, Luciano (2022-07-20). "Las nuevas regulaciones sobre deepfake en China son una herramienta para la estabilidad social, pero ¿a qué precio?" . Nature Machine Intelligence . 4 (7): 608– 610. doi : 10.1038/s42256-022-00513-4 . ISSN 2522-5839 . 
  9. "国家互联网信息办公室关于《互联网信息服务深度合成管理规定(征求意见稿)》公开征求意见的通知-中共中央网络安全和信息化委员会办公室" . www.cac.gov.cn.Archivado desde el original el 29 de agosto de 2023 . Consultado el 29 de agosto de 2023 .
  10. Estudiantes de MST (13 de julio de 2020). "HR 4286 (116.º Congreso) - Ley de crédito fiscal para aprendizaje virtual de 2019" . The Contemporary Tax Journal . 9 (2). doi : 10.31979/2381-3679.2020.090214 . ISSN 2381-3679 . 
  11. 1 2 Kigwiru, Vellah Kedogo (2022). "Tecnología Deepfake y elecciones en Kenia: ¿Puede la legislación combatir el daño que representan los deepfakes?" . Revista electrónica SSRN . doi : 10.2139/ssrn.4229272 . ISSN 1556-5068 . 
  12. 四月之声The Voice of April Eng translation | China 2022 Shanghai Lockdown Record #shanghai #lockdown . 23 de abril de 2022. Archivado del original el 29 de agosto de 2023. Recuperado el 29 de agosto de 2023 vía YouTube .
  13. "WeChat quiere que la gente use su plataforma de video. Y así lo hicieron, para protestas digitales" . MIT Technology Review . Archivado del original el 30 de abril de 2022. Consultado el 29 de agosto de 2023 .
  14. "24 meses desde el ataque del 6 de enero al Capitolio" . www.justice.gov . 15 de febrero de 2022. Archivado del original el 4 de enero de 2023. Consultado el 29 de agosto de 2023 .