«Deepfake»: la imagen en tiempos de la post verdad

15 agosto, 2020

Los deepfakes son la punta del iceberg de lo que pasará con la imagen y cualquier otro soporte de contenidos en el universo digital, y, sobre todo, en la lógica de la construcción de discursos falsos y malintencionados en la laberíntica trama de las prácticas de la post verdad.

Jacob Bañuelos Capistrán

El deepfake es una especie mediática que evoluciona progresivamente como una amenaza para los discursos del hacer creer en tiempos de la post verdad. Como telón de fondo de este escenario está el concepto de post verdad, entendido como un fenómeno gestado en el seno de los medios digitales y que protagoniza una guerra de los discursos del poder en los medios digitales y electrónicos.

Existe una preocupación creciente por el aumento progresivo de este tipo de expresiones, realizadas con programas cada vez más accesibles y fáciles de usar, al alcance de cualquiera que quiera producirlos, con fines de entretenimiento, acoso, chantaje, propagandísticos, para construir una crítica política o para generar desinformación o fake news.

Las principales preocupaciones provienen del ámbito de los medios de información, medios y plataformas digitales, redes sociales, los ámbitos del poder político, la legislación, la ética y la tecnología para la detección de deepfakes, entendidos como documentos falsos o falsificados que se hacen pasar por auténticos, y que pueden tener un amplio alcance mediático. Se trata de un fenómeno emergente en el campo del audiovisual y por lo mismo plantea problemáticas también emergentes que no habían sido tecnológicamente gestionadas, culturalmente asimiladas o legisladas.

Las preocupaciones son principalmente de tipo ético, político, legal y tecnológico, se fundan en el hecho de que los deepfakes minan la credibilidad de los documentos audiovisuales, principalmente videos, como medios de información o certificación de hechos, poniendo en entredicho su veracidad o generando riesgos de desinformación, difamación o chantaje.

Los deepfakes son parte de una familia que empieza a ser numerosa, dominada o acompañada por los adjetivos deep y fake: fake news, cheapfakes, fake nudes, shallow fakes, deep learning, deep web, deepnude, etc. Cualquier otro término que siga al adjetivo deep o fake podría pertenecer a esta familia caracterizada por la incertidumbre.

Estirando un poco más esta lógica, podríamos hablar de una sociedad deep y fake, en donde las verdades han quedado, como siempre, en lo profundo y entredicho. La gran diferencia es que la problemática sobre qué es verdad, veracidad, verosímil, real o realidad se ha escalado un grado más con la llegada de la inteligencia artificial al mundo de la representación y no sólo a éste, sino como régimen del orden y la construcción del sentido de realidad. La proliferación de una hiperrealidad impulsada por los avances tecnológicos en todos los campos se ha acentuado y con ella la cultura del simulacro, la hiperrealidad, la memificación, la avatarización y la falsificación como discurso.

Donald Trump nunca pronunció esa frase. Este video falso y profundo fue hecho por Solidarité Sida para dar la alarma: el futuro del SIDA está en juego esta semana.

Los deepfakes son transformaciones narrativas y discursivas hechas con imagen, texto escrito y sonido; significan un trastocamiento total de los valores de estos soportes como documentos de certificación de realidad y veracidad.

La noción general de un deepfake es que una imagen ha sido manipulada digitalmente para modificar su contenido visual, audiovisual y/o sonoro para presentarla como auténtica, cambiando el rostro de un personaje en lugar de otro, o el cuerpo, y/o alterando el audio o el discurso oral del mismo. Existe un número creciente de programas cada vez más sofisticados y eficientes para alterar el video y el sonido, desde aplicaciones móviles hasta sofisticados programas y métodos de inteligencia artificial. 

Video de Barack Obama deepfake.

Video: La transformación de un actor por otro durante una entrevista en vivo.

El escenario tecno-mediático actual y futuro prevé un cambio radical en los pactos de lectura y una reconfiguración total en la relación que estableceremos con los documentos, objetos, expresiones y medios digitales. Más allá de si los documentos digitales representan la realidad, la certifican o legitiman, se impone un reto cultural en donde los documentos digitales deberán ser comprendidos no sólo como representaciones de la realidad sino como productores de la misma, independientemente de si son ciertos, falsos, legítimos o verdaderos.

En un mundo instrumentalizado por una tecnología cada vez más avanzada, a partir de la cual se puede clonar prácticamente todo, incluso la secuencia del ADN, qué podemos esperar sobre la clonación en el terreno de las representaciones en imágenes, texto y sonido. 

La fotografía siempre pudo construir narrativas verosímiles de hechos falsos, como lo demuestra su historia y la historia del fotomontaje con mayores o menores intenciones realistas. Una excelente investigación histórica sobre la manipulación fotográfica con fines propagandísticos es el libro de Alain Jaubert, Making people disappear (Jaubert, 1989). La legitimidad de la fotografía como certificación del mundo entró en crisis hacia los años noventa del siglo XX (Bañuelos, 2008). Una crisis que ha impuesto nuevas formas de lectura de las imágenes, oscilando entre el establecimiento cultural que impone la propia representación fotográfica y la puesta en duda sobre cualquier discurso visual, sonoro o escrito.

El punto clave de la cuestión está en establecer hasta dónde la falsificación atenta contra la dignidad humana y los derechos fundamentales. Y esto, además de ser una cuestión establecida por un régimen político-económico y legal, es una cuestión de orden moral y cultural.

La empresa japonesa Datagrid crea digitalmente modelos con personas que no existen en la realidad.

We have succeeded in generating high-resolution (1024×1024) images of whole-body who don’t exist using Generative Adversarial Networks (GANs)
We use these images as virtual models for advertising and fashion.

La producción, difusión y distribución de deepfakes es imposible de detener. La lucha por detectar contenidos manipulados en medios y redes digitales no podrá detenerlos. Los deepfakes no deben ser entendidos como la causa de la desinformación, sino como el síntoma de una sociedad que suma los desarrollos tecnológicos a prácticas delictivas que han existido siempre. Se deberán combatir los delitos, no los deepfakes.

La problemática sobre la autenticidad de cualquier documento aumenta en la medida en que avanza el uso de la inteligencia artificial en la construcción de un orden material, científico y cultural. Los riesgos de la desinformación aumentan debido a la velocidad y alcance de propagación de contenidos falsos en las redes sociales, al uso de metadatos y contenidos digitales que la propia ciudadanía comparte en la red y debido a competencias de lectura sobre contenidos mediáticos heredadas del régimen mediático electrónico.

Los desarrollos tecnológicos no harán más que aumentar las posibilidades de la falsificación como discurso. Las lecciones y oportunidades que puede dejar la aparición de deepfakes están centradas en la necesidad de construir una nueva alfabetidad, nuevas competencias de lectura y nuevos pactos discursivos para la asimilación, confrontación, evaluación e interpretación de contenidos mediáticos digitales.

Para consultar la versión completa de este artículo:
https://rpc.up.edu.mx/deepfake-la-imagen-en-tiempos-de-la-posverdad

  • Dr. Jacob Bañuelos Capistrán

jcalpis@tec.mx

Doctor en Ciencias de la Información (Apto Cum Laude 1991-1995), en el Departamento de Comunicación Audiovisual y Publicidad II, Facultad de Ciencias de la Información, Universidad Complutense de Madrid. con la Tesis Doctoral: Fotomontaje Síntesis Visual: historia, teoría y práctica. Miembro del Sistema Nacional de Investigadores (SNI) desde 2005, actualmente es SNI-1. Actualmente es Director de la Maestría en Comunicación (MCO) y profesor e Investigador de Tiempo Completo Departamento de Industrias Creativas del Tecnológico de Monterrey-Campus Ciudad de México, donde imparte las materias de Fotografía e Imagen Digital y Fotoperiodismo. Pertenece a la Escuela Nacional de Humanidades y Educación del Tecnológico de Monterrey. Ha publicado diversos estudios, entre ellos libro Fotomontaje. editorial Cátedra en 2008. En 2014 publica el libro Fotografía y dispositivos móviles, junto con el Mtro. Francisco MataRosas, editorial Tecnológico de Monterrey-Porrúa Print; coordinador del número Fotografía: entre analógico y digital (2019) de la revista DeSignis, junto con el Dr. Vicente Castellanos, edición realizada en colaboración con la Universidad de Rosario (Argentina), el Tecnológico de Monterrey y la Universidad Autónoma Metropolitana.

Portal periodístico independiente, conformado por una red de periodistas nacionales e internacionales expertos en temas sociales y de derechos humanos.

Relacionado