Abraham Lincoln la utilizó para mejorar su imagen y aumentar su aura presidencial, José Stalin y Mao Zedong la utilizaron para borrar a sus oponentes políticos de la faz de la historia: la manipulación de las imágenes es al menos tan antigua como la fotografía misma.
Pero si antes solo los expertos podían engañar con maestría, hoy se ha convertido en un juego de niños. Basta con un software descargado de Internet, unas cuantas imágenes tomadas aquí y allá de los programas de búsqueda o de las redes sociales, y cualquiera puede crear vídeos falsos y difundirlos como un reguero de pólvora en la red. Muchos se habrán topado, por ejemplo, con el falso vídeo que se ha hecho viral de Tom Cruise jugando al golf o de la reina Isabel bailando durante su discurso anual de Navidad. "Hoy en día, una foto es suficiente para crear un buen deepfake", afirma Touradj Ebrahimi, que dirige el laboratorio de Procesamiento de Señales Multimedia de la Escuela Politécnica Federal de Lausana (EPFL).
¿Qué significa deepfake?
El término deepfake tiene su origen en 2017 y proviene de la contracción de deep learning (el aprendizaje automático "profundo" que se basa en la inteligencia artificial) y fake (falso en inglés).
Desde hace algunos años el equipo de Ebrahimi se ha centrado en los deepfake y en el desarrollo de sistemas de última generación para verificar la integridad de las fotos, vídeos e imágenes que circulan por la red. La técnica deepfake utiliza la inteligencia artificial para generar imágenes sintéticas que parecen tan reales que engañan no solo a nuestros ojos, sino también a los algoritmos utilizados para reconocerlas. La tecnología ha demostrado ser capaz de superponer los rostros de dos personas diferentes para crear un perfil o identidad falsos.
Para Ebrahimi y su equipo, la lucha contra los deepfake es una carrera contra el tiempo y la tecnología: la manipulación de la información se ha convertido en un problema de seguridad nacional en muchas partes del mundo con la llegada de las redes sociales. Millones de personas, así como empresas y gobiernos, pueden crear contenidos y acceder a ellos libremente, pero también manipularlos.
A algunos países como Rusia, China, Irán y Corea del Norte se les considera muy activos en la difusión de noticias falsas (fake news), incluso mediante el uso de deepfakes, tanto dentro como fuera de sus fronteras nacionales, afirma Ebrahimi. Hace poco, por ejemplo, un miembro del Parlamento Europeo fue víctima de un engaño orquestado para desacreditar al equipo de Alexéi Navalny mediante falsas videollamadas que imitaban a personalidades de la oposición rusa.
Queremos ver vídeos reales
Un estudio del MIT ha demostrado que las noticias falsas se difunden hasta seis veces más rápido que las reales en Twitter. Esto hace que el fenómeno del deepfake sea especialmente preocupante, según Ebrahimi. "Los deepfake son un medio muy poderoso de desinformación porque la gente todavía tiende a creer lo que ve".
La calidad de los vídeos también sigue aumentando, por lo que se hace cada vez más difícil diferenciar los auténticos de los falsos. "En la actualidad, un Estado con recursos ilimitados o casi ilimitados puede crear vídeos falsos tan aparentemente reales que incluso engañarían a los mayores expertos", afirma Ebrahimi. Un software sofisticado puede reconocer las manipulaciones, pero el profesor de la EPFL estima que, dentro de dos a cinco años, ni siquiera las máquinas podrán distinguir los contenidos reales de los falsos.
"Cada vez más manipulaciones”
Al principio, los vídeos falsos se utilizaban principalmente para crear clips divertidos de actores y otras personas conocidas o en videojuegos. Algunos de estos vídeos pueden tener aplicaciones positivas, señala Ebrahim. "Los deepfakes ya se han utilizado en psicoterapia, para aliviar el sufrimiento de quienes han perdido a un ser querido", afirma el profesor.
Eso ocurrió en Holanda, donde un padre afligido creó un deepfake de su hija prematuramente fallecida para despedirse de ella. La web de genealogía MyHeritage es capaz de hacer algo similar: a través de su herramienta DeepNostalgia puede "resucitar" a familiares fallecidos animando sus rostros en las fotografías.
Pero con el avance de la tecnología, los deepfakes se han convertido en una herramienta eficaz de denigración, sobre todo en detrimento de las mujeres, o en una forma de extorsionar y manipular la opinión pública.
Los ciberdelincuentes incluso los han utilizado para engañar a las empresas para que les envíen dinero haciéndose pasar por el director general y fingiendo una solicitud de transferencia de dinero urgente.
"De momento solo hay unas pocas manipulaciones de este tipo, pero a medida que la tecnología avance veremos cada vez más", predice Sébastien Marcel, investigador principal del instituto de investigación suizo Idiap. Marcel explica que la tecnología actual de deepfake solo permite manipular el contenido visual, pero no el audio. Las voces, cuando no están tomadas de otros vídeos, son imitadas por un profesional.
"Las falsificaciones de audio siguen siendo un reto, pero en el futuro veremos deepfakes ultrarrealistas, capaces de reproducir fielmente la imagen y la voz de cualquier persona en tiempo real". En ese momento, las manipulaciones como la creación de un escándalo falso sobre un rival o competidor comercial, por ejemplo, serán posibles fácilmente.
Negar la realidad
A medida que aumenta el conocimiento de la técnica deepfake, la incertidumbre sobre lo que es real y lo que no lo es puede tener un efecto no deseado y crear una cultura de "negación plausible" en la que nadie está dispuesto a asumir la responsabilidad porque todo podría ser falso, comenta la investigadora Nina Schick en su libro Deepfakes: The Coming Infocalypse.
Incluso los vídeos reales pueden confundirse con contenidos manipulados. En Gabón, el presidente Alí Bongo, ausente de la escena pública desde hace semanas por enfermedad, ha sido objeto de un deepfake que provocó un levantamiento por parte de un puñado de militares golpistas.
"Los deepfakes podrían dar a cualquiera el poder de falsificar cualquier cosa, y si todo puede ser falsificado, entonces cualquiera puede reivindicar la negación plausible", argumenta Schick. Cree que este es uno de los mayores peligros sociales que plantean los deepfakes.
Cómo combatir la cultura de las fake news
La buena noticia es que la Unión Europea no se ha tomado el problema a la ligera. Proyectos de financiación como Horizonte Europa fomentan la investigación de vídeos falsos. "Esperamos ver más toques de atención de la UE sobre deepfakes en los próximos años", señala Marcel. Desde el punto de vista técnico, hacer frente a las falsificaciones profundas significa ser proactivo y centrarse en las vulnerabilidades de los sistemas. "Pero no siempre es tan sencillo", argumenta el investigador de Idiap. "Los procedimientos académicos para conseguir financiación son lentos". En cambio, las tecnologías que están detrás de los deepfakes se desarrollan cada vez más rápido.
Fuente: SWI
No hay comentarios.:
Publicar un comentario