¿En qué consiste un deepfake y cómo nos podría afectar?

¿En qué consiste un deepfake y cómo nos podría afectar?

noviembre 27, 2020 By Carolcfr

Vivimos tiempos complicados, donde los peligros de los vídeos falsos son directamente proporcionales a la complejidad de su realización. Se requieren de pocos minutos para redactar una noticia falsa, y mucho más tiempo para fabricar un vídeo falso que sea de buena calidad. Pero el impacto potencial es infinitamente mayor. Para la sociedad donde vivimos el poder que tiene un vídeo o una foto es de mucho más impacto que un texto escrito, al igual que el DeepFake.

¿Qué es el DeepFake?

DeepFake nace de la unión de dos conceptos, el Deep Learning, que trata el aprendizaje profundo y la palabra fake, que significa falso. Un usuario de Reddit, usó este término por primera vez, cuando publicó videos falsos de contenido pornográfico de personas famosas, utilizando un seudónimo llamado deepfake. Esta técnica se llama realmente Generative Adversarial Networks o GAN. Todos los videos realizados bajo este esquema se continuaron llamando deepfake.

Básicamente lo que sucedió fue que algunos usuarios utilizaron un software para sustituir el rostro de alguna actriz famosa en otras de actrices consagradas del porno.

Desde el año 2018, cuando comenzó todo esto, las herramientas de generación de videos se han perfeccionado a tal nivel, que se suplanta la identidad de los actores y no parecen videos falsos. Su uso comenzó a extenderse hacia otras personas no tan famosas, cuando un usuario llamado Deepfakeapp, publicó una aplicación que permitía a cualquier usuario informático manipular videos. Esta app permitía suponer la cara de la persona afectada sobre otra en un video que lo pondría en evidencia, usualmente con contenido sexual, o realizando algún acto que pudiera afectar su imagen.

¿Cómo se verifica un DeepFake?

Con tantas noticias falsas y videos montados que simulan una realidad casi tan exacta como si fuera real, la tarea de los periodistas que verifican los datos y las fuentes, es más necesaria que nunca.

Hoy en día existen medios que se especializan en desmontar bulos y falsas informaciones que circulan por el mundo web. Se están incorporando mecanismos de verificación bastante avanzados en inteligencia artificial para que este conocimiento ayude a detectar falsedades, y sobre todo a conocer los límites de la manipulación.

Muchas veces, no se necesita experiencia alguna para realizar un seguimiento de una fuente, simplemente tener sentido común. Son preguntas que se deben realizar a la hora de indagar la información, como por ejemplo, quién lo público, dónde se compartió por primera vez, e ir cerrando la brecha para conseguir al perpetuador.

¿Cómo detectar los DeepFakes?

Como se mencionó anteriormente, no hace falta ser un especialista para detectar una falsificación con algunos de estos consejos:

El parpadeo

Los seres humanos parpadean entre 2 a 8 segundos cada vez, con una duración de parpadeo entre 1 y 4 décimas de segundo. Los algoritmos de los DeepFake no pueden superar el parpadear a la misma velocidad que un humano.

Cara y cuello

Normalmente, la expresión facial viene acompañada de una postura corporal, la cual hace un match al momento de expresarnos o tener una conversación. Los DeepFake se centran en las sustituciones faciales, cuando se interviene el cuerpo, es porque el trabajo fue realizado por alguien que dedicó bastante tiempo a hacerlo y tiene una pericia con el software utilizado.

Clips cortos

Esta tecnología es muy fácil de usar y los usuarios que la utilizan no son muy expertos, por lo que la duración de estos videos es muy corta. De solo segundos.

Sonido para grabación

No solo lo que se ve, expone a una DeepFake, también lo hace el sonido. Este tipo de software usualmente se limita a intervenir una imagen, pero no para ajustar el sonido.

Los detalles

Cuando se verifica el contenido del video se deben tener en cuenta los detalles más mínimos. Una opción es reproducirlo lentamente para poder captar todo, tramo por tramo.

Interior de la boca

El software para crear DeepFakes ha sido capaz de transferir caras bastante bien hasta ahora, pero en los detalles más específicos, como por ejemplo, la boca, se queda corto.

Los algoritmos que fueron diseñados para deep learning, tienen la capacidad de detectar deepfakes automáticamente, de hecho son utilizados para crear material de prueba y así entrenar a los futuros detectores de falsificaciones de videos y  imágenes

¿Cómo se hace un DeepFake?

En nuestros tiempos, es muy sencillo hacer deepfake con los avances existentes. Muchas aplicaciones están diseñadas especialmente para realizar deepfake, por ejemplo FakeApp es una de tantas. Al momento de descargarlo, debes conseguir los videos que quieres modificar, los intervienes con el programa que descargaste y el resto lo ejecuta la inteligencia del software.

Estos software toman cada video y los tratan como si fueran fotografías, extrayendo cuadro por cuadro, matizando sus estructuras visuales, lo que implica, que mientras más información le proporciones al programa, mejor será el resultado obtenido.

Se ha extendido una modalidad criminal con propósito a los deepfakes, delitos informáticos basados en IA, que generan un gran daño u obtención de grandes sumas de dinero por el cyber chantaje, lo que los hace difícil de rastrear y derrotar. Son típicas la falsificaciones para extorsionar, de un secuestro imitando la voz o la imagen plasmadas en videos. Usan la voz para tener acceso a sistemas con seguridad basados en este instrumento.

¿Los Deepfake son una amenaza?

Con el acceso libre que se tiene a este tipo de aplicaciones, son muchos los que utilizan este método para realizar fraudes o crear videos falsos para perjudicar a un tercero. Hoy en día es sumamente difícil frenar la proliferación de una noticia basada en mentiras o de origen fraudulento por las redes. Imaginemos un video que se viriliza en cuestión de minutos por el Internet. En poco tiempo, el detectar este tipo de fraudes, será muy difícil, por la calidad y la mejora que tienen cada día estos delincuentes.

En nuestra realidad, las noticias falsas vuelan como aves en escape. Estas influyen directamente en la opinión pública sin siquiera saber o indagar si es verdad. Con esta crisis sanitaria del COVID-19 que nos ha tocado vivir, imaginemos lo que podrían conseguir los deepfakes para tomar ventaja de esta situación.

Teniendo las pruebas, se puede evidenciar que los deepfakes pueden resultar una amenaza en las manos equivocadas, porque lo que resulta gracioso para algunos, para otros resulta una oportunidad de sacar provecho a través de la extorsión o simplemente para vengarse de alguien. Lo que podría ser peor teniendo consecuencias sociales, morales y políticas.