Deepfake: entienda que es, como identificarlo y que riesgos ofrece

Deepfake es el nombre que se le da a la técnica que permite recrear la apariencia o la voz humana con la ayuda de la inteligencia artificial. Con la tecnología, es posible simular que las personas hablan o actúan como nunca lo harían.


La palabra sería una combinación de los términos aprendizaje profundo (una rama del aprendizaje automático o aprendizaje automático , en portugués) y falso (falso). El concepto habría surgido en 2017, en referencia a un usuario de Reddit con el apodo de deepfakes .

Según los informes, usó tecnología de aprendizaje profundo para superponer los rostros de celebridades y personas en películas pornográficas. Desde entonces, el método se ha vuelto cada vez más realista y accesible.

Fuerza Tecnológica ha preparado una guía para que comprenda mejor cuál es la función de edición que ha estado dominando Internet y cómo funciona. Consulte también los riesgos que se ofrecen y cómo protegerse.

¿Cómo funciona deepfake ?

Deepfake

Para crear un video deepfake se utilizan dos algoritmos de inteligencia artificial concurrentes llamados generador y discriminador . Según Whatis.com, la función del primero es crear videos falsos y, del segundo, identificarlos como reales o no.

Cuando el discriminador encuentra contenido falso, el generador aprende qué no hacer. Y así creará el siguiente video de una manera mejorada. Cuando actúan juntos, generador y discriminador generan la llamada red generativa adversaria (GAN), o red generativa de oposición, en traducción libre.

¿Cómo crear un video deepfake ?

Para montar una película de este género es necesario disponer de un vídeo fuente, preferiblemente lo más sencillo posible. Por ello, se suelen utilizar discursos políticos, en los que el fondo es neutro y básicamente se hacen asentimientos.

Entonces, necesita combinar dos conjuntos de datos. Si el personaje del video gira la cabeza hacia la izquierda y abre la boca, es necesario tener imágenes de quién lo reemplazará en las mismas posiciones. Esto puede requerir un gran banco de imágenes.

Posteriormente, el trabajo se deja al programa basado en inteligencia artificial. Después de mucho ensayo y error y éxito, la red generativa de adversarios se incorporará cara a cara con la mayor precisión posible.

El video de arriba es uno de los más famosos de deepfake. En él, el expresidente de Estados Unidos, Barack Obama, tiene movimientos y voz superpuestos a los del comediante Jordan Peele.

¿Cuáles son los riesgos de deepfake ?

A pesar de parecer inofensivo, deepfake ha sido controvertido desde su aparición en 2017 en Reddit. La técnica se usaba a menudo para superponer rostros de actrices en rostros de personas en videos pornográficos.

A medida que se desarrolla, la técnica se vuelve más realista y los contenidos acaban volviéndose virales como si fueran reales. Este es uno de los grandes peligros del recurso: la difusión de contenido falso como auténtico.

En 2018, Facebook se vio envuelto en un escándalo después de la filtración de datos del usuario por parte de una empresa de aplicaciones de terceros. Poco después, un video de Mark Zuckerberg se volvió viral y preocupó a mucha gente.

En el cortometraje, el CEO de Facebook insinúa que controla el futuro al tener el dominio de miles de millones de datos. El contenido no era más que un producto deepfake creado por Bill Poster para la empresa Spectre.

Otro problema previsto es la pérdida de credibilidad de cualquier tipo de material publicado en Internet. La tecnología hace que sea cada vez más difícil identificar y filtrar qué tipo de noticias son verdaderas o simplemente creadas por la computadora. Lo que sus ojos y oídos ven y escuchan puede ser solo un producto de software.

Con la popularización de programas que permiten a los laicos crear videos del género, es posible que la gente común también sea cada vez más objetivo de este tipo de montaje.

Los resultados pueden variar desde simular la participación en películas para adultos hasta crear pruebas falsas contra alguien.

Al tratarse de un fenómeno reciente, los gobiernos aún no cuentan con leyes específicas para combatir los delitos relacionados con el deepfake . En el Reino Unido, el productor de contenido de género puede ser acusado de acoso.

En los Estados Unidos, los cargos pueden variar desde robo de identidad, acoso cibernético y pornografía de venganza. En Brasil, aún no existe una regulación específica sobre el tema.

¿Cómo identificar un deepfake ?

Deepfake Samsung Ai GIF de Cheezburger - Buscar y compartir en GIPHY

A pesar de la evolución de la técnica, la mayoría de los deepfakes aficionados todavía se pueden identificar a simple vista. En estos casos, es posible identificar antinaturalidad en un abrir y cerrar de ojos, movimiento de los labios o la presencia de sombras en los lugares equivocados.

Sin embargo, la preocupación por el futuro es real. En los Estados Unidos, la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) ya estaría invirtiendo en formas de identificar mejor los videos.

Por ahora, la mejor medida es estar siempre alerta a lo que recibe y conocer las fuentes de intercambio.

¿Qué es ZAO?

Anunciada en septiembre de 2019 en la App Store de China, la aplicación ZAO fue noticia en todo el mundo. El programa se volvió viral al tomar teléfonos inteligentes para crear deepfakes a partir de una foto en solo 8 segundos.

El resultado roza la perfección y fue compartido en Twitter por el usuario @AllanXia. El rostro del actor Leonardo DiCaprio fue reemplazado por el suyo en varias escenas y la expresividad es impresionante.

El lanzamiento de la aplicación reabrió el debate sobre tecnología y privacidad. Primero porque, según las condiciones de uso del programa, al utilizarlo estarías dando a la empresa el derecho a utilizar tus datos y cara para usos comerciales de forma gratuita e irrevocable.

Después de muchas quejas, la empresa responsable cambió el término. Ahora, dice que el contenido solo será utilizado por desarrolladores con el propósito de mejorar la aplicación y la tecnología utilizada.

Otro tema preocupante es el hecho de que la aplicación simplifica aún más la creación de superposiciones con las imágenes de cualquier persona. Y con creciente realismo. Esto podría facilitar que las víctimas emerjan de videos falsos tomados de verdad.

Otras aplicaciones deepfake

Pero esta no es la primera vez que los programas deepfake se vuelven virales . El primero de ellos fue FakeApp , lanzado en enero de 2018 para escritorio. Le permitió crear y compartir videos con caras reemplazadas con relativa facilidad.

La principal dificultad fue reunir una gran cantidad de material visual de la persona a la que se insertaría, para que el resultado fuera satisfactorio. Actualmente, ya no es posible encontrar el programa disponible.

Deja un comentario