deepfake

¿Qué es un Deepfake? ¿Debería preocuparnos?


Hoy te hablaremos del deepfake. Tendemos a confiar en el contenido de las grabaciones de audio y de vídeo. Pero con Inteligencia Artificial (AI), la cara o la voz de cualquier persona se puede recrear con precisión. El producto es falso, una suplantación que se puede usar para memes, información errónea o pornografía.

Una mirada al deepfake de Nicholas Cage, o al falso PSA de Jordan Peele  deja en claro que estamos tratando con nuevas tecnologías extrañas. Estos ejemplos, aunque relativamente inofensivos, plantean preguntas sobre el futuro.

¿Podemos confiar en el audio y en el vídeo? ¿Podemos responsabilizar a las personas por sus acciones en pantalla? ¿Estamos listos para el deepfake?

El Deepfake es nuevo, fácil de hacer y está creciendo rápidamente

deepfake

La tecnología Deepfake tiene solo unos pocos años, pero ya ha explotado en algo que es cautivante e inquietante. El término «deepfake», que se acuñó en un hilo de Reddit en 2017, se usa para describir la recreación de la apariencia o la voz de un humano a través de la inteligencia artificial.

Sorprendentemente, casi cualquier persona puede crear un deepfake con una PC mala, algún software y unas pocas horas de trabajo.

Al igual que con cualquier tecnología nueva, existe cierta confusión en torno al deepfake. El vídeo «Pelosi borracha» es un excelente ejemplo de esta confusión. Deepfakes son construidos por AI, y están hechos para hacerse pasar por personas.

Este vídeo, que se conoce como deepfake, en realidad es solo un vídeo de Nancy Pelosi que se ha ralentizado y corregido el tono de su voz para agregar un efecto de habla arrastrada.

Esto también es lo que hace que esta técnica sea diferente de, digamos, el CGI Carrie Fisher en Star Wars: Rogue One. Mientras que Disney gastó montones de dinero estudiando la cara de Carrie Fisher y recreándola a mano, un nerd con algún software de fake puede hacer el mismo trabajo gratis en un solo día. La AI hace el trabajo increíblemente simple, barato y convincente.

Cómo hacer un deepfake

Al igual que un estudiante en un aula, la IA tiene que «aprender» cómo realizar su tarea prevista. Lo hace a través de un proceso de prueba y error de fuerza bruta, generalmente conocido como aprendizaje automático o aprendizaje profundo.

Una IA diseñada para completar el primer nivel de Super Mario Bros, por ejemplo, jugará una y otra vez hasta que descubra la mejor manera de ganar. La persona que diseña la IA necesita proporcionar algunos datos para comenzar, junto con algunas «reglas» cuando las cosas salen mal en el camino. Aparte de eso, la IA hace todo el trabajo.

Lo mismo ocurre con la recreación facial deepfake. Pero, por supuesto, recrear caras no es lo mismo que vencer a un videojuego. Si tuviéramos que crear un falso de Nicholas Cage como anfitrión del show de Wendy Williams, esto es lo que necesitaríamos:

Un video de destino: a partir de ahora, los deepfakes funcionan mejor con vídeos de destino claros y limpios. Es por eso que algunos de los deepfakes más convincentes son los políticos; tienden a quedarse quietos en un podio bajo iluminación constante. Entonces, solo necesitamos un vídeo de alguien sentado y hablando.

Dos conjuntos de datos: para que los movimientos de la boca y la cabeza se vean precisos, necesitamos un conjunto de datos de la cara de Wendy Williams y un conjunto de datos de la cara de Nicholas Cage. Si Wendy mira a la derecha, necesitamos una foto de Nicholas Cage mirando a la derecha. Si Wendy abre la boca, necesitamos una foto de Cage abriendo la boca.

Después de eso, dejamos que la IA haga su trabajo. Intenta crear el deepfake una y otra vez, aprendiendo de sus errores en el camino. Simple, ¿verdad? Bueno, un vídeo de la cara de Cage en el cuerpo de Wendy William no va a engañar a nadie, entonces, ¿cómo podemos ir un poco más allá?

Cómo hacer daño con un deepfake

deepfake

Las falsificaciones profundas más convincentes (y potencialmente dañinas) son la suplantación total. La popular falsificación de Obama de Jordan Peele es un buen ejemplo. Entonces, hagamos una de estas suplantaciones. Creemos una imitación profunda de Mark Zuckerberg declarando su odio a las hormigas, eso suena convincente, ¿verdad? Esto es lo que necesitaremos:

Un video de destino: este podría ser un vídeo del propio Zuckerberg o de un actor que se parece a Zuckerberg. Si nuestro vídeo de destino es de un actor, simplemente pegaremos la cara de Zuckerberg en el actor.

Datos de la foto: necesitamos fotos de Zuckerberg hablando, parpadeando y moviendo la cabeza. Si estamos superponiendo su rostro a un actor, también necesitaremos un conjunto de datos de los movimientos faciales del actor.

La voz de Zuck: Nuestro deepfake debe sonar como «The Zuck». Podemos hacer esto grabando un imitador o recreando la voz de Zuckerberg con IA. Para recrear su voz, simplemente ejecutamos muestras de audio de Zuckerberg a través de una IA como Lyrebird , y luego escribimos lo que queremos que diga.

Una IA de sincronización de labios: dado que estamos  agregando la voz de Zuckerberg falso a nuestro vídeo, una IA de sincronización de labios debe asegurarse de que los movimientos faciales coincidan con lo que se dice.

No estamos tratando de minimizar el trabajo y la experiencia que conlleva hacer un deepfake. Pero en comparación con el trabajo CGI de un millón de dólares que trajo a Audrey Hepburn de entre los muertos, las falsificaciones profundas los deepfakes son un paseo por el parque.

Y aunque todavía no nos hemos enamorado de un deepfake político o de celebridades, incluso los más profundos y más obvios han causado un daño real.

Los deepfakes ya han causado daños en el mundo real

A partir de ahora, la mayoría de los deepfakes son solo memes de Nicholas Cage, anuncios de servicio público y espeluznantes vídeos porno de celebridades. Estas salidas son relativamente inofensivas y fáciles de identificar, pero en algunos casos, los deepfakes se utilizan con éxito para difundir información errónea y dañar la vida de los demás.

En la India, los nacionalistas hindúes emplean los deepfakes para desacreditar e incitar a la violencia contra las mujeres periodistas. En 2018, una periodista llamada Rana Ayyub fue víctima de una campaña de desinformación, que incluía un vídeo falso de su rostro superpuesto en un vídeo pornográfico. Esto condujo a otras formas de acoso en línea y la amenaza de violencia física.

En Estados Unidos, la tecnología deepfake a menudo se usa para crear porno de venganza sin consenso. Según lo informado por Vice, muchos usuarios en el foro Reddit de deepfakes, ahora prohibido; preguntaron cómo crear falsificaciones profundas de ex novias, enamorados, amigos y compañeros de clase. Sí, pornografía infantil.

El problema es tan grande que el estado de Virginia ahora prohíbe todas las formas de pornografía no consensuada, incluidos los deepfakes.

A medida que los deepfakes se vuelven cada vez más convincentes, la tecnología se utilizará indudablemente para propósitos más dudosos. Pero existe la posibilidad de que exageremos, ¿verdad? ¿No es este el paso más natural después de Photoshop?

Los deepfakes son una extensión natural de imágenes manipuladas

Incluso en su nivel más básico, los deepfakes son inquietantes. Confiamos en las grabaciones de audio y de vídeo para capturar las palabras y acciones de las personas sin prejuicios ni información errónea. Pero en cierto modo, la amenaza de estas falsificaciones no es nueva en absoluto. Existe desde que comenzamos a usar la fotografía.

Toma, por ejemplo, las pocas fotografías que existen de Abraham Lincoln. La mayoría de estas fotografías, incluidos los retratos en el centavo y el billete de cinco dólares fueron manipuladas por un fotógrafo llamado Mathew Brady para mejorar la apariencia delgada de Lincoln; específicamente su cuello delgado.

Algunos de estos retratos fueron editados de una manera que recuerda a los deepfakes, con la cabeza de Lincoln superpuesta a los cuerpos de hombres «fuertes» como Calhoun.

deepfake

Esto suena como publicidad extraña, pero durante la década de 1860, la fotografía tenía una cierta «verdad» que ahora reservamos para grabaciones multimedia. Se consideraba el polo opuesto del arte: una ciencia.

Estas fotos fueron manipuladas para desacreditar intencionalmente a los periódicos que criticaron a Lincoln por su cuerpo débil. Al final, funcionó. Los estadounidenses quedaron impresionados por la figura de Lincoln, y el propio Lincoln afirmó que las fotos de Brady «me hicieron presidente».

La conexión entre deepfakes y la edición de fotos del siglo XIX es extrañamente reconfortante. Nos ofrece la narrativa de que, si bien esta tecnología tiene graves consecuencias, no es algo que esté completamente fuera de nuestro control. Pero, lamentablemente, esa narrativa puede no durar mucho tiempo.

No podremos detectar Deepfakes para siempre

Estamos acostumbrados a detectar imágenes y vídeos falsos con nuestros ojos. Es fácil mirar el retrato de la familia de Joseph Goebbels y decir: «hay algo extraño sobre ese tipo en la parte de atrás».

Una mirada a las fotos de propaganda de Corea del Norte hace evidente que, sin los tutoriales de YouTube, la gente apesta en Photoshop. Y a pesar de lo impresionantes que son los deepfakes, todavía es posible detectar un deepfake solo a simple vista.

Pero no podremos detectarlos por mucho más tiempo. Cada año, los deepfakes se vuelven más convincentes y aún más fáciles de crear. Puedes hacer una falsificación con una sola foto, y puedes usar una inteligencia artificial como Lyrebird para clonar voces en menos de un minuto.

Los deepfakes de alta tecnología que combinan audio y vídeo falsos son increíblemente convincentes, incluso cuando están hechas para imitar figuras reconocibles como Mark Zuckerberg.

La tecnología anti deepfake no es la adecuada

En el futuro, podemos usar inteligencia artificial, algoritmos y tecnología blockchain para luchar contra estas falsificaciones. Teóricamente, la AI podría escanear vídeos para buscar «huellas digitales» falsas, y la tecnología blockchain instalada en los sistemas operativos podría señalar a los usuarios o archivos que hayan tocado software falso.

Si estos métodos anti-deepfake te parecen estúpidos, únete al club. Incluso los investigadores de AI dudan de que haya una verdadera solución el deepfake. A medida que el software de detección mejora, también lo hará esta tecnología.

Eventualmente, llegaremos a un punto donde será imposible detectar el deepfake. Y tendremos mucho más de qué preocuparnos que el falso porno de celebridades y los vídeos de Nicolas Cage.

Dejar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *


Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.