¿Qué son los vídeos deepfake y cuáles son sus riesgos?

Según Borja Adsuara, profesor y abogado experto en derecho digital, hay hasta cinco tipos de delitos penales que pueden estar detrás del uso no autorizado de una imagen para insertarla en un vídeo pornográfico, (y más si la imagen es de un menor).

Borja comentó en una entrevista a Newtral:

“Qué más da que sean realistas, si los demás los van a tomar por reales, el daño es el mismo. Ya hay  sentencias desde los años 90 por imágenes pornográficas creadas con Photoshop".

¿Qué son los Deepfakes?

Los deepfakes son, en esencia, contenidos multimedia generados por la inteligencia artificial (IA) que pueden ser vídeos, imágenes o audio. Estos medios sintéticos han adquirido una notoriedad creciente en la sociedad contemporánea.

A menudo, se aplican en forma de videos y se utilizan como filtros en la realidad aumentada, lo que los convierte en una tendencia tecnológica en constante evolución. El término "deepfake" surge de la combinación de dos palabras clave: "deep learning" y "fake", donde "deep learning" se refiere al aprendizaje profundo, una rama del aprendizaje automático.

🚨Así de fácil, en ALBERTO! 🤣#deepfake #alberto #albertofernandez pic.twitter.com/0ylOg8COjT

— Iván Ramirez (@ivanramirezokk) October 11, 2023

Estos deepfakes, aunque inicialmente se popularizaron en aplicaciones de entretenimiento, como FaceSwap, están empezando a tomar rumbos más oscuros. Su impacto ya se ha sentido, incluso en grados limitados, en diversos campos, lo que nos lleva a reflexionar sobre su naturaleza y sus implicaciones.

 

 

 

Ver esta publicación en Instagram

 

 

 

Una publicación compartida de Brian Monarch (@brianmonarch)

El primer deepfake conocido apareció en 2017 en el foro de Reddit llamado r/deepfakes, el cual, en respuesta a sus contenidos peligrosos, fue clausurado. Un anónimo había utilizado técnicas de IA de código de usuario abierto para crear videos pornográficos en los que superponía el rostro de actrices de Hollywood.

Lo que diferenciaba a estos deepfakes de otras imágenes falsas previamente existentes era su capacidad para simular movimientos, sonrisas, guiños e incluso interacciones sexuales, como informó Samantha Cole, la periodista de VICE que expuso este foro.

En 2019, una investigación ampliamente citada llevada a cabo por Deeptrace en colaboración con Sensity AI reveló datos impactantes. Según este estudio, el 96% de los deepfakes eran de naturaleza pornográfica y no consensuada, arrojando luz sobre la preocupante expansión de esta tecnología.

¿Cómo funcionan los Deepfakes?

Los deepfakes encuentran su vida en el corazón del aprendizaje automático, específicamente, en el uso del aprendizaje profundo y las redes adversariales generales (GAN). Para entender este proceso, simplificamos el concepto.

Dos redes neuronales, una generativa (G) y una discriminativa (D), compiten entre sí. La primera tiene como objetivo crear una imagen que la segunda no pueda distinguir de sus datos de entrenamiento, mientras que la segunda intenta evitar ser engañada.

En palabras sencillas, la red generativa se esfuerza en hacer que su creación sea indistinguible de datos reales, mientras que la red discriminativa trata de detectar las imperfecciones en esa creación. Este juego de competencia entre estas redes es lo que impulsa el desarrollo de deepfakes.

Las GAN son una tecnología pionera en la visualización por computadora y son excepcionalmente efectivas en la generación de imágenes que se asemejan a las humanas. Además, para aquellos que carecen de la potencia informática necesaria para ejecutar estos modelos en sus dispositivos personales, existen servicios comerciales de GAN disponibles.

Históricamente, la disponibilidad de datos de entrenamiento adecuados para una persona en particular era un desafío en la creación de deepfakes.

Inicialmente, esta tecnología se utilizó ampliamente en deepfakes de celebridades, dado que había abundantes datos de estas personalidades disponibles. Sin embargo, a medida que la tecnología avanza, se ha vuelto más sencillo crear deepfakes a partir de imágenes individuales o breves grabaciones de sonido.

El funcionamiento interno de un algoritmo deepfake es intrincado, pero su "salsa secreta" reside en dos componentes cruciales. El primero es la comprensión profunda de la anatomía facial, permitiendo al algoritmo asignar con gran precisión los atributos de una persona a otro rostro.

El algoritmo manipula estas características en un segundo vídeo para que coincidan con las del primero, manteniendo la apariencia general y el estilo original.

Otro aspecto interesante es que los algoritmos deepfake se componen de dos partes opuestas. Mientras una parte genera datos falsos, la otra está diseñada para detectar estos datos falsos, mejorando así la calidad de la creación al señalar lo que parece ser inauténtico. En esencia, un programa deepfake se convierte en su propio maestro, mejorando continuamente sus resultados.

El resultado final es un contenido multimedia sintético que, en manos equivocadas, puede utilizarse con diversas intenciones, tanto benignas como maliciosas. La naturaleza de estos videos sintéticos plantea cuestiones éticas y de seguridad, lo que nos lleva a explorar las implicaciones de esta tecnología.

Aumenta la producción de vídeos deepfake pronográficos 

Recientemente, un investigador independiente compartió con WIRED un análisis sobre la proliferación de videos deepfake no consentidos, destacando la creciente omnipresencia de estos contenidos.

Según este investigador, que prefirió mantener el anonimato para evitar posibles ataques en línea, se han subido al menos 244,625 videos en los últimos siete años en los 35 principales sitios web diseñados específicamente para alojar videos deepfake de contenido para adultos, ya sea en su totalidad o parcialmente.

Lo más sorprendente es que, en los primeros nueve meses de este año, se subieron 113.000 videos a estos sitios web, lo que representa un aumento del 54% en comparación con los 73.000 videos subidos en todo el año 2022. Según el análisis, se espera que el número de videos producidos en 2023 supere la cantidad total de los dos años anteriores combinados.

Estas cifras impactantes solo muestran una parte del problema, ya que la escalada total de los deepfakes no consensuados es aún mayor e incluye otros tipos de imágenes manipuladas.

En los últimos años, ha surgido toda una industria centrada en el abuso de deepfakes, principalmente dirigida a mujeres y creada sin el consentimiento ni el conocimiento de las personas involucradas.

 

 

 

Ver esta publicación en Instagram

 

 

 

Una publicación compartida de Elizabeth Olsen deepfake (@elizabetholsendeepfake)

Además, destacan las aplicaciones de intercambio de rostros que funcionan con imágenes estáticas, así como las aplicaciones que permiten "desnudar" a una persona en una foto con solo unos pocos clics. Es probable que millones de imágenes se hayan creado mediante estas aplicaciones.

Las implicaciones de los Deepfakes

Los deepfakes han suscitado preocupaciones en una variedad de sectores, desde la privacidad y la seguridad hasta la política y la sociedad en su conjunto. La capacidad de crear contenido sintético que es difícil de distinguir de la realidad plantea una serie de preguntas críticas.

 

 

 

Ver esta publicación en Instagram

 

 

 

Una publicación compartida de Joe Gaudet (@iamjoegaudet)

Riesgos para la Privacidad

Uno de los mayores riesgos asociados con los deepfakes es la amenaza que plantean a la privacidad de las personas. La capacidad de crear vídeos falsos que parecen reales ha llevado a un aumento en la posibilidad de suplantación de identidad y chantaje. Las personas pueden ser objeto de extorsión o daño a su reputación a través de la manipulación de videos y audio falsos.

Desinformación y manipulación

La proliferación de deepfakes también ha aumentado la preocupación sobre la desinformación y la manipulación de la opinión pública. Con la capacidad de generar contenido audiovisual falso, los actores malintencionados pueden difundir información engañosa y manipular la percepción de los eventos. Esto plantea serias amenazas a la integridad de la información y la confianza pública.

Desafíos para la autenticidad

La autenticidad de los medios se ve comprometida por los deepfakes, ya que se vuelve cada vez más difícil discernir entre lo real y lo sintético. Esto puede socavar la confianza en la veracidad de los contenidos en línea y, en última instancia, tiene un impacto en la sociedad y la cultura de la información.

Impacto en la Seguridad Nacional

Los deepfakes también tienen implicaciones para la seguridad nacional. Los políticos y líderes de alto perfil pueden ser objeto de campañas de desinformación que socaven la estabilidad política y la seguridad de una nación. La lucha contra la proliferación de deepfakes se ha convertido en una prioridad para muchos gobiernos.

En resumen, los deepfakes representan una poderosa tecnología que plantea una serie de cuestiones éticas y de seguridad. La habilidad de la inteligencia artificial para crear contenido multimedia sintético que es prácticamente indistinguible de la realidad ha creado desafíos significativos en ámbitos como la privacidad, la desinformación y la seguridad nacional.

A medida que esta tecnología continúa desarrollándose, la detección y regulación de los deepfakes se han vuelto esenciales para mitigar los riesgos asociados con su uso. Si te ha resultado útil el artículo compártelo en tus redes sociales y déjanos un comentario con tu opinión.