El sitio de videos pornográficos Pornhub informó este miércoles que eliminará de su plataforma todo el contenido no consensuado, específicamente las deepfakes, que son videos pornográficos alterados de manera digital para cambiar el rostro de los protagonistas, usualmente por el de personas famosas.
Algunas plataformas se han sumado a esta iniciativa, como Twitter, Gfycat y Reddit, esta última la plataforma donde nacieron las deepfakes.
Este martes 6 de febrero, Pornhub declaró a Motherboard su postura respecto a las deepfakes.
“No toleramos ningún tipo de contenido no consensual en nuestra página y eliminamos ese tipo de videos tan pronto somos conscientes de su existencia. El contenido no consensual viola nuestras condiciones de servicio, y eso incluye el revenge porn, los deepfakes o cualquier otro contenido subido sobre una persona sin el consentimiento y conocimiento explícitos de esa persona. Estamos eliminando todos los deepfakes subidos por usuarios”.
De acuerdo con lo informado por el portal, especializado en noticias de tecnología, la plataforma de videos porno solicitó a sus usuarios denunciar el contenido que incumpla sus condiciones de servicio.
Sin embargo, al ser una plataforma en donde los usuarios pueden cargar y etiquetar libremente los videos que suben, el combate a las deepfakes se antoja arduo, además de que existen muchas más plataformas en donde compartir contenidos de esta naturaleza.
¿Qué son las deepfakes?
A las fake news y al revenge porn se ha unido una nueva preocupación en el entorno digital: las deepfakes, que pueden traducirse como “falsificaciones profundas”.
Los usuarios de sitios porno quizá hayan visto avisos para que visualicen videos (o quizá hayan visto los videos en sí, claro está), supuestamente protagonizados por celebridades como Emma Watson o Taylor Swift. Son videos en los que el rostro de la actriz porno original ha sido sustituido por el rostro de la actriz famosa.
Gracias a la tecnología empleada, el resultado es enormemente verosímil. Pornhub considera que sustituir el rostro de una persona en un video pornográfico, equivale a “sexo no consensuado” y por ese motivo, eliminarán de su plataforma todos los videos deepfakes que localicen.
Naturalmente que la tecnología empleada se puede utilizar para otra clase de falsificaciones. Así, existen deepfakes no pornográficas. Un ejemplo ampliamente difundido es una secuencia de la película “En busca del arca perdida” en donde el rostro de Harrison Ford ha sido sustituido con el de Nicolas Cage.
El origen
Diversos medios especializados en tecnología y mundo geek coinciden en que el origen del término se encuentra en un usuario de Reddit—portal que compila links a otros sitios y tiene una arquitectura de red social—llamado precisamente Deepfake.
“En noviembre del 2017, el usuario Deepfakes creó el subreddit deepfakes como un lugar para compartir sus videos sexualmente explícitos y alterados digitalmente, en donde el rostro del protagonista ha sido sustituido por el de una celebridad o figura pública”, informa el portal Know Your Meme.
Por su parte, en diciembre de 2017 el portal Motherboard informó haber estado con contacto con Deepfakes. En su artículo titulado “El porno falso asistido por inteligencia artificial está aquí (y ya nos cogieron a todos)”, dice:
“De acuerdo con Deepfakes (que se negó a darnos su identidad), el software que se emplea está basado en múltiples bibliotecas open source, como Keras. Deepfakes nos dijo que para compilar los rostros de las celebridades usó la búsqueda de imágenes de Google, fotografías de stock y videos de YouTube… En este caso, ‘entrenó’ al algoritmo en videos porno y en el rostro de la actriz Gal Gadot. Luego de suficiente ‘entrenamiento’, los nodos del programa se las arreglaron para completar una tarea concreta, como la de manipular de manera convincente un video”.
A partir de la actividad de dicho usuario, que ha sido enormemente exitosa, se ha creado un Subreddit dedicado a las deepfakes, en el que se comparten videos pornográficos manipulados. Muchos de dichos videos llegan a plataformas como Pornhub.
Por su parte, Newsweek señala que “el origen de la tecnología podría remontarse a los “deepfakes” (falsificaciones profundas) de Redditor y utiliza un algoritmo de aprendizaje máquina que inserta los rostros de celebridades en los cuerpos de actrices pornográficas que actúan en films para adultos. La publicación Motherboard fue la primera en informar sobre los deepfakes y su pasatiempo en diciembre pasado, pero desde entonces, el concepto se ha vuelto viral. Ahora, las herramientas necesarias para crear estos videos porno “hechos en casa” con tus actrices de Hollywood y estrellas pop favoritas están al alcance de cualquiera y son muy fáciles de usar. Esto significa que incluso las personas que no tengan estudios de ciencias computacionales o con un conocimiento limitado de la tecnología pueden crear estas películas”.
Deepfakes anunció, en enero 8 de este año, el lanzamiento de su programa FakeApp, una aplicación creada para crear deepfakes. A partir de ello, la actividad en Reddit se incrementó notablemente en torno al uso de la aplicación y el intercambio entre usuarios de videos y fotografías alteradas.
OFV
