En Twitter circulan fotos y videos falsos que muestran la imagen de las estrellas femeninas más importantes de TikTok, y algunos tuits obtienen decenas de miles de visitas a pesar de las reglas de la plataforma contra la desnudez no consentida.
Una revisión de NBC News Tuesday de los resultados de búsqueda de Twitter de Addison Rae Easterling, Charli D’Amelio y Bella Poarch, las tres mujeres más seguidas en TikTok, encontró múltiples ejemplos de deepfakes sexualmente explícitos y sexualmente sugerentes publicados durante un período de 24 horas. . Investigaciones posteriores revelaron tweets con deepfakes que se habían publicado hace semanas y permanecieron en su lugar a pesar de que las políticas de Twitter los prohíben. Un deepfake es una forma avanzada de medios manipulados en los que la cara o la cabeza de una persona se inserta digitalmente en el cuerpo de otra persona.
Las estrellas femeninas de TikTok se han convertido en los principales objetivos de las falsificaciones profundas. La mayoría de los deepfakes en Internet son de naturaleza pornográfica y representan a mujeres famosas en situaciones sexuales, dijo una firma de detección de medios sintéticos llamada Sensity en un informe de 2019. La cantidad de pornografía y deepfakes en los resultados de búsqueda de las tres estrellas femeninas de TikTok fue sorprendente en comparación incluso con las actrices principales que son objetivos populares de deepfakes, como Emma Watson.
Un tuit particularmente viral publicado el 31 de mayo, un breve clip en el que se inserta la cara de Easterling en el cuerpo de una mujer en una cama, fue visto más de 21 millones de veces el martes, según las vistas públicas de Twitter. En comparación, el tweet anclado del propietario de Twitter, Elon Musk, tenía 26 millones de visitas en el momento de la publicación. Principales respuestas al tuit con el deepfake de Easterling vinculado a una versión más larga y sexualmente explícita de este video.
La persona detrás de esa cuenta de Twitter le dijo a NBC News que eliminó el tweet después de recibir una reacción violenta. La cuenta publica con frecuencia tweets sexualmente sugerentes que contienen videos auténticos de celebridades femeninas que atraen una atención similar.
Twitter no respondió a una solicitud de comentarios enviada por correo electrónico, que incluía enlaces a nueve cuentas que publicaban deepfakes pornográficos. Twitter luego suspendió seis de esas cuentas. Algunos de los enlaces, incluido un video falso sexualmente explícito que muestra la imagen de Poarch y varias imágenes pornográficas falsas de D’Amelio y su familia, todavía están en su lugar.
Los representantes de Easterling, D’Amelio y Poarch no respondieron a una solicitud de comentarios.
Los deepfakes no son nuevos en Twitter, y la compañía ha tomado medidas contra ellos en el pasado. En noviembre de 2021, Twitter suspendió una cuenta quien tuiteó un video deepfake sexualmente explícito de Easterling.
Pero en los últimos meses, los deepfakes de celebridades se han disparado en línea, incluso cuando las víctimas de los deepfakes se han pronunciado y algunos países y estados de EE. UU. Han aprobado leyes que prohíben la creación de deepfakes sexualmente explícitos sin consentimiento.
Al mismo tiempo, los esfuerzos de moderación de Twitter han sido objeto de escrutinio bajo el liderazgo de Musk. El New York Times informó que anunciantes fugitivos estaban «asustados» por el aumento de la incitación al odio y la pornografía en Twitter.
Twitter tiene dos reglas que se aplican a las falsificaciones profundas. La plataforma prohíbe explícitamente «imágenes o videos que superpongan o manipulen digitalmente el rostro de un individuo en el cuerpo desnudo de otra persona» bajo su desnudez no consentida política. La política establece que es posible que Twitter necesite escuchar a la persona objetivo de un deepfake o a su representante antes de tomar medidas. Twitter sintético y política de medios manipulados también se aplica a las falsificaciones profundas y depende de la forma, el contexto y las implicaciones de los medios.
La forma en que Twitter hace cumplir sus reglas ha sido objeto de un escrutinio cada vez mayor después de que Musk eliminó a miles de empleados, incluidos algunos en sus equipos de confianza y seguridad. Ella Irwin, la nueva jefa de confianza y seguridad de la compañía, renunció la semana pasada. Musk e Irwin no han comentado públicamente sobre las falsificaciones profundas no consensuales. En respuesta a la solicitud de comentarios de NBC News, el correo electrónico de prensa de Twitter envió su nueva respuesta automática, un emoji de caca.
Usando la función de búsqueda de Twitter, las consultas sobre los nombres de Rae, D’Amelio y Poarch revelaron una amplia variedad de contenido, desde cuentas de fans que publicaban fotos y videos auténticos y no explícitos de ellos, hasta pornografía dura y falsificaciones profundas. Algunas cuentas parecían publicar los mismos deepfakes repetidamente en un esfuerzo por dirigir a las personas a otras plataformas como Discord o Telegram, donde el material deepfake a menudo se comercializa abiertamente.
En un comunicado a NBC News, Discord dijo que sus pautas comunitarias «prohíben claramente la promoción o el intercambio de material íntimo no consensuado».
“Nuestro equipo de seguridad toma medidas cuando nos damos cuenta de este contenido, incluida la prohibición de usuarios, el cierre de servidores y, si es necesario, el contacto con las autoridades correspondientes”, dijo también el comunicado. Discord suspendió el servidor que, según NBC News, estaba vinculado a tuits que contenían deepfakes no consensuados de Easterling.
Algunas cuentas de Twitter que compartían deepfakes parecían estar funcionando a plena luz del día. Una cuenta que compartía imágenes de D’Amelio había acumulado más de 16.000 seguidores. Algunos tweets de esta cuenta que contenían deepfakes habían estado en línea durante semanas.
En algunos estados de EE. UU., el Reino Unido y Australia se ha aprobado legislación dirigida a las falsificaciones profundas sexualmente explícitas no consensuadas, pero muchas víctimas han tenido problemas para encontrar reparación cuando las imágenes se pueden cargar de forma anónima desde cualquier lugar. Las celebridades y personas influyentes que han sido objetivos populares de deepfake, incluida la actriz Scarlett Johansson, se han pronunciado sobre los pocos recursos que existen para las víctimas.
«Nada puede impedir que alguien corte y pegue mi imagen o la de otra persona en un cuerpo diferente y haga que se vea tan extrañamente realista como quiera», Johansson le dijo al Washington Post en 2018. Sin embargo, señaló, la gente generalmente no creía que los videos de ella fueran reales, y las víctimas menos conocidas podrían perder sus trabajos u otros daños a la reputación.
