A partir del 5 de marzo de 2023, muchos usuarios de aplicaciones y redes sociales se sorprendieron cuando se encontraron con anuncios de Facemega, una aplicación de 'Intercambio de caras falsas profundas'. El Anuncio falso aparentemente muestra actrices famosas , como Emma Watson, sonriendo seductoramente a la cámara y moviéndose en una posición sexualmente sugerente. Si bien no se muestra nada explícito en el anuncio de segundos de duración, el clip fuertemente sugerente podría haber sido fácilmente la apertura de un video pornográfico.
Por supuesto, la mujer del video no es Watson. Esta tampoco es la primera vez que la actriz ha sido víctima de contenido falso que utiliza su imagen para material sexual sin su consentimiento. Para aquellos que no están familiarizados con deepfake, es una forma de manipulación de video/imagen que utiliza tecnología de inteligencia artificial (AI) para alterar la cara o el cuerpo de un individuo de manera convincente. Un ejemplo popular de un deepfake es del joven Luke Skywalker (Mark Hamill) cameo en el mandaloriano , que Disney creó predominantemente a través de deepfakes con un poco de CGI.
Sin embargo, deepfake no solo se usa en la industria del cine, sino que también se usa ampliamente en Internet con fines maliciosos. Aunque la técnica ha existido de alguna forma desde la década de 1990, el término deepfake fue en realidad acuñado por primera vez en 2017 por un Redditor que usó la tecnología para crear videos pornográficos. La utilización de deepfake para material para adultos se ha vuelto cada vez más preocupante, ya que la cara de casi cualquier persona puede superponerse en contenido gráfico y circular en Internet sin su consentimiento.
Las tiendas de aplicaciones ofrecen herramientas deepfake que pueden usarse para el acoso
En medio de las crecientes preocupaciones sobre el uso malicioso de deepfakes, muchos se preguntan por qué las tiendas de aplicaciones ofrecen un fácil acceso a estas herramientas. Para empeorar las cosas, algunas aplicaciones están lanzando anuncios que en realidad alentar el uso malicioso de sus herramientas. La usuaria de Twitter y periodista independiente @laurenbarton03 quedó tan sorprendida cuando se encontró con un anuncio sexual falso con la imagen de Watson, que lo grabó en pantalla. El usuario explicó que acababa de usar una aplicación de calcomanías llamada Borrador de fondo ~ Pegatinas cuando apareció el anuncio.
pelicula sobre mary shelley escribiendo frankenstein
Recibí este anuncio ayer y wow, qué demonios pic.twitter.com/smGiR3MfMb
golpea la definición de la última palabra— lauren (@laurenbarton03) 6 de marzo de 2023
Sin embargo, esto no fue solo una ocurrencia de una sola vez. Además de aparecer en ciertas aplicaciones, noticias de la nbc informó que 230 de estos anuncios se distribuyeron en las plataformas de redes sociales, incluidas Facebook, Instagram y Messenger. Watson y Scarlett Johansson fueron víctimas de los anuncios de la aplicación deepfake, aunque la imagen de Watson se usó para la mayoría de los anuncios. Meta no ha abordado públicamente los anuncios, pero se eliminaron de la plataforma el 7 de marzo. Además, la aplicación Megaface ya no está disponible en la tienda de aplicaciones. Sin embargo, antes de que fuera eliminada, la aplicación anunciaba que era para usuarios mayores de 9 años.
Los anuncios rápidamente provocaron una reacción violenta de los usuarios de las redes sociales. noticias de la nbc La reportera, Kat Tenbarge, señaló que la aplicación estaba facilitando que las mujeres fueran acosadas, humilladas y discriminadas sexualmente.
Esta es solo una nueva forma de acosar sexualmente a las mujeres. Te está quitando la autonomía corporal y obligándote a usar material sexual no consensuado, que luego puede usarse para humillarte y discriminarte. Por no hablar de los efectos psicológicos. https://t.co/3dvc6fafnC
— Kat Tenbarge (@kattenbarge) 6 de marzo de 2023
Aunque estas mujeres son víctimas y están siendo utilizadas en contenido sexual sin consentimiento, existe la posibilidad de que sigan siendo discriminadas por ello. Estas víctimas podrían perder sus trabajos, enfrentarse a la ira de una pareja abusiva o ser objeto de todas las formas de ciberacoso, acoso y acecho. La tecnología deepfake puede arruinar fácilmente la vida de alguien en cuestión de minutos. Entonces, ¿por qué las aplicaciones siguen ofreciendo estas herramientas? En algunos casos, estas aplicaciones falsas y de intercambio de rostros son gratuitas. Para Megaface, el costo era de solo por mes y, aunque los términos del servicio establecían que los usuarios no podían “ hacerse pasar por otra persona” o enviar contenido que era 'sexualmente explícito', no está claro qué tan bien se aplican estas reglas, especialmente cuando los anuncios de la aplicación no las siguen.
Emma Watson y Scarlett Johansson han sido objetivos de deepfake antes
Lamentablemente, tanto Watson como Johansson han sido víctimas de videos falsos en el pasado. Si bien Johansson no ha respondido a los anuncios de Megaface, se abrió a la pornografía profunda en 2019. En su declaración, llamó tratando de lucha contra la pornografía deepfake 'inútil'. Mencionó cómo las leyes de derechos de autor y los derechos sobre la propia imagen varían de un país a otro. Como resultado, incluso si uno logra eliminar un sitio o una imagen en los EE. UU., no se garantiza ese resultado para el resto del mundo al que se extiende Internet. Debido a la 'anarquía' de Internet, incluso aquellos con más recursos que la persona promedio encuentran inútil combatir la pornografía falsa.
Cuatro años después, los comentarios de Johansson siguen siendo relevantes, ya que deepfake continúa disfrutando de la anarquía de Internet. A principios de este año, la streamer QTCinderella se convirtió en víctima de la pornografía deepfake después de que la streamer de Twitch, Atrioc, revelara las imágenes gráficas de ella y otras streamers femeninas. Inicialmente prometió emprender acciones legales, pero semanas después reveló que el sistema legal le impedía demandar a los creadores de los videos. Esto se debe a que, si bien casi todos los estados tienen leyes que prohíben compartir contenido sexual de una persona sin su consentimiento, casi ninguno de estos las leyes de los estados se extienden a las imágenes falsas .
criatura captada en cámara de venado
A medida que pasan los años, la situación se vuelve cada vez más frustrante. Años después de que esto comenzara a convertirse en un problema, el sistema legal aún promete poca o ninguna protección para las víctimas de la pornografía falsa. Además, los anuncios y la aplicación de Megaface muestran que esta tecnología está cada vez más disponible para la población. Las aplicaciones ahora brindan las herramientas a costos mínimos en un formato que puede ser utilizado por casi cualquier persona, no solo por aquellos con experiencia tecnológica. Si bien Meta, Google y Apple han intentado tomar medidas contra el contenido para adultos generado por IA y las aplicaciones que anuncian la creación de pornografía falsa, sus esfuerzos aún no son suficientes para detectar todas las violaciones de sus reglas. Además, en el tiempo que les lleva atrapar a perpetradores como Megaface, cientos de anuncios ya pueden haber circulado ampliamente por Internet y tener consecuencias que alteran la vida de las víctimas.
(imagen destacada: STXfilms / Megaface)
