A los usuarios que se comprometieron con Remini, un potenciador de fotografías de inteligencia artificial (IA), para generar fotografías de rostros profesionales para sus perfiles de LinkedIn, se les ha recordado una vez más el sesgo extremo y otros temas relacionados con el arte de la IA y generación de fotografías. La propensión de AI a generar fotos que perpetúan la sexualización de las mujeres, los estereotipos raciales y la dismorfia corporal no es un problema nuevo, pero parece que se ha hecho poco para remediarlo.
Los avances en IA han llevado a los usuarios a tener un acceso cada vez mayor a sistemas que pueden generar fácilmente arte y fotos de IA. Los usuarios pueden insertar texto o una foto en el sistema y ver cómo sus ideas cobran vida porque estos generadores de arte de IA han recibido cientos de millones de imágenes y subtítulos correspondientes para poder traducir texto a imágenes y reconocer objetos, estilos y patrones. en el conjunto de datos. Usan lo que aprenden de conjuntos de datos preexistentes para generar y mejorar nuevas fotos.
los parques y recreación de la canción pit
El problema (más bien, uno de muchos problemas), es que estos conjuntos de datos no están libres de sesgo -lejos de ahi. Algunos de estos modelos pueden estar entrenados específicamente en conjuntos de datos que carecen de diversidad y representación, o pueden estar usando imágenes públicas de Internet sin forma de filtrar el racismo y el sexismo que a menudo impregna la red global. Incluso con este conocimiento, muchos usuarios todavía están sorprendidos por cuán sexistas, racistas y, en general, sesgados pueden ser estos sistemas.
Usuarios horrorizados por generadores de disparos a la cabeza de IA sesgados
El potenciador de fotos AI Remini se ha vuelto viral después de que los usuarios afirmaron recientemente haber encontrado un truco profesional de disparos en la cabeza de LinkedIn. Los usuarios han estado subiendo selfies básicos o fotos de la cabeza, combinadas con una foto modelo de algo así como una persona en traje de negocios, para generar fotos mejoradas para sus cuentas de LinkedIn. Algunos usuarios ven esto como una alternativa más barata y fácil a Photoshop o contratar a un fotógrafo profesional. Sin embargo, el truco no funciona para todos.
El usuario de TikToker @mikefromdc creó el video de arriba, que muestra los resultados extraños y claramente 'no aptos para los negros' que recibió de Remini, lo que aclaró notablemente su piel y, por alguna razón, le dio un durag, a pesar de que no estaba usando uno en cualquiera de las fotos que envió como referencia.
Los resultados son potencialmente aún más aterradores para las mujeres POC que intentan usar el generador. La artista Lana Denina compartió sus resultados en Twitter y señaló que, aunque usó selfies faciales simples como referencia, Remini produjo imágenes hipersexualizadas de cuerpo completo generadas por IA. Las imágenes mostraban un escote sustancial y una foto mostraba a una mujer con un blazer abierto sin camisa debajo. Denina dijo que estaba 'horrorizada' de que todo lo que necesitaba el generador de IA eran sus rasgos faciales para mostrar su sesgo.
george lucas violó nuestra infancia
Probé el generador de imágenes AI linkedin/curriculum y este fue el resultado. Las imágenes que di como referencia son selfies simples de mi cara SOLAMENTE. Pero aún así, la IA me sobresexualizó debido a mis características que han sido fetichizadas durante siglos. La IA está sesgada por POC. estoy horrorizado pic.twitter.com/YOf0tdFAol
— ???? ?????? (@lanadenina) 15 de julio de 2023
En las respuestas al tuit de Denina, otra mujer reveló que obtuvo resultados similares. También compartió las fotos que envió, que incluían una foto de ella completamente vestida de los hombros hacia arriba y una foto de modelo de una mujer en ropa de negocios. Sin embargo, una vez más, el sistema generó una foto de una mujer con un blazer sin camiseta, dejando al usuario desconcertado sobre cómo el sistema generó eso a partir de dos fotos profesionales de mujeres.
Obtuve los mismos resultados... ¿Cómo la imagen de modelo que elegí y la imagen que publiqué generaron el escote? pic.twitter.com/cvzkdB9WqO
netflix fullmetal alquimista acción en vivo— Ades?? (@megantheepone) 16 de julio de 2023
Nuevamente, los problemas con la IA que hipersexualiza a las mujeres, y especialmente a las mujeres de color, no son nuevos, pero estos ejemplos fueron especialmente impactantes. Estos usuarios establecen un tono profesional para la foto con su modelo e imágenes de referencia, estableciendo parámetros apropiados que la IA debería haber podido utilizar de manera efectiva. Uno puede imaginar lo discordante que es enviar una simple foto de la cara y solicitar una foto profesional en la cabeza a cambio, solo para recibir imágenes hipersexualizadas de cuerpo completo sin camisa. Esto parece hacer eco de los resultados de un estudio de 2021 que encontró que La IA sexista es aún más sexista de lo que algunos pueden haber pensado. Incluso cuando estos sistemas reciben 'plantillas corporativas' y fotos no sexuales, la mera presencia de rasgos faciales femeninos negros da como resultado una foto sexualizada.
Remini destaca una multitud de problemas que existen en torno a las fotos generadas por IA. Incluso cuando se está extendiendo la conciencia del sesgo en estos sistemas, aún puede ser dañino. En la mayoría de los casos, estos generadores se comercializan como 'mejorar' las fotos y hacer que se vean mejor. Es fácil ver dónde viene el daño cuando los usuarios reciben fotos con rasgos caucásicos, escote más grande y cuerpos más delgados y se les dice que eso es lo que se considera mejor y preferible. Algunos usuarios ya notaron que estaban usando su Fotos generadas por IA como motivación para perder peso .
Los usuarios deben comprender que los generadores de fotos de IA como Remini no son entidades neutrales. Son extremadamente sesgados y las imágenes que ofrecen definitivamente no deben verse como realistas, y mucho menos como aspiraciones.
(imagen destacada: piranka/Getty Images)
