“A nadie le gusta mi arte”, “¡Lo hice con mis propias manos!”, “Que 2024 sea tu mejor año hasta ahora”, son las palabras que acompañan a miles de extrañas imágenes de Jesucristo generadas por inteligencia artificial en la imagen de Facebook. . El algoritmo de la red los promueve, algunos de los cuales se vuelven virales y logran atraer una gran audiencia de páginas, para luego explotar su éxito para monetizar o incluso defraudar a los usuarios.
«Las imágenes son fascinantes: algunas son hermosas, otras son escabrosas y otras simplemente extrañas», dijo la investigadora de la Universidad de Stanford Renée DiResta, coautora de un artículo de marzo sobre el fenómeno titulado «Spammers and Scammers How to use images». Generado por inteligencia artificial en Facebook para impulsar el crecimiento de la audiencia. Miles de usuarios interactuaron con estas imágenes, muchos de los cuales simplemente dijeron «amén», lo que probablemente significaba que eran robots.
Con el paso de los años, Facebook se ha convertido en una red para compartir contenidos, con el objetivo fundamental de hacer crecer la audiencia. Jesucristo es otro recurso que es fácil de crear y llama la atención: «La competencia por la atención entre los creadores de páginas significa que utilizarán cualquier táctica que parezca funcionar, lo que incluye publicar recomendaciones generadas por IA que parecen estar promocionando contenido», DiResta. continuado.
El texto añadido por el autor ayuda a promover esta viralidad. En algunas imágenes, un niño negro se encuentra junto a una representación de espagueti de Jesucristo con las palabras: «Gracias a todos los que aprecian mi arte». Todas las imágenes sugieren que son artificiales.
El artículo académico analizó 120 páginas de Facebook, cada una de las cuales publicó al menos 50 imágenes generadas por IA. Prueba de éxito es que estas páginas cuentan con una media de casi 130.000 seguidores. Poco después de ver estas fotos, el algoritmo de Facebook proporcionó más ejemplos y nuevas variaciones. El contenido visto por El País procedía de páginas de usuarios latinoamericanos que combinaban estas imágenes religiosas con memes, animales y naturalezas muertas generadas por IA, superpuestas con «buenos días» o vídeos divertidos. Uno de ellos, un haitiano residente en México, respondió brevemente a este diario que sí hizo las imágenes, que a la gente le gustaron mucho y que reconoció que se podía ganar algo con ellas: «Sí», respondió, pero hizo ningún intento de explicar. Este usuario tiene más de 7.000 seguidores.
Más allá de las trampas dentro de Facebook, el argumento subyacente es: si la gente confunde estas imágenes ridículas con arte real, ¿qué sucede cuando el material generado por la IA es realmente real? No hay certezas, pero tampoco todos están confundidos. Debajo de una de las fotografías, un usuario dijo: «Qué escultura tan maravillosa, estas son las manos benditas de Dios, mi amor, eres un genio, Dios te bendiga hoy y mañana, Colombia te felicita por siempre». Señora, ¿cómo puede usted creer estas cosas, con qué facilidad puede engañarse, no se da cuenta de que es una falsedad? «No tiene que creer todo lo que se publica en Internet. «
La crédula mujer recibió otra respuesta explicando una de las estafas. Si alguien cree que estas imágenes falsas son reales, puede ser más ingenuo y fácilmente engañado: «Soy francesa y han pasado más de 13 años desde que mi marido maduró». [sic] En un accidente de coche. Después de su muerte, heredé la propiedad de mi marido. Teniendo en cuenta mi avanzada edad y mi salud, he decidido ayudar económicamente a quienes deseen recibir asistencia financiera para satisfacer sus necesidades, ya que no tengo hijos que se beneficien de mi patrimonio y no quiero que el gobierno me congele a mi muerte la propiedad de . Entonces, si estás interesado en actividades económicas, envíame un mensaje», agregando un enlace a un número real de WhatsApp.
«Las cuentas fraudulentas ocasionalmente interactúan con comentaristas crédulos en páginas y grupos, a veces solicitando información personal sobre ellos u ofreciendo vender productos inexistentes», explica el artículo. Una vez que haya creado una audiencia en un grupo o página, la forma en que intenta monetizarla varía: «Marcaremos una página como 'estafa' si: Primero, roban, compran o cambian el control de la página para engañar. seguidores; 2. tergiversan nombres, direcciones u otras características identificativas y/o, 3. venden productos falsificados”, detalla el artículo académico;
Algunas páginas que utilizan estas tácticas a menudo cambian de nombre y permiten que sus seguidores hagan otras cosas o comercialicen a su audiencia. Las páginas de spam utilizan la atención para dirigir a los usuarios a páginas llenas de anuncios fuera de Facebook.
Una imagen generada por IA que apareció en una de las publicaciones más populares de Facebook en 2023. Esta imagen está tomada del informe de contenido trimestral publicado por Meta.
Jesucristo es sólo una de las principales afirmaciones. Una de las 20 imágenes más vistas en Facebook en todo el mundo en el tercer trimestre de 2023 fue esta cocina con suelo de cristal. El sitio tuvo 40 millones de visitas y 1,9 millones de interacciones, según el informe trimestral de la plataforma sobre sus contenidos más vistos. Algunas de las páginas que probaron esta trampa también probaron animales, niños, cabañas o paisajes, cualquier cosa que pueda llamar la atención en Facebook: «Al igual que Picasso tuvo su período azul, estas páginas suelen pasar por períodos, decenas de «esculturas de nieve; tallas de sandías; docenas de tallas de madera; docenas de platos de sushi cuidadosamente dispuestos, cada uno en un estilo muy similar», afirma el artículo.
«Sospechamos que estos altos niveles de participación están impulsados en parte por el algoritmo de recomendación de Facebook», escribieron DiResta y su coautor Josh A. Goldstein de la Universidad de Georgetown en el artículo. Hace dos años, la red social cambió su algoritmo para parecerse más a TikTok, según un documento filtrado por Meta. El objetivo, dice el documento, es «ayudar a las personas a encontrar y disfrutar contenido interesante, ya sea creado o no por alguien con quien esté conectado». Los autores muestran cómo este contenido «recomendado para usted» ha aumentado de 8 en 2021 a. % que aumenta al 24% en 2023 (% de visualizaciones).
Si bien el centro de todas estas imágenes virales es Facebook, Instagram también está ahí: «Las imágenes generadas por IA también son populares en Instagram», dijo DiResta. «Son omnipresentes en Twitter, pero Facebook e Instagram están diseñados para permitir a las personas crear tipos específicos de contenido visual y construir audiencias con el tiempo».
En febrero de este año, Meta anunció que etiquetaría contenido generado por IA en Facebook, Instagram y Threads. Actualmente, esto no sucede en ninguno de estos casos. Este detalle es importante para evaluar los peligros potenciales. Si bien las imágenes generadas por IA son fáciles de detectar en algunos casos, no siempre es así: «Incluso cuando hay signos obvios, identificarlos aún requiere mucho esfuerzo cognitivo y se espera que el usuario promedio de Facebook simplemente navegue».
Puedes seguir a PeriodistasdeGénero Tecnología en Facebook y X o registrarte aquí para recibir nuestra newsletter semanal.
