Un estudio documenta que Facebook e Instagram distribuyeron más de 3.300 anuncios porno en Europa en el último año, mostrándolos 8 millones de veces con «las mismas imágenes» que prohíben publicar a los usuarios
Instagram y Facebook cobran por anunciar la app de inteligencia artificial usada para desnudar a menores en Almendralejo
Cuando Mark Zuckerberg acabó con el programa de verificación independiente de Meta acusando de “censura” a las organizaciones que llevaban a cabo ese trabajo abrió una polémica que aún sigue en auge. Un reciente informe de la ONG europea AI Forensics, especializada en la investigación de los algoritmos opacos, ha señalado que mientras Facebook e Instagram “censuran inmediatamente” las publicaciones de los usuarios que muestran desnudez parcial o algunas partes del cuerpo, como los pezones de las mujeres, Meta ha permitido la difusión de más de 3.300 anuncios con contenido pornográfico en el último año en Europa.
El estudio, denominado Pay-to-Play: El (doble) estándar de la comunidad de Meta sobre anuncios pornográficos, argumenta no se trata de un error puntual, sino de una práctica sistemática que se ha mantenido desde al menos diciembre de 2023. “Nuestros hallazgos sugieren que aunque Meta tiene la tecnología para detectar automáticamente el contenido pornográfico, no la utiliza para hacer cumplir sus normas comunitarias en los anuncios como lo hace para el contenido no patrocinado”, denuncian los investigadores.
“Los algoritmos de Meta pueden identificar contenido sexualmente explícito y eliminarlo cuando se publica desde una cuenta de usuario, pero el mismo contenido se aprueba y se distribuye activamente a millones de usuarios cuando pasa por su sistema de publicidad”, recalcan. Los anuncios detectados por AI Forensics promocionaban productos para la mejora sexual, algunos de los cuales eran fraudulentos, así como páginas web de prostitución. En algunos casos, incluso se utilizaron imágenes generadas por IA, incluyendo deepfakes de actores y actrices famosos.
La investigación revela que estos anuncios generaron más de 8 millones de impresiones solo en la Unión Europea, dirigidos principalmente a hombres mayores de 44 años. El informe refiere además que entre estos anuncios, los investigadores encontraron incluso algunos que se basaban en “conversaciones e imágenes pornográficas incestuosas en Whatsapp”. Tenían formatos traducidos en múltiples idiomas europeos, incluido el castellano.
Ejemplos de anuncios de contenido incestuoso recogidos en el informe de AI Forensics
La prueba definitiva de AI Forensics llegó cuando los investigadores intentaron subir imágenes como estas a perfiles de usuario normales y corrientes. “Para demostrar que la falta de moderación no se debe a una limitación técnica, subimos las mismas imágenes como publicaciones estándar no patrocinadas en Instagram y Facebook. Fueron rápidamente eliminados por infringir las normas de la comunidad Meta”, revelan.
Meta dice que los está eliminando
En declaraciones a elDiario.es, una portavoz de Meta ha reconocido que sus normas prohíben el contenido para adultos en los anuncios, lo que incluye desnudos, pero también representaciones de personas en posturas explícitas, sugerentes o sexualmente provocativas. “Meta prohíbe mostrar desnudos o actividad sexual en anuncios o publicaciones orgánicas en nuestras plataformas”, ha afirmado.
Pese a ello, AI Forensics documenta en su informe 3.316 casos desnudos completos, genitales visibles y actividad sexual. En su informe se mostraban 446 imágenes y vídeos pornográficos distintos.
En este sentido, la multinacional asegura que está eliminando los anuncios que los investigadores de la ONG han compartido con ella. “Los actores maliciosos están evolucionando constantemente sus tácticas para evitar la aplicación de la ley, por lo que seguimos invirtiendo en las mejores herramientas y tecnología para ayudar a identificar y eliminar el contenido infractor”, justifica su portavoz.
Desde AI Forensics, en cambio, recalcan que esta “doble moral” de Meta con los anuncios y las publicaciones de los usuarios y la permisividad “cuestiona sus declaraciones en los Informes de Evaluación de Riesgos de Instagram y Facebook exigidos por la DSA [La Ley de Servicios Digitales europea], ya que esta exige una «revisión proactiva» de los anuncios para hacer cumplir las Normas de Publicidad de la plataforma, pero en gran medida no lo hace”.
Las apps para desnudar mujeres con inteligencia artificial
El pasado marzo, elDiario.es documentó que Facebook e Instagram han mostrado en España anuncios de aplicaciones para crear deepfakes de mujeres desnudas con inteligencia artificial. Se trata de servicios del mismo tipo que el que causó un escándalo en Almendralejo (Badajoz), cuando un grupo de estudiantes menores de edad lo usó para crear imágenes de sus compañeras de instituto que las mostraban desnudas.
Meses después, ese tipo de publicidad siguen activa en las plataformas de Meta, tal y como aparece en su Biblioteca de anuncios. Esta herramienta recoge que dichos contenidos tienen decenas de versiones diferentes, aunque la compañía ahora oculta cuál ha sido su número de impactos o cómo se segmentaron entre los diferentes perfiles de usuarios, datos que antes sí aparecían en la descripción de cada anuncio. En el siguiente vídeo se muestran dos de ellos que estaban activos este viernes.
Como explican los investigadores de AI Forensics, Meta es una de las compañías más avanzadas del mundo en el campo de inteligencia artificial, gracias en parte al material de entrenamiento que han proporcionado los contenidos subidos por sus usuarios. Dentro de este campo, destaca por sus algoritmos de reconocimiento de imágenes. elDiario.es también ha preguntado a Meta por qué sus sistemas no han sido capaces de reconocer anuncios como los mostrados de manera habitual, pero en este caso no ha recibido respuesta.
Según sus últimas cuentas publicadas, el 96% de los ingresos de la corporación de Mark Zuckerberg proviene de la publicidad. Meta ha disparado su beneficio en los últimos trimestres después de atravesar la mayor crisis de la historia de la compañía en 2022. Tras el bache, logró cerrar el 2023 con un aumento de sus ganancias del 68%, hasta los 39.098 millones de dólares, una tendencia que ha conseguido mantener desde entonces. En el tercer trimestre de 2024, por ejemplo, logró unos beneficios récord de 15.688 millones de dólares, un 35% más que el mismo período de 2023.