“
Instagram ha sido criticado después de que un estudio danés revelara que no eliminó contenido de autolesiones Crédito: Shutterstock: Sergei Elagin
Según un nuevo estudio, Instagram podría estar fomentando activamente la propagación de autolesiones entre los adolescentes, y Meta está siendo culpada por no eliminar imágenes explícitas en la plataforma de redes sociales.
Investigadores daneses han estado tratando de llegar al fondo de cómo Instagram podría estar incitando a los adolescentes a participar en prácticas de autolesión y han criticado a la plataforma de redes sociales por no controlar el contenido e incitar a los seguidores de las redes sociales a interactuar con contenido y hacerse amigos entre ellos. Han dicho que su moderación es “extremadamente inadecuada”.
Para investigar más a fondo, los investigadores daneses crearon una red privada de autolesiones en Instagram, que incluía perfiles falsos de adolescentes de tan solo 13 años. Aquí, compartieron 85 piezas de contenido relacionado con autolesiones que aumentaban gradualmente en gravedad, incluyendo sangre, cuchillas de afeitar y promoción de autolesiones. El objetivo del estudio era poner a prueba la afirmación de Meta: afirmaba haber mejorado significativamente la eliminación de contenido dañino utilizando inteligencia artificial (IA). También afirmaba eliminar alrededor del 99 por ciento del contenido dañino antes de que los usuarios pudieran informarlo.
Más leído en Euro Weekly News
Instagram criticado por no eliminar imágenes explícitas de autolesiones
Digitalt Ansvar (Responsabilidad Digital), una organización que promueve el desarrollo digital responsable, desmintió estas afirmaciones, descubriendo que no se eliminó ni una sola imagen en el experimento de un mes. Instagram claramente no estaba cumpliendo con su política ni con la ley de la UE.
La Ley de Servicios Digitales obliga a los grandes servicios digitales a identificar y eliminar los riesgos que puedan provocar consecuencias negativas graves para la salud física o mental. Meta había dicho: “El contenido que fomenta la autolesión va en contra de nuestras políticas y eliminamos este contenido cuando lo detectamos. En la primera mitad de 2024, eliminamos más de 12 millones de piezas relacionadas con el suicidio y la autolesión en Instagram, el 99% de las cuales eliminamos de forma proactiva. A principios de este año, lanzamos Cuentas de Adolescentes de Instagram, que colocarán a los adolescentes en el entorno más estricto de nuestro control de contenido sensible, para que tengan aún menos probabilidades de que se les recomiende contenido sensible y, en muchos casos, ocultamos por completo este contenido”.
Sin embargo, el estudio danés descubrió que el algoritmo de Instagram estaba promoviendo la expansión de páginas dañinas y redes de autolesiones.
Los algoritmos de Instagram promueven la expansión de sitios de autolesiones
El estudio danés encontró que en lugar de intentar cerrar la red de autolesiones, el algoritmo de Instagram estaba ayudando activamente a que se expandiera. La directora ejecutiva de Digitalt Ansvar comentó lo sorprendida que estaba de que, aunque las imágenes eran severas, la plataforma parecía no mostrar ninguna reacción y la IA era ineficiente en eliminarlas.
El problema que surge es que las imágenes de autolesiones pueden resultar en “consecuencias graves”, incluido el suicidio. Los grupos de autolesiones tienden a ser pequeños, pero si no hay moderación o conciencia, continuarán floreciendo mientras Meta siga promoviendo su crecimiento. La psicóloga Lotte Rubæk abandonó un grupo de expertos globales después de acusar a Meta de “hacer la vista gorda” ante el contenido dañino de Instagram. Añadió: “No habría pensado que sería cero de 85 publicaciones las que eliminaron. Esperaba que fuera mejor”.
Mientras tanto, existe el temor de que Meta no esté cumpliendo con sus promesas y que la falta de eliminación de imágenes de autolesiones esté “desencadenando” a mujeres jóvenes vulnerables a hacerse más daño, lo que podría ser un factor en el aumento de las cifras de suicidio.
Leer más sobre Dinamarca
“