Redes bajo la lupa: ocho de cada 10 usuarios apelaron prohibiciones impuestas a sus cuentas

Una persona publica en Instagram una imagen donde se ven los pechos de una mujer como parte de una campaña para concientizar sobre el cáncer de mama, pero la red social la elimina por “desnudo”. Tiempo después, Donald Trump postea un video durante la toma del Capitolio en Washington con la frase “los queremos”, en referencia a los vándalos, y Facebook le suspende la cuenta. Estas decisiones, junto a más de un “un millón de apelaciones”, fueron revisadas por el Consejo Asesor de Contenidos, el organismo creado por Meta y del que dependen las redes. Ahora, con la idea de explicar cómo se moderan los contenidos en el mundo virtual, el Consejo reveló su primer informe sobre casos testigos relacionados a posteos eliminados o restringidos en las plataformas, según el cual 8 de cada 10 usuarios apelaron la prohibición impuesta a sus redes sociales. ¿Pero por qué se prohibe cuando se prohibe?

Entre octubre de 2020 y diciembre de 2021, el Consejo -que no solo revierte las decisiones de Meta sino que también recomienda cambios para mejorar el tratamiento que reciben los usuarios- recibió más de un millón de solicitudes para revisar decisiones de Meta sobre moderación de contenidos. Un total de 2.649 casos diarios. En promedio, como se dijo, 8 de cada 10 usuarios apelaron a la restauración de contenidos en relación con las reglas de esas redes sobre bullying, lenguaje que incita al odio o violencia e incitación.

Además, el propio informe precisa que el Consejo tuvo en cuenta más de 10 mil comentarios de personas y organizaciones de todo el mundo para la toma de decisiones, y emitió a Meta 86 recomendaciones, de las cuales ese grupo acreditó la realización de progresos o la implementación de las recomendaciones.

Una de las decisiones tomadas por el Consejo “sentó un importante precedente al poner de relieve la incapacidad de los sistemas de cumplimiento de normas automatizados de Meta”, según describió, para distinguir imágenes permitidas de pezones femeninos al descubierto en una campaña de concienciación contra el cáncer de mama.

En concreto, un usuario de Brasil publicó en octubre de 2020 una imagen en Instagram con un título en portugués cuyo objetivo era generar conciencia acerca del cáncer de mama. Pero un sistema automatizado encargado del cumplimiento de la norma de Facebook en cuanto a desnudos y actividad sexual de adultos eliminó la publicación (la norma también era aplicable a Instagram).

En este caso, el Consejo revocó la decisión de Meta porque la norma contempla, como excepción, la exhibición de desnudos en los casos en los que el usuario pretenda “concientizar acerca de una causa o con fines educativos o médicos“ y permite, de manera específica, la publicación de imágenes de pezones femeninos al descubierto para “incrementar la concienciación acerca del cáncer de mama”.

LE PUEDE INTERESAR

Twitter prueba un nuevo formato para permitir que se escriba mucho más

LE PUEDE INTERESAR

Definen si la viruela del mono constituye una emergencia mundial

OTRO CASO, OTRO EJEMPLO

El caso de Trump fue más largo y tuvo varios idas y vueltas entre el Consejo y Meta. Comenzó el 6 de enero de 2021, luego de que una multitud entrara a la fuerza en el edificio del Capitolio en Washington, y el por entonces presidente de Estados Unidos publicara un video en Facebook e Instagram en el que alentaba a los vándalos.

En su blog oficial, Meta había explicado que eliminó las publicaciones del ex presidente por infringir la política que prohíbe “la exaltación, el apoyo o la representación de eventos designados como violentos”. Según ese grupo, el contenido también infringía la parte de la política que prohíbe “la exaltación de individuos que participan en actos de violencia organizada”.

Los casos más curiosos son los de Trump y el de una cuenta que subió la foto de un pezón

La empresa explicó que la decisión de suspender la posibilidad de publicación de Trump con carácter indefinido se tomó en base a las normas internacionales sobre derechos humanos, sobre todo en base al artículo 19 del Pacto Internacional de Derechos Civiles y Políticos y la Observación general 34 del Comité de Derechos Humanos de la ONU, que permite aplicar restricciones necesarias y proporcionadas al derecho de libertad de expresión en situaciones de emergencia pública que supongan una amenaza para la vida de la nación.

Con todo, y tras un ida y vuelta con la compañía, el Consejo consideró “inapropiada la decisión de Meta de imponer una sanción indeterminada y sin fundamentos normativos de suspensión indefinida”.

En respuesta a esta decisión, Meta anunció la adopción de un nuevo conjunto de protocolos de cumplimiento de normas “para casos excepcionales como este” y, según esos protocolos, actualizó la suspensión de la cuenta de Trump por dos años a contar desde el 7 de enero de 2021.

Al aproximarse a la fecha de vencimiento de la sanción, la compañía se comprometió “buscar expertos para evaluar si ya no existen riesgos para la seguridad pública”, entre otros escenarios.