Discursos de odio: un flagelo que sufren cada vez más chicos y adolescentes

En un reciente sondeo realizado por el Fondo de las Naciones Unidas para la Infancia (Unicef), el 13 por ciento de los adolescentes de nuestra región dijo haber experimentado situaciones de violencia o estado expuesto a publicaciones violentas en redes sociales o en internet. Otro relevamiento realizado sobre la base de distintas consultas efectuadas a un total de 794 jóvenes, indica que el 70 por ciento cree que aumentaron las actitudes de odio en las plataformas digitales; 9 de cada 10 ha sido testigo de un ataque hacia una persona o grupo; el 44 por ciento ha sufrido agresiones por parte de haters (personas que utilizan internet y las redes sociales para atacar, burlarse o tratar de generar un impacto negativo en alguien que eligen como víctima).

Estos discursos de odio, según el informe, se concentran principalmente en Twitter (52 por ciento) e Instagram (21 por ciento). Casi uno de cada dos encuestados afirmó que la comunidad LGTBIQ+ es el colectivo más atacado por haters. Y únicamente el 26 por ciento dijo conocer alguna herramienta para lidiar con casos de haters.

Pero estos son solo algunos de los datos alarmantes de esta problemática.

“Estos discursos tienen como principales víctimas a las y los adolescentes”, explicó Natalia Calisti, especialista en Comunicación de Unicef Argentina. “Dado que sólo el 26 por ciento conoce alguna herramienta para lidiar con haters, #AlHaterNiCabida tiene como objetivo entender de dónde nacen estos discursos, cómo todas y todos podemos reproducirlos y brindar recomendaciones tanto a quienes los sufren, como a su entorno, para evitarlos”, agregó en referencia a una campaña que fue lanzada para intentar visibilizar este flagelo.

Ésta tiene entre sus objetivos empoderar a los adolescentes con herramientas y sensibilizar a la sociedad para evitar y no amplificar estos mensajes de odio.

A través de un spot con jóvenes activistas la campaña busca visibilizar el circuito del “hateo” y concientizar sobre la importancia de romper las barreras que impiden a las chicas y los chicos mostrarse como son, indicó la organización internacional.

La movida cuenta con el apoyo de artistas y deportistas, como Lali Espósito, Benjamín Vicuña, Rocío Gómez, Natalia Oreiro y Ángel Di María, y de jóvenes activistas que vienen alertando sobre la circulación de los mensajes de odio y sobre cómo afectan directamente en la salud física y mental de quienes los reciben.

Intolerancia y discriminación

Los discursos de odio son “expresiones que generan un clima de intolerancia que promueve la discriminación, la hostilidad y la violencia”, señaló Unicef, y marcó que “es importante recordar los derechos esenciales para las infancias y las adolescencias: a una vida libre de violencia, acoso y abuso, al derecho al uso de internet, a relacionarse con pares y al derecho a la información”.

El organismo también advirtió que existe en las redes un aumento sostenido de los casos de ciberbullying y discriminación por diferentes motivos desde julio de 2020, de acuerdo con el informe sectorial de Educación de la 5ta. encuesta sobre el impacto de Covid-19 en niños, niñas y adolescentes en la Argentina, publicado en febrero de este año.

Únicamente el 26% conoce alguna herramienta para lidiar con casos de haters

En los videos de la campaña participan Florencia Cambareri, activista por la discapacidad y la inclusión; Alex Llamazares, activista para la visibilización de la violencia de género hacia las mujeres y las diversidades; Candela Yatche, fundadora de la organización Bellamente, que promueve la aceptación social de la diversidad corporal, sexual y de género; Nicolás Osorio Cruza, de la organización Identidad Marrón, un colectivo que trabaja para cambiar discursos racistas, y Camila Debiasi, artista y gamer que promueve la participación de chicas en los juegos online.

Quienes ingresen a la web www.unicef.org/argentina/al-hater-ni-cabida podrán acceder a materiales que brindan información sobre cómo actuar ante los discursos de odio online, qué herramientas brindan las redes sociales para poder hacerles frente y cómo pedir ayuda.

Los memes, no siempre armados con humor inocente

A la hora de explicar los filtros que las distintas páginas y plataformas utilizan contra los discursos de odio o las imágenes agresivas, existe consenso en que una de las mayores complicaciones para la detección del lenguaje que incita al odio se produce en los memes, al combinar imagen y texto, por lo que las herramientas de inteligencia artificial deben comprender el sentido integral de ambos mensajes.

En Facebook, para tal fin crearon las Inserciones de Integridad de la Publicación en Conjunto (WPIE, por sus siglas en inglés), una representación universal pre-entrenada del contenido para evitar problemas de integridad.

“La combinación de texto e imágenes dificulta la tarea de la IA para determinar si existe una intención de ofender”, se apuntó desde la plataforma, porque también “puede disfrazarse con sarcasmo, o con imágenes aparentemente inofensivas que se perciben de forma diferente según la cultura, la región o el idioma”.

Para manejar mejor estos desafíos, se implementó un nuevo marco de aprendizaje reforzado, que en lugar de depender de un conjunto de datos estático (y, por lo tanto, limitado) fuera de Internet, “usa datos de Internet, del mundo real, de nuestros sistemas de producción para optimizar los modelos de IA que detectan el lenguaje que incita al odio. El funcionamiento de las WPIE consiste en entender los distintos tipos de infracción, las modalidades e incluso el momento de publicación del contenido”.