Impacto y prevención
Desafíos para detectar el discurso de odio
Para desarrollar respuestas efectivas y mitigar el impacto del discurso de odio en nuestras sociedades, necesitamos supervisar y analizar este fenómeno. Necesitamos comprender mejor la dinámica del discurso de odio, incluidas las motivaciones motivaciones de su difusión. Esto es especialmente importante en el contexto de una crisis acompañada de miedos.
Pero la falta de una definición universal para el discurso de odio dificulta el estudio de este fenómeno a escala mundial. También lo hacen los variados contextos sociales, culturales e históricos asociados al discurso del odio. Otras dificultades son la diversidad de legislaciones nacionales, las sutilezas lingüísticas y locales concretas, además de la variedad de comunidades en línea y formas de discurso de odio que se dan en Internet, por nombrar solo algunas. Otro reto es que las víctimas pueden no denunciar sistemáticamente el discurso de odio a las autoridades pertinentes, por diversas razones, empezando por la falta de concienciación. La investigación del discurso de odio en línea también se complica por la falta de transparencia de los algoritmos patentados y la falta de acceso a los datos en poder de empresas privadas.
En el mundo digital, las empresas de Internet deben ser capaces de contrarrestar la propagación del discurso de odio en línea dentro de sus plataformas para cumplir con las legislaciones internacionales sobre derechos humanos. Aunque las empresas de redes sociales han comenzado a informar de la cantidad de contenido marcado y eliminado de sus plataformas, su eficacia se ha puesto en tela de juicio. La confianza que estas depositan en la detección automática (más que gracias a la intervención humana) para identificar y eliminar este discurso de odio tiende a provocar errores y puede afectar a la libertad de expresión de los usuarios. Esto pone de relieve la necesidad de una mayor transparencia sobre cómo se aplican y evalúan las políticas de incitación al odio.
La Estrategia y Plan de Acción de las Naciones Unidas para la lucha contra el Discurso de Odio identifica áreas prioritarias para combatir el discurso de odio, y varias entidades de la ONU están realizando una investigación para reconocer, supervisar y analizar las tendencias del discurso de odio.
Los Gobiernos y las compañías de internet fallan al combatir el odio cibernético
Un experto de la ONU en derechos humanos, Relator Especial sobre la libertad de opinión y de expresió, pide a los Estados y a las grandes empresas de redes sociales que refuercen y revisen sus políticas para combatir el discurso odio en sus plataformas que con su velocidad y alcance pueden dispersarlo y provocar grandes daños en la vida real, antes del lanzamiento de un informe de referencia para reforzar los estándares legales en los espacios en línea.