Ciudad de México. Ante el aumento de discursos de odio y violencia, principalmente por creencias, religiones o conflictos raciales en el ciberespacio, el Instituto Politécnico Nacional (IPN) plantea construir el Observatorio contra el ciberodio en redes sociales, el cual mediante aplicaciones informáticas que funcionen con la Inteligencia Artificial se incorporarán filtros para identificar y eliminar este tipo de contenidos.
En un comunicado, el Politécnico destacó que el país no cuenta con un mecanismo de este tipo que mida e identifique estas interacciones virtuales. Ante el incremento de mensajes de aversión y narrativas en las redes sociales y el ecosistema digital, “es necesario que México oriente sus esfuerzos a la creación del primer Observatorio Digital contra el ciberodio, que permita analizar y contrarrestar este fenómeno”, afirmó Gina Gallegos García, jefa del Laboratorio de Ciberseguridad del Centro de Investigación en Computación (CIC).
Señaló que este tipo de iniciativas ya funcionan en otros países de Europa, mediante los cuales realizan el monitoreo de diversas plataformas de redes sociales, con el propósito de conocer las causas, impulsar mecanismos de atención y coordinar iniciativas para regular el uso del lenguaje.
Explicó que el Parlamento Europeo en España dio a conocer que el 50 por ciento de los jóvenes, entre 15 y 29 años, han sido víctimas de esos discursos en el último año. La aversión no se queda en las redes sociales, sino que deja secuelas psicológicas (estrés, ansiedad y depresión).
Gallegos puntualizó que las plataformas sólo eliminan el 28.43 por ciento de los contenidos reportados en redes sociales por vulnerar a grupos particulares por sus creencias, religiones o conflictos raciales, de acuerdo con datos del Observatorio Español del Racismo y la Xenofobia.
Sostuvo que los fenómenos relacionados con la polarización social, política y económica inciden de forma importante en el incremento de mensajes de odio en las redes sociales, espacio donde no hay reglas y a quienes emiten este tipo de discursos se les denomina Haters o Trolls.
