La red es uno de los espacios en los que se puede intercambiar más fácilmente información y uno de los que ha conseguido que se democratice mucho más el comentar y el intercambiar opiniones. En internet, cualquiera con una conexión puede dejar su opinión y puede señalar lo que piensa, lo que ha creado una nueva dinámica en lo que a compartir información se refiere y lo que ha llevado también a que se genere una nueva relación de los propios internautas con la información, como demuestra el hecho de que cada vez se dé más importancia a los comentarios y las opiniones de otros consumidores a la hora de tomar decisiones de compra.
Uno de los problemas a los que se enfrenta la red, sin embargo, es el potencial abuso que pueden generar este tipo de comportamientos. Ya no se trata solo del recurrente fantasma de los comentarios falsos, sino también de los comportamientos negativos que se pueden producir en este entorno. La red y su libertad para compartir información son también el entorno en el que se mueven las noticias falsas, la desinformación, la manipulación y los trolls.
Una pesadilla para las marcas
Los trolls son una pesadilla para las marcas, para los medios de comunicación en internet y para quienes se acaban convirtiendo en sus víctimas. Los trolls dejan comentarios ofensivos e incendiarios con el único interés de ofender y molestar a quienes son el target de sus mensajes. Frenar la actividad de los trolls es algo complicado. Los consejos que se suelen dar son los de no alimentarlos y casi mejor dejar que ellos mismos se acaben apagando (y denunciarlos en los casos ultraagresivos en redes sociales), pero a pesar de ello ignorar lo que hacen y dicen resulta difícil.
No han sido pocos los que han intentado comprender qué es lo que lleva a alguien a convertirse en un troll y los que han intentado analizar cómo nacen y cómo se les podría poner freno.
Cómo actúa la IA
Quizás, una de las potenciales soluciones sería la inteligencia artificial. Eso es lo que está probando una compañía estadounidense, Possible, que ha lanzado una campaña, We Counter Hate, que emplea la IA en Twitter para abordar los mensajes de los trolls. La firma ha entrenado a su IA para que sea capaz de identificar los mensajes de odio en esa red social y una vez que los ha detectado los pasa a un moderador humano.
Este es el que tiene la última palabra, ya que es el que se encarga de determinar si realmente el mensaje es o no es de odio. Una vez que el moderador señala cuál es la naturaleza del mensaje, la IA vuelve a intervenir. El tuit recibe entonces una respuesta que señala que «está siendo contrarrestrado» y invita a «pensarlo dos veces antes de retuitearlo». Es una marca indeleble de que el tuit original es un «mensaje de odio».
Por ahora, la campaña está en fase de nacimiento y desarrollo, por lo que no tienen exactamente datos de cómo está funcionando y de si estos mensajes ayudan a reducir el número de interacciones y engagement que reciben los mensajes de odio.
Aun así, la campaña abre una nueva vía potencial para tratar el problema de los trolls y de los mensajes incendiarios en redes sociales, especialmente ahora que el problema no es solo algo que preocupa, sino que se ha convertido en un auténtico dolor de cabeza para las propias compañías de redes sociales.
A medida que se pide más de ellas en términos de moderación de estos mensajes y se les da más toques de atención relacionados con lo que se comparte en ellas, la inteligencia artificial podría convertirse en una solución para abordar una cuestión que hasta ahora parecía bastante inabarcable.