'Rosetta', el sistema de inteligencia artificial de Facebook que les ayudará a entender e identificar 'memes'

Tras los problemas de privacidad que ha enfrenado Facebook, lo siguiente es tratar de limpiar su imagen a través de nuevas herramientas con las que, aseguran, tendrán un mayor control de lo que sucede y se comparte en su red social.

En mayo de este año, Facebook presentó su primer informe de transparencia donde adelantaron la llegada de herramientas automatizadas de inteligencia artificial, las cuales ayudarían en las labores de moderación de contenido. Pues la primera de ellas ya está aquí, se llama ‘Roseta’ y su objetivo es identificar memes y su contenido.

‘Reconocimiento de memes’ usando machine learning

Según la compañía de Zuckerberg, ‘Rosetta’ ya está en operación y diariamente extrae texto del mil millones de imágenes y frames de vídeos tanto en Facebook como en Instagram. Esto, afirman, ayuda a las labores de moderación, ya que el equipo de seres humanos es incapaz de ver todas las imágenes que se suban a la plataforma.

‘Rosetta’ se basa en machine learning para identificar tanto texto como imágenes y vídeos, aunque con algunas limitantes, lo cual posteriormente se transcribe a texto y es enviado al equipo de moderación. El sistema tiene marcadas algunas palabras especificas que sirve para emitir una alerta ante un posible mensaje ofensivo, propaganda o discursos de odio. Ante esto, la imagen es eliminada directamente y un humano es quien decide si se mantiene así o se vuelve a publicar.

Según explica Facebook, la extracción de texto e imágenes se utiliza para «identificar automáticamente el contenido que infringe nuestra política de odio y lenguaje», aunque no aclaran qué está haciendo con todos estos datos o si están asociando este tipo de contenido a los usuarios que lo publican en primer lugar.

Afirman que ‘Rosetta’ trabaja con varios idiomas, aunque no especifican cuántos, y también se apoya en un sistema de reconocimiento óptico de caracteres (OCR), el cual, mencionan, ha sido usado por la compañía desde 2015, sólo que ahora se analiza mediante redes neuronales convolucionales que intentan reconocer los caracteres y determinar lo que se está comunicando.

Con la entrada en operación de ‘Rosetta’, Facebook asegura que serán capaces de moderar el contenido dañino de una forma más eficiente y con una respuesta más rápida, pero aún está lejos de cumplir la promesa de Zuckerberg, quien adelantaba que sus herramientas automatizadas de moderación serían capaces de censurar «los mensajes de odio» antes de que se publiquen. Lo interesante aquí será ver cómo actúa Facebook ante esa la delgada línea entre la libertad de expresión y la censura.

En Xataka | Facebook y su inteligencia artificial ante la delgada línea entre libertad de expresión y censura