YouTube Kids y el terror: hay quien se dedica a asustar y traumatizar a los niños de forma sistemática, automatizada y masiva

Los personajes de Peppa Pig fumando y con cuchillos en la mano. Los de Lady Bug semidesnudos en una barra americana. Los de la Patrulla Canina suicidándose poseídos por el demonio. Un Spider-man de plastilina orinando en la bañera en la que se está bañando Elsa. Personas reales que se disfrazan de superhéroes y superheroínas y representan escenas que van de lo absurdo a lo absolutamente abominable.

Ese es el mundo al que expone YouTube Kids a millones de niños todos los días. Niños que no tienen la capacidad de diferenciar si esos contenidos son realmente adecuados o no y que los consumen como hipnotizados. Niños que de seguir viendo esos vídeos considerarán que eso es lo normal. No lo es. Google, es necesario hacer algo.

De idea genial a amenaza para la salud mental de nuestros hijos

Cuando Google lanzó YouTube Kids en febrero de 2015 la idea parecía fantástica. Millones de padres en todo el mundo se encontraron con una forma hipotéticamente ideal de asegurarse de que si enchufaban a sus niños a la tablet o al móvil de turno, los contenidos de vídeo a los que podrían acceder serían adecuados para ellos.

Este vídeo ha sido visto más de 1 millón de veces.

Esa era la idea, desde luego. Uno instalaba la aplicación móvil en el dispositivo y listo, a dejar que el niño disfrutase con aquellos vídeos que iban más allá del entretenimiento y que según los responsables de Google también ofrecía vídeos educativos. Con ella, aseguran sus creadores en la descripción de Google Play «los niños podrán descubrir vídeos, canales y listas de reproducción que les encantarán».

En esa misma descripción, eso sí, Google avisa: «Los vídeos que aparecen en la aplicación se seleccionan de forma automática. Ningún sistema automatizado es perfecto y, por tanto, es posible que tu hijo se tope con algo que no te gustaría que viera. Si encuentras un vídeo que consideras inapropiado, márcalo y lo revisaremos a la mayor brevedad posible».

El problema es que esa automatización ha convertido YouTube Kids en un servicio que podría acabar perturbando a nuestros pequeños. Es cierto que hay contenidos de entretenimiento y educativos perfectos para los niños, pero por encima de todos ellos están millones de vídeos totalmente inapropiados y que no solo aparecen en las búsquedas de YouTube Kids: se generan de forma automática y logran hipnotizar a los niños con desarrollos que van de la incongruencia hasta la violencia, y que se aprovechan del uso de imágenes, personajes y canciones infantiles para engañarles y traumatizarles a ellos y tenernos engañados a nosotros.

Los huevos Kinder son solo el primer paso hacia el infierno

Esa denuncia no es nueva, pero se ha visto impulsada por el tratamiento reciente del problema que han realizado medios como The New York Times, BoingBoing, Fast Company o The Sun.

Más desarrollado aún está el texto de James Bridle, que en su ‘Something is wrong on the internet‘ (‘Algo está mal en internet’) daba un preocupante número de ejemplos que era aún más preocupante porque en realidad los ejemplos son muchos más. Como él mismo explicaba,

Algo o alguien o cierta combinación de personas y cosas está usando YouTube para asustar, traumatizar y abusar de los niños de forma sistemática, automatizada y masiva.

Así es. Si sois padres como yo habréis comentado con otras parejas de padres cercanas a vosotros esa singular fijación que tienen los niños por los vídeos de los huevos Kinder. Esos vídeos muestran simplemente unas manos abriendo uno tras otro huevos Kinder con sorpresa, y algo tan aparentemente absurdo como eso deja a los niños absolutamente pegados a las pantallas de los dispositivos móviles u ordenadores en los que los ven.

Esos vídeos son —al menos lo poco que he visto— básicamente inocuos, pero atentos, porque una de las productoras de esos vídeos, la llamada «Blu Toys Surprise Brinquedos & Juegos» cuenta en la actualidad con 5,7 millones de suscriptores y sus vídeos se han visto casi 8.000 millones de veces. El canal oficial de Lady Gaga en YouTue tiene 9,1 millones de suscriptores y (redoble de tambor) algo más de 5.000 millones de visitas en conjunto. Los huevos aplastan a Lady Gaga en YouTube.

Cada uno de esos vídeos de huevos oscila entre las 40.000 y las 100.000 visitas en la actualidad, pero es que hay más de 4.000 de ellos. Si uno se da cuenta de cómo funciona la publicidad en YouTube y que ese es un negocio de escala, no hace falta hacer muchas cuentas. Alguien se está forrando a base de abrir huevos Kinder. Lo grave no es eso —es perfectamente lícito hacerlo—, lo grave es que la automatización de la que se aprovecha ese canal para estos vídeos inofensivos la aprovechan otros muchos para vídeos totalmente inadecuados para niños y, diría más, hasta para adultos.

El problema de las ‘fake news’ tiene otra dimensión

Se ha criticado mucho en los últimos meses tanto a Google como a Facebook por haber favorecido la aparición del fenómeno de las noticias falsas, un tipo de artículos que según muchos analistas ha acabado siendo una poderosa herramienta de influencia en todo tipo de situaciones. Por ejemplo, en procesos electorales como el que tuvo lugar en Estados Unidos el año pasado.

El problema de YouTube Kids es en en cierta forma una nueva ramificación de toda esa maquinaria que ahora automatiza los contenidos que llegan a nuestras aplicaciones y que se ha convertido en una peligrosa forma de informarnos y entender lo que pasa a nuestro alrededor.

Los creadores de esos vídeos se han dado cuenta del filón, y lo han aplicado de una perturbadora forma en YouTube Kids, donde a los vídeos oficiales de personajes como Peppa Pig les rodean millones de vídeos (muchos más, por todas partes) que no solo roban esos contenidos de los canales oficiales —el problema de la autoría es otro, también grave—, sino que los modifican para aprovechar el tirón entre las audicencias más jóvenes.

Y es ahí donde empieza el horror.

De repente uno se encuentra con variaciones en las que como decíamos esos personajes ya no protagonizan divertidas aventuras para entretener a los niños. No. De repente los encontramos entremezclados en universos absurdos, de pesadilla, siguiendo tramas que van como decíamos desde lo irracional o lo disparatado a otras peligrosas, violentas, salvajes o en las que también hay claras referencias sexuales.

Entre los ejemplos (el vídeo al que enlazaba Bridle, incluido aquí también, es inocuo) están los 17 millones de versiones de los llamados «Finger Family videos», que van derivando hacia lo perturbador en ejemplos como este en el que muestra a una figura en 3D de Donald Trump montado en una especie de jeringuilla móvil que aparece y desaparece de la escena mientras en una mano los dedos se van llenando de cabezas de Mickey Mouse.

Es cierto que en esas cifras astronómicas que se manejan en este mercado del terror se deben en gran medida a una automatización total. No solo en la creación por parte de los creadores o en la automatización por parte de Google a la hora de servirlos o recomendarlos. También hay una evidente participación de bots viendo esos vídeos para subir las visitas y que a su vez los vídeos aparezcan más recomendados. Es el círculo vicioso del esperpento.

Hay, por supuesto, muchos más horrores. Unos peores, otros más leves, pero todos ellos dejan claro que estamos ante un problema real que demanda una solución real. La culpa no es solo de Google o de YouTube Kids, claro, pero como sucede con las noticias falsas, Google lógicamente no puede esperar que los consumidores de esos vídeos, que son niños, los marquen como inapropiados. Eso lo tendrían que hacer los padres, que difícilmente pueden controlar todo lo que ven los hijos.

Os aseguro que esta imagen jamás ha aparecido en un capítulo oficial de la serie de ‘Peppa Pig’.

Y sin embargo, el problema de raíz está en los mecanismos de control de esa automatización. ¿Necesita Google y Youtube Kids un sistema de censura? El terror que impone YouTube Kids así lo demuestra, pero ¿cómo implementarlo? ¿Con un sistema automatizado que censure lo que otro ya había automatizado para publicar y mostrar contenidos relacionados?

Mucho nos tememos que aquí, como en el caso de las noticias falsas, la solución pasa por una control y una censura humana, que siga ciertos criterios básicos —en estos vídeos no parece difícil determinar qué es adecuado para un niño y qué no— y que actúe en conjunción con ese sistema automatizado que permita lidiar con un problema dantesco tanto por sus impliaciones como por su dimensión.

Esperemos que Google haga algo al respecto, y que lo haga pronto. Mientras tanto, adivinad quién ha desinstalado YouTube Kids (y YouTube) de la tableta que le deja a sus niños de cuando en cuando.

En Xataka | Los niños prefieren los libros en papel, y la ciencia les da la razón