La pesadilla continúa: hay vídeos de YouTube Kids que ocultan fragmentos en los que se enseña a los niños cómo suicidarse

Para muchos padres -y me incluyo- YouTube Kids era una ideaza. Un servicio con contenidos específicos para niños que teóricamente estaban filtrados y que permitían evitar contenidos adultos y no adecuados. Una bendición para distraerles en según qué momentos.

Aquella bendición ya demostró haberse convertido en una pesadilla a finales de 2017, y ahora vuelve el horror. Una pediatra ha descubierto cómo en vídeos aparentemente normales de YouTube Kids aparecen de repente fragmentos que revelan cómo alguien se puede suicidar.

YouTube Kids vuelve a tener un gran problema

La pediatra, que firmaba un artículo de forma anónima en un blog especializado llamado PediMom, indicaba cómo descubrió ese fragmento. Su hijo empezó a sangrar por la nariz, y mientras le curaba quiso distraerle poniendo un vídeo en YouTube Kids.

Todo parecía normal hasta que en un momento del vídeo el contenido se cortaba para dejar paso a un fragmento aterrador. Un adulto daba instrucciones directas a los niños sobre cómo suicidarse cortándose las venas. La persona que aparece es alguien que usa el pseudónimo Filthy Frank, con 6 millones de suscriptores en su desagradable canal de YouTube, y que reconoce ser "la encarnación de todo lo que una persona no debería ser"

El responsable del fragmento iba más allá a la hora de realizar el procedimiento, y explicaba lo siguiente: "Recordad niños, cortad de lado para llamar la atención, y cortad a lo largo para obtener mejores resultados".

El vídeo ha sido eliminado por parte de YouTube en cuanto la doctora ha informado sobre este enorme problema, pero ella y otros han confirmado que hay más vídeos de este tipo que son aparentemente normales pero que de repente contienen fragmentos con este tipo de mensajes.

Nos hemos puesto en contacto con Google y con los responsables de YouTube, que nos han ofrecido el siguiente comunicado oficial:

"Trabajamos para asegurarnos de que los videos en YouTube Kids sean amigables para la familia y nos tomamos el feedback muy en serio. Apreciamos a las personas que nos notifican sobre contenido problemático y hacemos posible que cualquiera pueda marcar un vídeo inapropiado. Los vídeos marcados se revisan manualmente las 24 horas del día, los 7 días de la semana, y se eliminan los videos que no pertenecen a la aplicación.

También hemos estado invirtiendo en nuevos controles para padres, incluida la posibilidad de seleccionar manualmente vídeos y canales en la aplicación. Estamos realizando mejoras constantes en nuestros sistemas y reconocemos que hay más trabajo por hacer".

¿Una batalla imposible de ganar?

Este nuevo suceso pone en tela de juicio la capacidad de YouTube para controlar este tipo de problemas. Es algo que no afecta solo a YouTube, sino que por supuesto también es problemático para cualquier otra plataforma en la que se suben contenidos por parte de lo susuarios.

Para YouTube Kids, no obstante, el impacto es mucho mayor por la dimensión que tiene el servicio y por el hecho de afectar a un público, los niños y jóvenes, que son especialmente influenciables por este tipo de contenidos.

Los responsables de Google ya avisaban en abril de 2018 de cómo habían tomado medidas para tratar de minimizar el problema. En un trimestre habían borrado 8 millones de vídeos y han detectado numerosos canales que promocionan estos contenidos inadecuados o simplemente terroríficos para los niños, pero la batalla contra esos contenidos es muy difícil de ganar.

Lo es porque a pesar del uso de sistemas de inteligencia artificial y de moderadores humanos que tratan de controlar y filtrar estos contenidos, la tarea es (al menos actualmente) demasiado grande para cualquier sistema combinado de máquinas y humanos.

Trucos como el utilizado por estos vídeos aparentemente normales pero que en un momento dado muestran imágenes traumáticas son la última demostración de que YouTube Kids tiene muy difícil detectar el problema. Es cierto que el resto de usuarios pueden reportar problemas y ayudar a moderar la plataforma, pero mucho nos tememos que esa ayuda del usuario de a pie está lejos de ser ideal o siquiera efectiva.

Y en medio de todo ello está YouTube Kids, que como sucede en otros casos no es más que una herramienta. Una que podría ser maravillosa pero que lamentablemente ciertos usuarios contaminan para convertirla en el horror.