YouTube y los niños cada vez tienen una relación más simbiótica. Los pequeños pasan mucho tiempo en las pantallas de los celulares y tablets y no siempre sus padres saben qué es lo que ellos ven y qué vídeo se reprodujo tras otro.
Tanto en YouTube como en YouTube Kids (plataforma para los menores de 13 años) hay millones de vídeos con canciones infantiles, juguetes y caricaturas populares y es ahí donde los creadores de contenido ven una oportunidad para posicionar vídeos con violencia, promoción del suicidio y del bullying.
El contenido fue reportado por un médico estadounidense, y YouTube respondió eliminándolo de la plataforma y de la aplicación. Pero la situación está lejos de terminar, pues otros padres han encontrado más vídeos en la aplicación YouTube Kids con el mismo mensaje escondido en su interior. Como era de esperarse, también se encontraron vídeos en la plataforma general.
La postura de YouTube
YouTube respondió a la situación explicando que aunque YouTube Kids está diseñado para excluir el contenido que no es apropiado para niños, no se revisan manualmente (con humanos) todo el contenido de todos los vídeos.
También añadieron que están invirtiendo en nuevos controles para padres, incluyendo la posibilidad de seleccionar manualmente vídeos y canales en la aplicación; así como mejorando sus sistemas automáticos constantemente.
Por supuesto, cuando se trata de niños, la respuesta no dejó satisfechos a muchos padres. Pero quizá la noticia le sugiera a la sociedad lo que muchos sitios especializado han venido diciendo; que ninguna plataforma cuidará de sus hijos tan bien como sus propios padres. Por lo que lo mejor es monitorear personalmente el contenido que ven los pequeños.
Otros casos graves
De la misma forma, se acusó al algoritmo de YouTube que emite recomendaciones de facilitar el trabajo a pedófilos sugiriendo a éstos vídeos de menores de edad; brindándoles la oportunidad conectarse entre sí e intercambiar información. También de añadir enlaces de pornografía infantil en los comentarios.
La polémica inició en Reddit, donde el youtuber Matts WhatItIs afirmó que dada la inmensa cantidad de vídeos de niños en YouTube; es sencillo que los pedófilos usen la caja de comentarios para comunicarse entre sí y comentar en el segundo exacto cuando los niños están en posiciones comprometedoras. La plataforma de vídeo permite justo hacer eso, comentar en un momento exacto de un contenido.
Matt publicó un vídeo de 20 minutos en el que explica de qué modo el algoritmo de YouTube lleva de la mano a los usuarios a un “agujero” de pedófilos; por lo que acusa a la plataforma de vídeos de facilitar las intenciones de adultos que pretendan explotarlos sexualmente.
Como respuesta, YouTube anunció nuevas medidas de seguridad para proteger la seguridad de los menores. En una publicación dieron a conocer que también están preocupados de la seguridad por lo que harán cambios adicionales.
Entre los cambios van a deshabilitar los comentarios en los vídeos de menores. Inclusive se borraron millones de comentarios que podrían poner en peligro a los menores. Los vídeos que se puedan comentar están siendo monitoreados.
Además van a tomar medidas con las personas que suban vídeos que puedan ser un daño para la comunidad. Ya se cancelaron ciertos canales que alientan a los desafíos dañinos y peligrosos.
Con alrededor de 10,000 humanos que revisan y evalúan su contenido; la plataforma de vídeos de Google parece no poder contener las 400 horas por minuto que se suben diariamente. Ni los humanos ni la Inteligencia Artificial parecen poder cubrir el trabajo de modo eficiente.
YouTube respondió la acusación afirmando que ya están investigando los hechos y que por ahora están revisando cada vídeo como prueba.