Las recomendaciones de YouTube llevan a los niños pequeños a videos de tiroteos escolares y otro contenido relacionado con armas, según un nuevo informe. Según Tech Transparency Project (TTP), un grupo de vigilancia sin fines de lucro, el algoritmo de recomendación de YouTube es «empujar a los niños interesados en los videojuegos a escenas de tiroteos escolares, instrucciones de modificación y uso de armas» y otro contenido centrado en las armas.
Los investigadores detrás del informe crearon cuatro nuevas cuentas de YouTube haciéndose pasar por dos niños de 9 años y dos niños de 14 años. Todas las cuentas vieron listas de reproducción con contenido sobre videojuegos populares como Roblox, Lego Star Wars, Halo y Grand Theft Auto. Luego, los investigadores rastrearon las recomendaciones de cuentas durante 30 días en noviembre pasado.
“El estudio encontró que YouTube estaba impulsando el uso de armas y el contenido de armas a todas las cuentas de los jugadores, pero a un ritmo mucho más alto para los usuarios que hacían clic en los videos recomendados por YouTube”, escribe TTP. “Estos videos incluían escenas que mostraban tiroteos en escuelas y otros tiroteos masivos; demostraciones gráficas del daño que un arma de fuego puede causar al cuerpo humano; y guías prácticas para convertir una pistola en un arma completamente automática».
Como se indica en el informe, algunos de los videos recomendados infringen las propias políticas de YouTube. Las recomendaciones incluyeron videos de una niña disparando una pistola y tutoriales sobre cómo convertir pistolas en armas «totalmente automáticas» y otras modificaciones. Algunos de estos videos también se han monetizado a través de anuncios.
En un comunicado, un portavoz de YouTube señaló la aplicación YouTube Kids y sus herramientas de vigilancia integradas que «brindan una experiencia más segura para adolescentes y adolescentes» en su plataforma.
«Agradecemos la investigación sobre nuestras recomendaciones y estamos explorando nuevas formas de involucrar a investigadores académicos para estudiar nuestros sistemas», dijo el portavoz. “Pero analizando la metodología de este informe, es difícil para nosotros sacar conclusiones inequívocas. Por ejemplo, el estudio no brinda contexto sobre cuántos videos en total se recomendaron para las cuentas de prueba, ni brinda información sobre cómo se configuraron las cuentas de prueba, incluido si se usaron las herramientas de experiencia controlada de YouTube».
El informe TTP está lejos de ser la primera vez que los investigadores plantean preguntas sobre el algoritmo de recomendación de YouTube. La compañía también ha pasado años eliminando el llamado contenido «límite» (videos que no violan directamente sus reglas pero que de otro modo podrían no ser adecuados para la distribución masiva) de las recomendaciones. Y el año pasado, la compañía dijo que estaba considerando desactivar por completo el intercambio de parte de ese contenido.
