Eduardo Marín
EditorDurante el domingo 26 de octubre el sistema de YouTube recomendó un vídeo con personas completamente desnudas a usuarios aleatorios. El vídeo fue visto millones de veces antes de que la plataforma solucionara el problema y que el canal de YouTube responsable del contenido cambiara la imagen prohibida.
Se trata de un nuevo caso en el que el algoritmo de YouTube es abusado para mostrar contenido sensible o que juega con los límites de la plataforma, aunque en este caso directamente ha violado las políticas de uso del servicio. Los usuarios, nuevamente, se han quejado de lo que parece ser un problema recurrente en la plataforma y no simplemente un descuido de moderación en YouTube.
Esta no es la primera polémica de YouTube con contenido sensible o 'NSFW'
Los usuarios han denunciado en Reddit y en plataformas como X/Twitter que al realizar búsquedas de distintos tipos de contenido, YouTube les ha recomendado un vídeo cuya imagen de miniatura, o 'thumbnail', muestra mujeres completamente desnudas, incluyéndolo como parte de los vídeos "relacionados con la búsqueda", aunque no tuviera ninguna relación.
Lo más curioso del caso es que la recomendación no aparecía al buscar un tipo de vídeo en específico, sino prácticamente cualquier cosa. Uno de los usuarios aseguró que buscaba vídeos de la serie de televisión 'Breaking Bad', otro buscaba clips del juego 'GTA V'. Personalmente, pude experimentar el "error" en las recomendaciones de YouTube al buscar vídeos con reseñas de figuras de acción (no me juzguen, soy coleccionista). Entre las sugerencias, para mi sorpresa, apareció un vídeo que no tenía nada que ver con las figuras coleccionables en cuestión.
El vídeo aparecía como "contenido relacionado" en todo tipo de búsquedas, y en apenas 13 horas ya acumulaba más de 2,4 millones de reproducciones.
El vídeo tiene una duración de apenas 16 segundos, y lo más curioso es que el contenido del propio vídeo es inofensivo, solamente muestra a personas hablando. No obstante, la miniatura mostraba a seis mujeres desnudas. No eran mujeres reales, sino personas creadas de forma digital. No obstante, aún así se trata de una imagen prohibida por las políticas de YouTube:
"No publiques ninguna miniatura u otra imagen en YouTube si muestra lo siguiente: imágenes pornográficas, actos sexuales, desnudos, incluidos los genitales. [...]"
YouTube ya ha tomado las medidas necesarias para evitar que la plataforma recomiende este vídeo de forma aleatoria, y el propio vídeo ya no muestra la misma miniatura o thumbnail, el canal responsable la ha cambiado por una que cumple con las políticas del servicio.
Esta no es la primera vez que un vídeo logra vulnerar el algoritmo de recomendaciones y las protecciones de YouTube para evitar el contenido sensible o inapropiado. En este caso, el vídeo logró alcanzar alrededor de 3,9 millones de visualizaciones en poco más de 12 horas, tras haber manipulado el algoritmo de recomendaciones y lograr "colar" este vídeo como sugerencia entre búsquedas no relacionadas.
En los últimos años se han visto casos de vídeos dirigidos al público infantil con imágenes muy inapropiadas y en algunos casos contenido para adultos (en especial en las miniaturas), y la plataforma también ha mostrado anuncios publicitarios con contenido 'NSFW'. En el pasado la compañía ha dicho que están al tanto de cómo los usuarios maliciosos buscan violar las políticas de uso y los sistemas de detección de contenido inapropiado, pero claramente estos sistemas no son perfectos y pueden ocurrir casos como estos.
Imagen de portada | Leon Bublitz en Unsplash
En Xataka Android | Qué es el modo restringido de YouTube y cómo desactivarlo
En Xataka Android | Android tiene un "botón del pánico" oculto que desactiva todos sus sensores al instante. Así puedes encontrarlo
Ver 0 comentarios