Bruselas exige modificar el sistema de recomendaciones «Para ti» al considerar que puede conducir a los usuarios hacia contenidos perjudiciales para su salud mental
La Comisión Europea (CE) concluyó este viernes, de manera preliminar, que TikTok incumple la Ley de Servicios Digitales (DSA) debido al funcionamiento de su algoritmo de recomendaciones, que podría conducir a los usuarios hacia ciclos repetitivos de contenido potencialmente perjudicial para su salud mental.
La investigación se centra en el apartado «Para ti», una de las principales características de la plataforma, que ofrece un flujo continuo de videos personalizados según las interacciones y los intereses de cada usuario.
De acuerdo con el organismo europeo, el sistema puede generar las denominadas «madrigueras» o rabbit holes, un fenómeno en el que las personas reciben repetidamente publicaciones sobre temas similares, hasta quedar expuestas a una secuencia de contenidos de la que resulta difícil salir.
«Cada vez que un usuario se desplaza o da un ‘me gusta’ a un vídeo, el algoritmo le sirve más de lo mismo y lo lleva por madrigueras de las que no puede salir fácilmente», afirmó Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea para la Soberanía Tecnológica, la Seguridad y la Democracia.
Según las conclusiones preliminares, esta exposición repetitiva puede resultar perjudicial cuando incluye videos relacionados con la tristeza, el aislamiento, los problemas de salud mental y la imagen corporal, especialmente entre menores de edad y adultos vulnerables.
La Comisión considera que TikTok debe modificar el diseño de su sistema de recomendaciones para reducir estos riesgos y ofrecer a los usuarios un mayor control sobre los contenidos que reciben.
Entre los cambios planteados figura otorgar mayor importancia a las preferencias expresamente seleccionadas por las personas, en lugar de depender principalmente de señales de comportamiento como el tiempo que permanecen viendo determinados videos.
También solicita que los controles de personalización sean más accesibles y fáciles de utilizar, además de establecer pruebas periódicas para evaluar el funcionamiento del algoritmo y comprobar si las modificaciones permiten reducir la exposición repetitiva a contenidos potencialmente perjudiciales.
El organismo europeo considera que las herramientas actuales de TikTok no han sido suficientes para evitar este fenómeno, por lo que entiende que es necesario intervenir en el funcionamiento del sistema de recomendaciones.
Las conclusiones forman parte del procedimiento formal iniciado por la Comisión Europea en febrero de 2024 para investigar el cumplimiento de TikTok con la Ley de Servicios Digitales, que establece obligaciones para las grandes plataformas digitales en materia de seguridad, transparencia y protección de sus usuarios.
No obstante, los señalamientos anunciados este viernes todavía tienen carácter preliminar. TikTok tiene derecho a examinar los documentos de la investigación y presentar sus argumentos antes de que las autoridades europeas adopten una decisión definitiva.
La compañía ha rechazado las conclusiones de la Comisión y considera que sus señalamientos son inexactos. También sostiene que ofrece herramientas para que los usuarios puedan controlar su experiencia dentro de la plataforma.
En caso de que la Comisión confirme finalmente el incumplimiento, TikTok podría enfrentar una multa de hasta el 6 % de su facturación anual mundial, conforme a las disposiciones de la Ley de Servicios Digitales.
La investigación vuelve a colocar bajo escrutinio el funcionamiento de los algoritmos de las redes sociales y el impacto que pueden tener sus sistemas de recomendación sobre los hábitos de consumo digital, particularmente entre los usuarios más jóvenes.