La campaña de las autoridades también dejó sanciones contra casi 4,000 cuentas que utilizaban imágenes y voces falsas de celebridades para engañar a los usuarios
Las autoridades reguladoras de internet de China llevaron a cabo una campaña de supervisión y limpieza de contenidos relacionados con el uso indebido de la inteligencia artificial (IA) para suplantar a personas famosas, una operación que terminó con la eliminación de más de 47,000 publicaciones y la imposición de sanciones a casi 4,000 cuentas digitales.
Las cifras fueron divulgadas por la Administración del Ciberespacio de China (CAC), principal organismo encargado de regular el entorno digital del país, y difundidas por medios locales este martes. La institución también hizo un llamado a las plataformas de internet para que refuercen sus mecanismos de vigilancia y asuman una mayor responsabilidad frente a la propagación de contenidos manipulados mediante herramientas de inteligencia artificial.
Entre las prácticas detectadas figuran la creación de imágenes falsas de celebridades, la reproducción artificial de sus voces y la utilización indebida de fotografías de personajes públicos y de sus familiares. Estas herramientas eran empleadas para construir contenidos que podían hacer creer a los usuarios que determinadas figuras conocidas estaban participando en promociones comerciales o respaldando productos.
La CAC también identificó cuentas de WeChat que recurrían a estas técnicas para atraer espectadores y promocionar artículos mediante materiales audiovisuales manipulados. WeChat es una de las principales aplicaciones de comunicación y servicios digitales utilizadas en China, donde plataformas extranjeras como WhatsApp se encuentran bloqueadas.
El uso de inteligencia artificial para reproducir rostros, voces y otros elementos de identidad de personas reales ha abierto nuevas posibilidades para la creación de contenidos, pero también ha generado preocupaciones relacionadas con la suplantación de identidad, la difusión de información engañosa y la utilización de la imagen de terceros sin autorización.
En este contexto, la operación desarrollada por las autoridades chinas busca frenar las prácticas que aprovechan estas tecnologías para confundir a los consumidores y obtener beneficios mediante publicidad o promoción de productos.
La Administración del Ciberespacio de China pidió a las empresas responsables de las plataformas digitales que mejoren sus sistemas de detección, establezcan controles más eficaces y actúen con mayor rapidez ante las publicaciones que incumplan las normas.
Los resultados de la campaña reflejan el creciente interés de las autoridades chinas por establecer controles sobre el contenido generado mediante inteligencia artificial, especialmente cuando se utiliza para imitar a personas reales y crear situaciones que pueden inducir a error a los usuarios de internet.