Instagram comenzará a colocar una etiqueta en los perfiles que presenten personas creadas mediante inteligencia artificial (IA), como parte de una nueva medida orientada a aumentar la transparencia dentro de la plataforma.
La red social, propiedad de Meta, también reducirá la visibilidad de aquellos perfiles cuyos responsables no informen que la persona mostrada en la cuenta fue creada mediante herramientas de inteligencia artificial y no corresponde a una persona real.
De acuerdo con la empresa, la medida busca facilitar que los usuarios puedan identificar cuándo están interactuando con un perfil basado en una persona generada digitalmente.
Como parte de los cambios, Instagram modificará el nombre de la etiqueta que actualmente utiliza para identificar este tipo de contenido.
La etiqueta “creador de IA” pasará a denominarse “perfil generado por IA”, una descripción que Meta considera más clara para explicar la naturaleza de estas cuentas.
La compañía explicó que el objetivo principal es que los usuarios comprendan mejor que la persona representada en determinados perfiles no existe como una persona real, sino que fue creada utilizando herramientas de inteligencia artificial.
El desarrollo de tecnologías capaces de generar imágenes, videos y representaciones digitales cada vez más realistas ha provocado un crecimiento de los perfiles que utilizan personajes creados artificialmente en las redes sociales.
Estos perfiles pueden presentar fotografías, videos y otros contenidos que aparentan mostrar a una persona real, lo que puede dificultar que los usuarios determinen si están ante una identidad auténtica o una creación digital.
Con la nueva política, Instagram pretende ofrecer una señal visible que permita diferenciar estos perfiles y brindar mayor información a las personas que interactúan con ellos.
La plataforma también contempla consecuencias en términos de alcance para las cuentas que no informen adecuadamente sobre el uso de inteligencia artificial.
La reducción de visibilidad podría limitar la exposición de esos perfiles dentro de la plataforma y disminuir la posibilidad de que sus contenidos lleguen a una audiencia amplia.
La medida forma parte de una tendencia de las principales plataformas digitales a establecer mecanismos para identificar contenidos generados o modificados mediante inteligencia artificial.
Meta ha incrementado en los últimos años sus esfuerzos para proporcionar información adicional sobre contenidos creados con herramientas digitales, especialmente ante el avance de tecnologías capaces de producir material que puede confundirse con contenido auténtico.
La identificación de perfiles generados por IA también plantea nuevos desafíos para las redes sociales, debido a la creciente facilidad con la que pueden crearse personajes virtuales con apariencia, nombres y características similares a las de personas reales.
Para los usuarios, la incorporación de etiquetas busca proporcionar un elemento adicional para evaluar la información que encuentran en la plataforma.
Instagram considera que informar claramente sobre el origen artificial de estos perfiles permitirá reducir posibles confusiones y mejorar la comprensión del contenido que circula dentro de la red social.
La nueva denominación “perfil generado por IA” pretende precisamente hacer explícita la naturaleza de la cuenta, evitando que los usuarios interpreten automáticamente que detrás del perfil existe una persona real.
La decisión se produce en un contexto de rápido crecimiento de la inteligencia artificial generativa y de su incorporación a las plataformas de redes sociales.
Las nuevas herramientas permiten crear personajes digitales, fotografías y videos con niveles de realismo cada vez mayores, ampliando las posibilidades para creadores y empresas, pero también generando preocupaciones relacionadas con la transparencia y la autenticidad.
Instagram busca responder a este escenario mediante mecanismos de identificación que permitan a sus usuarios conocer cuándo una representación digital ha sido generada artificialmente.
La aplicación de estas medidas podría modificar la forma en que los perfiles virtuales desarrollan sus audiencias y utilizan la plataforma.
Meta sostiene que el propósito de la política es mejorar la transparencia y ayudar a los usuarios a distinguir entre personas reales y personajes creados mediante inteligencia artificial.