Macron, Sánchez, Albanese y Ruto participaron en un foro de alto nivel de la ONU donde plantearon pruebas previas, reglas para las empresas y mayor cooperación internacional
Líderes de distintos países reclamaron nuevas medidas internacionales para proteger a los niños y adolescentes frente a los riesgos asociados con el desarrollo y uso de la inteligencia artificial (IA), durante un encuentro de alto nivel celebrado en el marco de la Semana de Alto Nivel de la Asamblea General de las Naciones Unidas.
El foro reunió al presidente de Francia, Emmanuel Macron; al presidente del Gobierno de España, Pedro Sánchez; al primer ministro de Australia, Anthony Albanese; y al presidente de Kenia, William Ruto, además de la presidenta de la Comisión Europea, Ursula von der Leyen. El encuentro estuvo centrado en la protección de los derechos de la infancia en una época en la que las herramientas de inteligencia artificial tienen una presencia cada vez mayor en la educación, la comunicación y la vida cotidiana.
Uno de los principales planteamientos fue la necesidad de establecer mecanismos de evaluación antes de que determinadas tecnologías de inteligencia artificial dirigidas a los menores lleguen al mercado. La propuesta contempla que estos sistemas sean probados y evaluados previamente, con el objetivo de identificar posibles riesgos y establecer medidas de protección antes de que sean utilizados de manera generalizada por niños y adolescentes.
Macron hizo especial énfasis en la experiencia de las redes sociales y llamó a evitar que la comunidad internacional vuelva a reaccionar demasiado tarde ante una tecnología cuyo impacto sobre los menores todavía se encuentra en evolución. El mandatario francés sostuvo que no se deben repetir los errores cometidos durante la expansión de las plataformas sociales y planteó que los sistemas de IA destinados a los niños deberían pasar por procesos de prueba, evaluación y autorización antes de estar disponibles.
La preocupación adquiere especial relevancia ante la creciente utilización de herramientas capaces de conversar con usuarios, generar contenidos, responder preguntas y ofrecer asistencia personalizada. Estas características pueden convertir a los sistemas de IA en herramientas útiles para el aprendizaje, pero también plantean interrogantes sobre seguridad, privacidad, exposición a contenidos inapropiados y la forma en que los menores interactúan con estas tecnologías.
Pedro Sánchez defendió durante el encuentro la necesidad de establecer límites claros, mecanismos de responsabilidad y cooperación entre los diferentes actores involucrados en el desarrollo de la inteligencia artificial. El presidente del Gobierno español sostuvo que la tecnología debe estar al servicio de las personas y no convertirse en un elemento que determine por sí misma las condiciones en las que se desarrolla la sociedad.
España, Francia, Kenia y Australia han asumido además un papel de coordinación dentro de una coalición internacional dedicada a los derechos y la protección de la infancia en la era de la inteligencia artificial. Según la Presidencia francesa, la iniciativa cuenta actualmente con el respaldo de 23 Estados y ocho entidades del sistema de Naciones Unidas, entre ellas UNICEF, UNESCO y la Unión Internacional de Telecomunicaciones.
La propuesta internacional no se limita únicamente a establecer restricciones. William Ruto planteó durante el encuentro que el acceso a la tecnología también representa una oportunidad importante para millones de niños, especialmente en regiones donde las herramientas digitales pueden facilitar el acceso a educación, conocimiento, atención sanitaria y nuevas oportunidades.
El presidente de Kenia sostuvo que la respuesta no debería consistir simplemente en impedir que los menores tengan acceso a la tecnología, sino en trabajar para que los sistemas sean más seguros desde su diseño. Esta perspectiva busca combinar la protección de los niños con la posibilidad de que puedan beneficiarse de las herramientas que ofrece la inteligencia artificial.
Anthony Albanese también destacó la necesidad de cooperación entre países. El primer ministro australiano señaló que los riesgos asociados con el avance de la inteligencia artificial trascienden las fronteras nacionales y que ningún país puede afrontar por sí solo los desafíos derivados de estas tecnologías.
Australia ha impulsado en los últimos años distintas medidas relacionadas con la seguridad de los menores en el entorno digital y, durante el encuentro, Albanese planteó que esos esfuerzos deben complementarse con una estrategia internacional a medida que las capacidades de la inteligencia artificial continúan avanzando.
La presidenta de la Comisión Europea, Ursula von der Leyen, también participó en las conversaciones, que forman parte de un debate internacional cada vez más amplio sobre la necesidad de establecer mecanismos de gobernanza para la inteligencia artificial. La discusión incluye no solamente la protección de los menores, sino también cuestiones relacionadas con la transparencia, la responsabilidad de las empresas y la supervisión de los sistemas.
En paralelo a este foro, la ONU ha incrementado sus esfuerzos para impulsar una conversación internacional sobre la gobernanza de la inteligencia artificial. Durante la actual Semana de Alto Nivel de la Asamblea General, distintos gobiernos y organismos internacionales han planteado la necesidad de establecer principios comunes y mecanismos de supervisión que permitan aprovechar los beneficios de esta tecnología mientras se reducen sus posibles riesgos.
Uno de los elementos destacados durante el encuentro sobre infancia fue precisamente la participación de los propios niños en el debate. El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, señaló que los menores que están creciendo con inteligencia artificial deben ser considerados titulares de derechos y tener participación en las conversaciones sobre la manera en que estas tecnologías son diseñadas y utilizadas.
Los líderes coinciden así en que el desarrollo de la inteligencia artificial plantea una nueva etapa en la relación entre tecnología e infancia. El desafío consiste en establecer mecanismos de protección capaces de evolucionar al mismo ritmo que las herramientas digitales, sin impedir que los menores puedan acceder a sus potenciales beneficios educativos y sociales.
La hoja de ruta presentada por la coalición internacional contempla continuar el trabajo durante 2026 y 2027, con participación de gobiernos, Naciones Unidas, organizaciones de la sociedad civil, empresas tecnológicas, educadores y especialistas en derechos y seguridad infantil. El objetivo declarado es avanzar hacia sistemas de inteligencia artificial que puedan ser utilizados por los menores bajo condiciones que protejan su seguridad, sus derechos y su desarrollo.