Investigadores de la EPFL alertan que estos sistemas podrían ser manipulados para ejecutar acciones dañinas que no siempre son detectadas mediante las pruebas de seguridad convencionales.
La inteligencia artificial (IA) se ha convertido en una tecnología de uso cada vez más extendido, principalmente a través de asistentes virtuales y chatbots como ChatGPT o Gemini. Sin embargo, el desarrollo de sistemas con mayores niveles de autonomía plantea nuevos desafíos relacionados con la seguridad y el posible uso malintencionado de estas herramientas.
Investigadores de la Escuela Politécnica Federal de Lausana (EPFL) advierten que los llamados agentes de IA, diseñados para ejecutar tareas de manera más autónoma, podrían convertirse en un objetivo atractivo para piratas informáticos y, al mismo tiempo, ser utilizados como herramientas para realizar acciones perjudiciales.
A diferencia de los asistentes tradicionales, los agentes de inteligencia artificial pueden recibir instrucciones, tomar determinadas decisiones y ejecutar acciones con una intervención humana más limitada. Esta capacidad representa uno de los principales avances en el desarrollo de la tecnología, pero también aumenta los riesgos cuando los sistemas son manipulados.
Según las pruebas realizadas por investigadores de la EPFL, es relativamente sencillo conseguir que determinados agentes realicen acciones consideradas dañinas mediante estrategias específicas. Los expertos señalan que algunas de estas formas de manipulación no han sido contempladas de manera suficiente en los métodos de evaluación de seguridad utilizados habitualmente.
El hallazgo pone de manifiesto uno de los principales retos que enfrenta actualmente el desarrollo de la inteligencia artificial: lograr que los sistemas sean capaces de actuar de forma autónoma sin que esa misma autonomía pueda convertirse en una vulnerabilidad.
Los investigadores consideran especialmente relevante este problema a medida que los agentes de IA comienzan a integrarse en tareas que requieren acceso a herramientas, información y sistemas externos. En esos escenarios, una manipulación podría tener consecuencias mayores que una simple respuesta incorrecta de un chatbot.
La advertencia también plantea la necesidad de fortalecer los mecanismos de seguridad antes de que los agentes autónomos tengan una presencia todavía mayor en actividades empresariales, tecnológicas y cotidianas.
El avance de estos sistemas representa, por tanto, una nueva etapa en la evolución de la inteligencia artificial, pero también obliga a desarrollar métodos de protección capaces de anticipar estrategias de ataque que podrían no estar contempladas en las evaluaciones tradicionales.