La herramienta busca supervisar las acciones de los agentes de IA y establecer límites para evitar que operen fuera de las autorizaciones definidas
NVIDIA presentó este lunes la Open Agent Safety Platform, una nueva plataforma abierta diseñada para reforzar la seguridad y supervisión de los agentes autónomos de inteligencia artificial. La iniciativa cuenta con la participación de más de 100 organizaciones de la industria.
La plataforma está compuesta por OpenShell, un software de código abierto que crea entornos aislados para los agentes y permite establecer qué sistemas, datos, herramientas y servicios pueden utilizar. De esta manera, las empresas pueden definir permisos y aplicar políticas mientras los agentes ejecutan sus tareas.
El segundo componente es NVIDIA Sentry, un sistema de vigilancia que funciona a través de unidades de procesamiento de datos BlueField-4. Según NVIDIA, esta tecnología puede monitorear el comportamiento de los agentes y ponerlos en cuarentena en cuestión de milisegundos si intentan superar los límites establecidos.
La compañía explicó que la propuesta responde a la necesidad de contar con controles que funcionen fuera del propio agente, especialmente ante situaciones en las que estos sistemas pueden intentar superar las restricciones establecidas en sus entornos de ejecución.
Entre las organizaciones que colaboran con NVIDIA en estas tecnologías figuran Microsoft, Anthropic, Cisco, CrowdStrike, JPMorganChase, Perplexity, Salesforce, SAP y Scale AI, entre otras.
Con esta plataforma, NVIDIA busca establecer mecanismos de supervisión que acompañen el creciente uso de agentes capaces de ejecutar tareas de manera autónoma, desde operaciones empresariales hasta aplicaciones relacionadas con robótica y otros sistemas físicos.