Brad Smith propone evaluaciones independientes, reportes obligatorios de incidentes y mecanismos para detener sistemas de IA que puedan actuar de forma peligrosa
Brad Smith, presidente de Microsoft, lanzó una advertencia sobre la necesidad de establecer reglas de seguridad más estrictas para la inteligencia artificial, en medio del debate sobre cómo supervisar una tecnología que continúa ampliando su presencia en distintos sectores de la sociedad.
En declaraciones recogidas por Reuters, Smith planteó que los sistemas de inteligencia artificial deben estar sujetos a controles más rigurosos, similares a los que se aplican a otros productos y servicios de uso cotidiano. Su planteamiento apunta a una diferencia entre las exigencias de seguridad existentes para numerosas tecnologías y los mecanismos de supervisión que actualmente se aplican a los sistemas de IA.
Entre las propuestas mencionadas figuran las evaluaciones independientes, los reportes obligatorios de incidentes y la creación de mecanismos que permitan detener sistemas cuando se comporten de manera peligrosa. Estas medidas buscan fortalecer la capacidad de detectar riesgos, documentar fallos y actuar cuando el funcionamiento de una herramienta tecnológica pueda ocasionar daños.
Las evaluaciones independientes permitirían examinar los sistemas más allá de las pruebas realizadas por sus propios desarrolladores. Por su parte, los reportes obligatorios de incidentes facilitarían la identificación de problemas y aportarían información para comprender cómo se producen determinados fallos y qué medidas pueden ayudar a prevenirlos.
La posibilidad de detener sistemas que presenten comportamientos peligrosos también forma parte de las preocupaciones sobre la seguridad de la inteligencia artificial. A medida que estas herramientas se incorporan a actividades cotidianas y procesos empresariales, adquiere mayor importancia establecer procedimientos para responder ante situaciones en las que su funcionamiento no sea seguro.
El planteamiento de Smith sitúa la responsabilidad como uno de los puntos centrales de esta discusión. Además de evaluar qué tan avanzados pueden llegar a ser los modelos de IA, las empresas, los responsables de su implementación y las autoridades deben abordar cómo identificar riesgos y quién debe responder cuando se producen incidentes.
El debate también plantea el desafío de encontrar un equilibrio entre el desarrollo tecnológico y las medidas necesarias para reducir posibles daños. La expansión de la inteligencia artificial abre oportunidades en múltiples campos, pero también aumenta la importancia de contar con criterios claros de evaluación, supervisión y respuesta ante fallos.
Las propuestas atribuidas al presidente de Microsoft se suman a una conversación más amplia sobre la gobernanza de la inteligencia artificial. El objetivo de ese debate es definir mecanismos que permitan aprovechar las capacidades de esta tecnología sin dejar de lado la seguridad, la transparencia y la rendición de cuentas.