Antonio Guterres y Mirjana Spoljaric advierten que estas tecnologías aumentan los riesgos para los civiles al permitir que máquinas seleccionen y persigan objetivos
La Organización de las Naciones Unidas (ONU) y el Comité Internacional de la Cruz Roja (CICR) hicieron un llamado urgente para iniciar negociaciones internacionales destinadas a establecer normas sobre el desarrollo y uso de las armas autónomas, ante el crecimiento de estas tecnologías y su incorporación cada vez mayor a los conflictos armados.
El secretario general de la ONU, Antonio Guterres, y la directora del CICR, Mirjana Spoljaric, expresaron su preocupación por el avance de sistemas capaces de identificar, seleccionar y perseguir objetivos con distintos niveles de autonomía y sin una intervención humana directa en cada ataque.
En una declaración conjunta, ambos organismos advirtieron sobre el riesgo de que el mundo se acerque a un escenario en el que máquinas puedan tomar decisiones relacionadas con ataques contra seres humanos.
La preocupación se produce en un contexto internacional marcado por la incorporación acelerada de nuevas tecnologías a los campos de batalla. Los sistemas autónomos y la inteligencia artificial están adquiriendo un papel cada vez más relevante en la vigilancia, identificación de objetivos y operaciones militares.
Para la ONU y el CICR, esta evolución plantea importantes interrogantes legales y éticos, especialmente cuando se trata de determinar quién debe asumir la responsabilidad por las consecuencias de un ataque realizado por un sistema que opera con un elevado grado de autonomía.
El derecho internacional humanitario establece restricciones destinadas a proteger a la población civil durante los conflictos armados. Entre sus principios fundamentales se encuentra la obligación de distinguir entre combatientes y civiles y evitar ataques contra personas o infraestructuras civiles.
Sin embargo, las organizaciones advierten que esa distinción puede resultar particularmente compleja para sistemas autónomos cuando las condiciones en el terreno cambian rápidamente.
En una zona de conflicto, una persona puede desplazarse, una infraestructura puede cambiar de función o un escenario aparentemente definido puede modificarse en cuestión de segundos. Para los organismos internacionales, delegar decisiones de vida o muerte en máquinas puede generar riesgos difíciles de controlar.
La ONU y el CICR señalaron que los ataques contra civiles e infraestructuras civiles continúan ocurriendo en diferentes conflictos, pese a las prohibiciones establecidas por el derecho internacional humanitario.
La aparición de armas capaces de seleccionar y perseguir objetivos de manera autónoma añade una nueva dimensión al problema, debido a que la decisión final sobre un ataque podría quedar parcialmente determinada por sistemas tecnológicos.
Otro de los grandes desafíos planteados por estas armas es la responsabilidad. En caso de que un sistema autónomo ataque por error a civiles, las organizaciones consideran fundamental establecer claramente quién responde por las consecuencias: los operadores, los fabricantes, los mandos militares o los Estados que emplean estas tecnologías.
El llamado de la ONU y del CICR busca precisamente evitar que el desarrollo tecnológico avance más rápido que las normas internacionales destinadas a limitar sus posibles consecuencias.
Ambas instituciones consideran necesario establecer reglas antes de que el uso de estos sistemas se generalice todavía más en los conflictos armados.
La discusión internacional no se limita únicamente a la tecnología utilizada, sino también al grado de control humano que debe existir sobre las decisiones relacionadas con el uso de la fuerza.
Uno de los principales planteamientos es que las decisiones que puedan provocar la muerte o lesiones graves de personas no deberían quedar completamente en manos de sistemas automatizados.
La preocupación también está relacionada con la posibilidad de que las armas autónomas sean utilizadas en escenarios donde resulta difícil distinguir con precisión entre combatientes y civiles.
Esta situación podría ser especialmente peligrosa en zonas densamente pobladas, donde los enfrentamientos se desarrollan cerca de viviendas, hospitales, escuelas y otras infraestructuras utilizadas por la población.
La ONU y el CICR consideran que la comunidad internacional debe actuar antes de que estas capacidades se conviertan en una característica habitual de los conflictos.
El llamado representa un nuevo intento de impulsar un debate global sobre los límites que deberían establecerse al desarrollo de tecnologías militares autónomas y sobre las responsabilidades que deben asumir los Estados que las desarrollen o utilicen.
Para ambas organizaciones, el desafío consiste en garantizar que los avances tecnológicos no debiliten las normas destinadas a proteger a las personas durante las guerras.
La advertencia llega en momentos en que diferentes países incrementan sus inversiones en inteligencia artificial, robótica y sistemas militares capaces de operar con distintos grados de autonomía.
La ONU y el CICR consideran que este escenario hace cada vez más urgente alcanzar acuerdos internacionales que establezcan límites claros.
El objetivo de las negociaciones propuestas sería evitar que las decisiones sobre la vida y la muerte de personas queden determinadas exclusivamente por máquinas y garantizar que exista un control humano efectivo sobre el uso de la fuerza.
El debate, por tanto, ya no se centra únicamente en lo que estas tecnologías pueden hacer, sino en qué decisiones deberían permitirse a una máquina tomar en un campo de batalla y cuáles deben permanecer bajo responsabilidad humana.