ONU y CICR piden límites para armas autónomas letales

La Organización de las Naciones Unidas (ONU) y el Comité Internacional de la Cruz Roja (CICR) hicieron un llamado para establecer límites claros al desarrollo y uso de las armas autónomas letales, ante la preocupación por sistemas capaces de tomar decisiones relacionadas con el uso de la fuerza sin una intervención humana directa.

Ambos organismos consideran necesario mantener un control humano adecuado sobre las decisiones que puedan provocar la muerte o lesiones graves, especialmente ante el avance de tecnologías capaces de identificar y seleccionar objetivos mediante sistemas automatizados.

La discusión sobre las armas autónomas ha llegado a un momento clave, debido a que los Estados podrían aprovechar una próxima conferencia prevista para noviembre para avanzar en la negociación de reglas jurídicamente vinculantes sobre este tipo de armamento.

El objetivo sería establecer normas que definan con mayor claridad los límites que deben existir en el diseño, desarrollo y utilización de sistemas de armas capaces de operar con distintos niveles de autonomía.

De acuerdo con el Comité Internacional de la Cruz Roja, las armas autónomas son sistemas que pueden seleccionar objetivos y aplicarles fuerza sin intervención humana directa. Para hacerlo, utilizan sensores y programas informáticos que analizan las condiciones de su entorno y las comparan con un perfil de objetivo previamente establecido.

Esta capacidad genera preocupación debido a que una máquina podría determinar por sí misma cuándo y contra qué objetivo utilizar la fuerza, lo que plantea cuestionamientos sobre la responsabilidad humana y el cumplimiento de las normas del derecho internacional humanitario.

La ONU y el CICR han insistido en que el desarrollo tecnológico no debe eliminar la participación humana en decisiones relacionadas con la vida de las personas.

El debate internacional busca determinar qué nivel de autonomía puede permitirse en los sistemas de armas y qué controles deben mantenerse para evitar que decisiones de alto impacto queden completamente en manos de algoritmos.

La próxima conferencia podría representar una oportunidad para que los países avancen hacia acuerdos que establezcan obligaciones específicas y mecanismos de control frente al desarrollo de estas tecnologías.

El llamado ocurre en un contexto en el que los avances en inteligencia artificial, sensores y sistemas automatizados están modificando la manera en que se desarrollan nuevas capacidades militares, aumentando la necesidad de establecer reglas antes de que estas tecnologías alcancen mayores niveles de autonomía.