El vaticano se suma al reclamo internacional contra los robots asesinos

La primera encíclica de León XIV rechazó que algoritmos y sistemas autónomos puedan tomar decisiones letales y reclamó regulaciones globales para garantizar el control humano sobre el uso de la fuerza.

El 25 de mayo pasado el Papa León XIV publicó su primera encíclica que hace una crítica a la inteligencia artificial. En Magnifica Humanitas (Magnífica Humanidad) el sumo pontífice advirtió sobre los riesgos que implica delegar decisiones humanas fundamentales en sistemas automatizados, sobre todo en contextos militares.

En el documento se plantea que el desarrollo de la inteligencia artificial debe estar acompañado por criterios éticos claros. Entre estos puntos, se observa una creciente preocupación por el uso de la IA en conflictos armados y por el desarrollo de sistemas de armas con capacidad de operar con diferentes niveles de autonomía.

En palabras de León XIV, “las decisiones relacionadas con el uso de la fuerza letal deben permanecer bajo control humano efectivo y no pueden quedar en manos de mecanismos automatizados o procesos cuya lógica resulte inaccesible para quienes los utilizan”.

Aunque esto no es nuevo, el Vaticano ya había planteado estos desafíos con el uso de los sistemas de armas autónomos y la IA. Durante el papado de Francisco, en 2024, el entonces líder de la Iglesia Católica manifestó que “ninguna máquina debería tener la capacidad de decidir sobre la vida de una persona”. 

Tanto Francisco como León XIV consideran que trasladar decisiones de vida o muerte a algoritmos implica un problema ético de fondo porque diluye la responsabilidad humana y aleja a dirigentes políticos y militares de las consecuencias de sus actos.

Sin embargo, estas preocupaciones no son sólo de la Iglesia Católica. Durante 2023, representantes de diferentes organizaciones religiosas cristianas, musulmanas y budistas firmaron una declaración conjunta en la que exigieron acciones urgentes para impedir el desarrollo y despliegue de los llamados “robots asesinos”. 

En esa misma línea trabaja la Campaña Stop Killer Robots, una coalición internacional impulsada en parte por Human Rights Watch (HRW) desde 2013, la iniciativa reclama un tratado internacional que establezca prohibiciones y regulaciones para los sistemas de armas autónomos.

El papa León XIV añadió además que la responsabilidad sobre el desarrollo y utilización de la inteligencia artificial debe estar claramente definida en cada etapa del proceso, desde quienes diseñan estas herramientas hasta quienes las emplean en situaciones concretas. Para el sumo pontífice, cualquier aplicación militar de la IA debe estar sometida a los más altos estándares éticos y respetar la dignidad humana.

El debate también está presente en las Naciones Unidas. En junio, los Estados miembros analizarán por primera vez de manera formal las oportunidades y riesgos asociados al uso militar de la inteligencia artificial. En noviembre, volverán a reunirse en Ginebra para discutir la posible apertura de negociaciones destinadas a elaborar un instrumento internacional que regule estas tecnologías.

Hasta el momento, 130 países expresaron su apoyo a algún tipo de marco jurídico vinculante sobre estas armas. Mientras crecen los reclamos para limitar el uso militar de la inteligencia artificial, organizaciones de derechos humanos también advierten sobre otros impactos asociados a esta tecnología, desde el consumo masivo de recursos naturales hasta la utilización de datos personales sin consentimiento.

Impacto ambiental y derechos humanos

Mientras crecen las discusiones sobre el uso militar de la inteligencia artificial, distintas organizaciones también advierten sobre sus consecuencias ambientales y sociales.

Amnistía Internacional advirtió que la expansión de la inteligencia artificial generativa exige cada vez más infraestructura tecnológica, lo que se traduce en una mayor demanda de energía, agua y capacidad de cómputo. El crecimiento de los grandes modelos de IA requiere centros de datos de gran escala y sistemas informáticos con elevados niveles de consumo energético.

Según la organización, este proceso también tiene impactos concretos sobre comunidades locales. En algunos casos, la construcción de centros de datos se desarrolla en territorios afectados por la escasez de agua o de electricidad, generando tensiones entre las poblaciones que habitan esas zonas.

Diversas organizaciones señalan que esta preocupación también se refleja en los informes de sostenibilidad de las propias empresas tecnológicas. En esta línea, Google informó que sus emisiones de gases de efecto invernadero aumentaron un 48% entre 2019 y 2024, mientras que Microsoft reportó un incremento del 29% entre 2020 y 2024. Ambas compañías vinculan parte de ese crecimiento a la expansión de centros de datos y a las necesidades asociadas al desarrollo de inteligencia artificial.

Comunidades de países como Chile, México y Estados Unidos también manifiestan su rechazo a nuevos proyectos de infraestructura tecnológica debido al impacto que podrían tener sobre los recursos naturales.

Por otro lado, Amnistía Internacional cuestionó la forma en que varias empresas desarrollan sus sistemas de inteligencia artificial. La organización advierte que muchos modelos se entrenan a partir de la recopilación masiva de información disponible en internet, sin el consentimiento de las personas cuyos datos son utilizados.

Ante esta situación, Amnistía pidió a los Estados avanzar en regulaciones que garanticen la protección de los derechos humanos y exijan responsabilidades a las compañías tecnológicas por los posibles impactos derivados de sus decisiones empresariales y de diseño.