Tecnología letal potenciada por la Inteligencia Artificial. La mirada con futuro de Papa Francisco

Con voz profética Papa Francisco vuelve a encender una alerta "frente a los prodigios de las máquinas, que parecen capaces de elegir autónomamente". Sobre este doble filo de la Inteligencia Artificial el Pontífice reiteró una reflexión que viene planteando desde hace algún tiempo... A saber que "estaríamos condenando a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir sobre sí mismas y sobre sus vidas, condenándolas a depender de las elecciones de las máquinas".

En un mensaje dirigido al encuentro multirreligioso "AI Ethics for Peace" que se inauguró, ayer, en Hiroshima (Japón) y cuyo objetivo es promover el desarrollo ético de la Inteligencia Artificial el Vicario de Cristo, como ya hizo en el G7, vuelve a pedir se prohíba el uso de "armas autónomas letales", tecnología que se potencia con la IA.

MENSAJE DEL SANTO PADRE FRANCISCO PARA LA REUNIÓN "AI ETHICS FOR PEACE" ("ÉTICA DE LA IA PARA LA PAZ")

[Hiroshima, 9-10 julio 2024]

______________________________________

Queridos amigos, reciban este saludo con motivo de su reunión titulada “Ética de la IA para la paz”. La Inteligencia artificial y la paz son dos temas de absoluta importancia, como tuve ocasión de subrayar ante los líderes políticos del G7: “Conviene recordar siempre que la máquina puede, en algunas formas y con estos nuevos medios, elegir por medio de algoritmos. Lo que hace la máquina es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que podríamos definir el más estratégico de una elección y requiere una evaluación práctica. A veces, frecuentemente en la difícil tarea de gobernar, también estamos llamados a decidir con consecuencias para muchas personas. Desde siempre la reflexión humana habla a este propósito de sabiduría, la phronesis de la filosofía griega y, al menos en parte, la sabiduría de la Sagrada Escritura. Frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida. Condenaríamos a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas. Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de inteligencia artificial. Está en juego la misma dignidad humana" (Cf. Discurso en el G7, 14 de junio de 2024).

Al elogiar esta iniciativa, les pido que muestren al mundo que unidos exigimos un compromiso efectivo para proteger la dignidad humana en esta nueva época de uso de las máquinas.

El hecho de que se reúnan en Hiroshima para hablar de inteligencia artificial y paz tiene una gran importancia simbólica. Entre los conflictos actuales que sacuden el mundo, lamentablemente, sucede que oímos hablar cada ves más a menudo - además del odio de la guerra - de esta tecnología. Por eso considero que el acontecimiento de Hiroshima reviste una importancia extraordinaria. Es crucial que, unidos como hermanos, podamos recordar al mundo que: “en un drama como el de los conflictos armados, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas “armas autónomas letales” para prohibir su uso, empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano" (Cf. Discurso en el G7, 14 de junio de 2024)

Si observamos la complejidad de las cuestiones que tenemos ante nosotros, incluir la riqueza cultural de los pueblos y las religiones en la gobernanza de la inteligencia artificial es una clave estratégica para el éxito de su compromiso con la sabia gestión de la innovación tecnológica.

Mientras les deseo que esta reunión dé frutos de fraternidad y colaboración, rezo para que cada uno de nosotros pueda convertirse en un instrumento de paz para el mundo. ____________

Boletín de la Oficina de Prensa de la Santa Sede, 10 de julio de 2024