Lic. Carlos Enrique Loria Beeche.
Una lectura pausada de Magnifica Humanitas, volviendo al texto antes que a los titulares.
Hay frases que parecen destinadas a recorrer el mundo.
En la encíclica Magnifica Humanitas, una de ellas ha captado inmediatamente la atención de periodistas, tecnólogos, comentaristas y usuarios de redes sociales:
«La inteligencia artificial debe ser desarmada».
La expresión es fuerte. Tan fuerte que resulta imposible ignorarla. Incluyo la publicación de BBC New Mundo.
Pero precisamente por eso conviene hacer una pausa.
No basta repetir la frase. Hay que leerla dentro del contexto del documento, especialmente dentro del Capítulo Tercero, titulado “Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA”.
Allí, después de hablar del paradigma tecnocrático, del poder digital, de la responsabilidad, la transparencia y la gobernanza de la inteligencia artificial, León XIV introduce en el número 110 una palabra que él mismo presenta como especialmente importante:
«Quisiera, por último, usar una palabra muy importante para mí: “desarmar”».
Es decir, el Papa no lanza la expresión como un simple titular. La coloca al final de una reflexión sobre poder, monopolios, datos, bien común, subsidiariedad, solidaridad y justicia. Por eso conviene volver al texto y preguntarse qué quiso decir realmente cuando habló de “desarmar” la inteligencia artificial.
Conforme avanzo en la lectura de la encíclica, más convencido estoy de que este documento merece varias entregas. Es extenso, denso y toca temas muy diversos: la dignidad humana, la verdad, el trabajo, la libertad, la guerra, la tecnología, la justicia y la responsabilidad compartida de construir una sociedad más humana.
Por eso esta reflexión no pretende agotar el tema. Es más bien una primera aproximación a una de las expresiones más comentadas del texto.
Una vieja película volvió a mi memoria
Mientras leía estas páginas, no pude evitar recordar una película de 1983 llamada Juegos de Guerra (WarGames).
Muchos lectores jóvenes quizá nunca la hayan visto. Para quienes crecimos en los años ochenta, sin embargo, fue una de las primeras historias populares que nos obligó a pensar seriamente en computadoras, automatización, poder militar y responsabilidad humana.
La película cuenta la historia de un joven aficionado a la informática que, explorando sistemas mediante conexiones telefónicas, accede accidentalmente a una computadora militar diseñada para simular escenarios de guerra nuclear.
Él cree que está jugando.
La máquina, en cambio, interpreta el juego como si fuera real.
Y el mundo queda al borde de una catástrofe.
Después de ejecutar miles y miles de simulaciones, la computadora llega finalmente a una conclusión inesperada:
«A strange game. The only winning move is not to play.»
«Un juego extraño. La única forma de ganar es no jugar.»
Poco después aparece otra frase que muchos recordamos todavía:
«Professor Falken, how about a nice game of chess?»
«Profesor Falken, ¿qué le parece una agradable partida de ajedrez?»
La máquina había descubierto algo que los seres humanos seguimos intentando aprender: hay conflictos que nadie puede ganar.
Quizá por eso esa escena regresó a mi memoria al leer a León XIV.
El mundo real no tiene botón de reinicio
En una computadora podemos cerrar un programa, restaurar una copia de seguridad o reinstalar un sistema operativo.
En la historia humana no ocurre lo mismo.
No podemos reiniciar el mundo.
No podemos deshacer una guerra como quien borra una simulación.
No podemos eliminar las consecuencias de una injusticia mediante una actualización de software.
Las decisiones humanas dejan huellas reales sobre personas reales.
Y por eso, cuando hablamos de inteligencia artificial, no basta preguntar qué puede hacer la tecnología. También debemos preguntar quién la gobierna, con qué criterios, para qué fines y al servicio de quién.
Volver al texto de León XIV
El Papa escribe:
«Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás».
Esta frase merece ser leída lentamente.
León XIV no habla únicamente de armas.
Habla de una lógica de competencia.
Una lógica que ya no es sólo militar, sino también económica y cognitiva.
Es decir: una carrera por controlar más datos, mejores algoritmos, mayor capacidad de influencia, más poder comercial, más ventaja geopolítica.
En ese contexto, “desarmar” no significa destruir la inteligencia artificial.
El mismo Papa lo aclara:
«Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano».
Esta es, a mi juicio, la frase decisiva.
El problema no es la tecnología en sí misma.
El problema aparece cuando la tecnología deja de ser instrumento y comienza a convertirse en criterio absoluto.
Cuando la eficiencia vale más que la persona.
Cuando el dato pesa más que la conciencia.
Cuando el algoritmo decide sin posibilidad real de ser cuestionado.
Cuando quienes poseen la tecnología se sienten autorizados a gobernar la vida de los demás.
No apagar la tecnología, sino humanizarla
Por eso conviene insistir en algo: León XIV no está proponiendo una visión ingenuamente antitecnológica.
No pide abandonar la investigación.
No pide apagar las computadoras.
No pide regresar al pasado.
Lo que pide es mucho más exigente: impedir que la tecnología domine lo humano.
Eso significa poner límites.
Significa exigir responsabilidad.
Significa mantener abierta la posibilidad de discutir, revisar y corregir los sistemas que afectan la vida de las personas.
Significa recordar que una decisión técnicamente posible no siempre es moralmente aceptable.
Y significa reconocer que la persona humana no puede reducirse a información, rendimiento, utilidad o capacidad de cálculo.
Una nota personal desde “León”
Mientras preparo estas notas estoy trabajando desde mi nueva computadora de desarrollo, a la que le he puesto el nombre de León.
Quienes me conocen saben que acostumbro poner nombre a mis equipos. En esta ocasión, el homenaje al Pontífice era inevitable.
Además de servir para el desarrollo de programas, esta máquina forma parte de mi pequeño laboratorio personal de inteligencia artificial local, algo en lo que vengo experimentando desde hace varios años.
También espero utilizarla como equipo de apoyo para controlar y coordinar mi nuevo “juguete” de IA perimetral: el NVIDIA Jetson Orin Nano Super, una pieza que quiero integrar poco a poco en mis pruebas de automatización, visión, audio y servicios locales de IA.
Desde León he estado leyendo la encíclica, tomando apuntes, preparando resúmenes y buscando citas que puedan resultar valiosas para los lectores.
El detalle puede parecer menor, pero para mí tiene cierto simbolismo: estoy leyendo un documento sobre humanidad e inteligencia artificial precisamente desde una computadora preparada para trabajar, crear y experimentar con inteligencia artificial.
Como alguien que trabaja y piensa constantemente con ayuda de la tecnología, no leo estas páginas desde la distancia. Las leo precisamente desde dentro de ese mundo digital que el Papa nos invita a discernir.
Y quizá por eso el llamado a “desarmar” la inteligencia artificial me parece tan importante.
No se trata de tener miedo a la tecnología.
Se trata de no rendirle culto.
No se trata de rechazar la inteligencia artificial.
Se trata de impedir que ella, o quienes la controlan, ocupen el lugar que corresponde a la dignidad humana, a la conciencia moral y al bien común.
Una conversación que apenas comienza
La expresión “desarmar la IA” es una puerta de entrada.
Pero Magnifica Humanitas no se agota en esa frase.
El documento habla también de Babel y Jerusalén, de la verdad como bien común, de la dignidad del trabajo, de la libertad frente a nuevas dependencias, de la guerra, de las armas autónomas y de la civilización del amor.
Por eso conviene seguir leyendo.
Con calma.
Volviendo al texto.
Citando la fuente.
Y procurando distinguir entre lo que dice León XIV y las reflexiones que sus palabras despiertan en nosotros.
Porque quizá una de las tareas más urgentes de nuestro tiempo sea justamente esta: aprender a vivir con tecnologías cada vez más poderosas sin olvidar nunca que lo verdaderamente magnífico sigue siendo la humanidad que Dios ha puesto en nuestras manos.
Este artículo forma parte de una lectura más amplia de Magnifica Humanitas. Hace algunos días publiqué una primera aproximación al documento, centrada especialmente en la imagen de Babel, la dignidad humana y los desafíos que plantea la inteligencia artificial:
Conforme avanzo en la lectura completa de la encíclica, más convencido estoy de que el documento merece varias entregas. Muchas de las frases que hoy circulan en titulares o redes sociales sólo pueden comprenderse adecuadamente cuando se leen dentro del contexto completo de los capítulos en que aparecen.
Por esa razón procuraré volver constantemente al texto original, citando directamente las palabras de León XIV siempre que sea posible.
Para quienes deseen leer el documento completo y formarse su propio criterio, comparto también el texto íntegro de la encíclica:
📄 Descargar la encíclica completa: Magnifica Humanitas (PDF)
En próximas entregas quisiera profundizar especialmente en algunos temas centrales del documento: la imagen de Babel y Jerusalén, la verdad como bien común, la dignidad del trabajo humano frente a la automatización, las nuevas dependencias digitales, el problema de las armas autónomas y el llamado a construir una auténtica civilización del amor.
La encíclica es extensa. Y precisamente por eso merece ser leída sin prisa..
Yo espero en Dios que sí hay que ponerle límites importantes a inteligencia artificial porque como nos ayuda si nos va a destruir
Efectivamente don Edward. Creo algo maravilloso es que no tenemos limite para el bien, pero tampoco para el mal. Y es por eso que es tan importante poner límites. Un martillo es una herramienta muy útil, lo puedo utilizar para meter un clavo, para soltar una tabla, o incluso para darle por la jupa a una persona y causarle daño, incluso la muerte. La fantasía de “juegos de guerra”, parece ahora una realidad. Y es peligroso, muy peligroso.