Autor: Gabriela Arriagada Bruneau Profesora Inst. de Éticas Aplicadas, Inst. de Ingeniería Matemática y Computacional, PUC

Columnas de Opinión: La IA es una revolución ética: desarmar para construir
Columnas de Opinión: La IA es una revolución ética: desarmar para construir N o nos confundamos. Magnifica Humanitas no es una encíclica sobre tecnología, así como El Señor de los Anillos, la obra de Tolkien que el propio Papa cita, no es una simple historia de aventuras. Ambas son declaraciones sobre ética y poder. La Inteligencia Artificial no es neutral, nunca lo fue, y creer lo contrario es una ingenuidad que beneficia a quienes concentran ese poder. En la novela de Tolkien, el anillo único es la encarnación del poder absoluto, y entregárselo al villano Sauron tiene el potencial de destruirlo todo. Eso es exactamente lo que hacemos cuando aceptamos la IA sin cuestionarla: entregamos poder.
En la encíclica, el Papa León XIV afirma: "Todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones". En sentido estricto, esta idea coincide con la tesis central de quienes, desde hace años trabajamos desde una perspectiva sociotécnica de las tecnologías: sistemas atravesados por valores, decisiones y arquitecturas humanas que construyen la tecnología y son, a su vez, moldeados por ella. León XIV retoma el "paradigma tecnocrático" (heredado de Laudato si') para describir el marco ideológico que distorsiona el desarrollo de la IA.
Se trata de una lógica basada en la eficiencia, el control y el lucro, un "optimismo tecnológico" que vuelve invisible todo aquello que no puede medirse ni optimizarse, me atrevo a decir: todo aquello que se siente profundamente humano. El paradigma tecnocrático envuelve a la IA, la legitima y la presenta como una realidad inevitable e ineludible, sin detenerse en los riesgos ecosistémicos y sociales que conlleva. Sin cuestionamientos, solo con consumismos. Además, el Papa denuncia la cadena de trabajo invisible que sostiene la economía digital: el etiquetado de datos, la moderación de contenidos, la extracción de minerales o la trata de personas facilitada por plataformas.
Reformula el principio de subsidiariedad, el cual sostiene que las decisiones deben tomarse en el nivel más cercano posible a las personas afectadas, y que las instancias superiores solo deben intervenir cuando las inferiores no pueden hacerlo. Esto, implica que las empresas que ejercen poder fáctico sobre comunidades enteras deben estar sujetas a exigencias regulatorias claras, donde la autorregulación resulta insuficiente e inaceptable. Por eso, las narrativas que insisten en la necesidad y premura de "subirse al carro de la IA" pierden el foco. No basta con adoptar y declarar usos de "IA responsable" o firmar principios voluntarios. La revolución tecnológica es, ante todo, una revolución ética. Requiere regulación robusta y exige prudencia: la capacidad de detenerse, preguntar y negarse a aceptar como inevitable lo que, en realidad, siempre ha sido una elección que sigue siendo humana. Acudiendo al llamado del Papa: está en nuestras manos "desarmar" el tecno-optimismo que empuja a la IA, para repensar y reconstruir el futuro desde y para el bien común. Autor: Gabriela Arriagada Bruneau Profesora Inst. de Éticas Aplicadas, Inst. de Ingeniería Matemática y Computacional, PUC.