Un instrumento fascinante y tremendo
Un instrumento fascinante y tremendo Un instrumento fascinante y tremendo HUMANITAS El Papa Francisco intervino el viernes pasado en la sesión conjunta de la cumbre del G7 celebrada en Apulia, Italia, entre el 13 y 15 de junio. Es el primer Pontífice que participa en una cumbre de los "Grandes de la Tierra" y, en un discurso de extraordinario valor y actualidad, se centró en la inteligencia artificial (IA), sus riesgos y oportunidades.
Entre otras cosas, se refirió a la necesidad de asegurar el control humano sobre las decisiones de la IA para proteger la dignidad humana, al imperativo de prohibir el uso de dispositivos como las armas autónomas letales, al hecho de que la IA generativa no es completamente objetiva, ya que se basa en datos y algoritmos, lo que puede perpetuar prejuicios y errores, y a la necesidad de una sana política para orientar la IA hacia el bien común. Presentamos la primera parte de su intervención; todas las referencias y el texto completo se encuentran disponibles en www.humanitas.cl.
Estimadas señoras, distinguidos señores: Me dirijo hoy a ustedes, líderes del Foro Intergubernamental del G7, con una reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad. La Sagrada Escritura atestigua que Dios ha dado a los hombres su que Dios ha dado a los hombres su que Dios ha dado a los hombres su ¡ 1 ) las consecuencias que podrían llegar a producirse.
A este respecto podríamos decir que todos nosotros, aunque en diferente medida, estamos atravesados por dos emocio= nes: somos entusiastas cuando imaginamos los progresos que se pueden derivar de la inteligencia artificial, pero, al mismo tiempo, nos da miedo cuando constatamos los peligros inherentes a su uso*. No podemos dudar, ciertamente, de que la llegada de la inteligencia artificial representa una auténtica revolución cognitiva-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas trans= formaciones de época.
Por ejemplo, la inteligencia artificial podría permitir Espíritu para que tengan "habilidad, "Condenaríamos a una democratización del acceso al talento y experiencia en la ejecu-ción de toda clase de trabajos" (22 Ja humanidad a Un investigación científica, la posi saber, el progreso exponencial de la idad idad 35,31 )»*. La ciencia y la tecnología futuro sin esperanza de delegar a las máquinas los trabajos son, por lo tanto, producto extraor= dinario del potencial creativo que poseemos los seres humanos*. Ahorabien, lainteligencia artificial si quitáramos a las personas la desgastantes; pero, al mismo tiempo, podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre seorigina precisamente a partir del capacidad de decidir clases sociales dominantes y clases uso de este potencial creativo que Dios nos ha dado.
Dicha inteligencia artificial, como sabemos, es un instrumento extre'madamente poderoso, que se emplea en numerosas áreas de la actividad humana: de la medicina al mundo laboral, de la cultura al ámbito de la comunicación, de la educación a la política. Y es lícito suponer, entonces, que su uso influirá cada vez más en nuestro modo de vivir, por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas.
Necesitamos sociales oprimidas, poniendo así en peligro la posibilidad de una "cultura del encuentro" y favoreciendo una "cultura del descarte". La magnitud de estas complejas transformaciones está vinculada obviamenteal rápido desarrollo tecnológico de la misma inteligencia artificial.
Es precisamente este poderoso avance tecnológico el que hace de la inteligencia artificial un instrumento fascinante y tremendo al mismo tiempo, ennuestrasrelaciones socialesyen garantizar y proteger y exige una reflexión a la altura de la el futuro, incluso en la manera en que concebimos nuestra identidad como seres humanos*. Eltemadelainteligenciaartificial, sin embargo, a menudo es percibido un espacio de control significativo del ser partir de la constatación de que la humano sobre el situación. En esa dirección tal vez se podría inteligencia artificial es sobre todo un instrumento. Y resulta espontáneo demodo ambivalente: porunaparte, Dro ceso de elección" *frmarquelos beneficios o los daños entusiasma porlas posibilidades que ofrece; porotra, provoca temor ante (... ) queesta conlleve dependerán de su uso. Esto es cierto, porque ha sido así. Un instrumento fascinante y tremendo G7 ITALIA 2024 con cada herramienta construida por el ser humano desde el principio de los tiempos. Nuestra capacidad de construir herramientas, en una cantidad y complejidad que no tieneigual entre los seres vivos, nos habla de una condición tecno-humana. El ser humano siempre ha mantenido una relación con el ambiente mediada por los instrumentos que iba produciendo. No es posible separar la historia del hombre y de la civilización de la historia de esos instrumentos.
Algunos han querido leer en todo eso una especie de privación, un déficit del ser humano, como si, a causa de esa carencia, estuviera obligado a darvida a la tecnología*. Una mirada atenta y objetiva en realidad nos muestra lo contrario. Vivimos una condición de ulterioridad respecto a nuestro ser biológico; somos seres inclinados hacia el fuera-de-nosotros, es más, radicalmente abiertos al más allá.
De aquí se origina nuestra apertura a los otros y aDios; de aquí nace el potencial creativo de nuestra inteligencia en términos de cultura y de belleza; de aquí, por último, se origina nuestra capacidad técnica. La tecnología es así una huella de nuestra ulterioridad. Sin embargo, el uso de nuestras herramientas no siempre está dirigido unívocamente al bien. Aun cuando el ser humano siente dentro de sí una vocación al más allá y al conocimiento vivido como instrumento de bien al servicio de los hermanos y hermanas, y de la casa común (cf. Gaudium etspes, 16), esto no siempre sucede.
Es más, no pocas veces, precisamente gracias a su libertad radical, la humanidad ha pervertido los fines de su propio ser, transformándose en enemiga de sí misma y del planeta*. La misma suerte pueden correr los instrumentos tecnológicos.
Solamente si se garantiza su vocación al servicio de lo humano, los instrumentos tecnológicos revelarán no sólo la grandeza y la dignidad única del ser humano, sino también el mandato que este último ha recibido de "cultivar y cuidar" el planeta y todos sus habitantes (cf. Gn 2,15). Hablar de tecnología es hablar de lo que significa ser humanos y, por tanto, de nuestra condición única entre libertad y responsabilidad, es decir, significa hablar de ética. De hecho, cuando nuestros antepasados afilaron piedras de sílex para hacer cuchillos, los usaron tanto para cortar pieles para ves= tirse como para eliminarse entre sí.
Lo mismo podría decirse de otras tecnologías mucho más avanzadas, como la energía producida por la fusión de los átomos, como ocurre en el Sol, que podría utilizarse para producir energía limpia y renovable, pero también para reducir nuestro planeta a cenizas. Pero la inteligencia artificiales una herra mienta aún más compleja. Yo diría que es una herramienta sui generis.
Así, mientras que el uso de una herramienta simple -como un cuchillo está bajo el control del ser humano que lo utiliza y su buen uso depende sólo de él, la inteligencia artificial, en cambio, puede adaptarse de forma autónoma a la tarea que se le asigney, si se diseña de esa manera, podría tomar decisiones independientemente del ser humano para alcanzar el objetivo fijado*. Conviene recordar siempre que la máquina puede, en algunas formas y con estos nue= vos medios, elegir por medio de algoritmos. Lo que hace la máquina es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que podríamos definir el más estratégico de una elección y requiere una evaluación práctica. Aveces, frecuentemente en la difícil tarea de gobernar, también estamos llamados a decidir con consecuencias para muchas personas. Desde siempre la reflexión humana habla a Desde siempre la reflexión humana habla a este propósito de sabiduría, la phronesis de la filosofía griega y, al menos en parte, la sabiduría de la Sagrada Escritura.
Frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida. Condenaríamos a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas. Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de inteligencia artificial. Está en juego la misma dignidad humana.
Precisamente sobre este tema, permítanme insistir en que, en un drama como el de los conflictos armados, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas "armas autónomas letales" para prohibir su uso, empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano.
Hay que añadir, además, que el buen uso, al 'menos de las formas avanzadas de inteligencia artificial, no estará plenamente bajo el control ni de los usuarios ni de los programadores que definieron sus objetivos iniciales en el momento de elaborarlos. Y esto es tanto más cierto cuanto que es muy probable que, en un futuro no lejano, los programas de inteligencias artificiales puedan comunicarse directamente entre sí, para mejorar su rendimiento. Y, si en el pasado, los seres humanos que utilizaron herramientas simples vieron su existencia modelada por estos "No debemos olvidar que ninguna innovación es neutral.
La tecnología nace con un propósito y, en su impacto en la sociedad humana, representa siempre una forma de orden en las relaciones sociales y una disposición de poder, que habilita a alguien a realizar determinadas acciones impidiéndoselo a otros.
Esta dimensión de poder que es constitutiva de la tecnología incluye siempre, de una manera más o menos explícita, la visión del mundo de quien la ha realizado o desarrollado". 'OLUDOVIC MARIN/AFP. 'OLUDOVIC MARIN/AFP. 'OLUDOVIC MARIN/AFP. 'OLUDOVIC MARIN/AFP. últimos -el cuchillo les permitió sobrevivir al frío pero también desarrollar el arte de la guerra-, ahora que los seres humanos han modelado un instrumento complejo, verán que este modelará aún más su existencia*. El mecanismo básico de la inteligencia artificial Permítanme ahora detenerme brevemente sobre la complejidad dela inteligencia artificial.
Básicamente, la inteligencia artificial es una herramienta diseñada para resolver un problema y funciona mediante un encadenamiento lógico de operaciones algebraicas, realizado en base a categorías de datos, que se comparan para descubrir correlaciones y mejorar su valor estadístico mediante un proceso de autoaprendizaje basado en la búsqueda de datos adicionales y la automodificación de sus procedimientos de cálculo.
La inteligencia artificial está diseñada de este modo para resolver problemas específicos, pero para quienes la utilizan la tentación de obtener, a partir de las soluciones puntuales que propone, deducciones generales, incluso de orden antropológico, esa menudo irresistible. Un buen ejemplo es el uso de programas diseñados para ayudar a los magistrados en las decisiones relativas a la concesión de prisión domiciliaria a presos que están cumpliendo una condena en una institución penitenciaria.
En este caso, se pide a la inteligencia artificial que prevea la probabilidad de reincidencia del delito cometido por un condenado a partir de categorías prefijadas (tipo de delito, comportamiento en prisión, evaluación psicológica y otros) lo que permite a la inteligencia artificial tener acceso a categorías de datos relacionados con la vida privada de la persona detenida (origen étnico, nivel educativo, línea de crédito, etc.). El uso de tal metodología -que a veces corre el riesgo de delegar de facto en una máquina la última palabra sobre el destino de una personapuede llevar implícitamente la referencia a los prejuicios inherentes a las categorías de datos utilizados por la inteligencia artificial.
El ser clasificado en un cierto grupo étnico o, más prosaicamente, el haber cometido hace años una pequeña infracción -el no haber pagado, por ejemplo, una multa por aparcar en zona prohibida-, influirá, de hecho, en la decisión acerca de la concesión de la prisión domiciliaria.
Por el contrario, el ser humano está siempre en evolución y es capaz de sorprender con sus acciones, algo que la máquina 'no puede tener en cuenta. (... )* 'no puede tener en cuenta. (... )* 'no puede tener en cuenta. (... )* 'no puede tener en cuenta. (... )* * Continúe leyendo y encuentre las referencias en www.humanitas.cl. rencias en www.humanitas.cl. Veintiséis años sirviendo al encuentro de la fe y la cultura www.humanitas.cl www.humanitas.cl.