¿La inteligencia artificial también es filósfa?
¿ La inteligencia artificial también es filósfa?. ¿La inteligencia artificial también es filósfa? Gabriela ArriagadaBruneau. Raúl Villarroel. Carolina Gainza.
Sí, he utilizado la IA, pero... Carolina Gainza ha usado inteligencia artificial en su trabajo, para cosas específicas, "como pedirle ayuda para ordenar algunas ideas", cuenta. "Me gusta discutir con estas IA, porque muchas veces no me entregan lo que yo quiero o entregan algo incorrecto. Ahí está el arte de aprender a dar instrucciones, o los `prompts', que aún estoy aprendiendo.
Es interesante verme discutiendo con la IA, porque para mí eso es: un nuevo espacio donde puedo testear mis ideas, no una tecnología en la que busco una verdad". "Sí, he utilizado la IA", confirma Gabriela Arriagada-Bruneau, "como herramienta para revisiones editoriales, gramaticales, y a veces para armar estructuras y líneas posibles de argumentación". "Pero hay algo que opera en mi propio sistema operativo humano cada vez que interactúo con una IA generativa", advierte. "Para mí, no hay duda de que esas respuestas son producto de correlaciones estadísticas entre secuencias lingüísticas, no de procesos de sentido encarnados en una subjetividad situada. Por tanto, lo que produce puede ser formalmente coherente, pero epistémicamente superficial o éticamente irresponsable si no hay una mediación crítica humana.
Es, por decirlo de alguna forma metafórica, pura forma y nada de fondo". "Además, algo que me inquieta es que el uso prolongado de IA tiende a modular los modos de pensar y escribir, promoviendo formas de exposición más estandarizadas, predecibles y desprovistas de conflicto interno.
Y la belleza de mis investigaciones y su contexto real se basan en una ética aplicada, que se vive, que muestra conflicto, antagonismos, dilemas, desafíos, que no pueden simplemente analizarse como si fueran una operación matemática abstracta. Mis motivaciones más profundas para embarcarme en mis investigaciones son motivaciones personales, emocionales, vividas". Raúl Villarroel también ha usado aplicaciones de IA, "principalmente para indagaciones temáticas y búsquedas conceptuales.
Hasta ahora, conforme a ese uso habitual, la IA no parece ofrecer posibilidades que excedan o superen a los recursos a los que se puede acceder sin tenerla en cuenta; sin embargo, no se podría estigmatizar su uso en la investigación científica o la investigación social y de humanidades, porque sin duda la ampliación de alternativas que posibilita es innegable". De hecho, Villarroel cree que es simple imaginar la elaboración de un libro especializado en alguna materia, "solo pidiéndole a alguna plataforma o aplicación de IA un plan de redacción, con lo cual, obviamente, ese largo trabajo de incubación de ideas e intuición de escenarios reflexivos que cualquier autor debía enfrentar hasta hace poco se ve enormemente facilitado". Dar o no ese paso depende solo de la decisión de quien se lo proponga, como revela el caso de Jianwei Xun.
El asunto, dice Villarroel, es intuir las deformaciones sociales y las implicancias éticas de difundir una obra así sin informar su origen: "Los usos y apropiaciones conscientes y racionales de los recursos y productos tecnológicos siempre serán éticamente preferibles a cualquier aproximación irreflexiva y acrítica". Esta semana, a partir de un artículo que escribió en español, Gainza le pidió a NotebookLM una herramienta académica en línea que utiliza inteligencia artificial, que generara un pódcast.
A los dos minutos, el pedido estaba satisfecho: "Una conversación entre dos `expertos', en inglés, totalmente ajustada a mi propuesta teórica y política en el artículo", cuenta Gainza. "Estoy segura de que, si lo hago público, pocas personas se darían cuenta que lo creó una IA y que las voces del pódcast no pertenecen a humanos reales. Ahí está el tema con el caso de `Hipnocracia', que no se transparentó que era una IA. Pero también entendamos que era una performance, un ejercicio para que pensemos cómo la IA está presente en distintos aspectos de nuestra vida y cómo abordamos el fenómeno.
Y que ni las humanidades, en su labor intelectual, están fuera de su influjo". mo sea, el asunto es que hay una nueva idea, que esa idea tuvo buena recepción, que al parecer aporta al muy humano intento de comprender el mundo, y entonces, ¿importa que sea en parte un producto algorítmico? Fronteras desdibujadas La filósofa Gabriela Arriagada-Bruneau, profesora de la Universidad Católica, especializada en ética de la IA y datos, y autora del ensayo "Los sesgos del algoritmo", cree que el caso de Jianwei Xun sí es una "novedad relevante" respecto de lo que ya hemos visto de estas herramientas digitales. "Primero, no se trata solo del uso de IA como herramienta técnica, sino de una coautoría intencional en la producción de pensamiento filosófico, con el objetivo explícito de intervenir en el debate público", explica. "Esto desdibuja las fronteras entre autor y asistente, entre sujeto pensante y máquina, poniendo en discusión nuestros criterios de credibilidad epistémica". "Además", agrega, "introduce una dimensión performativa: la IA no solo asiste, sino que participa en la creación de una obra que interpela críticamente a la sociedad.
Que esta obra haya sido reconocida por el mundo académico y mediático antes de conocerse su origen artificial, representa un salto epistemológico y ético en la relación entre IA y humanidades que no debemos dejar pasar como una simple anécdota". El filósofo Raúl Villarroel, decano de la Facultad de Filosofía y Humanidades de la Universidad de Chile, y que ha dedicado su trabajo a las éticas aplicadas y el pensamiento contemporáneo, dice que, "tal vez", no sea tan novedoso el caso, "dado que existe desde hace tiempo la convicción de que los alcances y posibilidades de la performance de la IA son ilimitados e incluso insospechados". "Excepto", advierte, "si los resultados tenidos a la vista son de tal naturaleza que tensionen o derechamente hagan colapsar a nuestras referencias más usuales respecto de la verdad, la corrección o la probidad de nuestras acciones, como parece estar ocurriendo con el caso del ejercicio llevado a cabo por Andrea Colamedici". Villarroel observa que "ejercicios engañosos", como el del ensayista italiano, "lo que hacen es ponernos ante una escena del presente que parece extraída de la ficción y que corresponde a una situación difícil de evaluar o admitir éticamente, porque corre irreversiblemente el límite entre la verdad y la mentira, como hasta ahora las hemos entendido.
A partir de este instante de la historia, muchas personas estarán convencidas de que hemos ingresado de lleno en el dominio de aquello que algunos han denominado la `pesadilla digital', ese ámbito inefable donde todo nuestro mundo anterior, construido sobre la idea de la `verdad' y las referencias de lo que hemos considerado `real', se comienza a desmoronar". Novedad o no (ella piensa que no es distinto de las polémicas generadas por la proliferación de imágenes, textos, músicas y videos generados por IA, además de que muchas actividades humanas, como el diagnóstico médico, ya se apoyan en la IA), la socióloga Carolina Gainza, fundadora del Laboratorio en Cultura Digital UDP y autora del libro "Narrativas y poéticas digitales en América Latina", cree que el caso Xun "genera impacto porque no fuimos capaces de identificar que el texto fue coescrito por dos IA y que su autor, presentado como un humano, en realidad es una IA coautora del texto". "Caímos, paradójicamente, en el juego de la `hipnocracia' propuesto en el libro", apunta Gainza. "Por otra parte, la propuesta teórica entra en el área de las humanidades, la filosofía específicamente, que hasta ahora había sido poco tocada por la IA. Las humanidades se definen, en parte, por el ejercicio del pensamiento crítico y el intelecto para abordar los fenómenos del mundo. Ahora entra una IA en esa práctica que considerábamos tan propiamente humana.
Mi pregunta es, ¿por qué no ocurriría si ya está ocurriendo en tantos otros ámbitos de nuestra existencia?". A pesar de lo dicho, a Arriagada-Bruneau no le parece que este caso demuestre que la inteligencia artificial pueda filosofar, al menos no en sentido estricto.
Demuestra, sí, "que el campo cultural y la predisposición de las personas nos inclina a atribuir profundidad a cualquier discurso que se parezca (o simule) al filosófico, si cumple ciertas condiciones de forma y performatividad". "Lo que resulta preocupantemente novedoso es nuestra vulnerabilidad simbólica frente a lo que percibimos como autoridad epistémica", afirma. "Mi experiencia de trabajar con IA y, además de investigarla desde la ética, me ha llevado a concebirla no tanto como una `inteligencia', sino como un dispositivo de producción discursiva que refleja y reproduce los sesgos, silencios y hegemonías de los corpus con los que fue entrenada.
Por eso, toda interacción con IA requiere un toque escéptico, que nace de la sospecha y del desacuerdo, como formas de preservar el pensamiento crítico, que es el corazón del quehacer académico". ¿Quién piensa? Independientemente de las consideraciones hechas, queda pendiente el asunto de si, dado lo fructífero que parece este ejercicio, importa o no que Jianwei Xun e "Hipnocracia" sean en parte obra de la IA. ¿No podría ser que el diálogo entre filosofía e IA sea un aporte al pensamiento, para la comprensión del mundo? "La creación de `hipnocracia' como concepto es, sin duda, provocadora", contesta Arriagada-Bruneau. "Pero aquí hay que hacer una distinción fundamental: ¿ es la inteligencia artificial la que `piensa' este concepto, o somos nosotros quienes proyectamos sentido sobre un producto maquinístico carente de intencionalidad? ¿ Qué significa `comprender el mundo' si lo hacemos a través de una entidad que no lo habita ni lo sufre?". "Esta ambigüedad es más que semántica: es política y epistémica. Al asumir que la IA puede `crear conceptos' --como si se tratara de una subjetividad pensante--, corremos el riesgo de naturalizar la ilusión tecnocultural de la automatización del pensamiento.
Un concepto, en sentido filosófico, no es meramente una combinación ingeniosa de palabras ni una etiqueta para fenómenos sociales; es una operación cognitiva situada que articula una experiencia del mundo, una memoria colectiva, una posición desde la cual mirar críticamente la realidad", agrega la filósofa. "La IA puede ayudarnos a explorar ideas, sí, pero si la tratamos como sujeto filosófico, estamos despojando a la filosofía de su raíz ética y existencial.
En lugar de ampliar el pensamiento, podríamos estar perpetuando una lógica de aceleración y `vaciamiento' del sentido mismo de filosofar". "Este es un debate que ya está instalado en nuestra sociedad", afirma Gainza. "Es decir, ¿qué hacemos con una tecnología que está entrando en diversas dimensiones que antes eran consideradas exclusivas de lo humano, como la creación o el pensamiento?". "A mí me parece inútil el debate centrado en lo que la IA puede hacer o no respecto a la inteligencia humana, como cuando se dice `es que la IA nunca podrá tener la sensibilidad o la emoción humana'. Eso es cierto, hasta ahora, pero ¿ de qué sirve? Para mí, lo interesante es cómo convivimos con estas inteligencias que, por supuesto, son distintas a nosotros, y qué modos de pensamiento surgen en esa interacción". Por eso, a Gainza le parece relevante el caso de Jianwei Xun, y la controversia que ha generado, "porque finalmente abre la pregunta sobre si podemos `copensar' con la IA, y nos muestra, además, que ya estamos generando formas de creación, pensamiento y convivencia con estos sistemas técnicos.
Como investigadora en humanidades y en temas de cultura digital, me parece que esto último es lo que deberíamos atender". Villarroel reconoce "el atractivo horizonte de posibilidades que se abre con experiencias como la referida, puesto que, sin duda, por muy espurio que finalmente resulte el ejercicio, en cuanto a su fondo de verdad, de todos modos podríamos agradecerle haber insertado en la discusión ese interesante concepto de `hipnocracia', que refiere a una sociedad adormecida por los usos políticos interesados y perversos de la IA por parte de las grandes corporaciones tecnológicas al servicio de gobiernos inescrupulosos". Tampoco es que se trate de una genialidad, aclara, pero "sí contribuye a poner a la vista --mediante un gesto de recursividad insólita, diría yo-el desfondamiento del Estado de Derecho y la democracia, cuya implosión fatal parece inevitable al estar cayendo vertiginosamente en la pendiente resbaladiza de la expresión política estratégica de la mentira que termina siendo indiscernible de la verdad". "Con todo", dice Villarroel, "probablemente lo único realmente aborrecible en relación con este inesperado y aún incomprensible giro digital de la actualidad, me parece que sería levantar una querella moralista y conservadora en contra del devenir tecnológico, que intentara preservar una figura de lo humano refractaria a las transformaciones y precaria en cuanto a su capacidad de adaptación resiliente a los cambios y preservación de su propia dignidad". Entonces, ¿Jianwei Xun es o no un filósofo? "De acuerdo con la información disponible, Jianwei Xun no es un filósofo en el sentido tradicional", contesta Gemini, la IA de Google. ¿La inteligencia artificial... VIENE DE E 1 Jianwei Xun. Su libro, "Hipnocracia", está en español.
EDITORIAL ROSAMERÓN IEA UC MINISTERIO DE CIENCIA `` Esto desdibuja las fronteras entre autor y asistente, entre sujeto pensante y máquina"... .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. . GABRIELA ARRIAGADA-BRUNEAU. `` Corresponde a una situación difícil de evaluar o admitir éticamente, porque corre irreversiblemente el límite entre la verdad y la mentira"... .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. RAÚL VILLARROEL. `` Lo interesante es cómo convivimos con estas inteligencias que, por supuesto, son distintas a nosotros, y qué modos de pensamiento surgen en esa interacción"... .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. . CAROLINA GAINZA.
ELISA VERDEJO SINSAY En su editorial española, Xun aún aparece como "profesor de filosofía y una de las figuras más brillantes de la filosofía contemporánea de Hong Kong". Andrea Colamedici, el humano detrás de Xun, ha dicho que se trata de un experimento filosófico y de una performance artística..