Políticas de la Inteligencia Artificial
Políticas de la Inteligencia Artificial La batalla por el control del futuro tecnológico Políticas de la Inteligencia Artificial por Victor Chaix, Auguste Lehuger, Zako Sapey-Triomphet El conflicto en OpenAl revela una grieta inesperada: ¿ es posible conciliar el altruismo eficaz, que busca salvar a la humanidad con responsabilidad, y el aceleracionismo, que empuja a un progreso sin límites? Guattari soñaba con una nueva alianza entre humanos y máquinas. ¿Estamos preparados para co nst ru ¡ rl a? En En noviembre de 2023, el proyecto proyecto OpenAl, famoso por su producto producto estrella ChatGPT, fue el escenario de un curioso conflicto conflicto de gobernanza. El comité de dirección, encabezado por llya Sutskever, informiticoy informiticoy cofundador de la empresa, destituyó al directorgeneral, Sam Altman, también informático informático y cofundador.
Altman terminaría terminaría recuperando su puesto, pero el episodio reveló una fisura interna entre dos ideologias en apariencia opuestas, pero no tan disímiles: el altruismo eficaz (Rife criveAltruism) criveAltruism) y el aceleracionismo eficaz (EffectiveAccekrationisni). (EffectiveAccekrationisni). Los partidarios del primero intentaron sin éxito apartar a los gurúes del segundo, por temor a que condujeran a la humanidad asu pérdida. Desarrollado en Estados Unidos en los años 2000, el altruismo eficaz pretende responder a la cuestión de la utilización óptima de los recursos para el bien común.
Los defensores de esta corriente de pensamiento pensamiento se sienten bien diseñados por sus capacidades intelectuales, financieras y técnicas superiores para jerarquizar y resolver resolver los principales problemas humanos, humanos, entre los que se destacan el riesgo de pandemias, de una guerra nuclear y la aparición aparición de una “inteligencia artificial general”, general”, a veces llamada “singularidad”. Con una definición lo suficientemente imprecisa imprecisa como para que unos consideren que ya ocurrió, mientras que otros imaginan que emergerá de acá a medio siglo, ese sistema de inteligencia artificial consciente engendrado engendrado en nuestro océano de datos podría conducir a la humanidad a una era de prosperidad prosperidad universal o hacerla desaparecer.
Más radical que el altruismo eficaz, el aceleracionismo eficaz propone el desarrollo desarrollo tecnológico desenfrenado para llegar lo más rápido posible a esa entidad suprahumana y hacer que la humanidad pase a un estadio de evolución superior, escapando así de los peligros que enfrenta. enfrenta. Mientras tanto, seria conveniente levantar levantar todos los frenos reglamentarios y éticos, ignorar las cuestiones de propiedad propiedad intelectual o de respeto de los datos personales y, sin perder un instante, acelerar. acelerar. Este tecno-liheral ismo desinhihido justifica la comercialización de sistemas cuyo funcionamiento e implicancias aún cuesta comprender como el ChatGPT. que Altman hizo público sin esperar.
Percibimos allí cómo aparece el modelo de sociedad presentado por la industria digital y sus aliados en el poder, el del imperativo imperativo funcional, que el filósofo Marcelb Marcelb Vitali-Rosati describe como “la declinación declinación capitalista del imperativo racional, una racionalidad sometida a la necesidad de producir riqueza y de acumular mercancías” mercancías” (1). Suficiente para instalar en el imaginario colectivo el reemplazo del humano humano por la máquina como horizonte de las transformaciones socioeconómicas y tecnológicas actuales. Horizonte probable, pero no inevitable. inevitable. En los últimos años, la planificación industrial se havueltoa imponera ambos lados del Atlántico. Las élites occidentales occidentales la consideran indispensable para competir competir con el desarrollo asiático. La planificación planificación ecológica también abre su camino. camino.
Desde los demócratas estadounidenses estadounidenses partidarios de un “Creen New Deal” hasta la presidenta de la Comisión Europea, Europea, Ursula von der Leyen, todos pretenden pretenden mover los recursos del poder público y de las nuevas tecnologías para organizar organizar la transición hacia una economía más (wwwraimundoedwardscom) verde, pero liberal.
La izquierda propone alinear la producción con las necesidades sociales y las obligaciones med ioamhientales ioamhientales (2). En su seno, algunas voces apoyan apoyan la posibilidad de una coordinación industrial basada en sistemas de toma de decisión colectiva, que sacan partido de las recientes tecnologías de la información información (3). “Podemos imaginar tecnologías de la información y de la comunicación que no nos exploten, no nos engañen y no nos suplanten? preguntaba el escritor británico James Bridle.
Sí, podemos, una vez que salgamos de las redes de poder comercial comercial que han definido alaola actual de la lA” (4). Máquinas sesgadas Así, ambos lados del espectro partidario depositan sus esperanzas en progresos técnicos que bastaría con adaptar a sus preferencias ideológicas. Ahora bien, desde desde su concepción hasta su realización, la inteligencia artificial (lA) no es neutra.
Para desenmarañar el enredo entre técnica técnica y política que habita en el seno de la construcción de una lA, hay que abrir la caja negra: comprender aquello de lo que se trata y cómo funcionan sus mecanismos mecanismos de aprendizaje. A menudo el debate público deja a un lado esta etapa esencial, que sin embargo permitiría disipar las fantasiasgemelas de laniagiasolucionista y de la ansiedad antropomórfica.
En la intersección de las ciencias matemática matemática e informática, La inteligencia artificial artificial funciona concretamente como un sistema de entrada/salida: una función matemática que aprende, a partir de una base de datos, a proporcionar las respuestas respuestas correctas a preguntas precisas, con la intención de maximizar un objetivo definido. definido.
Si se trata por ejemplo de identificar animales, debe predecir correctamente la etiqueta asociada a cada imagen (“perro” o “pelícano”). Para ello, los ingenieros entrenan entrenan al programa a partir de un banco de imágenes etiquetadas, con el objetivo de minimizar el error de predicción. Un protocolo protocolo reajusta los parámetros después de cada intento y, cuando la probabilidad de fracaso se torna aceptable, la empresa distribuye distribuye el sistema. Hasta aquí la teoría. En la práctica, la fría neutralidad del proceso oculta elecciones elecciones eminentemente políticas, como la de los componentes en que se basa el aprendizaje. Sin sernecesariamente conscientes conscientes de ello, los ingenieros trasladan los sesgos discriminatorios inherentes a las condiciones en las cuales son producidos producidos los datos que nutren a la máquina.
La JA Pulse, desarrollada en 2020 por estudiantes estudiantes de la universidad de Duke en Estados Estados Unidos, que sirve para despixelar imágenes, tendía a blanquear a las person person as de color, al punto de engendrar un “Ohama blanco” (5). Nada de intencional, por supuesto: para construir su algoritmo, el equipo de Pulse utilizó otro sistema de inteligencia artificial (StyleCAN, desarrollado (StyleCAN, desarrollado por la empresa Nvidia). Concebido para generar imágenes de caras hunianas hunianas “verosímiles”, este último sobrerrepresenta sobrerrepresenta espontáneamente a los hombres blancos, debido a su propio aprendizaje. Si bien el algoritmo de Pulse no contenía ningún sesgo intrínseco, indirectamente incorpora los de StyleGAN: cuando despixela despixela la cara real de Ohama, el programa lo convierte en un hombre blanco.
Así, las presuposiciones y los estereotipos se incorporan incorporan subrepticiamente en la técnica que los naturaliza: ¿ no son las máquinas consideradas objetivas y desprovistas de ideología? Algunos, víctimas de algoritmos algoritmos de la policía predictiva que incorporan incorporan variables discriminatorias, deberán responder ante la justicia y aprenderán, a su costa, que eso no es así. Si bien a veces a los datos les falta representatividad, representatividad, la formalización del objetivo objetivo deja también mucho que desear. A través de una fórmula matemática, se trata trata de sintetizar la finalidad de la tarea intelectual intelectual a la que se apunta.
Así, mientras el objetivo de los algoritmos de recomendación recomendación consiste, en teoría, en seleccionar contenidos pertinentes, cuando examinamos examinamos la traducción matemática de esta tarea aparece un objetivo completamente completamente diferente: maximizar el tiempo que se Raimundo Edwards. Atojo, (Pintura acrílica y spray sobre tela) 2019. Políticas de la Inteligencia Artificial pasa frente a una pantalla, proponiendo el algoritmo contenidos adictivos y sensacionales sensacionales con el fin de capturar la atención atención del usuario.
No se trata de elegir entre el medio artificial y el entendimiento humano, sino de construir la “nueva alianza con la máquina”. Más ampliamente, un mundo en el cual los autómatas orquestan nuestra vida digital digital plantea una cuestión rara vez abordada: abordada: ¿ incumbe a las empresas privadas decidir ellas solas sobre los objetivos perseguidos poresas ¡ A? Esas decisiones técnico-políticas fundamentales, pasadas por alto por los dirigentes nacionales e internacionales, internacionales, ante todo preocupados por regular los desbordes demasiado dramáticos dramáticos o censurar los contenidos, justificarían justificarían sin embargo una deliberación colectiva colectiva y un control público más estricto, como lo sugiere un número creciente de actores del sector (6). La acumulación de una gran cantidad de datos no puede reemplazar a la reflexión democrática y al diálogo critico. critico.
Ahora bien, todo parece dispuesto para para impedirlo, desde la organización de la investigación hasta la denominación misma misma de “inteligencia artificial”. Esta expresión, expresión, inmediatamente comprensible por el gran público, ticnc como particularidad que alude a lo contrario de lo que pretende pretende designar. En rigor, habría que hablar de “autómatas computacionales” (7, expresión expresión claramente menos favorecedora pero pero más justa, dado que esas máquinas alcan alcan zan sus objetivos calculando el mejor medio para reiterar resultados pasados. Por el contrario, la noción de inteligencia sugiere una forma de desautomatización esencial en cualquier dinámica creativa: un esfuerzo de superación de las ideas preconcebidas y estereotipadas.
Inteligencia colectiva vs. algoritmos Poner a las tecnologías digitales al servicio de las decisiones colectivas, es decir, también también de nuestras capacidades de invención, invención, de imaginación y de interpretación, supone una visión de “la inteligencia” diferente diferente de la sostenida por los industriales industriales de Silicon Valley y los transhumanistas. transhumanistas.
Según la asociación Ars lndustrialis, “lo que es tonto o inteligente, no es tanto tal individuo o tal medio, sino la relación que los vincula uno con otro” (8). Talenfoque nutría las obras de los informáticos utopistas de los años 1960 y 1970 (9). No se trata de elegir entre el medio artificial y el entendimiento humano, sino más bien de construirla “nueva alianza con la máquina”, máquina”, tan anhelada en 1992 por el filósofo Félix Guattari (lo). Por lo pronto, e1 asunto parece mal encarado, encarado, porque incluso a los investigadores investigadores más agudos les resulta difícil comprender comprender qué pasa en la caja negra de los algoritmos.
“Explicar” el funcionamiento funcionamiento de los modelos de [A, es decir, traducir la respuesta del sistema en una “serie de etapas vinculadas entre si por lo que un ser humano puede sensatamente interpretar interpretar como causas o razones” (11): este principio elemental de higiene intelectual intelectual hoy por hoy ya no está entre las condic iones previas para la puesta en servicío servicío de un modelo, pero es la frutilla del postre.
La ingeniería domina la investigación investigación hasta el punto de que los investigadores investigadores solo entienden qué es lo que las ¡ A hacen varios años después de su comercialización comercialización o su puesta en línea.
Por consiguiente, ¿cómo puede el legislador establecer normas deevaluación desistemas que nadie sabe cómo funcionan, particularmente particularmente en los sectores sensibles de la salud o de la educación? Como ejemplo del malestar general, el MIT Media Lab forjó y popularizó la expresión “Al Alchemy” Alchemy” (12) como metáfora de nuestra interacción interacción con esas cajas negras y como concepto concepto metodológico para interpretar su incomprensibilidad.
Mientras tanto, la inteligencia artificial artificial sigue siendo esa extraña mezcolanza entre ámbito de investigación científica, conjunto de tecnologías y mercadoen pleno pleno auge, los tres dominados por un puñado puñado de actores cuyas capacidades financieras financieras y pericia en política industrial siguen de cerca las de algunos países del 020. El acortamiento del proceso de innovación, desde la investigación fundamental hasta la puesta en el mercado en algunos años, incluso en algunos meses, tiene abiertamente abiertamente como fuente el aceleracionismo. Las exigencias de los mercados de rentabilidad rentabilidad a corto plazo y la debilidad de los frenos reglamentarios refuerzan ese movimiento. movimiento.
Secciones enteras dela producción producción científica se alinean con esos imperativos, imperativos, como demuestra la influencia que ejercen sobre los principales coloquios del ámbito (Sistemas Neuronales de Procesamiento Procesamiento de Información [Neurl PS], o la Sociedad Internacional de Aprendiz ajede Máquinas [JCML]). Los laboratorios privados, dotados de recursos colosales, pueden marcar más fácilmente el ritnioen esos ámbitos en los que la infraestructura infraestructura de cálculo cuesta caro y donde los mejores mejores postores reclutan a las mentes más formad as. En este ámbito, como en muchos otros, la “nueva alianza” de Guattari pasa por separar separar el Estado del mercado. 1. Marcello Vitali-RosattÉk. gcdi, bsg &nlibrrd l4ioqur du numérique, zones, París, 2024.2. “Prnpuesn macroeconómira. Programa del nuevo Frente Popular”. juniode2024 icédrie Durand yanmigxeueheyan, Commenr bífurquer. Les príncipes de laptazafication&oiogíque, Zones, 2024. tiarnes HHdle. 5o,AmazonsAl-poweredcashier-free ahopa use alotoL. humana. t-teres why that5houIdnt surpriseyou, TheUuardion.
Laodrea. lodeabrilde2o24. &KevioTruoag, liiis imageofa WhiteBaraekobsmais Als rodal blas prublem loa nutaheil”, Vice, 23 dejunio de 2020. www. vicesom 6.. loana varon (dirj, ”rostering a Federaied Al Cominons ecosystem”, T20 policy Briefing. junio de 2024, httpQ/ codingrights. org 1.
Anne Alombert y Giuseppe Longo, lI ny a pan dintelligenceareificiellei parlona da, nomates nutnériques peurrompre ayee les idéologics publidtaires! ”, LKumeníté, Paris, II dejuliodclo23. s. vlctor Petit, Woeabulaire dArs Industrialis, en Bernard stiegler, Pharrna colegie do Fzunt tahona!, Flamniarion, Paris, 2013.9 Evgeny Murozov, “Otra inteligencia artificial es posible”, Le. wonded! plonwtique, agtstode 2024. lo. ré1ixouattari. Pourune refondation des pratiques soeialer. Le Moi. k dip! omatique. octubre de 1992.11. Christophe Denia.
“Esquisses philosophiques autour de lacompréhension de phénonéncsconplcxes ec desoudls deprédictiunbaséssurde lapprentissage mnchine”, ConféreneefraneophoneaurlExtractiuii et laGestion desconnaissances -Atelier ExpIabA], Blois. enero de 2022.12. http//aialcheniy. media. mit. edu/ Doctorando en Humanidades Digitales, ingeniero de Investigación en lA e ingeniero. respectivamente. Este texto es la sintesis de una nota publicada en nctubreen el sitio web del grupo de reflexión X-Alternative. Traducción: Micaela Houston.