Autor: José Ignacio Araya

“Es ridículo afirmar que la IA puede “dirigir el gobierno” como dice Elon Musk>”
“Es ridículo afirmar que la IA puede “dirigir el gobierno” como dice Elon Musk” Shannon Vallor, filósofa de la tecnología: Al e 5 S E ChatGPT o DeepSeek cuando responden sobre política? Todas las herramientas de IA tienen sesgos; están entrenadas contodos los juicios sesgados que ya hacen los humanos, por loque no pueden ser neutrales. Los patrones que las hacen funcionar son copiados denosotros, y tampoco somos neutrales.
La pregunta es: ¿ pueden los usuarios identificar ese sesgo y evitar que estas herramientas confirmen y refuercen sus propios prejuicios? Muchos modelos lingúísticos de IA y chatbots están entrenados para mostrarse “serviles”, es decir, diseñados para complacer al usuario. Por eso, si uno acude a ellos con una determinada postura política, es probable que reflejen esa postura hasta cierto punto, porque eso les mantendrá contentos y comprometidos con la herramienta. Perosi llegasa ella con otra postura política, puede querefleje esa otra. Así, dos usuarios con posturas políticas totalmente divergentes podrían ver confirmadas sus opiniones opuestas por el mismo chatbot, tal como ocurre con los algoritmos de las redes sociales.
Elon Musk, que lidera los recortes federales en la administracióndeDonald Trump, dijo que planeaba usar la IA para dirigir el gobierno. ¿Qué opina de este tipo de ideas? Es una pregunta enorme, pero esridículo afirmar que la lA puede “dirigir el gobierno”. Es una afirmación que hacela gente que quiere que pienses que es una máquina objetiva e infalible la que toma las decisiones, en lugar de las personas imperfectas que hay detrás de las máquinas. No tenemos robots más objetivos que las personas, ni infalibles, ni realmente inteligentes. Lo que tenemos son máquinas que son mucho más rápidas que las personas a la hora de resolver ciertos tipos de problemas, y eso es muy útil, pero también cometen muchos errores impredecibles. Para implantar y supervisarcon éxito cualquier sistema de lA, en el gobierno o en cualquier otro lugar, senecesitan personas con muchos conocimientos. Y eso no es barato, porque hay que pagar por la IA y por los humanos que se aseguren de que no comete un error terrible y costoso. Si no lo haces, esos errores ocurrirán y perjudicarán a la gente. Y me temo que vamos a ver mucho de eso. O En la época en que las herramientas de inteligencia artificial se toman la vida pública, preguntarse por los alcances éticos y regulatorios de su uso se hace cada vez más imperante. Así lo cree Shannon Vallor, filósofa y académica estadounidense especializada en ética tecnológica que ayer presentó su último libro, The Al Mirror.
How to Reclaim Our Humanity inan Age ofMachine Thinking, en el marco del ciclo del Magíster en Economía y Políticas Públicas de la Escuela de Gobierno de la Universidad Adolfo Ibáñez. ¿Está suficientemente regulado eluso de lalA o, porel contrario, hay demasiadas normas? Creo que sería difícil encontrar expertos creíbleseindependientes que digan que existen “demasiadasregulaciones” en la tecnología.
Sabemos que el sector está insuficientemente regulado; el fraude en línea y con lA esahora rampante, la pornografía deepfake está causando un daño inmenso, carecemos de imparcialidad y transparencia en la toma de decisiones algorítmicas, y el ecosistema de la información se está contaminando rápidamente con contenidos de baja calidad y falsedades, lo que está poniendo en peligro la alfabetización cívica, la confianza en el periodismo y la integridad de la investigación científica.
Incluso las regulaciones que tenemos, como la protección de los derechos de autor para artistas y autores, están siendo ignoradas por las empresas tecnológicas para que puedan obtener material de entrenamiento gratuito para los sistemas de IA, mientras que los gobiernos simplemente miran hacia otro lado, o hacen excepciones para las empresas después de quelas leyes ya han sido violadas. ¿Cuánto sesgo ideológico hay en.
La académica advierte de los sesgos de la IA, recalcando que las ellas. inclinaciones de los humanos que las crean se traspasan a Shannon Vallor, filósofa de la tecnología: Elon Musk escucha a Donald Trump hablar en la Oficina Oval.