La IA entra de lleno a la política con candidatos virtuales, deepfakes y mensajes ultrapersonalizados
La IA entra de lleno a la política con candidatos virtuales, deepfakes y mensajes ultrapersonalizados EL EMPRESARIO BRITÁNICO Steve Endacott presenta a AI Steve como "un copiloto de inteligencia artificial" para sus ambiciones de llegar al Parlamento. La imagen corresponde al sitio de la candidatura. HTTPS://WWW. AI-STEVE. CO.UK/ L a inteligencia artificial (IA) ya está en las urnas.
En la ciudad británica de Brighton los electores podrán votar en las parlamentarias del 4 de julio por "AI Steve", una nueva clase de candidato virtual generado por IA que a través de su sitio web puede mantener hasta 10.000 conversaciones simultáneas con los ciudadanos, responder a sus consultas las 24 horas del día y recoger sus inquietudes, generando una base de datos que luego será analizada para producir propuestas concretas de legislación. Estas luego serán votadas por un grupo de "validadores", personas reales que puntuarán las iniciativas para verificar que tengan sentido común. Con esos resultados, el empresario tecnológico Steve Endacott, fundador del partido Smarter UK, quiere ir al Parlamento y defender los proyectos impulsados por su "avatar" digital. "AI Steve es un copiloto de inteligencia artificial.
Yo seré el político real que vaya al Parlamento, pero seré controlado por mi copiloto", ha dicho Endacott, quien asegura que su propuesta busca "reinventar la política mediante el uso de la IA como base tecnológica", pero "no para sustituir a los políticos, sino para conectarlos de verdad con su público, con sus electores". El experimento de "AI Steve", junto a una propuesta similar del chatbot "VIC" (Virtual Integrated Citizen) que se postula a la alcaldía de Cheyenne (Wyoming, EE.UU. ) --Victor Miller con tecnología GPT-4 de OpenAI--, son seguidos de cerca por los expertos, que vislumbran una nueva frontera en el inevitable cruce entre la IA y la política. "Esta es una situación extremadamente interesante. Según entiendo, `AI Steve' se está utilizando tanto como una forma de comentario político y como un dispositivo de sondeo de opinión pública. El humano Steve Endacott dice que está siendo `controlado' por su versión de IA.
Claramente pretende transmitir un doble significado sobre la influencia tecnológica en la sociedad, pero también sobre su potencial para ayudarla", comenta Christopher Schwartz, investigador del Global Cybersecurity Institute del Rochester Institute of Technology. "Se trata de un uso muy intrigante de la IA que potencialmente podría abrir nuevos caminos para la democracia. No solo esto, sino imagen con una tierna y popular caricatura generada por IA. En México, la candidata opositora Xóchilt Gálvez creó iXóchilt, una vocería oficial creada con IA generativa.
Nuevas fronteras "Lo que realmente estamos viendo hasta ahora es el potencial de la IA para amplificar las tendencias existentes, aumentando la persuasión o credibilidad de los esfuerzos de spearfishing (comunicaciones que parecen legítimas, pero que contienen vínculos maliciosos) o permitiendo una mayor personalización.
Ciertamente, creo que atrae a más actores a este espacio al reducir los umbrales técnicos necesarios para, por ejemplo, piratear una campaña", opina Valerie Wirtschafter, experta en IA de Brookings Institution. "En cierto sentido, la IA da permiso a las personas para negar la verdad cuando sea inconveniente, y tachar información dañina como desinformación generada por la IA. Como resultado, al existir como una posibilidad puede socavar la credibilidad del espacio de información en términos más amplios", acota.
Paula Gürtler, investigadora del Centre for European Policy Studies, considera "realmente preocupantes" los audios generados con IA, ya que si bien los deepfakes de ese tipo "suelen tener tasas de precisión altas, es casi imposible ejecutarlas mientras se realiza la llamada" y llama la atención sobre el riesgo para la privacidad del votante que suponen la publicidad y los mensajes personalizados.
Pero también, acota, esto último puede ser una oportunidad para motivar a electores que de otro modo no participarían o que los partidos pequeños puedan "hacer más con presupuestos más reducidos". Los especialistas coinciden en que se trata de un momento de expectación. "Un uso interesante de la IA es traducir candidatos a idiomas que no hablan, ayudándoles a llegar a audiencias más amplias; el alcalde Eric Adams hizo esto en Nueva York. O, si el candidato es un prisionero político, se pueden utilizar deepfakes para ayudarle en su campaña; Imran Khan hizo esto en Pakistán.
La IA también puede utilizarse como forma de protesta; por ejemplo, la oposición en Bielorrusia está presentando un candidato a Presidente generado por IA para protestar contra la opresión del gobierno", comenta Schwartz. "Nuevamente, es importante que el contenido de IA siempre esté etiquetado como tal, pero todos estos son ejemplos de usos políticos de la IA que no son necesariamente negativos". mericanas, para proyectar un presunto respaldo en esa comunidad, pero fueron todas imágenes falsas; el exmandatario también reconoció que usó un modelo de lenguaje para crear un "discurso hermosamente escrito" para un mitin.
El Partido Republicano, por su parte, difundió un video con tono apocalíptico generado por IA que mostraba cómo sería un segundo período de Joe Biden, lo que llevó a los demócratas en el Congreso a presentar un proyecto para que se etiqueten los anuncios hechos con esta tecnología.
El propio Biden protagonizó involuntariamente una robocall ("robollamada"), en la que una voz idéntica a la suya llamó a unos 5 mil ciudadanos de New Hampshire para pedirles no votar en las primarias; luego se confirmó que un operador político de su rival encargó la falsificación computarizada, cuya elaboración en un software costó apenas un dólar.
Situaciones similares se han visto en India, donde se ha utilizado IA para "resucitar" en un video al fallecido líder de un partido; en España, donde el Presidente Pedro Sánchez fue representad o d á n d o l e l a m a n o a l independentista catalán Carles Puigdemont; o en las elecciones en Indonesia, donde el Presidente electo Prabowo Subianto, alguna vez un temido comandante de la dictadura de Suharto, ablandó su ilustrarlo al estilo del prócer José de San Martín o como Indiana Jones o un Cazafantasmas, lo que pareció divertido.
Pero también retrató a su oponente, el hoy Presidente Javier Milei, como una persona inestable caricaturizado en películas como "La Naranja Mecánica" o "Pánico y Locura en Las Vegas". Todo eso se vio como una licencia creativa "válida", pero luego también difundió contenido falso con un video de deepfake --que imita con impresionante realismo la apariencia y la voz de una persona-en el que cual su rival explicaba cómo funcionaría un mercado de órganos humanos. E n l a a c t u a l c a m p a ñ a e n EE.UU. también se han usado estas herramientas.
Hace unos meses se viralizaron supuestas fotos de Donald Trump abrazado entusiastamente con personas afroaDesinformación El debate sobre el impacto de la IA en la política es ya también un factor en el diseño de las campañas electorales.
Así como la irrupción de las redes sociales hace más de una década transformó radicalmente las campañas, tanto por la posibilidad de amplificar la difusión o mejorar la organización, como por riesgos como la amplificación de la desinformación y la polarización planificada, la IA tiene el potencial de correr todavía más las barreras de lo posible, sofisticando las fake news y permitiendo una ultrapersonalización de la propaganda.
En la campaña presidencial argentina de 2023, la candidatura de Sergio Massa ocupó herramientas de arte generativo para que la idea de utilizar un avatar de IA como método de votación independiente de las elecciones es muy prometedora.
Desde las elecciones presidenciales de 2016 (en EE.UU. ), ha habido preocupación entre los encuestadores estadounidenses si los votantes ocultan sus verdaderas intenciones. ¿Serán más comunicativos con los encuestadores que saben que no son seres humanos?", apunta.
Schwartz también advierte de los riesgos de que la herramienta "se salga de control" como en el caso de algunos estados de EE.UU., donde se puede "escribir candidatos". El especialista plantea varias interrogantes sin respuesta respecto de qué pasaría si una persona, por ejemplo un preso político o una entidad controlada por algún interés es representada por un "candidato de AI". Tecnología toma protagonismo en los procesos electorales: La IA entra de lleno a la política con candidatos virtuales, deepfakes y mensajes ultrapersonalizados JEAN PALOU EGOAGUIRRE Las últimas herramientas de inteligencia artificial han modificado cómo se hacen las campañas, amplificando el riesgo de desinformación pero también abriendo nuevas posibilidades de participación.
Los expertos remarcan que esto ya es una realidad con la que hay que convivir. "El uso desenfrenado de la IA la convierte en un campo de batalla en sí mismo: en lugar de competir en cuestiones políticas, los partidos compiten cada vez más en función de la eficacia con la que utilizan la IA. Todo esto, al menos, es intensamente perjudicial para las democracias", asegura Deepak Padmanabhan, investigador sobre el uso ético de la IA de Queen's University Belfast. En función de este impacto existe una creciente preocupación por la regulación de la IA en la política. En febrero, empresas como Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI y TikTok, entre otras, firmaron un pacto para adoptar "precauciones razonables" para evitar que se utilicen herramientas de IA para perturbar elecciones. La Unión Europea ya pidió en abril a las tecnológicas que tomen medidas concretas para minimizar la desinformación. Algunas ya han tomado medidas unilaterales, como Google, que restringió las respuestas de su chatbot Gemini sobre procesos electorales.
En EE.UU., la Comisión Federal de Comunicaciones confirmó que los audio generados por IA usados en robollamadas son ilegales, pero eso no cubre los deepfakes que circulan en redes sociales o en avisos de campaña. n Regulación.