Campaña 2024: Cómo (intentar) reconocer videos e imágenes generados con inteligencia artificial
Campaña 2024: Cómo (intentar) reconocer videos e imágenes generados con inteligencia artificial IMAGEN CREADA CON IAIMAGEN CREADA CON IAlas personas u objetos de la imagen.
Lo que sucede en Chile no es nuevo si se observa la experiencia de otros países, aunque en estos la generación de imágenes por ejemplo, en EE.UU. o España es de mejor factura que los ejemplos que se han visto en Chile. John Atkinson, académico y director del Magíster en IA de la UAI, explica que la calidad de las imágenes depende del prompt o las instrucciones que se den al programa. “Todo básicamente va en la creatividad para usar el prompt. Hay gente de acá, especialmente los que están en el área de diseño, márketing y temas audiovisuales, que son muy buenos para eso.
En el fondo, aprenden a especificar bien el tema (... ), depende de la delicadeza y de la astucia”. Valentina Montero, directora del Magíster en Investigación y Creación de la Imagen de la Universidad Finis Terrae, afirma que lo llamativo de esta práctica no es el objetivo, sino que “es la facilidad para realizar este tipo de imágenes”, ya que antes se necesitaba un conocimiento más sofisticado en distintas herramientas para realizar montaje de fotografías. Montero considera que mientras más imágenes sedifundan, menos creíbles serán para las personas.
“Creo que esta saturación que va a haber de imágenes hechas con inteligencia artificial nos va a llevar a un punto de estallido de la sospecha donde no vamos a creer en nada”. También explica que es complejo poder establecer una forma para identificarcontenido, ya que los avances tecnológicos solucionan rápidamente los errores que se pueden ver hoy.
Al igual que Valentina Montero, Marcelo Mendoza, académico del Departamento de Ciencia de la Computación UC e investigador principal del Centro Nacional de Inteligencia Artificial (Cenia), considera que el fenómeno de la creación de contenido con IA no es algo nuevo.
Según sus investigaciones, “en las últimas tres elecciones presidenciales ya se han usado bots en Chile con mayor o menor presencia en algunas de ellas, pero en el caso de la inteligencia artificial generativa, esto es imágenes o textos generados por computadores, esto es bastante más nuevo”. Claudia López, académica de la Universidad Técnica Federico Santa María e investigadora principal del Núcleo Milenio de Investigación Futuros de la Inteligencia Artificial (FAIR), recuerda ejemplos de países como EE.UU., India o Argentina, y otros en que se ha utilizado la IA con objetivos maliciosos en política. “Ayuda en la generación de contenido útil, pero también de contenido falso.
Hay harto riesgo ahí no solo en los deep fakes que llaman un montón la atención, sino que también escritos que son generados con inteligencia artificial”. La experta considera que la solución para identificar estas fotografías no es otra herramienta tecnológica, sino que “crear estándares donde los contenidos generados por inteligencia artificial transparentemente tengan que decir obligatoriamente que fueron generados por inteligencia artificial y que si no se hace eso, sea algo penable y que no está permitido”. usuarios no confundan estas imágenes falsas con la realidad. Lo primero es revisar el contexto en el que es publicada la imagen y asegurarse de que este se relacione con las personas o figuras políticas que aparezcan en ella. Por ejemplo, la diputada Karol Cariola y la ministra Camila Vallejo tienen tan solo unos meses de embarazo, no como se ve en la fotografía. Además, en los bordes de la supuesta manifestación se pueden apreciar personas caracterizadas similares a las de películas bíblicas que no pertenecen al contexto de una marcha en Chile. Otro detalle son las extremidades y texturas de la piel: puede que quienes aparecen en las imágenes generadas por IA presentenbre las deep fakes.
Lo que sucede en Chile no es nuevo si se observa la experiencia de otros países, aunque en estos la generación de imágenes por ejemplo, en EE.UU. o España es de mejor factura que los ejemplos que se han visto en Chile. deformidades o tengan, por ejemplo, una cantidad incorrecta de dedos, y que su piel se vea brillante o similar a la de una figura de cera, como puede observarse en la imagen de la ministra y la diputada. De igual manera, puede haber desarmonías en las sombras, que pueden no coincidir con las deEl pasado 28 de agosto se inició la campaña electoral para las elecciones de octubre. En ese contexto es que han aumentado en redes sociales las imágenes, videos e información falsa generada con inteligencia artificial (IA), que involucra tanto a candidatos como a figuras políticas contingentes. Una de las imágenes generadas con IA es, por ejemplo, la de la presidenta de la Cámara de Diputados, Karol Cariola, junto con la ministra vocera de Gobierno, Camila Vallejo. La publicación en X (ex-Twitter), en que se ve a ambas embarazadas vistiendo un vestido celeste y un pañuelo verde, haciendo alusión a los movimientos provida y proaborto, acumula ya más de 20 mil visualizaciones.
La misma cuenta que difundió esta imagen publicó un supuesto video en el que se puede ver al abogado Luis Hermosilla quien recientemente ingresó a prisión preventiva en el marco del caso Audio junto con el exalcalde de Recoleta Daniel Jadue y al fundador de la Coordinadora Arauco Malleco, Héctor Llaitul, quien fue condenado a 23 años de cárcel por delitos contemplados en la Ley de Seguridad Interior del Estado, hurto de madera y atentados contra la autoridad. También, el candidato de Chile Vamos por Santiago, Mario Desbordes, generó un video para sus redes con contenido creado con inteligencia artificial, para advertir los peligros de este tipo de desinformación. Aunque los expertos coinciden en que aún no existen herramientas que identifiquen automáticamente las imágenes creadas con IA, hay ciertos elementos comunes en este tipo de contenido que permiten que los.
No hay una herramienta tecnológica que permita identificar las fotografías creadas con esta tecnología, pero sí ayuda fijarse en detalles como la piel, la forma de los cuerpos, las sombras y el contexto en que fueron publicadas. Esta fotografía falsa creada con IA ya lleva más de 20 mil int El candidato Mario Desbordes generó un video falso creado con IA, para