¿ Moda Inocente o Amenaza Digital? la IA Detrás de Ghibli
DRA. YASNA BASTIDAS CID, ACADÉMICA UNIVERSIDAD SAN SEBASTIÁN La Inteligencia Artificial (IA) ha experimentado un rápido avance en los últimos años, revolucionando, en particular, la forma en que interactuamos con la tecnología. En las últimas semanas, hemos sido testigos de cómo miles de usuarios han utilizado Chat GPT, a través de su integración con generadores de imágenes como DALLDE, para convertir sus fotos al estilo Ghibli.
Esta práctica tan extendida alrededor del mundo se ha convertido en moda, pero con potencial sobre nuestros derechos y libertades fundamentales, por lo que es un deber inexcusable de quienes somos una voz experta en estas materias, educar a la ciudadanía respecto del procesamiento de estas imágenes.
En este escenario, ¿qué tanto saben los ciudadanos sobre sus derechos? ¿ existe conciencia de cómo nos puede impactar una simple práctica viral?. Convertir nuestras fotos en estilo animé a través de plataformas digitales que utilizan sistemas de IA no solo es una tendencia, sino una cuestión de ética y derecho. Pocos conocen, por ejemplo, que nuestra Constitución Política consagra un derecho fundamental a la protección de datos personales, y que el mismo implica para los individuos un poder de control sobre su información personal.
En este sentido, su imagen plasmada en una fotografía que usted luego convirtió en animé es un dato de carácter personal, esto quiere decir que, la imagen de una persona identifica o hace identificable a esa persona, y su recogida es una operación de tratamiento regulada por la ley.
De tal manera que, al convertir imágenes al estilo animé o Ghibli, la IA procesa estas imágenes y, a pesar de las políticas de privacidad implementadas por Open Al y otras empresas de l A, compartir imágenes personales con estos sistemas puede conllevar riesgos. Las empresas pueden usar estas imágenes para mejorar y entrenar sus modelos de l A, almacenarlas en bases de datos sin el control del usuario y reutilizarlas para diversos fines sin su consentimiento. Además, estas imágenes pueden contener metadatos, como ubicación, fecha y hora, que pueden utilizarse con fines no deseados, lo que supone un riesgo para la privacidad del usuario. El uso de estas imágenes también puede dar lugar a la falsificación de avatares, deepfakes y usurpación de identidad, e incluso, a un uso indebido de datos sensibles de menores con fines maliciosos.
Así las cosas, los usuarios, ante todo, deben valorar si el resultado que se obtiene de participar en dichos retos virales y de la utilización de las herramientas de IA justifica la exposición a los riesgos.
En consecuencia, se vuelve fundamental promover el uso responsable de estas herramientas, y promover estándares éticos que fomenten el respeto, la equidad, la confianza, el buen comportamiento y la honestidad en las actividades comerciales y personales.