La violencia de género facilitada por la IA requiere de regulaciones
La violencia de género facilitada por la IA requiere de regulaciones POR ALEXANDRA DAVIDOFF, ESTUDIANTE DE MÁSTER SOCIOLOGÍA DE LA INFANCIA Y DERECHOS DEL NIÑO, SOCIAL RESEARCH INSTITUTE, UNIVERSITY COLLEGE LONDON (UCL); DUSAN COTORAS, NÚCLEO MILENIO FUTUROS DE LA INTELIGENCIA ARTIFICIAL (FAIR); Y CLAUDIA LÓPEZ, UNIVERSIDAD TÉCNICA FEDERICO SANTA MARÍA. (UCL); DUSAN COTORAS, NÚCLEO MILENIO FUTUROS DE LA INTELIGENCIA ARTIFICIAL (FAIR); Y CLAUDIA LÓPEZ, UNIVERSIDAD TÉCNICA FEDERICO SANTA MARÍA. o esla primera vez que N ocurre unasituación similar a la del colegio Saint George, donde seis alumnoscrearon, consistemas de inteligenciaartificial (4), fotos falsas de sus compañeras desnudas, las cuales luego difundi ron. Lo mismo ocurrió en un colegio del mismo nombre en Chorrillos, Perú, y en Almendralejo, España. La problemática es preocupantemente familíar. La generación deimágenes pomográficas por mediodelA, o "decpfake porn" (en inglés), es detal magnitud que el Reino Unido y EE.UU. ya están legislando para criminalizar este ti po deactividades.
Y es que estas acciones no pueden reducirse, como parece haberse hecho en este caso, aunasimple infracción escola Es, a todas luces, una forma de agresión sexual, que atenta contra los derechos fundamentales de las niñas y adolescentesinvolucradas y puede llegar atener un impacto de por vida debido al daño provocado y, debido al daño provocado y, debido al daño provocado y, debido al daño provocado y, además, la dificultad de eliminar datos del mundo digital. En este sentido, la generación y difusión de una imagen pornográfica falsa y sin consenti miento, no puede nidebeequipararsea una simple conducta inapropiada. Precisamente porque no es la primera vez, es importante quenoseaborde como un caso aislado.
Después detodo, los estudiantes que cometieron estos actos también son menores de edad que han aprendido estas conductas desdelasociedaden quehan crecido, Sibien esto no los exculpa de responsabilidades, debería hacernos reflexionar acerca de nuestra cultura que, enla práctica, permite y reproduce la violencia de género. Mucho se habla de cómo losniños internalizan la violencia desde su contexto, pero no delas distintas formas que esto puede tomar.
En este caso, la existencia y fácil acceso asistemas de lA específicamente diseñados para el acoso sexual, que sólosirven para desnudar que sólosirven para desnudar que sólosirven para desnudar falsamente cuerpos de personas queenllas fotografías originales llevan vestuario. Que estos sistemas puedan existir es evidencia clara de un contexto que permite, reproduce y faciJitalas lógicas de la violencia de género, esta vez en el mundo digital. Más aún: que esto no haya motivado inmediatamente su regulación por parte de las instituciones correspondientesevidenciaquela permisividad ala agresión sexual hoy se extiende ala vida virtual. Es preocupante que los establecimientos e instituciones ignoren la gravedad de la violencia de género que sedaen lo virtual, restándole importancia a la victimización y revictimización real que causa en las estudiantes mujeres. Aunque la generación de imágenes falsas, pero creíbles, a través de lA sea nueva, es también parte de una larga serie de acoso y abusos hacia niñas y adolescentes por parte de sus pares.
En cada ocasión, el foco dela discusión ha representado a discusión ha representado a discusión ha representado a discusión ha representado a discusión ha representado a discusión ha representado a discusión ha representado a discusión ha representado a discusión ha representado a los victimarios como excepciones a la regla o personas que cometen errores puntuales, en vez de como reproductores de un patrón cultural, que debe abordarse también más allá de los casos particulares. Si la discusión se limita exclusivamente a este caso puntual, este muy probablemente noserá el último. Estossistemas son de fácil acceso para personas de todas las edades.
Su uso puede convertir en victimarios y víctimas de actos de una gravedad previamente impensable incluso a niños y niñas mucho másjóvenes, quienes hoy nacen inmersos en un entorno di donde se normaliza la agresión sexual y se les expone constantemente a contenidos adultos deformaautomatizada.
Tal vulneración puede comenzar desdelas edades más tempranas e incluso en espacios considerados seguros, como lo han demostrado controversias como la del algoritmo de YouTube Kids, enel quese identificó la difusión de videos violentos, perturbade videos violentos, perturbade videos violentos, perturbadorese inapropiados generados por 1A y protagonizados por personajes infantiles como Elsa y PeppaPig.
Sibien no hay estadísticas exhaustivas sobre el tema en Chile, investigaciones en el Reino Unido evidencian cómo, más tarde ensu desarrollo, muchos preadolescentes seven expuestos a contenido digital pornográfico por primera vez deforma accidental, loque asu vez conduce fácilmente al consumo de representaciones sexualizadas de extrema agresión haciala mujer. Este contexto no sólo faci ta quese cometan actos de vio: lencia, sino que resulta por mismo una forma de violencia y una vulneración de los derechos de niñas, niños y adoles entes. Hay que recordar, además, que estos no tienen total autonomía ante la ley, y hay adultos responsables que dan acceso a las tecnologías para hacer uso de ellas.
Si bien vigilarlas conductas delos hijos en el medio digital resulta un desafo, tampoco puede eximirse safo, tampoco puede eximirse safo, tampoco puede eximirse safo, tampoco puede eximirse SERE DE EDUCACIÓN $ de la responsabilidad a los adultos que rodeana estos menores de edad y forman parte del contexto que permite este tipo de acciones. Sin duda, la generación de imágenes pornográficas debe úipificarse como un delito, siguiendo la tendencia interna cional y los principios dela actualizada Política de lA denuestro país. Es urgente priorizar y atender a todas las niñas y adolescentes que han sido víctimas así como asus familias, Sin embargo, es también necesario ampliar nuestra mirada. Ni la tecnología ni las conductas aprendidas de violencia de género existen fuera de nuestra sociedad. Quizás un aspecto más profundo de nuestra cultura serefleja en la reticencia aregular el medio digital y a prevenir proactivamentella violencia de género y hacia la niñez. Si queremos que estas situaciones nose repitan, debemos responderaellas, Pero debemos dejar deresponder comosicada casoftuerala primera vez. CS casoftuerala primera vez. CS casoftuerala primera vez. CS casoftuerala primera vez. CS.