Los colegios frente a las "deepfakes"
Los colegios frente a las "deepfakes" E n distintas latitudes, los colegios se han mostrado mal preparados para lidiar con las consecuencias de la inteligencia artificial y la violencia sexual que puede generar.
Su expansión ha hecho emerger una serie de herramientas que permiten a sus usuarios crear "deepfakes": esencialmente, videos o fotografías que usan la cara de personajes famosos --o de compañeros, en el caso de colegios o de lugares de trabajo--, los que son animados virtualmente para ponerlos en situaciones embarazosas o, incluso, abiertamente pornográficas. Los daños que estas acciones generan son inconmensurables, particularmente en las adolescentes que, por otras consideraciones, tienen una atadura muy fuerte con las redes sociales. Verse expuestas, entonces, a estas posibilidades resulta potencialmente traumático. En estas materias, sin embargo, no parece haber aún criterios ampliamente compartidos.
Por ejemplo, en Estados Unidos ha habido durante este año múltiples experiencias que han terminado con sanciones para quienes han creado estas imágenes que afectan a sus compañeras, pero solo en aproximadamente la mitad de los casos ellas han incluido la expulsión. Con todo, hay nueve estados que ya penalizan la difusión de estas imágenes y en poco tiempo es muy posible que en todos los estados de la unión se apruebe una legislación en esta línea.
En países europeos, el fenómeno también está presente --aunque de manera más acotada que en Estados Unidos y Canadá-y se anticipa una evolución similar, toda vez que hay un acuerdo en que esta situación se ha transformado en una verdadera epidemia que, por sus graves consecuencias, debe ser frenada. Sin embargo, la labor que puedan realizar los colegios en este ámbito es fundamental.
Viene discutiéndose en nuestro país hace un buen tiempo sobre los efectos que están teniendo los celulares y su interacción con redes sociales, juegos y también pornografía --especialmente en el caso de los adolescentes hombres-sobre los aprendizajes y el desarrollo socioemocional. La expansión de la inteligencia artificial en el diario vivir de niños y jóvenes es un fenómeno más de estos cambios tecnológicos, con sus impactos culturales y sociales. Sin embargo, los planteles escolares --con excepciones-no parecen estar abordándolo con toda la profundidad que el asunto demanda. La experiencia ocurrida en el Colegio Saint George's es reveladora en este sentido.
Si bien no es evidente que la legislación chilena considere que estos hechos sean constitutivos de delito, existe una institucionalidad para resguardar derechos de niños y adolescentes que en este caso fueron vulnerados, y ello sugiere que esas autoridades debieran haber sido puestas sobre aviso.
La Superintendencia de Educación tomó conocimiento de los hechos en marzo pasado (el hecho habría ocurrido en febrero). Con todo, el papel de esta es principalmente supervisar si el colegio ha cumplido con sus protocolos y reglamentos internos.
Los padres de una de las siete víctimas de este acto violento presentaron un recurso de protección ante la Corte de Apelaciones, donde acusan al plantel precisamente de no activar sus protocolos internos, además de revictimizar innecesariamente a las alumnas entrevistándolas una y otra vez, práctica claramente desaconsejada en estos casos. Si ello ocurrió, sería una evidencia categórica de mala preparación frente a fenómenos que pueden emerger en la sociedad actual y que los colegios no pueden ignorar. Un asunto complejo, por otra parte, es si la protección de las víctimas es compatible con la permanencia en el colegio de los alumnos que efectuaron dichos actos.
El reglamento del plantel establece como faltas muy graves amenazar, intimidar, agredir o desprestigiar a integrantes de la comunidad educativa, tanto presencial como virtualmente; asimismo, divulgar contenidos que puedan causar detrimento de la imagen personal de un miembro de la comunidad educativa. Estas faltas pueden conducir a la expulsión. Sin embargo, el colegio, por buen comportamiento previo, decidió mantener a los estudiantes infractores con matrícula condicional.
Si esta fue una decisión acertada o no, no es evidente sin conocer todos los antecedentes, pero el proceso revela la necesidad de los colegios de pensar mejor cómo enfrentar los nuevos desafíos que impone, en los tiempos actuales, la formación de niños y adolescentes, además de definir de manera más explícita el proceder ante situaciones como estas. Es algo que hoy se echa de menos en la inmensa mayoría de los reglamentos de los colegios nacionales. Los planteles escolares --con excepciones-no parecen estar abordando el tema con toda la profundidad que este demanda..