Autor: POR MARCO ZECCHETTO / POR ALEJANDRA RIVERA

Caso Matthei: ¿Es necesario regular los contenidos falsos generados con IA difundidos en redes sociales?
Caso Matthel: ¿ Es necesario regular los contenidos falsos generados con IA difundidos en redes sociales? 'Las Claramente existe una monetización de por medio en la difusión de estos contenidos, y hoy las plataformas no tienen ningun deber, por ejemplo, de verificar las fuentes por las cuales se produce esta información, que puede ser tremendamente dañina, porque quien la recibe puede crear una visión sesgada de lo que es real y de lo que no.
La linea entre lo que es verídico y lo que no se mimetiza El director de Protección de Datos Personales, Ciberseguridad y Nuevas Tecnologias de HD Group, Juan Pablo González, planteó que se requiere avanzar hacia una normativa que resguarde los derechos de identidad digital, la honra o la privacidad de una persona ante un contenido falso generado con inteligencia artificial "sin inhibir el desarrollo tecnológico". Señaló que hay varios proyectos de ley en el mundo que buscan regular el uso de inteligencia artificial para aplicar en caso de deepfake (contenido falso generado con IA) o el uso no consentido de imágenes elaboradas con esta tecnología.
Respecto de Chile, dijo que en algunas alteraciones de sistemas informáticos podría aplicarse la Ley de Delitos Informáticos, "pero no contamos con una regulación tan exhaustiva en el uso de IA para realizar esas prácticas" No obstante, destacó el proyecto de ley que ingreso en junio pasado al Congreso, que regula la obligación de establecer un sello claro y rastreable del contenido generado con inteligencia artificial. ¿ Se debe legislar el contenido falso generado con IA que se difunde en redes sociales? Siempre es importante entender que las tecnologias en si son neutras. La complejidad es cuando se utilizan particularmente con fines que van mas alla de lo que uno puede prever y que, finalmente, afectan la honra o eventualmente la vida privada de la persona. Ahí no solamente se ve perjudicada la identidad digital del sujeto, sino también se puede ver afectada la integridad física o su salud psicológica.
Por ende, creo que si se debiese tratar de avanzar en una regulación, siempre buscando un balance, que sea una regulación de aplicación restringida y busque las garantias minimas para quien se ve afectado por el uso de la tecnologia, pero que en ningún caso inhiba el desarrollo de este tipo de tecnologías en el país. ¿ Las plataformas deberian tener una obligación legal de minimizar la difusión de deepfakes? Es importante el debate sobre la responsabilidad que tienen estas plataformas y de cuales son los limites. Estas no pueden actuar como entes de censura previa, pero si deben resguardar, a través de normas de convivencia, el no promover la masificación de la desinformación a través de su propia infraestructura. Es un tema importante a tener presente, sobre todo, tomando la lógica de la legislación europea en el sentido de las responsabilidades que tienen estas grandes companias en torno a la información. Responsabilidad y procesos electorales ¿ Qué apertura hay de las El abogado señaló que se debe debatir una regulación que proteja la honra y la identidad digital sin frenar el desarrollo tecnológico.
Plataformas no pueden censurar, pero tampoco promover la masificación de la desinformación" JUAN PABLO GONZÁLEZ, DIRECTOR DE PROTECCIÓN DE DATOS PERSONALES, CIBERSEGURIDAD Y NUEVAS TECNOLOGÍAS DE HD GROUP: plataformas de redes sociales para aceptar una regulación? POR MARCO ZECCHETTO.
La publicación en redes sociales de un video manipulado que mostraba a la candidata presidencial de la centroderecha, Evelyn Matthei, tardando en responder a una pregunta, reabrio el debate en torno a la necesidad de regular el contenido falso generado con inteligencia artificial (IA) y difundido con bots (perfiles automatizados) en plataformas digitales.
En este contexto, la directora de la Asociación de Ética Empresarial y Organizacional (AEEO), Macarena Mckay, señaló que es partidaria de legislar las fake news (noticias falsas), pero "con una regulación que no silencie voces ni limite la libertad, pero que haga responsables a quienes difunden desinformación o información falsa, sobre todo en un contexto electoral". En tanto, el abogado y director de Protección de Datos Personales, Ciberseguridad y Nuevas Tecnologías de HD Group, Juan Pablo González, planteo que se requiere avanzar hacia una normativa que resguarde derechos de identidad digital, honra o la privacidad de una persona sin inhibir el desarrollo tecnológico. "Puede tener impactos psicológicos y sociales profundos cuando es usado con fines maliciosos". La desinformación es una táctica que saltó al debate en 2018 con el escándalo Cambridge Analytica-Facebook, una empresa de datos que utilizó información de la red social para enviar información falsa personalizada durante campañas políticas.
Estas prácticas han sido utilizadas desde el exprimer ministro del Reino Unido, Boris Johnson, para difundir mensajes falsos a favor del Brexit, hasta el Presidente de Estados Unidos, Donald Trump, para manipular a la opinión pública, principalmente, en tiempos de campaña electoral.
JUAN PABLO GONZÁLEZ, DIRECTOR DE PROTECCIÓN DE DATOS PERSONALES, CIBERSEGURIDAD Y NUEVAS TECNOLOGÍAS DE HD GROUP: Caso Matthel: ¿ Es necesario regular los contenidos falsos generados con IA difundidos en redes sociales? y se vuelve bastante gris.
En ese sentido, el gran desafio es ver cuál es el nivel o el régimen de responsabilidad que tienen las redes sociales, entendiendo que finalmente ellas tampoco tienen el rol de generar filtros de censura previamente. Algunas plataformas desde el minuto uno colocan una marca, etiqueta o sello de agua por defecto, que indica que un contenido es generado por inteligencia artificial.
Pero los usos de este tipo de contenidos dentro de las plataformas es un limite que se tiene que discutir, porque puede afectar, no solamente los intereses que se quieren proteger del usuario, sino también de terceros que pueden estar en su legitimo derecho de poder beneficiarse del contenido realizado con inteligencia artificial.
Cualquier nivel de responsabilidad o de deber de generar algún tipo de filtro a la información debe ser tratada con cuidado, porque, por una parte, lo que uno busca es custodiar el resguardo de esta información, pero finalmente se le da poder a un privado para restringir libertades que son inherentes a los procesos de discusión o de información. ¿ Cómo amenaza este fenomeno a los procesos democráticos? Un componente clave es que cualquiera de estos procesos (electorales), en los que se difunde una gran cantidad de contenido cuya veracidad no se conoce muy bien, finalmente afecta de manera muy nociva los procesos de discusión, particularmente porque generan confusión de saber si la información que estoy obteniendo proviene de una fuente verídica o no. Y esto obviamente puede inducir a tomar decisiones desde la desinformación; lo hemos visto particularmente en procesos de elecciones en Europa y también en Estados Unidos. El riesgo de la desinformación amplificado por el uso de inteligencia artificial siempre es un tema importante para generar discusión. Hay que verlo con extremo cuidado y se tiene que fomentar la educación en todas las partes que están involucradas en estos procesos. MACARENA MCKAY DIRECTORA DE LA ASOCIACIÓN DE ÉTICA EMPRESARIAL Y ORGANIZACIONAL (AEEO): súper gris, porque no están abiertas a entregar datos que importan, ahi cuesta fiscalizar e investigar. Y sin esos datos no vamos a poder diseñar buenas políticas públicas. Hoy casi dependemos de la buena voluntad de estas plataformas y eso en el tiempo es imposible que sea sostenible. Por eso tiene que haber una obligación legal, por ejemplo, de entregar cierta data, de hacerse responsable en el minuto en que algo se viraliza. Pero de nuevo, esto es materia gris absoluta.
Por eso, apelar a la educación, a entender las diferencias y a empoderar a la ciudadanía para que detecte cuando algo no es real, es más corto que esperar a que haya una ley. -¿ Qué experiencias en legislación destaca de otros países? La Unión Europea es el referente, el más avanzado en regular el ecosistema digital. A través del Digital Service ACT (DSA), obliga a las grandes plataformas, como Meta o X, a que evaluen, mitiguen o minimicen riesgos como la desinformación en contextos electorales. Hoy, estas empresas están obligadas a explicar como funcionan sus algoritmos y por qué priorizan tal decisión o contenido. Francia ya tiene una ley contra la desinformación en períodos electorales. En Australia también estaban tratando de tener una legislación que obligue a estas plataformas a moderar contenido. En Latinoamérica, solo en Brasil hay un proyecto de ley de fake news, principalmente para virales falsos. Y en Estados Unidos, cuando no hay una ley estatal contra noticias falsas, prima la libertad de expresión. Pero no hay leyes duras. Es super complicado lo que estamos viviendo. En los países nórdicos, como Noruega, han tomado un camino interesante, están haciendo una campaña de ciudadanía crítica, de educar mediaticamente y con un potente esfuerzo por confianza institucional. Están ayudando a que la gente se dé cuenta de que la mentira organizada es una amenaza para la democracia. Los que tienen la última decisión de lo que consumen, viralizan, comparten o hacen likes, somos los ciudadanos. Y esto tiene que partir desde chiquititos, con pensamiento critico, con educación ética, entender las consecuencias, hacerse responsable de lo que pasa. Hay que regular y educar. hago esta parte del curso de ética en mis clases (en la Universidad de Los Andes), esta es la forma de explicarlo a los jovenes. Es decir, la información que me llegue tiene que ser la misma que le llegó a otro votante. Sin verdad, no hay decisión real. Imaginate una opinión pública construida sobre mentiras. No hay debate democratico, hay pura manipulación masiva, como lo que pasó con Cambridge Analytica. Se distorsiona el poder, porque el que miente mas o mejor gana, no el que tiene propuestas mejores. Y esto es injusto para los ciudadanos en cualquier proceso electoral. Y lo peor es que se quiebra la confianza.
Regulación internacional ¿ Las plataformas están disLa directora de la Asociación de Ética Empresarial y Organizacional (AEEO), Macarena Mckay, comentó que es partidaria de legislar las fake news o contenido generado con inteligencia artificial, pero "con una regulación que no silencie voces ni limite la libertad, pero que haga responsables a quienes difunden desinformación o información falsa, sobre todo en elecciones". Agregó que no todo error es fake news, pero "si hay intención de manipular, tiene que haber consecuencias claras. La sociedad se dio cuenta de que la autorregulación no basta y que los filtros de las plataformas no son suficientes.
Se necesita un marco legal y ético común", afirmó la experta en ética e IA. ¿ Cómo se regula sin limitar la libertad de expresión? Lo que se tiene que regular no es una opinión o las ideas de las personas, sino el contexto y las condiciones cuando una mentira se vuelve viral y parece verdad. Es exigir, por ejemplo, quién está detrás del contenido, quién pago por él, a quién le llegó, la transparencia del algoritmo e informar claramente cuando es generado con IA. Y regular, sobre todo, la trazabilidad de la publicidad política. Saber quién está financiando, qué mensajes, cómo se están segmentando, cuánto se ha gastado. Eso para mí no es censura, es transparencia democrática.
Por ejemplo, en el caso del video (manipulado) de Evelyn Matthei, determinar de qué cuenta salió, porque no tienes que prohibir el contenido, sino que hay que exigir una transparencia en estos algoritmos y la trazabilidad. Ahora, si no puedes distinguir lo real de lo falso, hay un debate súper claro: tenemos que proteger la democracia, no controlar la opinión. El mensaje más importante es que la libertad de expresión es un pilar de la democracia. El problema es que si la verdad no comparte esta visión, es un arma de doble filo. ¿ La información falsa generada con IA pone en riesgo la democracia? Este es el debate más profundo. Obviamente que se pone en riesgo la democracia con las fake news. ¿ Por qué? Porque la democracia no es solamente votar, sino que es votar informado con información veraz, en igualdad de condiciones.
Cuando puestas a evitar las fake news o a entregar datos ante una denuncia? Mas que entregar datos, ellos dicen: "Nosotros ponemos la tecnologia, pero ustedes son los responsables del uso". Es una materia Dijo que hay que legislar sobre todo la publicidad política, donde se debe exigir la trazabilidad del contenido. "No es censura, es transparencia democrática". 'Hay que regular las fake news sin silenciar la libertad de expresión, pero con consecuencias claras" POR ALEJANDRA RIVERA.