La IA y un modelo que reproduce desigualdades
La IA y un modelo que reproduce desigualdades La ¡ A y un modelo que reproduce desigualdades Plataformas como ChatGPT y otros modelos de Inteligencia Artificial (JA) procesan grandes volúmenes de datos, aprenden y se ajustan según la información con la que son entrenados. Esto implica que esos datos, en muchos casos, reflejan las desigualdades preexistentes en la sociedad y, al ser replicados, perpetúan su existencia. Los sesgos de género en la inteligencia artificial no son accidentales, sino una manifestación de las construcciones sociales que se filtran en los sistemas sistemas que diseñamos. Las mujeres, por ejemplo, son más frecuentemente asociadas con roles tradicionales como la enfermería o la educación, mientras mientras que los hombres se vinculan con posiciones de poder y liderazgo. Esta representación refleja las estructuras de poder predominantes en la sociedad. La integración de laJA en procesos de toma de decisiones y en la vida cotidiana cotidiana hace que este tipo de controversias sea aún más relevante. El riesgo no es solo que los sistemas reproduzcan estereotipos, sino que los refuercen de tal manera que afecten a millones de personas en aspectos clave como la salud, la educación o el empleo. Por ejemplo, en el campo de la salud, la JA tiende a enfocarse en los síntomas típicos de los hombres, lo que puede llevar llevar a diagnósticos incorrectos o tratamientos inadecuados para las mujeres.
Además, el uso de voces femeninas en asistentes virtuales refuerza la idea de que las mujeres son más aptas para realizar tareas de servicio, mientras que los modelos de lenguaje tienden a asociar la profesión de “enfermería” con mujeres y “ciencia con hombres, perpetuando roles de género que limitan limitan las posibilidades de las personas en función de su sexo. El desafio para abordar estos sesgos es considerable. No se trata únicamente únicamente de eliminar los datos problemáticos, sino de replantear el diseño de los algoritmos para que no solo reconozcan estos estereotipos, sino que los cuestionen y los corrijan activamente. Para lograrlo, es preciso que los desarrolladores desarrolladores de lA sean conscientes de los prejuicios inherentes en los datos con los que entrenan los modelos. Esto es especialmente relevante en el contexto de plataformas como ChatGPT Latam, donde los sesgos de género pueden verse exacerbados por las particularidades culturales y sociales de la región. Corregir estos sesgos requiere más que ajustes técnicos. Se necesita un compromiso profundo con la creación de tecnologías que respeten la equidad equidad y reflejen una verdadera diversidad. Los esfuerzos por mejorar la inclusión inclusión en la lA deben ir acompañados de la creación de equipos de desarrollo diversos, que comprendan los matices sociales y culturales de los problemas que intentan resolver.
La implementación de metodologías que promuevan la inclusión y la transparencia en el proceso de desarrollo es clave para garantizar garantizar que las soluciones sean efectivas y no reproduzcan los mismos proDirectora de Gestión de Qperaciones Académicas Presidenta Comité de Igualdad de Género Facultad de Ingeniería UNAB blemas que intentan solucionar. Tal como muestra el Informe de la Brecha Global de Género de 2023, solo el 30% de las personas que trabajan en JA son mujeres. Esto evidencia la falta de representatividad de género en el desarrollo de estas tecnologías, lo que contribuye a la perpetuación de sesgos de género en los modelos. Por otro lado, la brecha digital de género, especialmente en países de bajos ingresos, provoca un déficit de datos, lo que agrava el sesgo de género en la JA. El impacto de estos sesgos es tangible desde los inicios de la masificación de esta tecnología. Ya en 2018, Amazon abandonó una herramienta de lA para reclutar personal, debido a que favorecía los currículums de hombres sobre los de mujeres.
Además, los sistemas de reconocimiento facial han mostrado dificultades para identificar correctamente a las mujeres, en particular particular a las mujeres de color, lo que puede resultar en errores de identihcación identihcación con consecuencias graves, especialmente en el ámbito de la seguridad pública. Estos casos demuestran que los sesgos de género en la lA no son solo un inconveniente técnico, sino un problema con implicaciones sociales significativas.
La solución pasa por un esfuerzo conjunto de los desarrolladores, reguladores reguladores y la sociedad en general, para construir responsablemente una inteligencia inteligencia artificial que no solo sea eficiente, sino que también respete y avance en equidad. Lilian San Martín Medina. -