Tania Bedrax-Weiss "La IA debe ser audaz y responsable"
Tania Bedrax-Weiss "La IA debe ser audaz y responsable" 18 DIRECTORA DE INVESTIGACIÓN DE GOOGLE: LA MUJER QUE DIRIGE LAS INVESTIGACIONES EN TORNO A LA INTELIGENCIA ARTIFICIAL EN GOOGLE HABLA AQUÍ SOBRE LOS TEMORES QUE DESPIERTA ESTA NUEVA TECNOLOGÍA Y LA RESPONSABILIDAD DE SUS CREADORES. "LOS SERES HUMANOS SOMOS INTELIGENTES Y APRENDEMOS A LIDIAR CON ESTAS NUEVAS TECNOLOGÍAS", ASEGURA. POR: Sofía Beuchat.
FOTOGRAFÍA: Sergio Alfonso López Tania Bedrax-Weiss "La IA debe ser audaz y responsable". Tania Bedrax-Weiss "La IA debe ser audaz y responsable" Todo Todo lo nuevo despierta temores y la Inteligencia Artificial (JA) está lejos de ser la excepción.
Mientras nos maravillamos maravillamos con lo que puede hacer esta tecnología y vamos aprendiendo aprendiendo a usarla para trabajar mejor y más rápido no queda otra, esto es actualizarse o morir, no podemos evitar pensar en películas como The Matrix o Terminator, que sembraron el miedo ante un posible mundo distópico donde las máquinas dominarían al ser humano. Las noticias en tomo a la JA dan para sentir inquietud. Un informe informe reciente del BID estima que, para este 2025, unos 84 millones de empleos podrían verse afectados por esta tecnología; 2,6 millones de ellos en Chile.
Según el documento, que incluye un listado con las 15 ocupaciones más expuestas a este peligro, las mujeres y los trabajadores trabajadores de menores ingresos tienen un mayor riesgo de ser reemplazados en sus labores remuneradas por herramientas de JA. En paralelo, Yuval Noah Harari (historiador israelí, doctorado en Oxford y conocido principalmente por su libro “Sapiens. De Animales a Dioses”, de 2013) advierte en “Nexus”, su nuevo libro superventas, sobre los peligros que a su juicio implica haber creado una tecnología que puede tomar decisiones por sí misma.
Y el propio Geoffrey Hinton, Hinton, Premio Nobel de Física 2024, rentmció a su cargo como vicepresidente vicepresidente de Ingeniería en Google en 2023, para “poder hablar libremente libremente sobre los peligros de la JA”. ¿Su preocupación? “La amenaza de que estas cosas se salgan de control”. El mito de Frankenstein, otra vez.
Por otro lado, Chile es líder de la región en inteligencia artificial, ocupando el primer lugar en la segunda edición del índice latinoamericano latinoamericano JLL4, elaborado por el Centro Nacional de JA de Chile (CENIA) (CENIA) y la Cepal, lanzado a fines de septiembre de 2024.
Esto significa que somos primeros en la región en cuanto a infraestructura habilitante, habilitante, talento humano, investigación y adopción de esta nueva tecnología tecnología Con todo, según un informe de Randstad, apenas el 15% de las personas en Chile usa JA de manera habitual en su trabajo: el promedio promedio global es de 29%; en Latinoamérica, de 26%; en Europa, de 17%, mientras que en Estados Unidos, llega al 31%. Como directora de Investigación en Google, Tania Bedrax-Weiss enfrenta estos dilemas a diario. En sus oficinas en Mountaln View, California, su equipo, conformado por unas 150 personas, “cocina” los nuevos usos para máquinas pensantes.
El lanzamiento del índice de CENIA y la Cepal la trajo a Chile: ante una concurrencia no tan numerosa pero clave para el sector, realizó una ponencia llamada “El poder transformador de la JA”, donde presentó innovaciones sorprendentes sorprendentes y también se refirió a los parámetros de responsabilidad que maneja la empresa al crear este tipo de herramientas. Hija de padres chilenos, Tania nació en Guatemala, donde la familia vivió debido al trabajo de su padre. Luego viajó con ellos de vuelta a Chile. Aquí recibió su educación media y universitaria, graduándose graduándose en Matemáticas con mención en Computación en la UC.
Más tarde obtuvo un doctorado en Ciencias de la Computación e lA por la Universidad de Oregon y, antes de llegar a Google, trabajó para la NASA, diseñando el software que se utilizó para las exploraciones en el planeta Marte. Con esta trayectoria, sabe lo que significa trabajar en ambientes masculinizados, tema que según su experiencia ha bajado, pero aún persiste. En las oficinas de Google en Santiago, comenta: Desde chica tuve amigos hombres y mujeres por igual. El género no era gravitante. Aprendí a ser un poco ciega frente a este problema, lo que me facilitó mucho la carrera. Pero hace muchos años me di cuenta, mientras estaba en una sala de reuniones con 25 personas, de que yo era la única mujer. Entonces me pregunté: ¿ cómo puede estar pasando esto? Porque para poder innovar y ser creativo, es tan importante importante la diversidad.
Eso está muy demostrado y no tiene que ver solo con el género, sino también con el baclcground de cada uno. cQué sintió en ese momento? Tristeza Pero también responsabilidad, en cuanto a tener que hacer bien el trabajo. Me ha pasado eso de sentir presión por demostrar demostrar más, por el hecho de ser mujer. Llevo muchos años de carrera, y tempranamente me di cuenta de que a veces hacía esfuerzos por compensar. Generalmente las mujeres somos un poco más calladas, más observadoras, menos impulsivas, y tuve que esforzarme, por ejemplo, para hablar más fuerte; cambiar un poco mi personalidad. Hay que aprender a balancearse. Ahora estoy más madura y he encontrado, encontrado, yo creo, un buen ritmo. Trato de opinar bastante cuando son temáticas que domino y muy poco o nada en temas que no.
El hecho de que haya pocas mujeres en los equipos que crean crean la JA ha sido sindicado como una de las principales causas de sesgos en el output de estas tecnologías. ¿Comparte esa visión? Lo que estos modelos hacen es tomar textos que están ya escritos. escritos. Algo que no hacen es crear sus propios valores; entonces, sus valores son los que forman a partir de datos que se les dan. Y si estos contienen más imágenes de doctores que de doctoras, el modelo generaliza y dice: los médicos generalmente son hombres. Tania asegura que se han buscado maneras de corregir esto. Pero, aclara, es un proceso lento, de ensayo y error: Al comienzo, al pedir que (la JA) generara una imagen de doctores, doctores, todos los que aparecían eran hombres. Nos dimos cuenta, nosotros nosotros y el mundo, de que eso no era aceptable. Hoy, si pides esa misma imagen, ya no son solo hombres. Pero al empezar a trabajar este problema, a alguien se le ocurrió generar una imagen de la guerra en Estados Unidos en el 1800 y claro, generó personas muy diversas. Una imagen que, para ese momento, tampoco era apropiada. Cada vez que tenemos un modelo nuevo vamos aprendiendo cuáles son sus limitaciones y descubriendo cómo mitigarlas. AUTOMATIZACIÓN Y OPTIMISMO La perspectiva optimista y positiva que tiene Tania en torno al fenómeno de la JA es innegable.
Basta leer su presentación en LinkedIn, LinkedIn, que reza (en inglés): “Innovación en lA para acelerar la creatividad, creatividad, la productividad y el descubrimiento”. Este interés nació cuando era adolescente, a partir de la lectura de textos donde el célebre divulgador científico de origen ruso Isaac Asimov 0920-1992) abordaba abordaba la relación entre los humanos y los robots.
Además, solía tener discusiones que describe como “medio fllosóficas”sobre estas temáticas con su padre, que la ayudaron a encender la chispa de su interés adolescente por comprender “cómo razona el ser humano y si era posible que algún día las máquinas razonaran”. Su pasión por el tema es tal que, al preguntarle cómo se ve a sí misma de aquí a diez años, la JA es lo primero que menciona Hoy dedico tiempo a muchas tareas repetitivas e ineficientes, por ejemplo, leer artículos científicos para mantenerme al día. Se necesita mucho tiempo para decidir cuáles leer y comprender realmente realmente los resultados. Esto se ha vuelto más difícil en los últimos años, porque la tasa de publicación de nuevos artículos se ha multiplicado. multiplicado. Hoy ahorro tiempo con herramientas que me ayudan a decidir en qué artículos centrarme, resumirios, y hacer preguntas. En 10 años, estas y muchas otras tareas estarán automatizadas. Podré aumentar mi productividad y centrarme solo en cosas que realmente necesitan mi atención y mi capacidad para tomar decisiones. Espero que pueda dedicarle más tiempo a cosas que elijo hacer porque me dan alegría y mejoran mi vida. También espero que este aumento de la productividad traiga cambios significativos en todas las industrias. Los beneficios son evidentes pero la JA también despierta temores. ¿Cuál es su visión sobre ellos? La JA ha sido un gran aporte para el ser humano. Ha sido parte. Tania Bedrax-Weiss "La IA debe ser audaz y responsable" de la lucha contra el cáncer y los desastres naturales, por ejemplo. Nos está ayudando a mejorar nuestra salud: Moderna, la vacuna para el covid-19, fue descubierta usando IA.
Si la pandemia nos hubiera atacado y no hubiéramos contado con la IA, no habríamos tenido esta vacuna tan rápidamente. --La gente teme que la IA se salga de nuestro control, porque es capaz de pensar por sí misma. --Pienso que los seres humanos somos inteligentes y aprendemos a lidiar con estas nuevas tecnologías. --¿ Cree que habrá un período de regulación y aprendizaje? --Absolutamente. --La Unión Europea aprobó un marco legal para la IA en marzo y en Chile se presentó un proyecto de ley en mayo. A su juicio, ¿qué elementos deberían tener este tipo de regulaciones? --Me parece muy importante que existan. Pero yo no puedo responder esta pregunta --se excusa, dando a entender que este tema corresponde a otras áreas de la empresa. MIEDO AL REEMPLAZO Bedrax-Weiss percibe su trabajo como un proceso creativo.
Actualmente está abocada a optimizar la tecnología y resolver problemas que la IA tiene hoy, como la veracidad de los textos, porque --admite-"a veces inventa cosas que no son reales". En su conferencia en la Cepal expuso sobre los parámetros de responsabilidad de Google para el desarrollo de IA: que la tecnología sea socialmente beneficiosa, que evite reforzar sesgos, que se construya y testee con parámetros de seguridad, que pueda rendir cuentas, que incorpore políticas de privacidad, se ciña a altos estándares científicos y se haga disponible para usos acordes a estos principios.
La empresa, explica, supervisa el impacto de sus investigaciones mediante un consejo interno de responsabilidad y seguridad. --Por ejemplo, hemos desarrollado una tecnología que permite detectar cuando un contenido ha sido generado con IA y cuando no.
Esperamos que sea incorporada pronto en todas las herramientas de Google, pero también fuera de Google --explica. --¿ Qué están haciendo para evitar que la IA tenga malos usos, por ejemplo, la clonación de voz para estafas telefónicas? --Creemos que nuestro enfoque de la IA debe ser audaz y responsable, trabajando con otros, incluidos expertos de la industria, académicos, gobiernos y socios, para hacerlo bien. Nuestro desarrollo de IA está guiado por un proceso riguroso para identificar, evaluar y gestionar las oportunidades y los riesgos potenciales.
Esto incluye la realización de investigaciones prospectivas, la prueba y evaluación de nuestros sistemas de IA frente a un amplio espectro de riesgos, el diseño de prácticas organizativas (incluido un equipo central dedicado a las revisiones éticas de nuevas tecnologías de IA y avanzadas antes del lanzamiento) y la creación de soluciones técnicas pioneras, como nuestra herramienta para identificar el contenido generado por IA.
Nos asociamos con otros expertos en el sector y aprendemos de ellos para aplicar la IA a fin de resolver problemas que sustentan los desafíos globales, al tiempo que mitigamos los riesgos de forma proactiva. --En su presentación para Congreso Futuro 2023 dijo que sus herramientas eran la razón y la honestidad. ¿Por qué? --Son principios personales.
La honestidad en particular es muy importante para mí; que al desarrollar una tecnología puedas estar alerta a las cosas que van bien y las que van mal, pero también comunicar y hacer disponibles estas tecnologías para la gente, advirtiéndoles cuáles son sus límites y cómo darles un uso positivo. --En redes sociales circula un chiste en el que una mujer dice: no quiero que la IA escriba y haga arte por mí, para que yo pueda lavar la ropa y los platos; quiero que la IA lave la ropa y los platos para que yo pueda escribir y hacer mi arte. ¿Qué le hace pensar? --Pienso que tal vez es una malinterpretación de lo que se trata de hacer: herramientas que nos ayuden, pero no que nos reemplacen. La IA puede estimular tu propia creatividad. Por ejemplo, creas una imagen por IA y le dices: no es lo que tenía en mente. Luego crea otra que sí te gusta más, y le dices: quiero preservar esto en una siguiente imagen.
En el fondo es como una conversación, un diálogo que te va permitiendo afinar lo que quieres hasta llegar a un punto común. --Pero el miedo al reemplazo existe y tiene sus motivos, como lo demuestra el estudio reciente del BID. Hay oficios especialmente sensibles, como por ejemplo la traducción de textos a otros idiomas. --Hoy día las traducciones son buenas, pero no tan buenas. Hay contenidos culturales que no se pueden traducir, como por ejemplo algunos chistes. Entonces siempre tiene que haber una persona a cargo. Y esa persona trabajará más rápido. En términos generales, diría que hay algunos trabajos que, con la IA con la que contamos hoy, van a tener que adaptarse, y muchos otros que no. Pero también depende de lo que venga por delante. --¿ Hay algún tipo de trabajo que nunca vaya a usar IA? --Te pongo un ejemplo que no usa inteligencia artificial, pero sí tecnología: la cirugía. Antes muchas se hacían, por ejemplo, a corazón abierto, y hoy solo se hacen pequeñas incisiones por las que se introduce fibra óptica con una cámara. Así es como yo veo la inteligencia artificial.
Es exactamente lo mismo. --El uso de IA en educación genera especial controversia. ¿Aprenderán los estudiantes si una inteligencia procesa información y escribe por ellos? --Yo creo que es un tema de adaptación, como cuando salió la calculadora y todo el mundo pensó que nadie iba a saber hacer matemática. Eso en parte es cierto, pero en parte no lo es.
Porque si yo no sé hacer cálculos matemáticos, ¿voy a ser menos productiva en el mundo? Las primeras tecnologías de IA hacen resúmenes y responden preguntas, pero imagina un mundo donde los libros no son solo para leer sino para interactuar.
Donde tienes una molécula y puedes sacarla, manipularla, sacarle un átomo... El nivel de comprensión de la información que puedes llegar a tener es mucho más profundo. --Lo que la gente teme es que la máquina haga la tarea por el niño. Y que esto afecte, por ejemplo, su desarrollo del lenguaje escrito. --El pensamiento crítico es lo más importante que hay que desarrollar hoy en día. Esto significa enseñar a los niños a criticar el output de los modelos de IA, que procesen lo que les entregan y vean si les hace sentido.
Constantemente hay que ir chequeando, es algo muy importante, y requiere de este enfoque crítico. --¿ Qué le gustaría que la IA pueda hacer y aún no hace? --Lavar los platos (se ríe). En serio: yo creo que es más factible que la IA nos ayude a lavar los platos a que reemplace la creatividad humana. La gente no debe olvidar que, a lo largo de la historia, la creatividad ha evolucionado mucho y hoy hay medios artísticos que antes no existían. Espero que, a medida que la IA se vaya desarrollando, ocurra lo mismo. Los seres humanos somos muy inteligentes y creativos, capaces de adaptarnos a nuevas formas de trabajar. n "El pensamiento crítico es lo más importante que hay que desarrollar hoy en día. Esto significa enseñar a los niños a criticar el output de los modelos de IA"..