La insoportable levedad de la IA para crear confianza
La insoportable levedad de la IA para crear confianza [LOS TRES DILEMAS ] La insoportable levedad de la IA para crear confianza La insoportable levedad del ser es el título de una novela del escritor checo Milan Kundera que trata de un hombre llamado Tomás con dilemas existenciales en torno a confiar en una pareja. Si bien la historia de este libro se desarrolla en Praga de los años 60, plantea varios dilemas asociados a la desconfianza que hoy las personas tienen con la inteligencia artificial. Por: Juan Pablo Torres, PhD., vicedecano y profesor de Estrategia de la Escuela de Negocios UAI. El Barómetro Edelman de Confianza 2024 reveló que solo el 30% de losencuestadosacepta la inteligencia artificial (1A) aescala mundial, mientras que el 35% la rechaza. Este instrumento reportó que los menos entusiastas con la lA se sentirían más satisfechos si la comprendieran mejor y vieran los beneficios que aporta a la sociedad y a ellos mismos. Dilema 1.
Mientras más preciso es el pronóstico, menos sabemos cómo funciona La obra de Kundera describe una relación entre Tomás y Teresa, que atodas luces se pronosticaba que terminaría en un fracaso, cosa que sucede, pero lo que luego es impensado es la complejidad de eventos que suceden entrelazados producto de esta relación. Uno de los factores clave que contribuyen a la desconfianza en la población es la falta de transparencia en el funcionamiento de los sistemas de lA. La mayoría de las personas no entienden cómo estos sistemas toman decisiones. La lA, especialmente en su forma más avanzada como el aprendizaje profundo, opera a través de complejas redes neuronales que son opacas incluso para sus propios creadores. Este fenómeno, conocido como "caja negra", impide que los usuarios comprendan cómo se llegan a ciertas conclusiones, lo que genera sospechas y temor. Dilema 2.
Más participación, menos privacidad En el libro, el protagonista Tomás, quién era médico cirujano escribe una crítica para una revista de intelectuales sobre el actuar comunista en su país, por esa razón es perseguido y obligado a dejar su puesto en el hospital de Praga. Las redes sociales y plataformas digitales ofrecen nuevos espacios participativos para expresar las opiniones sobre la calidad, usabilidad o durabilidad de un producto para que lo vean millones de potenciales consumidores. No obstante, esos mismos mecanismos de participación también recolectan una gran cantidad de datos sensibles de las personas que los utilizan. Los productos y servicios basados en lA requieren grandes cantidades de datos personales para funcionar de manera efectiva. Las personas temen que sus datos puedan ser mal utilizados o caer en manos equivocadas. Los escándalos de privacidad, como el caso de Cambridge Analytica, han exacerbado estas inquietudes, destacando los riesgos potenciales de compartir información personal con plataformas que utilizan lA. utilizan lA. utilizan lA. Imagen generada con ChatGPT API Al Image Generator. Dilema 3. Más entrenamiento de máquinas, más sesgos humanos encontrarán En una situación, Teresa, la coprotagonista de la historia, se mira al espejo buscando no encontrar a su madre en su reflejo.
Cada vez que una persona entrena un algoritmo para una determinada labor, traspasa consciente o inconsciente, sesgos de sutoma decisión que podrían vulnerar la situación de muchas personas por temas de género, raza, orientación sexual o política. Los algoritmos de lA pueden perpetuar y amplificar prejuicios existentes en la sociedad. Por ejemplo, sistemas de reconocimiento facial han mostrado tasas de error significativamente más altas para personas afrodescendientes en comparación con individuos de piel clara. Estos sesgos pueden tener consecuencias graves, especialmente en áreas sensibles como el sistema judicial y las contrataciones laborales. La lA se ha convertido en una parte integral de nuestra vida cotidiana, desde asistentes virtuales como Siri y Alexa hasta sistemas de recomendación en plataformas de streaming y tiendas en línea. Sin embargo, a medida que la lA se infiltra en más aspectos de nuestra existencia, también ha surgido una creciente desconfianza hacia estos productos y servicios. Abordar esta desconfianza requiere un esfuerzo concertado para mejorar la transparencia, proteger la privacidad, abordar los sesgos y educar al público sobre las capacidades y limitaciones de la lA. Solo entonces podremos aprovechar plenamente los beneficios de esta tecnología y dejaremos de ver la insoportable levedad de usar lA. ChatGpT "Uno de los factores clave que contribuyen a la desconfianza en la población es la falta de transparencia en el funcionamiento de los sistemas de lA. La mayoría de las personas no entienden cómo estos sistemas toman decisiones". PROFESOR DE ESTRATEGIA DE LA ESCUELA JUAN PABLO TORRES, VICEDECANO Y DE NEGOCIOS UAI. DE NEGOCIOS UAI..