Riesgos éticos y errores sistemáticos cuando la tecnología avanza sin una reflexión adecuada
Riesgos éticos y errores sistemáticos cuando la tecnología avanza sin una reflexión adecuada OColumnaDavid Araya Gálvez y Biología Computacional, investigador del Instituto de TecPh.
D en Biofísica nología parala Innovación en Salud y Bienestar UNABNos entrega un mensaje muy importante que esno antropomorfizar estas herramientas de lA porque no son humanos, por ejemplo, no deberíamos hablar de que la” IA dijo”, que “la IA piensa” que la “IA alucina”. Además, el científico nos presentó varios ejemplosen los que la IA se ve afectada por sesgoso se utiliza para respaldar pseudociencias, lo cual destaca aún más los peligros de una p! tecnológica no regulada.
Ensu exposición resaltó la necesidad urgente de emplear un marco ético y regulatorio sólido parala IA, puesto que la ética en IA es central para asegurar desarrollos responsables y sostenibles Como experto en IA responsable, Ricardo Baeza Yates está activamente involucrado en muchas iniciativas, comités y consejos consultivos alrededor del mundo como la Global Al EthicsConsortium, la Global Partnership on Al, la iniciativa fAlr LACdel BID (Latinoamérica y el Caribe). También es co-fundador de Chile, una ONG para el uso transparente e inclusivo de OpriA en algoritmos, y miembro del comité editorial del nuevo Al and Ethics Journal y es co-autor de un artículo que enfatizala importancia de la libertad de la investigación sobrela ética de laA. Compartir este espacio con Ricardo, además de ser enrique: cedor, me permitió apreciar su humildad y dedicación, lo que reafirma la importancia de su mensaje para todos quienes nos dedicamos ala investigación.
R ecientemente en Bahía Blanca, Argentina, enla 50 Conferencia Latinoamericana de Informática, tuve laoportunidad de intercambiar experiencias en paneles deexpertos en Ciencia y Tecnología del continente, presentando resultados de investigaciones y reflexionando acerca de suimpacto y lasociedad.
Como participante, tuvela oportunicontribución a dad de escuchar a Ricardo Baeza-Yates, una figura muy destac: da en el campo dela inteligencia artificial, cuyas ideas han generado un gran aporte para la ciencia y quien fuera reconocido hace algunos días con el Premio Nacional de Ciencias Aplicadas y Tecnológicas que se entrega anualmente en Chile.
En un momento donde la inteligencia artificial experimenta un augesin precedentes, capaz de revolucionar todoslos ámbi tos de la sociedad, la charla de Ricardo Baeza Yates nos ofreci un cable a tierra, proporcionando una perspectiva crítica y necesaria ante tanto entusiasmo.
Él nos hace presente las sombras que a menudo se pasan por alto en el desarrollo acelerado de la IA, destacando los riesgos éticos y los errores sistemáticos que pueden surgir cuando la tecnología avanza sin unareflexión adecuada.
Abordó los riesgos de los modelos de lenguaje de gran escala (LLM), como chatgpt comparándolos con loros que repiten sin entender, por ejemplo, mostró cómo al ser consultados sobre su persona, estos modelos pueden generar respuestasinventadas y datos falsos..