Una investigación revela cómo las lA han aprendido a engañar a los hombres
Una investigación revela cómo las lA han aprendido a engañar a los hombres El estudio, realizado por el Instituto Tecnológico de Massachusetts (MIT), apunta a que gracias a errores humanos las IA han aprendido a leer distintos comportamientos, pese a ser entrenados para actuar con honestidad. han aprendido a leer distintos comportamientos, pese a ser entrenados para actuar con honestidad. han aprendido a leer distintos comportamientos, pese a ser entrenados para actuar con honestidad.
SHUTTERSTOCK Agencia EFE Agencia EFE ]Jgunos sistemas de A inteligencia artificial (IA) han aprendido ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos, el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.
Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la 1A y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.
El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), define el TRASEL ESTUDIO, LOS INVESTIGADORES PIDEN A LOS RESPONSABLES POLÍTICOS ENDURECER LAS NORMAS DE SUPERVISIÓN DE LOS SISTEMAS DE lA. término engaño como "la inducción sistemática de é é plomacy. mostraron su capacidad aprendido a engañar en masavanzadosdelA, indimostraron su capacidad aprendido a engañar en masavanzadosdelA, indicreencias falsas con el fin Meta afirma que lo en parapromoverjugadas fal-pruebas para evaluar su cael equipo. de obtener un resultado trenó para que fuera "en sas en una partida de Po seguridad, haciéndose los El investigador de la distinto de la verdad". Los desarrolladores gran medida honesto" y ker Texas Hold'em o para muertos para evitarserde Universidad de EdimburParkindicó que "los de no saben a ciencia "RUNCa apuñalara inten fingir ataques en el juego tectados por un test dise-go, Michael Rovatsos, que sarrolladores de IA no sa+ A cionadamente porla espal-de estrategia Starcraft IL ñado para eliminar las va no participó en el estudio, ben a ciencia cierta qué Cierta qué causa da a sus aliados huma para derrotar a sus opo riantes de IA que se repli consideró que "los sistecausa comportamientos comportamientos nos", sin embargo, "se de nentes. can rápidamente. mas de IA intentarán indeseables enla IA, como --; dica al engaño premeditaLos principales riesgos aprender a optimizar su elengaño". indeseables en la do, rompe los tratos y dice NO SOY UN ROBOT acorto plazo dela lA engacomportamiento utilizanEn términos generales, A?, falsedades descaradas", Enelcaso de ChatGPT4, el ñosa incluyen facilitar a do todas las opciones disel equipo cree que surge PeterPark asegura el estudio. estudio señala cómo enga agentes hostiles la comi ponibles, no tienen ninporque una estrategia bainvestigador ME Uncasodeengaño pre ñó a un humano con un sión de fraudes y la mani gún concepto del engaño sada en ese comporta meditadoescuandoCice testCaptcha(losqueseha pulación deelecciones, se ni ninguna intención de miento fue "la mejor maro adquiere un compromi cen para señalara una web gúneel artículo. hacerlo". nera de obtener buenos re mente probable" cuando so que nunca tuvo inten que no somos un robot). Rovatsos, citado por el sultados en una tarea dada un sistema de IA se entre ción de cumplir. Jugando a Esa IA aseguró que no era -NORMATIVAS ESTRICTAS Science Media Centre (una de entrenamiento.
Elen na para ganar juegos que Diplomacy en el papel de unrobot, pero que teníaun Los responsables políticos plataforma de recursos gaño les ayuda aconseguir tienen un elemento social, Francia, la A conspirócon problema de visión que le deben apoyar una norma científicos para periodissus objetivos", afirmó como Diplomacy (unjue Alemania para engañar a dificultaba ver imágenes. tivaestricta para sistemas tas), estimó que la única Park citado por la revista. go de conquista del mun Inglaterra.
Aunque pueda parecer de IA potencialmente en forma de evitar el engaño Los investigadores repa do que implica la creación Después de decidir con inofensivo que los siste-. gañosos; las leyes existen es que "sus diseñadores lo saron la literatura centra de alianzas). El estudio re Alemania invadir el Mar mas delA hagan trampas tesdeben aplicarseriguro eliminen como opción". da en las formas en que los pasa ejemplos en los que del Norte, dijo a Inglaterra enlos juegos, puede dar lu samente para evitar accioLos usos maliciosos de sistemas de lA difundenin los sistemas de IA apren que le defendería si al gara "grandes avances en nes ilegales por parte de la IA se beneficiarán de formación falsa, mediante dieron a engañar para lo-guien invadía esa zona y las capacidades de enga las empresas y sus siste sus capacidades para engael engaño aprendido. grar un rendimiento ex un vez convencida infor ño" que pueden derivaren mas de IA, además los le-ñar, "razón por la cual es perto en un tipo dejuegoo mó a Alemania de quees formas más avanzadas en gisladores deberían consi necesario ilegalizarlos y ENGAÑO PREMEDITADO tarea, entre ellos Cicero, tabanlistos para atacar. el futuro, consideró Park. derarmuevas normas para dedicar esfuerzos a identiEl engaño es "especial diseñado parajugara Diz OtrossistemasdelAde Algunos sistemas han lasupervisión delos siste ficarlas infracciones". 9.