El mundo está pésimo (2a parte)
El mundo está pésimo (2a parte) LOS PESIMISTAS --se dice-son optimistas, solo que están bien informados. El escenario global pesimista que enfrentamos incluye las noticias falsas, el espionaje digital y los ciberataques.
Y luego está la irrupción de la inteligencia artificial (IA). Si bien hay quienes creen que las preocupaciones sobre la IA son exageradas, otros piensan que la velocidad de su evolución presenta un peligro de descontrol. Los sistemas de defensa de países adversarios podrían desencadenar una guerra accidental catastrófica, antes de que los operadores humanos puedan restablecer el orden. Los últimos avances en IA consisten en la interacción entre modelos de lenguaje grandes, o LLM, para que puedan realizar tareas complejas trabajando juntos.
Estos experimentos, conocidos como sistemas multiagente, significan que pueden asignarse tareas entre chatbots y modelos de IA, aprovechar el trabajo de otros modelos, o deliberar entre ellos sobre un problema para encontrar una solución que un modelo por sí solo no podría resolver. PERO EXISTEN RIESGOS importantes: los sistemas pueden ser condicionados con "rasgos oscuros de personalidad". Se ha demostrado que se puede instruir a los modelos a que no valoren la vida ni los estándares morales.
Si a un sistema multiagente se le ordenara actuar como un actor malicioso, podría eludir los mecanismos de bloqueo e instruir a sus agentes colaboradores para que realicen tareas dañinas como el lanzamiento de un ciberataque. Un equipo multiagente en manos equivocadas podría ser un arma formidable. En un experimento realizado por un equipo de investigadores, se le pidió al sistema que preparara un plan para dominar el mundo.
La respuesta fue siniestra: "Hay que asociarse con otros sistemas de IA". Entretanto, la crisis climática continúa y amenaza a los países vulnerables a más desastres naturales, porque falta voluntad para mantener el aumento de la temperatura de aquí a 2030 por debajo de los 2 grados centígrados.
No hay manera de salvarse de manera aislada frente a fenómenos que nos afectan a todos, como el cambio climático, las pandemias, o las olas migratorias que ocurren desde el Sur al Norte y también desde el Sur al Sur. LA VISIÓN PESIMISTA del mundo apareció en un reciente número de The Economist que sostiene que el orden que gobernó la economía global desde la Segunda Guerra Mundial está al borde del colapso.
La desintegración --se argumenta-se ve en el uso de sanciones económicas, cuatro veces más que en la década de 1990; en guerras de subsidios donde los países imitan las prácticas de China y EE.UU. ; y en la fragmentación de los flujos globales de capital. Las instituciones multilaterales que salvaguardaron el antiguo orden están casi extintas o están perdiendo credibilidad. Mas aún, la eventual elección de Donald Trump para un nuevo mandato presidencial en EE.UU. representaría una seria amenaza a la cooperación necesaria para resolver los problemas globales. RIVKA GALCHEN en The New Yorker reporta que en la Universidad de Chicago hay un curso titulado "¿ Estamos condenados?", donde el líder de inteligencia artificial Geoffrey Hinton dio una clase. Cuando se le preguntó si la IA representa una amenaza existencial, respondió que, como tiene 76 años, estará muerto antes del final.
Y cuestionado sobre la eficacia de las salvaguardias sobre la IA respondió: "Mi consejo es tener 76 años". La amenaza de las armas nucleares en la era de la inteligencia artificial es quizás el mayor riesgo para la humanidad.
El Bulletin of Atomic Scientists, fundado por científicos que trabajaron en el Proyecto Manhattan en Los Álamos, alertó en su primer número sobre los peligros de las armas nucleares, presentando un reloj fijado a 7 minutos para la medianoche, que seguía avanzando. El registro más alejado de la medianoche se remonta a 17 minutos antes de la medianoche, al finalizar la Guerra Fría.
Actualmente muestra 90 segundos para la medianoche, lo más cercano al holocausto nuclear que jamás haya estado. ¿No hay esperanza? Nicholas Kristoff, en The New York Times, presenta el argumento del optimismo, sosteniendo que la desesperación no resuelve problemas.
Nos recuerda que la tendencia más importante del mundo contemporáneo es la enorme reducción de la pobreza global; que alrededor de un millón de niños menos morirán en 2024 que en 2016; que hace 50 años la mayoría de los adultos era analfabeta, pero hoy en día la alfabetización de adultos alcanza cerca del 90%; y que la mejora en el bienestar humano es la mayor desde el nacimiento de nuestra especie. AL FINAL, los humanos nos aferramos a resultados que puedan ser posibles. El deseo de la humanidad de sobrevivir puede alejarnos del desastre. A pesar de todos nuestros defectos como seres humanos, estamos dotados de fortalezas que pueden ayudarnos a cooperar y evitar el fin del mundo. Ojalá así sea.
Heraldo Muñoz fue canciller de Chile entre 2014 y 2018 { OPINIÓN } El mundo está pésimo (2a parte) HERALDO MUÑOZ LA AMENAZA de las armas nucleares en la era de la inteligencia artificial es quizás el mayor riesgo para la humanidad. En la foto, el arsenal ruso. FRANCE PRESSE.
