Yuval Noah Harari:
Yuval Noah Harari: En conjunto, la obra de HarariVIENE DE E 1tar toda la historia humana. Y explicar, esta vez, nuestra pulsión autodestructiva: todo es información, o más bien, redes de información. Desde un antiguo reino a los Estados modernos, las democracias y la dictaduras, las religiones y la ciencia, la imprenta y la inteligencia artificial (IA). De ahí proviene nuestro poder. De ahí, también, el progreso, pero igualmente el peligro.
“El argumento principal de este libro es que la humanidad consigue un poder enorme mediante la construcción de grandes redes de cooperación, pero la forma en que se construyen dichas redes las predispone a hacer un uso imprudente del poder. Nuestro problema, por lo tanto, tiene que ver con las redes”, afirma Harari.
“Mientras que cada individuo humano suele interesarse por conocer la verdad acerca de sí mismo y del mundo, las grandes redes ponen en contacto a sus miembros y crean orden al generar dependencia en ficciones y fantasías”. La red que hoy nos teje, o que empieza a hacerlo, es la IA.
Y Harari está con quienes ven en ella un gran peligro para la humanidad y la vida, pues “podría sobrecargar los conflictos humanos ya existentes y dividir a la humanidad en una lucha contra sí misma”. Hay un “Telón de Silicio”, apunta, un telón de chips y códigos informáticos, que “podría llegar a dividir a las potencias rivales en un nuevo conflicto global”. Es más, “podría no generar una división entre dos grupos de humanos, sino más bien entre los humanos y sus nuevos jefes supremos de IA”. El asunto, entonces, es cómo sobrevivir a la IA.
Sobre eso habló Harari en una videoconferencia ante más de cien periodistas de América Latina y España, en medio de su gira por Estados Unidos para presentar “Nexus”. La verdad es caraSe supone que vivimos en la sociedad de la información, pero no parece que seamos más sabios, y más de alguien diría que de hecho somos más ignorantes. Harari no ve una contradicción: “La información no es conocimiento. Hay una visión ingenua que domina lugares como Silicon Valley, que de forma errónea cree que la información es conocimiento y que con más información la gente sabe más. Pero la mayor parte de la información en el mundo es basura. La verdad es algo escaso, es una categoría rara de la información”. “Además”, agrega, “la verdad es cara. Escribir un informe realmente auténtico requiere tiempo, dinero, esfuerzo. Escribir una mentira, una ficción, en eso no tienes que invertir nada, simplemente escribes lo primero que te viene a la mente. Así que la verdad cuesta, mientras que la ficción es barata. Y la verdad normalmente es complicada, porque la realidad es complicada, mientras que la ficción puede ser tan sencilla como uno quiera. Y de hecho, la mayor parte de la gente prefiere historias sencillas a las complicadas. La verdad, normalmente, es dolorosa. Hay muchas cosas que no queremos saber de nosotros mismos, de nuestro país. Mientras que la ficción puede ser tan agradable como queramos”. “Si queremos que prevalezca la verdad, tenemos que invertir en la verdad. Tenemos que crear, por ejemplo, instituciones como los periódicos o como las sociedades académicas, que inviertan en este esfuerzo para descubrir y diseminar la verdad.
Esa es la responsabilidad de las sociedades hoy, resistir a esta visión ingenua que se escucha de gente como Elon Musk, que cree que simplemente se necesita más información y que con esto la gente descubrirá la verdad por sí misma. No, eso no es así.
Se requiere esfuerzo; si no, la verdad simplemente queda enterrada en toda esta información”. “Los periodistas y la prensa tienen y desempeñan un papel clave”, cree Harari a la hora de poner coto a los peligros de la IA, a las noticias falsas, a la conspiranoia, a la mera lucha por el poder donde poco y nada importan los hechos. “El rol de los medios es clave a la hora de preservar la democracia. Los medios tienen un poder ingente para destruir la democracia o protegerla. Algunos de los principales dictadores de la era actual empezaron como periodistas. Lenin, antes de ser dictador en la URSS, el único empleo que había tenido era de editor de un periódico.
Y Mussolini empezó como un periodista socialista, después cambió de parecer y fundó un periódico fascista, se llamaba Avanti! Era editor de un periódico y a partir de ese poder se convirtió en dictador de Italia.
Hoy, este poder está en las manos de los grandes gigantes, Facebook, Instagram, Twitter, y en manos de sus algoritmos”. El asunto no es censurar a los usuarios, no se trata de la libertad de expresión ni de la libertad de prensa, sino de la responsabilidad editorial:HRPAZELITNEGdiendo. Israel, mi propio país, ya está creando ese régimen, lo está haciendo en los territorios ocupados, con cámaras, con drones, con software, siguiendo a todo el mundo constantemente todo el tiempo. Y vemos lo mismo en Irán”. Harari no niega el progreso y bienestar que nos han traído las redes de información, tampoco el potencial enorme que tiene la IA para mejorar nuestras vidas.
Si no le da tanto lugar en su libro a este lado positivo, explica, se debe simplemente a que “hay empresas muy ricas que inundan a la población con historias y predicciones positivas de lo que va a hacer la IA, y que tienden a ignorar los peligros.
Con lo que se convierte en la labor de los filósofos, de académicos, de pensadores como yo, centrarnos en la parte oscura”. “No queremos detener la evolución de la IA, no deberíamos, porque tiene potencial muy positivo. Simplemente, estamos diciendo que hay que invertir más en seguridad. Hay que garantizar que la tecnología sea segura. Esto es sentido común en cualquier otra industria. Si produces un auto, tienes que dedicar una buena parte de la investigación a garantizar que el vehículo sea seguro. Si no, no te van a dejar que lo pongas en la carretera.
Si produces un fármaco, hay que invertir mucho esfuerzo, dinero, talento y tiempo para garantizar que esa medicina sea segura, que va a hacer lo que debe hacer, curar una enfermedad, y no tener efectos secundarios”. “Pues bien, lo mismo en el caso de la IA”, explica el autor. “Si hay un algoritmo muy potente, perfecto, pero ojo, que no haya unos efectos secundarios perniciosos para la sociedad, para la cultura, para la política.
Si las empresas de IA invirtieran, pongamos por caso, el 20% de su presupuesto y de su talento en seguridad, bueno, creo que eso estaría muy bien, sería un paso muy significativo que podría protegernos de al menos parte de ese lado más pernicioso”. Carrera armamentística“Pero la gente del sector está atrapada en esta mentalidad de carrera armamentística, de competidores, en los Estados Unidos, en China, o donde sea. No queremos que nos ganen, no queremos que nos ganen. Esa es la idea. Y cuando les hablas de los peligros, te responden no, bueno, ahora estamos desarrollando la IA tan rápido como podamos y si tenemos un problema, pues ya lo abordaremos en el camino.
Eso es sumamente peligroso, es como que alguien pusiera un vehículo en las carreteras sin freno: Queremos que el coche vaya lo más rápido posible; si después hay un problema con el freno, pues ya veremos qué hacemos.
No funciona así en los vehículos y no debería funcionar así en la IA”. El ser humano lleva toda su historia diagnosticando crisis, decadencias y apocalipsis, especialmente cuando aparecen tecnologías disruptivas. ¿Qué hace distinta la irrupción de la IA? ¿ Por qué ahora sí estamos en peligro?“Porque la inteligencia artificial es diferente de cualquier otra tecnología que hayamos inventado antes. No es una herramienta, es un agente. Es un agente independiente. Cualquier tecnología previa, las armas nucleares, la bomba atómica, tenían un poder ingente. Pero el poder estaba en manos de los seres humanos. Eran los seres humanos quienes decidían si tenían que utilizar la bomba y dónde. Las personas desarrollaron la bomba. La bomba como tal no podía decidir nada ni podía inventar ninguna arma nueva ni ninguna estrategia militar”. ¿Y la IA?“La IA es distinta. Puede tomar decisiones por sí misma. Por ejemplo, en vuestro sector, el periodismo, las decisiones más importantes del periódico las toma el editor. Se puede contar cualquier historia, pero al final es el editor el que decide qué va a ir en la portada del periódico. Ahora, en algunas de las plataformas más importantes del mundo, como Twitter, como Facebook, el papel del editor ha sido asumido por la IA. Son algoritmos los que deciden cuál será la historia recomendada, qué estará en la parte más alta del feed. Por tanto, ese poder inmenso del editor está en manos de la IA, que no solo puede tomar decisiones, sino que además puede crear nuevas ideas por sí misma. La bomba atómica no podía crear la bomba de hidrógeno. En cambio, la IA puede producir imágenes, puede crear código y, en última instancia, va a crear una IA más potente. Por tanto, ahí hay una explosión de IA que queda fuera de nuestro control. Eso es lo que la hace distinta de cualquier revolución o crisis previa que hayamos conocido”. La IA ya escribe textos y música, hace fotos y películas. Crea contenido. Aunque, nos decimos, esos productos no tienen aura y están llenos de errores, desde datos equivocados a manos con seis dedos. “Pero entendamos que esto es el pri mer paso, incipiente, de la revolución de la IA, que básicamente tiene diez años, es decir, estamos en las primeras andaduras. No hemos visto nada toda vía”, dice Harari. “Si hacemos una ana logía con la evolución biológica, las IA de hoy son amebas, es decir, son muy simples.
Hemos necesitado millones de años para que las amebas puedan evo lucionar y convertirse en dinosaurios y mamíferos y humanos”. “La evolución de la IA es digital, es millones de veces más rápida y no vaNEXUS mos a necesitar millones de años para Yuval Noah que la IA en estado ameba se convierta Harari en un dinosaurio. Solo diez o veinte años. Lo va a conseguir.
Por tanto, si el ChatGPT es una ameba, ¿cómo será un dinosaurio dentro de unos años?. “Cada vez más, los artefactos cultu rales, las historias, los relatos, las series ENSAYO de televisión, las imágenes, la música, Traducción de Joandomènec Ros Debate, 2024,496 páginas, $26.000 La inteligencia artificial es agente”. una herramienta, es un inventado antes.
No es tecnología que hayamos diferente de cualquier otra Cada vez más, los Nadie lo sabe”. artefactos culturales, las historias, los relatos, las series de televisión, las imágenes, la música, serán el producto de una inteligencia alien. ¿Qué hará esto a la psicología o a la sociedad humana? Las corporaciones toman”. periódicos son los editores de los tendrían que ser responsables de las decisiones tomadas por los algoritmos, tal como responsables de las decisiones editoriales que Si queremos que prevalezca la verdad, tenemos que invertir en la verdad.
Tenemos que crear, por ejemplo, instituciones como los periódicos o como las sociedades académicas, que inviertan en este esfuerzo para descubrir y diseminar la verdad”. “Si los algoritmos de Facebook o de Twitter toman una teoría de la conspiración o una frase de odio y deciden diseminarla, multiplicarla, por los intereses comerciales de la empresa, porque atrae más atención, porque hace que más gente esté en la plataforma más tiempo y por consiguiente la empresa gana más dinero, ese es el problema”. “Los seres humanos producimos un montón de contenido cada día. Hay una parte que contiene odio, pero hay otra parte que está llena de compasión. Una parte son noticias falsas, otra parte es verdad. Corresponde a la decisión del algoritmo que millones de personas estén expuestas a las noticias falsas o a la verdad. Y las corporaciones tendrían que ser responsables de las decisiones tomadas por los algoritmos, tal como los editores de los periódicos son responsables de las decisiones editoriales que toman. Si alguien inventa una historia estúpida, es su problema. Pero si después el editor utiliza su poder inmenso para colocarla en la portada del periódico, eso es una falta de responsabilidad del editor.
Y eso es lo que está pasando con las redes sociales, y por tanto, deberían ser responsables de las decisiones que tomen”. De ameba a dinosaurioserán el producto de una inteligencia alien. ¿Qué hará esto a la psicología o a la sociedad humana? Nadie lo sabe”. Harari advierte, sí, que no hay determinismo en esto. Y que él no puede profetizar lo que va a ocurrir. “Depende de las decisiones que adoptemos.
Pero tenemos que entender que existe un potencial totalitario en la IA, a diferencia de cualquier otra cosa que hayamos visto hasta ahora en la historia”. “Incluso Hitler y Stalin tenían dificultades o límites en el control que podían tener sobre sus súbditos, porque no podían seguir a todo el mundo constantemente”, dice. “Pero la IA permite una vigilancia total que acabe con cualquier libertad, porque no necesitas agentes para seguir a todos los humanos. La IA puede gestionar una cantidad de información ingente y analizarla y reconocer patrones. Esto ya está suce-. vendido más de 45 millones de ejemplares en el mundo, en 65 idiomas.