Algoritmos al poder
Algoritmos al poder Señor director: Hay una idea seductora: que la inteligencia inteligencia artificial pueda convertirse en un “gobierno de excelencia”, capaz de evaluar políticas públicas, orientar orientar fallos judiciales o resolver dilemas morales con más objetividad que los humanos. Más datos, más matemática, matemática, ergo mejores decisiones. El problema problema es que esa promesa descansa sobre un error conceptual. La lA puede optimizar, predeciryclasificar. predeciryclasificar. En eso, a menudo supera a las personas. Pero gobernar no es optimizar. optimizar. Gobernar exige elegir entre valores, valores, ponderar contextos y enfrentar conflictos entre criterios legítimos. No existe un algoritmo que decida qué entendemos por usticia”, “calidad “calidad de vida” o “bien común” sin adoptar, explícita o implícitamente, una posición normativa. Dicho sin eufemismos: una postura valórica. Aquí aparece la parte incómoda: la supuesta eficacia de la lA se sostiene en trabajo humano intensivo, a veces veces precarizado y deliberadamente invisibilizado. Detrás de cada sistema hay miles de personas etiquetando datos, moderando violencia extrema extrema y enseñándole a la máquina qué es aceptable y qué no. La brújula brújula moral de la lA no es artificial: es tercerizada.
Delegar decisiones socia Imente sensibles sensibles en sistemas sin agencia moral propia, alimentados por juicios humanos humanos producidos en condiciones laborales opacas, y luego presentar sus resultados como técnicos, objetivos objetivos y política mente neutros es una ilusión peligrosa.
La inteligencia artificial generativa es una herramienta poderosa, pero bajo el supuesto de que haya grupos grupos que imaginen usarla más en la toma de decisiones públicas, sin hacerse hacerse cargo de sus costos humanos y políticos, el precio lo terminará pagando la democracia. Carta al Director: Algoritmos al poder Jorge Rojas V. Facultad de Economía y Negocios UNAB.