Este jueves estrenamos Ruido, la nueva Newsletter de Mala Espina sobre actualidad y política de Chile y el mundo. Y la primera pregunta que nos hicimos para abordar es cómo será la política en la era de la inteligencia artificial. Para responder, conversamos vía correo electrónico con Daniel Innerarity, titular de la Cátedra Inteligencia Artificial y Democracia en el Instituto Europeo de Florencia.

Aquí la transcripción textual y completa.

¿Cómo crees que será la política en la era de la Inteligencia Artificial y de qué manera puede cambiar el discurso político (sea para bien o para mal)?

La transformación digital está suscitando preguntas no menores y a partir de inquietudes de signo opuesto. Por un lado, el temor de que sean los algoritmos los enterradores de la democracia. ¿Estamos entrando en un nuevo totalitarismo de la mano de la ideología de la optimización? ¿Siguen teniendo sentido la información razonada, la decisión propia, el autogobierno democrático en esos nuevos entornos tecnológicos? Hay quien denuncia un “big nudging”, un gigantesco sistema de información superinteligente, central y tecnocrática, que representaría una forma de dictadura en la medida en que vaciaría de contenido decisional a nuestras organizaciones políticas.

Hay quien denuncia un “big nudging”, un gigantesco sistema de información superinteligente, central y tecnocrática, que representaría una forma de dictadura en la medida en que vaciaría de contenido decisional a nuestras organizaciones políticas

Otros aseguran que la “democracia de los datos” será más representativa que cualquier otro modelo de democracia en la historia humana, que las urnas serán pronto unas reliquias del pasado cuando nuestra opinión puede estar siendo requerida de modo automático miles de veces cada día y que los expertos decidirán mejor que los partidos políticos ideologizados. Los pesimistas preguntarán, con razón, por qué llamar democracia a ese dispositivo. Este es el gran debate de los años venideros, que formalmente tiene un gran parecido con las grandes controversias del pasado: cómo asegurar la vigencia de los valores democráticos en unos nuevos entornos tecnológicos que parecen de entrada ponerlos en riesgo y a cuyas ventajas no parece muy inteligente renunciar.

No deberíamos minusvalorar el riesgo de que el tecno-autoritarismo resulte cada vez más atractivo en un mundo en el que la política cosecha un largo listado de fracasos

De entrada, no deberíamos minusvalorar el riesgo de que el tecno-autoritarismo resulte cada vez más atractivo en un mundo en el que la política cosecha un largo listado de fracasos. Hay quien sostiene que los algoritmos y la inteligencia artificial pueden distribuir los recursos más eficientemente que el pueblo irracional o mal informado. Una nueva especie de populismo tecnológico podría extenderse bajo la promesa de una mayor eficiencia. Sería algo así como una versión digital de la clásica tecnocracia coaligada ahora con las grandes empresas tecnológicas con irresistibles ofertas de servicios, información y conectividad.

Daniel Innerarity: «Una nueva especie de populismo tecnológico podría extenderse bajo la promesa de una mayor eficiencia»

Un problema incial de estos grandes discursos (la democratización definitiva versus la no menos definitiva desaparición completa de la política) es que ambas perspectivas dejan de percibir e interesarse por las posibilidades, límites y gobernanza que resultan posibles. Considerar el desarrollo de la inteligencia artificial como inevitable invita a no hacer nada, por innecesario o por imposible. Ahora bien, los sistemas inteligentes automatizados ofrecen opciones que tienen consecuencias, no muchas, probablemente no todas las que que desearíamos, pero seguro más de las que lamentan los que se instalan en la desesperación.

En Dinamarca esa el Partido Sintético, creado en base a IA, incluso tiene un líder que es una inteligencia artificial. ¿Parece algo peligroso este camino?

Hay otros ejemplo de ese tenor, pero más que la personalización en un robot, lo que está ocurriendo es que cada vez se gobierna más con algoritmos, lo que suscita la cuestión de para qué aspectos del proceso político son adecuados y para qué no. Quienes sostienen, con miedo o esperanza, que la gobernanza algorítmica puede tomar el control de la política, de todo el proceso político, que la inteligencia artificial es capaz de hacerse cargo de la democracia o puede cargársela, reconocen que eso no es todavía posible con las actuales posibilidades tecnológicas pero que podría ocurrir en el futuro si tuviéramos unos datos de mayor calidad o instrumentos de computación más potentes. Quien teme o desea esta supresión algorítmica de la democracia da por sentado que algo semejante será algún día posible y que es solo cuestión de avance tecnológico. De ser así las cosas, no habría ningún límite infranqueable por principio.

Cada vez se gobierna más con algoritmos

Quiero oponer a esta concepción un límite que no es tanto normativo como epistemológico; hay cosas que la inteligencia artificial no puede hacer porque no es capaz, no porque no deba hacerlo, y esto es especialmente manifiesto en el ámbito de esa decisión tan peculiar que es la política. Las máquinas y los humanos decidimos de una manera muy diferente, estamos especialmente dotados para un tipo de situaciones y somos muy torpes en otras. Y en lo propiamente político de la política es donde este contraste y nuestra mayor idoneidad son más manifiestos. Si esto fuera cierto, como creo, entonces la posibilidad de que la democracia pueda ser algún día superada por la inteligencia artificial es, como temor o como deseo, manifiestamente exagerada, lo cual tiene también su contrapartida: si no es realista un miedo a que la democracia pueda desaparecer en manos de la inteligencia artificial tampoco habría que esperar de ella beneficios exorbitantes.

¿Conoces casos de políticos que ya estén usando la IA o Chat GPT para generar discursos políticos?

He escuchado por primera vez un discurso de una autoridad hecho por un ChatGPT y tras el que nos comunicaron que así se había hecho. Estoy seguro de que lo utilizarán cada vez más y me parece lógico porque para ciertos discursos mas bien convencionales y poco creativos será muy útil. La cuestión propiamente política es formularle al Chat lo que uno quiere que diga y ser capaz de hacer algo que el Chat no puede: ofrecer visiones de conjunto o ideas innovadoras. El ChatGPT es potentísimo a la hora de procesar una gran cantidad de datos pre-existentes, pero no en la producción de nuevas visiones y conocimiento o en las recomendaciones acerca de fenómenos nuevos sobre los que se carece de datos o información. El Chat es muy conservador, en la medida en que rastrea lo que está disponible; dado que la política es bastante ritual y estereotipada, habrá que combinar este recurso con momentos de innovación.