Algoritmos, cultura y democracia: preguntas para un debate que apenas empieza

Por Jaume Colomer y Ferran López

El pasado 25 de marzo, reunidos en el Círculo de cultura y en motivo de la presentación del libro Públicos y algoritmos. Estrategias de emancipación cultural de Jaume Colomer (Ed. RGC y BissapLab, Buenos Aires), tuvimos la oportunidad de debatir sobre un tema que nos preocupa y nos interpela a los dos: ¿cuál es el impacto real de las tecnologías de recomendación algorítmica sobre la cultura, sobre sus públicos y, en última instancia, sobre la calidad del debate democrático?

El debate se nos hizo corto. Y la conversación ha continuado. Este artículo es un intento de compartir algunos de los hilos que hemos ido desgranando, y que dejamos escritos con el ánimo de contribuir en un debate que creemos necesario.

No todos los algoritmos hacen el mismo
El primer acuerdo al cual llegamos es que hay que dejar de hablar de los algoritmos como si fueran todos lo mismo. Hay una diferencia cualitativa enorme entre un algoritmo que te sugiere una serie a Netflix o te autocompleta un correo electrónico, y un algoritmo que decide qué información llegará a tus ojos sobre el mundo, la política o la realidad social.
Los primeros pueden ser útiles, neutros o incluso prescindibles. Los segundos afectan el sustrato mismo de la ciudadanía: la capacidad de formarse una opinión propia sobre el mundo. YouTube, TikTok, Twitter, Facebook (las plataformas que determinan qué discurso circula y qué no) operan con lógicas de optimización que priorizan el compromiso emocional por encima de la veracidad o la pluralidad. Y lo hacen sin que la mayoría de sus usuarios sean conscientes.
Sobre esto, sí que coincidimos completamente: el control de estos algoritmos (quién les diseña, con qué objetivos, con qué supervisión pública) es una cuestión de primer orden democrático. No es una cuestión técnica. Es una cuestión política.

El problema no es la tecnología, sino la ausencia de control
Un segundo punto de consenso: el peligro no es intrínseco a la tecnología. El peligro es la carencia de control sobre tecnologías con un impacto social enorme, en un momento en el cual su velocidad de despliegue supera nuestra capacidad colectiva de comprender las implicaciones.
Aquí hay que ser precisos. No estamos defendiendo un tecnofòbia generalizada ni un freno indiscriminado a la innovación. Las capacidades actuales de la inteligencia artificial, por ejemplo, ya permiten transformaciones que podríamos aprovechar durante una década sin necesidad de ningún avance adicional. Lo que defendemos es que la regulación tiene que ser proporcional, discriminada e informada por el debate público. Y que el debate público, a su vez, necesita espacios donde producirse.

Cultura y educación: necesarias, pero no suficientes
Aquí es donde nuestras perspectivas empiezan a matizarse.
Jaume hace hincapié en el rol de los espacios de práctica cultural como mecanismos de defensa colectiva: lugares donde se crean vínculos ciudadanos, donde se ejercita la reflexión compartida, donde se practica la democracia participativa en el sentido más amplio. Desde la tradición de la animación sociocultural, su apuesta es refundar estos espacios de proximidad (bibliotecas, centros cívicos, equipamientos locales) no como puntos de acceso al mercado cultural o al entretenimiento, sino como espacios de relación, diálogo, aprendizaje y emancipación colectiva. Los gestores culturales que tienen la responsabilidad tienen que ser más dinamizadores y mediadores que gestores en sentido estricto.
Ferran comparte el valor de esta visión pero es escéptico sobre su capacidad de impacto en la escala que el reto requiere. La capacidad organizativa de los espacios culturales es, en términos cuantitativos, tremendamente limitada. Y la cultura o la educación, por sí solas, no garantizan resultados democráticos: líderes de movimientos autoritarios también vienen de tradiciones cultas y formadas.
Pero quizás la tensión entre las dos posiciones no es una contradicción, sino una complementariedad: la cultura y la educación no son suficientes, pero sin ellas, ninguna regulación será efectiva a largo plazo. Una regulación sin ciudadanía capaz de comprenderla y exigirla es una regulación vacía.

El reto educativo de un mundo donde la inteligencia es un bien común
Hay un cambio de paradigma que los dos encontramos especialmente significativo: la inteligencia (entendida como la capacidad de procesar información, generar texto, analizar problemas o sintetizar conocimiento) se está convirtiendo rápidamente en un commodity accesible para todo el mundo.
Esto plantea una pregunta profunda sobre el sistema educativo: si hemos pasado décadas formante personas para que pudieran hacer aquello que hoy hacen las máquinas, ¿cuál es ahora el valor que tienen que aportar? ¿Qué capacidades humanas hay que cultivar cuando la inteligencia computacional ya es ubicua? Seguramente los espacios educativos en la sociedad actual tienen que tener, como prioridad, acompañar a los alumnos a formar su sistema personal de valores y a aprender la capacidad de análisis crítico y de navegar en una sociedad compleja.
No tenemos respuestas cerradas. Pero sí la convicción que este es el debate que tendrían que estar teniendo las políticas educativas y culturales. Y que, desgraciadamente, no es el que predomina en las agendas actuales.

Dónde Europa puede jugar un papel
Un apunte final, que consideramos estratégicamente relevante: la soberanía tecnológica europea y la soberanía sobre sus datos de los europeos.
Europa va tarde (puede que demasiado tarde) para competir en tecnología, nos encontramos lejos de las grandes potencias del momento, los Estados Unidos y China. Europa sí es pionera a la regulación de los datos y es en los datos donde reside el valor esencial; los algoritmos, para la inmensa mayoría de casos de uso, se pueden sustituir. La gobernanza de los datos, es decir, la regulación sobre quien los genera, quién los controla y con qué derechos es un ámbito donde la política pública puede tener un impacto rápido y real. Sin caer ni en dogmatismos ni en brindis al sol, reconociendo la fuerza que tenemos como unión política y como mercado, podemos contribuir a situar a la ciudadanía en el centro de la tecnología. Hay que jugar nuestras cartas con inteligencia, eso sí.

Para continuar el debate
Hemos tocado muchos hilos. El más honesto es reconocer que las preguntas que nos hacemos no admiten respuestas simples ni unilaterales.
¿Qué modelo de gestión cultural necesitamos para hacer frente a los retos que plantea la IA? ¿Cómo refundamos los espacios de proximidad cultural porque sean agentes activos de formación ciudadana? ¿Qué regulación es posible y efectiva, y quien tiene que liderarla? Y, en última instancia: ¿qué modelo de sociedad queremos construir, y como conseguimos que la tecnología esté al servicio y no al revés?
Este artículo es también una invitación a continuar el debate.

PS. Este texto ha sido elaborado a partir de la transcripción y ordenación del debate con ayuda de herramientas de IA (Fathom y Claude)