La democracia puede definirse como el gobierno de la mayoría, o bien como un sistema de elecciones periódicas mediante el cual los ciudadanos eligen a sus gobernantes y representantes. Pero estas definiciones resultan insuficientes. Antes de votar, los ciudadanos tienen que conversar. Deben intercambiar argumentos, escuchar opiniones diferentes, modificar sus posiciones y construir, aunque sea parcialmente, una visión común de los problemas que enfrentan. La democracia es, por ello, no solamente un mecanismo para contar votos y elegir autoridades, sino una conversación colectiva.
Esta idea tiene una larga tradición. Para los griegos, la polis era el espacio donde los ciudadanos deliberaban sobre los asuntos comunes. En la modernidad, John Stuart Mill defendió la discusión abierta como condición para descubrir la verdad y corregir los errores propios. Más recientemente, la democracia deliberativa de Jürgen Habermas ha insistido en que la legitimidad política depende también de la posibilidad de que los ciudadanos intercambien razones en el espacio público.
La conversación democrática cumple, por tanto, una función que va más allá de la comunicación. Permite que una sociedad se conozca a sí misma. Al escuchar al otro, cada ciudadano descubre información que no posee, comprende intereses distintos de los propios y puede modificar sus convicciones. La democracia supone que nadie posee por sí solo todo el conocimiento necesario para gobernar una sociedad compleja.
La inteligencia artificial y los algoritmos están actualmente transformando profundamente este proceso conversatorio.
Las redes sociales han dejado de ser simples espacios donde las personas conversan. Son complejos sistemas que seleccionan, ordenan y amplifican aquello que cada individuo ve. El algoritmo determina, en gran medida, qué noticias aparecen primero, qué opiniones reciben mayor exposición y qué contenidos desaparecen rápidamente de nuestra atención. La conversación deja así de ser espontánea: comienza a estar mediada por sistemas cuyo objetivo principal no es mejorar la deliberación y conversación democrática.
El problema se vuelve mayor cuando el criterio utilizado para seleccionar contenidos es el de maximizar la atención de cada ciudadano. El algoritmo aprende qué contenido provoca indignación, miedo, sorpresa o entusiasmo y utiliza ese conocimiento para mantener al usuario conectado. Una información equilibrada resulta menos atractiva que una afirmación escandalosa; una explicación compleja pierde frente a una frase provocadora; una opinión moderada recibe menos atención que una acusación extrema.
De esta manera, la economía de la atención transforma la conversación democrática en una competencia para provocar emociones y ganar la atención limitada de los usuarios
La consecuencia política es importante. La democracia necesita ciudadanos capaces de discutir sobre hechos compartidos, pero los algoritmos intentan conducir a cada ciudadano hacia un universo informativo diferente. Dos personas observan el mismo acontecimiento y reciben inmediatamente después explicaciones, imágenes, datos y opiniones completamente distintas. Ya no solamente existen desacuerdos sobre la interpretación de los hechos: puede desaparecer incluso la posibilidad de ponerse de acuerdo sobre qué hechos deben discutirse.
La inteligencia artificial introduce una nueva dimensión. Los sistemas generativos pueden producir cantidades enormes de textos, imágenes, videos y mensajes personalizados. En principio, esto podría enriquecer la democracia: un ciudadano puede acceder a explicaciones sobre cuestiones complejas, comparar argumentos y conversar con sistemas capaces de presentar diferentes perspectivas.
Pero existe también el riesgo contrario. Si una máquina puede producir millones de mensajes personalizados, la conversación pública puede convertirse en una conversación artificialmente fabricada. Ya no sabremos necesariamente si estamos escuchando a una persona, a un grupo organizado, a un bot o a una inteligencia artificial que ha generado miles de mensajes para influir sobre nuestras percepciones.
El peligro no es solamente la desinformación. Es algo más profundo: la manipulación personalizada de la conversación.
Una propaganda dirigida a millones de personas transmite el mismo mensaje a todos. Una propaganda algorítmica puede aprender qué argumento resulta más eficaz para cada individuo y modificarlo de acuerdo con sus características, sus temores y sus preferencias. La persuasión política deja entonces de ser pública y se convierte en persuasión individualizada. Cada ciudadano recibe una versión diferente de la realidad política.
Esto amenaza una condición fundamental de la democracia: la existencia de un espacio público compartido.
La democracia no exige que los ciudadanos estén de acuerdo. Exige algo más básico: que puedan estar en desacuerdo sobre las mismas cuestiones y que puedan reconocer al adversario como alguien que participa de la misma conversación.
Aquí aparece una paradoja. La tecnología puede aumentar extraordinariamente nuestra capacidad de comunicarnos y, al mismo tiempo, disminuir nuestra capacidad de conversar.
Hablar no es necesariamente conversar. Conversar implica escuchar. Implica la posibilidad de ser sorprendido por un argumento que no esperábamos. Implica aceptar que podemos estar equivocados. Un sistema que continuamente nos muestra aquello que confirma nuestras preferencias nos proporciona abundante comunicación mientras destruye progresivamente la conversación.
Por eso el desafío democrático de la inteligencia artificial no consiste simplemente en combatir las noticias falsas. Es necesario preservar las condiciones que hacen posible una conversación pública auténtica: transparencia sobre el funcionamiento de los algoritmos, identificación de contenidos generados artificialmente, protección de la privacidad, pluralidad informativa y, sobre todo, educación para distinguir información, opinión y manipulación.
La democracia siempre ha dependido de una tecnología de comunicación: primero la palabra, después la escritura, la imprenta, la radio, la televisión y ahora Internet y la inteligencia artificial. Cada una transformó el espacio público. Pero la IA introduce algo nuevo: por primera vez una tecnología puede participar activamente en la producción y personalización de la conversación misma.
La pregunta decisiva, entonces, no es si debemos aceptar o rechazar la inteligencia artificial. Es otra: ¿podremos utilizarla para ampliar nuestra capacidad de conversar sin permitir que termine conversando por nosotros?
La democracia no sobrevivirá simplemente porque continuemos votando. Necesita ciudadanos capaces de escuchar, argumentar y cambiar de opinión. Si los algoritmos terminan determinando qué vemos, qué pensamos que los demás piensan y con quién estamos dispuestos a hablar, el peligro no será solamente que la IA manipule las elecciones. Será que, poco a poco, destruya la conversación que es la esencia misma de la democracia.
