Son tiempos extraños, nunca la Humanidad ha sido más próspera. Los indicadores y los datos de desarrollo así lo afirman. Pero nuestra sensación global nos lleva a una impresión contraria. La hiperincertidumbre que conlleva la globalización y la indefinición, de los otrora bien definidos espacios de nuestras vidas, se diluyen en este trasunto de la vida líquida que estamos experimentando que el Profesor Zygmunt Bauman tan acertadamente intuyó.
La Política, ahora, se construye a través de sensaciones trufadas por las fake news de la pospolítica y los sentimientos tribales de pertenencia. Esto impide construir relatos democráticos largoplacistas y sistemas de gobernanza que permitan gestionar nuestro futuro colectivo basados en los hechos para una eficaz toma de las decisiones.
Sin duda, es difícil gestionar el futuro. Máxime cuando es en nuestro presente cuando áquel se consume por mor de la hiperaceleración de los mercados y nuestros ritmos vitales. Todo esto es un factor que debilita a nuestras democracias, porque sus estructuras no están pensadas para los marcos actuales de los procesos económicos y políticos de la sociedad.
Aun así, sería un craso error constatar que cualquier tiempo democrático fue mejor. Eso está fuera de lugar en tanto que no existe ningún modelo democrático óptimo. No lo ha existido en ningún momento histórico y por lo tanto podemos convenir que la democracia no deja de ser un estadio evolutivo del pacto social que hacemos en cada momento de la Historia por sociedades diferentes y con instituciones diferentes.
El gran reto que tenemos como sociedad global es cómo integrar los grandes cambios sociales y económicos a los que tenemos que hacer frente ahora y especialmente en el futuro inmediato. La sociedad actual de Estados se irá diluyendo cada vez más debido a la movilidad, a los sistemas de comunicación, a nuestros deseos de multipertenencia a lugares diferentes. Ulrich Beck definió esta forma de sentir y vivir como “topopoligamia”, y la continua disrupción que provocan las nuevas tecnologías urdirán en nuestras conexiones sociales, nuevas formas de entender el marco social y político en el que nos desenvolvemos. La emergencia de las ciudades y los territorios inteligentes y sus conexiones y el papel cada vez más global de las empresas, contribuirán sin duda a ello.
Hemos de entender que la democracia, en su esencia, es la combinación de delicados procesos e interacciones de todos los sujetos que formamos el demos (el constructo político y social sobre el que se edifica la sociedad), y que su entramado institucional necesitará de una (r)evolución permanente para poder gestionar la complejidad de una sociedad cada vez más tecnológica. Y es en este momento, cuando vamos a introducir el término “tecnogobernanza“. Si la gobernanza es el arte de desarrollar los procesos y los sistemas de gestión de las interacciones entre actores dispares y con aspiraciones diferentes, no podemos obviar que deviene una nueva forma de gestionar la gobernanza cuando el Blockchain, el internet de las cosas, el despliegue de la tecnología 5G, la inteligencia artificial, el transhumanismo y la futura computación cuántica se unan en la misma ecuación temporal. El resultado deparará constructos sociales totalmente diferentes a los que conocemos ahora.
La cuestión es, ¿estamos preparados para asimilar múltiples cambios de gestión y de re-conexiones en nuestros entornos?, ¿están las instituciones preparadas para absorber este impacto?, y lo más trascendente, ¿estamos preparados como ciudadanía para aceptar un cambio tan integral en la próxima década?
Desde este punto de vista, deviene en un futuro próximo un nuevo concepto de ¿gestión democrática?: la ALGOCRACIA. La algocracia es un concepto que hace referencia a un modelo de gobierno en el cual el poder de tomar decisiones recae en algoritmos y sistemas de inteligencia artificial (IA). En este sistema, la toma de decisiones se basa en la recopilación y análisis de datos, así como en la gestión algorítmica y sus correspondientes modelos matemáticos, con el objetivo de optimizar la eficiencia y eficacia de las decisiones tomadas.
En una algocracia, existe (o debería existir, mejor dicho) una interfaz humano-máquina que debe permitir a las personas interactuar con los algoritmos y sistemas de IA para participar en el proceso de toma de decisiones. Esta interfaz puede permitir a los individuos expresar sus preferencias y valores, así como proporcionar información y datos relevantes para la gestión eficaz de los datos que avalarán la toma de decisiones futuras.
Es importante destacar que en una algocracia basada en valores democráticos y que respete los derechos humanos, se busca asegurar que las decisiones tomadas por los algoritmos sean transparentes, justas y equitativas. Se deben establecer salvaguardias y mecanismos para evitar la discriminación, el sesgo y la opacidad en el proceso de toma de decisiones.
Además, una algocracia democrática también implica la participación ciudadana y la rendición de cuentas. Los ciudadanos deben tener la oportunidad de influir en la configuración de los algoritmos y en la definición de los valores y criterios utilizados en el proceso de toma de decisiones. También deben existir mecanismos de supervisión y evaluación de las decisiones tomadas por la IA para garantizar que se respeten los derechos humanos y se evite la concentración excesiva de poder.
Pero claro, estamos hablando de una algocracia democrática…, ¿qué puede ocurrir con una algocracia al servicio de regímenes autoritarios, dictaduras o democracias débiles que queden en manos de unas cuantas empresas que puedan influir decididamente en favor de sus intereses?
Son escenarios para los que debemos prepararnos como sociedad. El reto desde el punto de vista ético y normativo, por no hablar de la transformación cultural y pedagógica que implica, es mayestático.
Podemos resumir que una algocracia democrática es un modelo en el cual la inteligencia artificial juega un papel central en la toma de decisiones, pero se encuentra sujeta a una escala de valores democráticos y de derechos humanos, donde las personas tienen la capacidad de participar y supervisar en el proceso de toma de decisiones de la IA.
La influencia de la inteligencia artificial (IA) y los algoritmos en los procesos democráticos y los modelos de gestión de una democracia digital conlleva una serie de retos, oportunidades y riesgos, analicemos cada uno de estos aspectos:
Los Retos:
- Sobre la transparencia y la explicabilidad: Los algoritmos de IA suelen ser complejos y difíciles de entender. Esto plantea un desafío en términos de transparencia y explicabilidad de las decisiones tomadas por estos sistemas, especialmente cuando se aplican en procesos democráticos. Es esencial que la ciudadanía pueda entender cómo se utilizan los algoritmos y cómo afectan las decisiones políticas.
- El peligro de los sesgos y la discriminación: Los algoritmos de IA pueden reflejar sesgos existentes en los conjuntos de los datos utilizados para entrenarlos. Si estos sesgos se aplican en decisiones políticas, como la selección de candidatos o la segmentación del electorado, podrían perpetuar la discriminación y la desigualdad existentes en la sociedad.
Las Oportunidades:
- En la eficiencia en la toma de decisiones: La IA y los algoritmos pueden ayudar a mejorar la eficiencia en la toma de decisiones en los procesos democráticos. Pueden analizar grandes cantidades de datos en tiempo real y proporcionar información valiosa para los responsables políticos. Esto puede ayudar a identificar problemas, desarrollar políticas más efectivas y mejorar la respuesta a las necesidades de la ciudadanía.
- Para la mejora de la participación ciudadana: La tecnología también puede facilitar la participación ciudadana en los procesos democráticos. Plataformas digitales y aplicaciones móviles pueden permitir a los ciudadanos expresar sus opiniones, debatir temas políticos y participar en la toma de decisiones. Esto puede promover una mayor inclusión y diversidad de voces en el proceso político.
Los Riesgos:
- La amenaza que conforman la manipulación y la desinformación: Los algoritmos pueden ser utilizados para manipular la opinión pública y difundir desinformación. A través de técnicas como la microsegmentación y la personalización de contenido, es posible crear burbujas informativas y polarizar el debate público. Esto puede socavar la calidad del discurso democrático y debilitar la confianza en las instituciones democráticas.
- Aumentar la concentración de poder: Existe el riesgo de que la IA y los algoritmos refuercen la concentración de poder en manos de unas pocas entidades. Las grandes empresas de tecnología que poseen vastas cantidades de datos y recursos pueden influir significativamente en los procesos democráticos. Esto plantea preocupaciones sobre la equidad y la igualdad de oportunidades en la participación política.
Termino afirmando que la influencia de la inteligencia artificial y los algoritmos en los procesos democráticos y los modelos de gestión de una democracia digital tiene el potencial de mejorar la eficiencia y la participación ciudadana, pero también plantea desafíos en términos de transparencia, sesgos y manipulación. Es importante abordar estos desafíos y trabajar en salvaguardias adecuadas para garantizar que la IA se utilice de manera ética y responsable en el contexto democrático.
De nuestra responsabilidad colectiva en su futuro de su aplicación dependerá el devenir de nuestras sociedades democráticas.
Os dejo una pregunta introspectiva para que la pensemos individualmente: ¿qué papel vas a decidir interpretar en este contexto?
This work by Francisco Luis Benítez is licensed under a Creative Commons Attribution-NonCommercial-NoDerivs 4.0 Internacional