¿Son los algoritmos un peligro para la democracia?
En Argentina 4.0, La Revolución Ciudadana (Prometeo, 2013), planteamos que la democracia en la era digital, crecientemente influida por las nuevas tecnologías, necesitaría algún tipo de “mediación” del discurso público.
Los algoritmos están desempeñando esa tarea. ¿Son ellos las “instituciones” de la democracia digital? Al fin de cuentas las nuevas tecnologías depositan en ellos el poder de estructurar conductas, influenciar preferencias, generar patrones de consumo, etc.
Un algoritmo es la fórmula usada por un motor de búsqueda (Google, Bing, etc.) para ordenar las respuestas que darán a los pedidos de información que les formulamos. Determinan el ranking de aparición de un sitio web o una noticia frente a una consulta efectuada por el usuario.
La mediación de los algoritmos en su versión actual, sin embargo, no parece ser el tipo de intermediación que fortalece la democracia.
En 2016, cuando comenzaba la carrera para las elecciones federales alemanas del año siguiente, la ex-Canciller Ángela Merkel, advertía los peligros que entrañaban los algoritmos, haciéndolos responsables por distorsionar la percepción de los votantes, limitando la información que recibían en base a sus búsquedas previas en los motores de internet, su ubicación geográfica, etc.
Aludía de ese modo al rol de las llamadas “burbujas de filtro” y las “cámaras de eco” de los buscadores de internet. “Este es un desarrollo al que debemos prestar cuidadosa atención” decía, porque “una democracia saludable depende de que la gente se enfrente a ideas opuestas”.
Por esos años, estalló el escándalo de Cambridge Analytica, una empresa de análisis de datos que contribuyó al triunfo del Brexit cosechando información de los usuarios de Facebook (sin su consentimiento) para dirigir las noticias que recibían o para sondearlos psicológicamente de manera solapada. La campaña de Donald Trump (2016) fue señalada por usar las mismas tácticas.
El peligro que representa el uso de algoritmos ha crecido desde entonces, al compás de versiones de inteligencia artificial cada vez más poderosas, en base al crecimiento exponencial del aprendizaje automático (conocido como “machine learning”) y el uso de Big Data.
Yuval Harari define el fenómeno como dataísmo o “culto de los datos” (Homo Deus, 2017), que conviertió “un descubrimiento limitado en el campo de las ciencias de la computación en un cataclismo que sacude al mundo”. Para el datismo, “los organismos son algoritmos” que procesan datos. Las colonias de bacterias, los bosques y las ciudades son sistemas de procesamiento de datos.
Incluso las formas de organizar la economía (a través del mercado o con planificación del estado) y los sistemas políticos (democracias o autocracias) son sistemas de procesamiento de datos que compiten entre sí con la finalidad de predecir el comportamiento de los sistemas que gobiernan.
En un libro seminal (La era del capitalismo de vigilancia, 2019), Shoshana Zuboff lleva el debate más allá, planteando el surgimiento de “un nuevo orden económico que reclama la experiencia humana como materia prima gratuita para prácticas comerciales ocultas de extracción, predicción y venta” y una “lógica económica parasitaria en la que la producción de bienes y servicios se subordina a una nueva arquitectura global de modificación de conductas”.
Solo unos pocos años después de que Merkel se quejara de que los algoritmos elegían los resultados que nos mostraban primero como resultado de nuestra búsqueda de internet, limitando la información que recibimos en base a nuestras preferencias, Zuboff plantea que la nuevas tecnologías pueden ir más allá y mostrarnos información con la finalidad de modificar nuestras conductas y determinar nuestras preferencias.
Anita Gurmurthy y Deepti Bharthur advertían en su “paper” (Democracia y el giro algorítmico, 2018) que los ciudadanos, “manipulados magistralmente por tácticas basadas en datos…se encuentran cada vez más ubicados en los lados respectivos de una división ideológica”.
Más recientemente, los profesores Birgirt Stak y Daniel Stegmann (con Melanie Magin y Pascal Jürgens) publicaron un trabajo que trata de responder la pregunta con la que comenzamos este artículo (“¿Son los algoritmos una amenaza para la democracia? El surgimiento de intermediarios: un desafío al discurso público”, 2020)
Estiman allí que “las redes sociales facilitan la diseminación de noticias falsas, y discursos de odio”, aunque “la exposición de los individuos a estos fenómenos es limitada”. Para ellos, “es probable que se exageren los temores de que la personalización algorítmica conduzca a burbujas de filtro y cámaras de eco, pero el riesgo de fragmentación y polarización social permanece”.
Es probable que en 2023, el progreso tecnológico haya aumentado los riesgos que señalan estos autores, que concluyen su “paper” proponiendo una “agenda de investigación sobre la gobernanza de las plataformas” digitales.
Se trata de la misma advertencia expresada en “Argentina 4.0 La Revolución Ciudadana” respecto a la necesidad de encontrar mecanismos de mediación del discurso público en la era digital.
No caben dudas de que la democracia digital ha puesto al concepto mismo de ciudadanía en una encrucijada. Los autócratas han aprendido como usar las nuevas tecnologías para polarizar votantes y mantener el poder.
Por eso es clave regular la capacidad de las grandes plataformas digitales para influir en la opinión pública (o al menos entenderla mejor), con el fin de preservar la libertad de elección de los ciudadanos y el funcionamiento saludable de la democracia.
