\u00bfSon los algoritmos un peligro para la democracia?<\/p>\n
En Argentina 4.0, La Revoluci\u00f3n Ciudadana (Prometeo, 2013), planteamos que la democracia en la era digital, crecientemente influida por las nuevas tecnolog\u00edas, necesitar\u00eda alg\u00fan tipo de \u201cmediaci\u00f3n\u201d del discurso p\u00fablico. <\/p>\n
Los algoritmos est\u00e1n desempe\u00f1ando esa tarea. \u00bfSon ellos las \u201cinstituciones\u201d de la democracia digital? Al fin de cuentas las nuevas tecnolog\u00edas depositan en ellos el poder de estructurar conductas, influenciar preferencias, generar patrones de consumo, etc.<\/p>\n
Un algoritmo es la f\u00f3rmula usada por un motor de b\u00fasqueda (Google, Bing, etc.) para ordenar las respuestas que dar\u00e1n a los pedidos de informaci\u00f3n que les formulamos. Determinan el ranking de aparici\u00f3n de un sitio web o una noticia frente a una consulta efectuada por el usuario. <\/p>\n
La mediaci\u00f3n de los algoritmos en su versi\u00f3n actual, sin embargo, no parece ser el tipo de intermediaci\u00f3n que fortalece la democracia. <\/p>\n
En 2016, cuando comenzaba la carrera para las elecciones federales alemanas del a\u00f1o siguiente, la ex-Canciller \u00c1ngela Merkel, advert\u00eda los peligros que entra\u00f1aban los algoritmos, haci\u00e9ndolos responsables por distorsionar la percepci\u00f3n de los votantes, limitando la informaci\u00f3n que recib\u00edan en base a sus b\u00fasquedas previas en los motores de internet, su ubicaci\u00f3n geogr\u00e1fica, etc.<\/p>\n
Alud\u00eda de ese modo al rol de las llamadas \u201cburbujas de filtro\u201d y las \u201cc\u00e1maras de eco\u201d de los buscadores de internet. \u201cEste es un desarrollo al que debemos prestar cuidadosa atenci\u00f3n\u201d dec\u00eda, porque \u201cuna democracia saludable depende de que la gente se enfrente a ideas opuestas\u201d.<\/p>\n
Por esos a\u00f1os, estall\u00f3 el esc\u00e1ndalo de Cambridge Analytica, una empresa de an\u00e1lisis de datos que contribuy\u00f3 al triunfo del Brexit cosechando informaci\u00f3n de los usuarios de Facebook (sin su consentimiento) para dirigir las noticias que recib\u00edan o para sondearlos psicol\u00f3gicamente de manera solapada. La campa\u00f1a de Donald Trump (2016) fue se\u00f1alada por usar las mismas t\u00e1cticas.<\/p>\n
El peligro que representa el uso de algoritmos ha crecido desde entonces, al comp\u00e1s de versiones de inteligencia artificial cada vez m\u00e1s poderosas, en base al crecimiento exponencial del aprendizaje autom\u00e1tico (conocido como \u201cmachine learning\u201d) y el uso de Big Data.<\/p>\n
Yuval Harari define el fen\u00f3meno como data\u00edsmo o \u201cculto de los datos\u201d (Homo Deus, 2017), que convierti\u00f3 \u201cun descubrimiento limitado en el campo de las ciencias de la computaci\u00f3n en un cataclismo que sacude al mundo\u201d. Para el datismo, \u201clos organismos son algoritmos\u201d que procesan datos. Las colonias de bacterias, los bosques y las ciudades son sistemas de procesamiento de datos.<\/p>\n
Incluso las formas de organizar la econom\u00eda (a trav\u00e9s del mercado o con planificaci\u00f3n del estado) y los sistemas pol\u00edticos (democracias o autocracias) son sistemas de procesamiento de datos que compiten entre s\u00ed con la finalidad de predecir el comportamiento de los sistemas que gobiernan.<\/p>\n
En un libro seminal (La era del capitalismo de vigilancia, 2019), Shoshana Zuboff lleva el debate m\u00e1s all\u00e1, planteando el surgimiento de \u201cun nuevo orden econ\u00f3mico que reclama la experiencia humana como materia prima gratuita para pr\u00e1cticas comerciales ocultas de extracci\u00f3n, predicci\u00f3n y venta\u201d y una \u201cl\u00f3gica econ\u00f3mica parasitaria en la que la producci\u00f3n de bienes y servicios se subordina a una nueva arquitectura global de modificaci\u00f3n de conductas\u201d.<\/p>\n
Solo unos pocos a\u00f1os despu\u00e9s de que Merkel se quejara de que los algoritmos eleg\u00edan los resultados que nos mostraban primero como resultado de nuestra b\u00fasqueda de internet, limitando la informaci\u00f3n que recibimos en base a nuestras preferencias, Zuboff plantea que la nuevas tecnolog\u00edas pueden ir m\u00e1s all\u00e1 y mostrarnos informaci\u00f3n con la finalidad de modificar nuestras conductas y determinar nuestras preferencias.<\/p>\n
Anita Gurmurthy y Deepti Bharthur advert\u00edan en su \u201cpaper\u201d (Democracia y el giro algor\u00edtmico, 2018) que los ciudadanos, \u201cmanipulados magistralmente por t\u00e1cticas basadas en datos\u2026se encuentran cada vez m\u00e1s ubicados en los lados respectivos de una divisi\u00f3n ideol\u00f3gica\u201d.<\/p>\n
M\u00e1s recientemente, los profesores Birgirt Stak y Daniel Stegmann (con Melanie Magin y Pascal J\u00fcrgens) publicaron un trabajo que trata de responder la pregunta con la que comenzamos este art\u00edculo (\u201c\u00bfSon los algoritmos una amenaza para la democracia? El surgimiento de intermediarios: un desaf\u00edo al discurso p\u00fablico\u201d, 2020)<\/p>\n
Estiman all\u00ed que \u201clas redes sociales facilitan la diseminaci\u00f3n de noticias falsas, y discursos de odio\u201d, aunque \u201cla exposici\u00f3n de los individuos a estos fen\u00f3menos es limitada\u201d. Para ellos, \u201ces probable que se exageren los temores de que la personalizaci\u00f3n algor\u00edtmica conduzca a burbujas de filtro y c\u00e1maras de eco, pero el riesgo de fragmentaci\u00f3n y polarizaci\u00f3n social permanece\u201d.<\/p>\n
Es probable que en 2023, el progreso tecnol\u00f3gico haya aumentado los riesgos que se\u00f1alan estos autores, que concluyen su \u201cpaper\u201d proponiendo una \u201cagenda de investigaci\u00f3n sobre la gobernanza de las plataformas\u201d digitales.<\/p>\n
Se trata de la misma advertencia expresada en \u201cArgentina 4.0 La Revoluci\u00f3n Ciudadana\u201d respecto a la necesidad de encontrar mecanismos de mediaci\u00f3n del discurso p\u00fablico en la era digital. <\/p>\n
No caben dudas de que la democracia digital ha puesto al concepto mismo de ciudadan\u00eda en una encrucijada. Los aut\u00f3cratas han aprendido como usar las nuevas tecnolog\u00edas para polarizar votantes y mantener el poder. <\/p>\n
Por eso es clave regular la capacidad de las grandes plataformas digitales para influir en la opini\u00f3n p\u00fablica (o al menos entenderla mejor), con el fin de preservar la libertad de elecci\u00f3n de los ciudadanos y el funcionamiento saludable de la democracia.<\/p>","protected":false},"excerpt":{"rendered":"
\u00bfSon los algoritmos un peligro para la democracia? En Argentina 4.0, La Revoluci\u00f3n Ciudadana (Prometeo, 2013), planteamos que la democracia en la era digital, crecientemente influida por las nuevas tecnolog\u00edas, necesitar\u00eda alg\u00fan tipo de \u201cmediaci\u00f3n\u201d del discurso p\u00fablico. Los algoritmos est\u00e1n desempe\u00f1ando esa tarea. \u00bfSon ellos las \u201cinstituciones\u201d de la democracia digital? Al fin de […]<\/p>\n","protected":false},"author":1,"featured_media":309,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-2007","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-democracy-how-to-adapt"],"acf":[],"_links":{"self":[{"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/posts\/2007","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/comments?post=2007"}],"version-history":[{"count":1,"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/posts\/2007\/revisions"}],"predecessor-version":[{"id":2008,"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/posts\/2007\/revisions\/2008"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/media\/309"}],"wp:attachment":[{"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/media?parent=2007"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/categories?post=2007"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/carlosmagarinos.com\/es\/wp-json\/wp\/v2\/tags?post=2007"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}