Categoría: Investigación en Problemáticas Sociales
Artículo de reflexión
Gubernamentalidad algorítmica: ¿amenaza a la democracia en la era digital? El caso de Cambridge Analytica
Samuel Villamil1, Juan Andrés López1, Pablo Hoyos1, Esteban González1, Santiago Arcila2
1. Jóvenes Investigadores del Grupo Tecnología y Sociedad, Gimnasio Campestre
2. Director del Centro de Estudios Sociales, tutor del grupo Tecnología y Sociedad, Gimnasio Campestre
Correspondencia para los autores: sarcila@campestre.edu.co
Recibido: 21 de marzo de 2023
Aceptado: 5 de mayo de 2023
RESUMEN
Nota inicial
El artículo propone una reflexión sobre el caso del uso ilegal de datos para el diseño de estrategias de marketing político por parte Cambridge Analytica y Facebook. Gracias a la puesta en diálogo de conceptos claves de la filosofía de la tecnología como gubernamentalidad algorítmica y noopolitica, y su articulación con una investigación inicial sobre el funcionamiento técnico de los algoritmos, los datos, metadatos y perfiles por parte de plataformas digitales, se plantea una aproximación crítica sobre algunos de los problemas que amenazan el ejercicio democrático electoral. Se hace énfasis en la necesidad de actuar en función de un marco legal, educativo e inventivo que alimente una forma fuerte de soberanía tecnológica capaz de tomar medidas efectivas en contra del uso interesado y malintencionado de los sistemas digitales en beneficio de minorías de poderosos.
El siguiente escrito da cuenta de los hallazgos principales a los que llegamos en el grupo de investigación Tecnología y sociedad. Nuestro trabajo se centró en estudiar durante las clases de jóvenes investigadores, en el curso de octavo (2021) y noveno (2022), algunas de las dimensiones del caso de Cambridge Analytica, a la luz de un acercamiento inicial a la teoría cibernética, la teoría de sistemas, y algunos conceptos y argumentos de la filosofía de la técnica. Esta investigación de corte cualitativo centró su metodología en análisis de fuentes primarias y secundarias, de tipo escrito y audiovisual, principalmente artículos de noticias, artículos filosóficos y referentes de apoyo sobre tecnología. Consideramos que este texto permite una aproximación general a las dimensiones tecnológicas, políticas y éticas de este fenómeno.
Las redes sociales son un claro ejemplo de cómo los medios tecnológicos han empezado a transformar la sociedad
INTRODUCCIÓN
Durante los últimos años, la tecnología digital ha evolucionado de manera importante y se ha convertido en una parte integral de nuestras vidas. Sin embargo, existe una creciente preocupación acerca de cómo la dependencia a estos medios tecnológicos está impactando a la sociedad. De hecho, es evidente que estos dispositivos se han convertido en herramientas fundamentales y necesarias para nuestro día a día, como el celular y la computadora, pero también se han constituido en aparatos que conforman sistemas (económicos, de vigilancia, psicológicos, educativos, estatales, etc.) sobre los que recaen cuestionamientos éticos y políticos acerca de quiénes, cómo y bajo qué propósitos los administran.
Las redes sociales son un claro ejemplo de cómo los medios tecnológicos han empezado a transformar la sociedad, ya que a través de ellas nos conectamos a pesar de nuestras diferencias e identidades, compartimos nuestra intimidad y gustos, y hacemos red con diferentes personas, empresas, tiendas, marcas, etc. Sin embargo, cuando atendemos a la dimensión de la política, surgen problemas como el deseo de obtener poder en la sociedad a través del control de estas plataformas. Precisamente, es en este punto donde se centra esta investigación, en el estudio del caso Cambridge Analytica y su papel en las campañas electorales en las redes.
Esta empresa británica se especializaba en combinar la minería y el análisis de datos con la comunicación estratégica para procesos electorales. En 2018, se vio involucrada en un escándalo que se relacionó con la compañía multimillonaria Facebook, que desarrolló una aplicación mundialmente conocida para interactuar de forma digital. El escándalo consistió en la recopilación de millones de datos de usuarios de esta plataforma con el fin de utilizarlos para propaganda política. Este suceso evidenció un problema ético vinculado con la violación de la privacidad de las personas. En este sentido, el centro de nuestra investigación es analizar algunos de los aspectos de cómo en este caso la tecnología se convirtió en una herramienta para extraer información personal de los usuarios sin su consentimiento y cómo fue usada en una estrategia de marketing político.
MARCO DE REFERENCIA
Algoritmos
El concepto de algoritmo, que conocemos y escuchamos frecuentemente, es definido por la RAE como “un conjunto ordenado de operaciones sistemáticas que permite calcular y hallar la solución a un tipo de problemas”. Es evidente que uno de los objetivos principales de los algoritmos es ser precisos e indicar el orden de realización de cada paso, definiendo un funcionamiento acorde con el propósito que se vaya a ejecutar. Es decir que, si se sigue un algoritmo en particular, este debe terminar en algún momento y tener un número específico de pasos. Un ejemplo claro de estos algoritmos es cuando cocinamos y seguimos una receta para preparar una comida. Esta nos muestra cómo debemos seguir una serie de pasos para obtener un resultado. También, cuando encendemos el televisor, debemos presionar el botón power y seguir una serie de pasos para llegar al resultado final que es sintonizar uno u otro canal. Lo mismo ocurre con muchas acciones que el ser humano realiza en su día a día y que podrían ser homologables a un conjunto de operaciones algorítmicas. En este sentido, un algoritmo puede pensare como un sistema de entrada, transformación y salida de una señal que se traduce en la activación de imput que desencadena una serie ordenada de acciones hasta un output final: tomar un huevo, romper la cascara, ponerlo en el sartén, etc. Lo que queremos demostrar con estos ejemplos es que, desde cierto ángulo, los algoritmos siempre han formado parte de nuestras vidas y existían antes de que fueran programados y codificados en los computadores. La aparición de la cibernética y la investigación en informática permitieron automatizar en máquinas este tipo de algoritmos en un campo diferente, como el de la computación electrónica, digital y conectada en red con Internet. Es por eso por lo que, hoy en día, podemos ver miles de ejemplos de cualquier algoritmo operando y gestionando datos en los computadores, los celulares o las consolas con las que nos conectamos a diferentes plataformas. En la actualidad, el ser humano no necesita buscar demasiado para encontrar ejemplos de algoritmos a su alrededor.
Un caso de esto se puede relacionar con el escándalo de Cambridge Analytica y Facebook, ya que con solo una docena de “likes” en Facebook, estos algoritmos podían saber con bastante probabilidad si eras hombre o mujer, y muchos más datos personales, como por ejemplo asociar un dato con otros datos siguiendo criterios raciales, económicos, religiosos, o sugerir información a partir de los mismos. Los algoritmos, en este sentido, son claves para la producción de perfiles a partir de datos. Esto puede llegar a ser problemático, ya que el uso y enfoque de esta serie de algoritmos podría convertirse en un enemigo de la privacidad de los usuarios y en una herramienta de anticipación y conducción de sus decisiones.
Sociedad de la información, sociedad digital:
Según la UNESCO, el concepto pluralista de sociedades del conocimiento va más allá de la sociedad de la información, ya que apunta a transformaciones sociales, culturales y económicas en apoyo al desarrollo sustentable. Los pilares de las sociedades del conocimiento son el acceso a la información para todos, la libertad de expresión y la diversidad lingüística. Esto puede ser abordado desde el análisis del ser humano, conocido desde la ilustración, como un ser que aborda el razonamiento conforme a sus principios fundamentales que sirven como guía en la toma de decisiones y en la capacidad de encontrar respuestas a partir del desarrollo crítico.
La UNESCO ve al ser humano como un ser libre que, a partir de la tecnología, dirige el desarrollo evolutivo de la sociedad a partir de la actividad científica, el derecho, la economía, etc. Este ser, heredero de la ilustración, es capaz de determinar el funcionamiento de los desarrollos tecnológicos según criterios que permitan mejorar la vida humana en general. Sin embargo, por otro lado, el filósofo francés Eric Sadin es partidario de la idea de que este modelo de ser que conocemos desde la ilustración está en riesgo de extinción. En una entrevista con Natalia Vaquero para la revista Faro de Vigo, Sadin afirmó:
cada vez decidimos menos por nosotros mismos al delegar precisamente nuestras decisiones en la inteligencia artificial. No buscamos nuestra verdad y nos entregamos a sistemas que nos dictan la suya. Nuestra facultad de juicio se está desplomando a favor de esa tecnología que nos guía. La Ilustración estaba fundada en nuestra autonomía para pronunciarnos libremente de forma consciente y con responsabilidad. (E. Sadin, 2018)
La sociedad en la que vivimos a partir de la ilustración es una sociedad que cada vez más se encuentra fundamentada en la información. Las tecnologías de la Información y Comunicación (TIC) son las encargadas de la producción y distribución de este recurso a nivel global, alimentando las sociedades del conocimiento y marcando el rumbo de una nueva economía del dato que se extienda por el planeta en estrecha relación con nuestras practicas cotidianas, nuestros hábitos y maneras en que se desarrollan nuestras identidades. Si se quiere, y siguiendo a filósofos como Bernard Stigler (2018), Simondon (2008) o Berardi (2010), es al interior de las sociedades de la información que nuestras subjetividades se forman, se articulan y ganan una u otra consistencia, ya que, como han demostrado estos autores, no es posible pensar en el desarrollo psicosocial de personas y grupos de forma aislada al ambiente tecnológico al que están sujetos. Ni los desarrollos tecnológicos son pensables como independientes de las formas de lo psicosocial, ni lo psicosocial se entiende a cabalidad sin su articulación con las formas de lo tecnológico que le son contemporáneas. Para poner un ejemplo, piénsese en las mutaciones que ha señalado Berardi (2010), en la experiencia de lo íntimo y lo público con la aparición de las redes sociales o en el modo en que se modula la atención de los estudiantes con los celulares o las formas de desear que emergen a partir del mercado de los likes.
A partir de los desarrollos de Norbert Weiner (1998), fundador de la cibernética, el paradigma epistémico cambió, como muestra Pablo Rodriguez (2020), inaugurando una nueva forma de entender la realidad y las interacciones entre los seres: desde entonces el mundo, la vida, los afectos, el trabajo y todos los aspectos de nuestra condición y de la naturaleza son entendidos como flujos de información. Weiner, en su libro Cibernética o el control y comunicación en animales y maquinas (1998), logró esbozar una teoría verificable y útil para gobernar y controlar aspectos de la sociedad de una manera científica, basada en la recopilación de y problemas que se le entregan a un sistema automatizado que realiza cálculos para implementar soluciones objetivas que determinen el curso de la sociedad.
De cualquier manera, dentro de todo este desarrollo de las sociedades de información es importante mencionar que este tipo de conceptos están relacionados con una nueva forma de capitalismo que algunos han reconocido como el capitalismo de plataformas. El filósofo Nick Srnicek (2018) en su libro Capitalismo de plataformas, presenta como tesis que “el capitalismo se volcó hacia los datos para recobrar vitalidad tras las prolongadas crisis de sobrecapacidad que acechan la producción fordista de bienes y su régimen de empleo desde la década de 1970, lo cual sería visto como la economía transformada en un dato y donde se genera un esfuerzo cada vez mayor por construir una doble digital de la realidad que enfrentamos hoy en día”.
También se puede ver desde una cierta perspectiva que este capitalismo de plataformas se refiere a las actividades de empresas reconocidas como Facebook, Google, Microsoft, entre otras, en su forma de operar. Sin embargo, según NACLA, este sería definido como “un modelo económico en el que los trabajadores son considerados colaboradores y en algunos casos, trabajadores independientes, sin ningún tipo de compromiso legal, laboral y social de por medio”, ya que argumentan que solo son empresas intermediarias para conectar colaboradores, servicios y usuarios. Cuando Sadin (2018) habla de silicolonización del mundo, se refiere a esta transformación que viene gestándose desde los años 60s en Estados Unidos y que al día de hoy se manifiesta en la producción y comercialización de datos de distintas naturalezas, gracias a la extensión de sensores como cámaras, micrófonos, y todo tipo de dispositivos que trabajan en red conectados a computadores con capacidades de procesamiento y correlacionamiento de datos muy potentes. Es sobre esta infraestructura global que la nueva economía del dato se consolida cada vez más, acompañada de un movimiento de transformación del mundo que, según Sadin, es impulsado por gurús de la tecnología bajo el paradigma de los valles tecnológicos, que ven en los datos una nueva mina de oro. Esta economía en acenso ha despertado nuevas preguntas sobre los derechos laborales, los impactos psicológicos, los usos abusivos de los poderosos, etc.
Gubernamentalidad Algorítmica:
Según Foucault, la gubernamentalidad es, en su descripción más básica, el conjunto de prácticas y discursos para la gestión y administración de conductas y poblaciones (Castro-Gomez, 2010). En su texto Seguridad, territorio y población (2008), así como en El nacimiento de la biopolítica (2007), Foucault describió la emergencia de este fenómeno en el siglo XIX y principios de XX, como un sistema de tecnologías basadas en los desarrollos de la estadística y los intereses en la gestión y el control de poblaciones. La gubernamentalidad suele estar asociada con el nacimiento de la biopolítica en tanto una nueva forma de gobierno de la vida y la muerte de los individuos a partir de la vigilancia, la prescripción, el disciplinamiento, la formación y el estudio de las poblaciones. En un primer plano, la gubernamentalidad sirvió y aún es utilizada para predecir y controlar el comportamiento de los miembros de una comunidad, su formación, sus cuerpos, sus enfermedades, la natalidad, la mortandad, etc. Para poder conocer a la población es necesario que los expertos dediquen tiempo a estudiarla y produzcan datos sobre la misma que permitan saber cómo organizarla. Para Folucault, los espacios propicios para esto son el hospital, la escuela, el batallón y la cárcel. Pero para Deleuze (2006), con los desarrollos sociotécnicos, ya no solo se trata de sociedades disciplinarias, sino de sociedades de control, cuya diferencia pasa por nuevas formas de estadística, recopilación y gestión de datos que son posibles con la emergencia de la computación y las tecnologías digitales.
Tanto para Foucault (2008) como para Deleuze (2006), estas tecnologías de gobierno afectan directamente los procesos de subjetivación de los individuos, pues operan como la matriz general al interior de la cual los seres humanos, desde que nacen hasta que mueren, viven: los ciudadanos son criados según el saber de expertos y conducídos según los mismos. Podría decirse que la gubernamentalidad apunta a la formación de los individuos de una sociedad bajo condiciones de extremo control y vigilancia más o menos perceptibles. Los Estados, las instituciones y los expertos, producen, recogen y gestionan datos de las poblaciones utilizando formas de estadística que permiten interpreta los comportamientos y las experiencias de las personas, y tomar decisiones en función de objetivos como el rendimiento, la moral, la patria, etc.
Al pasar el tiempo estas tecnologías de poder se han venido complejizando, debido a que la estadística y vigilancia han empezado a mutar para funcionar fuera de los tradicionales espacios cerrados. Esto, según Deleuze (2006), hace parte del paso de las sociedades disciplinarias, a las sociedades de control: mientras en las primeras la vida de los ciudadanos ocurre en espacios cerrados (la casa, la escuela, el batallón, la universidad, la fábrica, el centro comercial, el hospital, la cárcel), en las segundas se da una flexibilización como respuesta a las demandas de explotación laboral y falta de libertad que llevó a un cambio en la vida laboral y educativa, cambio que no necesariamente se traduce en mayor libertad: ahora se trabaja desde cualquier lugar, se está conectado a la red en cualquier sitio, se estudia a distancia, se compran productos mientras se trabaja, se trabaja mientras se está en tiempo libro, etc. Este nuevo tipo de sociedad está acompañada de un nuevo tipo de gubernamentalidad que Rouvroy y Berns (2013), pero también Rodriguez, definen como Gubernamentalidad Algorítmica. Es la versión actualizada y automatizada de la gubernamentalidad original, y es mucho más efectiva, ya que, a diferencia del proceso estadístico madre, esta pasa completamente desapercibida en muchos casos, ya que los algoritmos digitales operan de modo menos evidente que la orden del general, el profesor o el médico, figuras típicas de las sociedades disciplinarias. Además, se trata de un proceso estadístico mucho más personalizado que permite rastrear en tiempo real un sinnúmero de datos que van ofreciendo perfiles de consumo, transito, intereses y preferencias de los usuarios. Tal como cita Rodríguez del texto de Rouvroy y Berns:
La gubernamentalidad algorítmica sería “un cierto tipo de racionalidad (a)normativa o (a)política que reposa sobre la recolección, la agrupación y análisis automatizado de datos en cantidad masiva de modo de modelizar, anticipar y afectar por adelantado los comportamientos posibles”, y que implican “una aparente individualización de la estadística” pues, lejos de la referencia a un hombre medio definido de antemano, parece operar alrededor de la generación de un sí mismo a partir de “su propio perfil automáticamente atribuido y evolutivo en tiempo real”. Esto hace que “esta práctica estadística se desarrolle como si estuviéramos de acuerdo”, o mejor dicho, como si hubiera una “adhesión por defecto a una normatividad tan inmanente como la de la vida misma” (Rouvroy, Berns, 2016: 96-97). (Rodríguez, 2018)
Los lugares vigilados y cerrados ya no son necesarios para este tipo de vigilancia, ya que la llevamos a todos lados en un pequeño ladrillo metal, plástico y sensores que llamamos teléfono celular. Si el lector entra a una red social, no podría pasar más de quince minutos sin ver algún anuncio. Lo que hace este tipo de control es aplicar un perfil colectivo, que resuene con nuestra huella digital, y nos conduce al comportamiento deseado. Por eso ningún feed de Facebook es el mismo.
Perfilamiento algorítmico:
Todos tenemos acceso a las redes sociales y, por lo tanto, las redes tienen acceso a cada uno de nosotros. Con cada foto, dato y comentario, las empresas que manejan las plataformas en red nos van conociendo más y más en tiempo real, hasta que llegan a ser casi tan familiar con nosotros como un amigo que conoce nuestros intereses y hábitos. Según la BBC (2018), “Con solo diez ‘Me gusta’, Facebook puede deducir qué tipo de persona eres, mejor que tus compañeros de trabajo… Con 150 ‘Me gusta’, es más preciso que tus padres”. Aquí es donde comienza el proceso de subjetivación, donde el algoritmo se encarga de categorizarnos en un tipo de personalidad. Podemos imaginar hasta cierto punto que estas categorías operan como los tipos de personalidad de Jung o los perfiles criminales o de consumo que construyen los expertos. Estas personalidades dan cuenta de cosas como el rango de adaptación al cambio, la agresividad e impulsividad, el tipo de mercancías que deseamos, el tipo de ideales que tenemos, etc. Estos perfilamientos algorítmicos son lo que utilizan las plataformas digitales para definir quiénes somos, qué nos gusta y predecir qué anuncios mostrarnos en el feed para mantenernos enganchados. En un sentido estricto, los algoritmos anclados a las plataformas y a los datos y metadatos, son un conjunto tecnológico que haría parte de lo que Maurizzio Lazzarato llama como noopolitica, que siguiendo a Castro-Gómez y a Restrepo (2008) se trata de
una tecnología de poder […] en la que se apela ya no tanto al control sobre los cuerpos (corpo-politica), sobre las poblaciones (bio-política) o sobre la “riqueza de las naciones” (como la geo-política) sino al deseo de los individuos. La noopolítica no se dirige al intelecto de las personas, sino que opera mediante la modulación de los deseos, los afectos, la percepción y la memoria. (Castro-Gómez, Restrepo, p.15, 2008)
Por decirlo de otra manera, es más probable que una personalidad con menos adaptación al cambio prefiera votar por políticos y líderes más conservadores, y esta plataforma hará lo posible por mostrarle toda la publicidad que pueda sobre este político en cuestión. Si vemos una personalidad más libertaria y tal vez más abierta, los políticos de izquierda serían los más vistos. Sin embargo, al tener este algoritmo que nos rastrea como comunidad, ¿dónde está la línea entre marketing político y el control de masas?
Es interesante notar que, como señala la filósofa italiana Sara Baranzoni (2020) en un artículo dedicado a la adicción a las redes sociales, esta forma de noopoder está presente en el diseño de las plataformas y en la lógica de la gestión de datos, que desde el principio se nutre de la investigación neurocientífica sobre los mecanismos de la adición para el campo de la rentabilidad digital. La experiencia del usuario y el control de su conducta están mediados por la integración de los circuitos dopaminérgicos al funcionamiento las redes sociales y al propósito de extraer valor de los datos:
Resulta apropiado el análisis de Moore relativo a la extracción de dopamina como nuevo recurso estratégico que genera valor de las actividades humanas y que se apoya en los mecanismos y energías neuronales. Al punto que no sorprende que la creación de aplicaciones y ambientes digitales haya empezado a recurrir a este medio para implementar sus estrategias comerciales: de ahí la constitución del primer startup basada precisamente en la explotación de ese mecanismo biotecnológico, los Dopamine Labs, de Ramsay Brown, que prometen ayudar a cada diseñador que quiera aumentar al máximo la respuesta dopaminérgica generada por las aplicaciones realizadas. Así como en el caso de los jugadores que se sienten favorecidos por la suerte y su cerebro libera dopamina para marcar el evento, “nuestro producto es un slot machine que juega contigo”, afirma irónicamente el propio Brown (Parkin 2018). Esto es el secreto de las corporaciones de la era Facebook: seguir controlando compulsivamente la página porque nunca se sabe cuándo llegará la aprobación social y esta fascinante molécula entrará en el círculo otra vez. (Baranzoni, p.13, 2020)
Algunos cambios en la forma de hacer las campañas políticas antes y después de las plataformas:
A lo largo de la historia, se ha visto cómo los humanos han enfrentado un cambio en la forma de hacer campañas políticas con la aparición del perfilamiento algorítmico. Antes de la aparición de la red y todos los algoritmos, la forma de hacer campañas políticas era principalmente interactuando con la gente mediante diferentes manifestaciones sociales, donde los candidatos expresaban sus opiniones y su forma de pensar al pueblo para cumplir sus objetivos. Tecnologías como hacer pancartas, películas, apariciones en televisión, la radio y demás, se fueron mezclado con las tecnologías computacionales y la cibernética.
Una de las preocupaciones centrales de toda campaña es poder definir un público objetivo y evaluar las estrategias para capturar votantes indecisos o de otros partidos. Con la emergencia del perfilamiento algorítmico, este tipo de marketing alcanza niveles de distribución y diseño personalizado de la propaganda nunca vistos, pues a partir de los metadatos de los usuarios que están alimentando las bases con la interacción continua en dispositivos como el celular, pueden tomarse decisiones múltiples para cubrir diversos tipos de votantes en una población. Esto, sumado a las posibilidades de ajustar la publicidad pagada en las plataformas, según criterios como gustos similares o no, intereses humanistas, comerciales, clase social, raza, genero, etc. Pero ¿acaso los usuarios han autorizado que su usen sus datos para el provecho monetario y los intereses de empresas de marketing de campañas políticas? ¿los datos que producen los usuarios en plataformas son de libre uso por parte de los políticos?
El caso Cambridge Analytica:
Cambridge Analytica nació en Gran Bretaña, en Londres, en 2013, como una rama de la empresa estadounidense Strategic Communication Laboratories (SCL), dedicada a la investigación del comportamiento y la comunicación estratégica. Se creó con el fin de involucrarse en la política como una consultora especializada en la recopilación y análisis de datos para la creación de campañas publicitarias y políticas. Además, Cambridge Analytica fue muy reconocida por combinar la minería y el análisis de datos con la comunicación estratégica en el proceso electoral. Teniendo esto en cuenta, saltó a la fama en 2018 después de verse envuelta en el escándalo mundial de Facebook-Cambridge Analytica, en el que se revelaron las filtraciones de los datos de los perfiles de Facebook para la manipulación estratégica de la campaña y la obtención de votantes. Como se menciona en un reportaje de la BBC (2018), el escándalo comenzó con un test de personalidad en la red social y derivó en acusaciones de robo de datos, interferencia política y chantajes con prostitutas. De este modo, el escándalo consistió en una relación corrupta entre los líderes políticos y los organizadores de la plataforma Facebook, en la que Cambridge Analytica recopilaba datos de los perfiles de los votantes, les filtraba esa información a los partidos con el fin de poder adentrarse en la personalidad de cada individuo por medio del comportamiento revelado en la actividad en los datos y ganar su voto mediante el uso de esta aplicación.
El algoritmo desarrollado por Cambridge tenía el propósito de extraer información del comportamiento del usuario en redes sociales como Facebook, con la misión de crear perfiles psicológicos y de personalidad. Este algoritmo era capaz de crear un perfil casi completo de tu identidad y personalidad a partir de 5 categorías de rasgos principales, según Alexander Nix, ex jefe de la compañía (BBC, 2018): la apertura al cambio, la escrupulosidad, la extraversión, la amabilidad y la inestabilidad emocional. A partir de esta información, el algoritmo analizaba y procesaba los resultados para crear tipos o perfiles de personalidad, tales como un perfil aventurero, un perfil protector o un perfil ejecutivo, basados en los resultados de interés de las 5 categorías. Reportajes de la BBC y otras cadenas de investigación periodística, afirman que este algoritmo es extremadamente preciso. Con estos perfiles establecidos, la campaña de Donald Trump pudo, con la ayuda de Cambridge Analytica, crear y presentar propaganda política personalizada para cada tipo de perfil psicológico, basada en las necesidades, miedos y emociones de cada usuario.
La Federal Trade Commission, comenzó a investigar a Facebook en marzo de 2018 luego de que se revelara que a través de un test de personalidad se recolectaron datos de los usuarios que luego se vendieron a Cambridge Analytica. Más adelante, hubo reclamos de que estos datos pudieron haber sido utilizados para tratar de influenciar los resultados de las elecciones presidenciales de 2016 en EE.UU. y el referendo del Brexit en Reino Unido ese mismo año. Aunque solo 270.000 personas tomaron el test, un exempleado de Cambridge Analytica afirmó que los datos de cerca de 50 millones de usuarios, mayormente en EE.UU., fueron recolectados sin su consentimiento explícito a través de sus redes de amigos. (BBC News Mundo, 24 julio 2019)
¿Cómo funcionó esta recolección? Se dio un uso inadecuado de una de las herramientas más poderosas del marketing moderno: la ciencia de datos. Esta disciplina de la programación y la administración digital, que en su forma más básica se encarga de procesar y manipular grandes cantidades de tatos llamados, Big Data. Esta red se genera cuando hay más de un millón de entradas en una plataforma, es ahí cuando corre un algoritmo (realizado por un científico de datos) y organiza estos datos en ciertas categorías.
Según Flavia Costa, investigadora en problemas relacionadas con la tecnología, la política y la vida, “en 2017, Sean Parker, cofundador de Napster y primer presidente de Facebook, admitió en una entrevista que la red social de Mark Zuckerberg “explota una vulnerabilidad de la psicología humana” al incentivar a los usuarios a buscar un “me gusta” tras otro para obtener aceptación social” (Clarin, 2021). En este sentido el papel de Facebook, ahora mutado a Meta, fue el de servir como medio para que se abusara de la privacidad de cada usuario.
Esta violación informática se utilizaba principalmente para crear propaganda política en situaciones electorales alrededor del mundo, como en Estados Unidos, Argentina, Italia, Bogotá (caso cuestionable vinculado al exalcalde Enrique Peñalosa), etc. En estos casos, se hace evidente la forma en que un sistema de vigilancia algorítmico es aprovechado sin el consentimiento de la población para anticipar y conducir la conducta de masas diversas de población. Recordemos que esto es posible gracias a que vivimos en un mundo cuyo paradigma es indisociable de la cibernética y la teoría de sistemas (Rodriguez, 2019). La cibernética es una disciplina íntimamente vinculada con la teoría general de sistemas, al grado en que muchos la pueden considerar inseparable de esta, debido al hecho de que se ocupa del estudio del mando, el control, las regulaciones y el gobierno de diferentes entidades cuya forma es la de un entramado de conexiones, comunicaciones e información: un animal, una persona son un sistema y hacen parte de otros sistemas; una casa, un barrio, una ciudad, un nicho ecológico son sistemas, como sistemas son también nuestros cerebros, emociones e ideas conectados a las plataformas digitales. EL acceso a estos flujos de comunicación e información que circulan a través de las interacciones entre tecnologías digitales y usuarios es sin lugar a dudas de gran interés para los poderosos debido a las posibilidades predictivas de la conducta humana y las acciones prácticas que pueden diseñarse para modular los deseos de las personas en función de un discurso, un producto, una mercancía.
Una batalla por la atención y los deseos
En ese orden de ideas, podemos describir a nuestra política algorítmica como un campo de batalla por la atención de los usuarios, la anticipación del flujo de sus deseos y la conducción de los mismos: los votantes serían equivalentes a soldados, votando desesperadamente para hacer que un político en cuestión, que en esta analogía tan siniestra y pesimista equivaldría a un general o tal vez un rey, termine sobrepasando a un político rival. Teniendo esto en cuenta, sabemos que la forma en la que un político consigue votantes es la misma que la forma en la que un gobierno recluta soldados para el batallón: propaganda. Pero esta herramienta está hecha para persuadir a un votante de depositar su confianza en un representante político. La propaganda empezó a utilizarse en sistemas como el comunista, el nazi o incluso los gobiernos estadounidenses que realizaban fuertes campañas promocionales para atraer a los ciudadanos a comprometerse con el sistema y a participar en el ejército. Si bien, puede pensarse en otras analogías para pensar el rol de los votantes, del líder carismático y del partido, lo cierto es que se opera a partir de escenarios de disputa que suelen estar codificados bajo la forma del enfrentamiento militar. (Ver, por ejemplo, la propuesta de Mouffe (2014) sobre la distinción entre política antagónica y política agónica).
Sabemos que el sentido democrático de la política es que cada uno tenga el derecho de escoger su candidato, dependiendo de qué colores nos gusten más en una bandera, o si nos gustan las ideas de uno o de otro. El problema aquí es que Cambridge Analytica, no es un ladrón de elecciones común, pues no operó a través de la compra de votos o la financiación ilegal y común de campañas, y tampoco cayó en el conocido carrusel de las elecciones que se define como
una práctica antidemocrática que tiene como fin aumentar la votación a favor de un determinado partido. Consiste en el voto múltiple (generalmente pagado en efectivo o en especie) que realiza un grupo de personas que son trasladadas de casilla en casilla para sufragar. Estas personas hacen uso de varias credenciales de elector, ya sea que correspondan a nombres de ellas mismas o a los de individuos distintos, reales o ficticios registrados en diversas secciones electorales. (Diccionario Electoral, 2019).
La alianza Facebook-Cambridge Analytica se salió de las formas de robo de elecciones tradicionales, ya que el flujo de deseo y afectos, la capacidad de decidir libremente al candidato preferido de cada uno no se disputó en una arena democrática pues se operó a partir de datos que no fueron ofrecidos bajo el consentimiento de los ciudadanos: en este sentido el modus operandi es análogo al de una vigilancia y persecución, que espía la vida de los individuos violando su consentimiento, para luego valerse de ella. No se ha podido acusar a la empresa británica de falsificación de votos, porque no lo hicieron. Los votantes de ala derecha de Estados Unidos decidieron votar por Donald Trump por su propia voluntad y decisión, y los votos fueron legítimos, (o al menos eso se dio a saber). Queda el interrogante sobre una cantidad de votantes indecisos que pudieron haber sido capturados gracias al perfilamiento algorítmico, que no constituía una herramienta legitima en el juego democrático electoral. El caso es que, como ya se ha dicho, lo que se perdió fue en realidad la soberanía sobre las reglas democráticas, ya que la política de Estados Unidos, con sus infalibles Cortes anticorrupción, las grandes investigaciones de Estado y el orgullo de ser los adalides de la libertad por todo el mundo, cayó ante las estrategias del nuevo marketing político, en un terreno que no se supo controlar ni regular: el mundo digital.
CONCLUSIONES PRELIMINARES
¿Por qué resulta urgente para la democracia una regulación de las tecnologías digitales? ¿para qué una soberanía tecnológica? Para responderla no hace falta más que mirar todo el problema que plantea la campaña de Trump, y las ilegalidades de Alexander Nix. El poder de las redes sociales es abrumador, casi omnipotente, y la democracia aún no ha logrado ponerse de acuerdo en cómo regular un organismo tan poderoso. Es por esto por lo que deben hacerse regulaciones de dos tipos para evitar que algo así pase una vez más. Primero, se debe instaurar un control más atento y estricto sobre las políticas de datos que manejan las plataformas, haciendo más claros y entendibles los términos y condiciones de uso, a través de estrategias comunicativas más amables y trasparentes con los usuarios, de modo tal que sean los usuarios los que tengan control del destino y usos de sus datos por terceros: ¿Quién se beneficia de mi información? ¿para qué causas se destinan mis historiales en la Web?, Etc. Y segundo, debe tenerse cuidado con las cuentas verificadas de partidos e individuos políticos en redes sociales, más aún si están en campaña, así como con las empresas y conglomerados que se aglutinan en un momento dado para ejecutar estrategias de marketing y lucha electoral por la atención y el deseo. Parte del ejercicio actual de la política, consiste hacerse consiente del funcionamiento técnico de la gubernamentaidad algorítmica que prima hoy en día como sistema tecnológico clave de la noopolitica actual y en las formas de regularla con sanciones, investigaciones y condenas efectivas. Así como las plataformas digitales hacen un seguimiento en vivos del flujo y comportamiento de nuestros deseos gracias a la cantidad de datos con que las alimentamos en tiempo real, así mismos se esperaría un seguimiento de la justicia sobre los modos de hacer campaña y política que se salen de la legalidad establecida: hacer una regulación sobre la publicidad y dineros, empelados en producir y gestionar perfiles algorítmicos, para que dejen de ser un arma en beneficio de grupos pequeños de interés y poderosos.
No vamos a negar que las redes sociales son una herramienta alucinante de los últimos tiempos. Han sido las responsables de poner en comunicación a millones de personas en todos los rincones del mundo. Y pueden ser muy benéficas para la democracia si se utilizan con sabiduría, y no ponen en riesgo a sus usuarios. Pero aquí es donde los lectores de tweets, testigos de fotos en Instagram y Facebook deben educarse sobre lo que puede pasar. No se trata de caer una posición tecnofóbica que ve en las tecnologías y los algoritmos una nueva encarnación de la conspiración mundial, pero tampoco podemos caer en una tecnofilia, que celebrara los progresos tecnológicos acríticamente. Se hace necesario un ejercicio soberano de la tecnología que esté alerta y promueva la invención de otras formas y usos de estas plataformas, por ejemplo, tomándose en serio las formas en que los recursos privados son destinados para estudiar las mejores vías para la explotación de nuestro cerebro a través de la dopamina ¿debería ser esto legal? ¿bajo qué argumentos se permite? ¿es acaso la apelación al libre mercado una justificación de operaciones como esta? Si no conocemos el campo de disputa democrático y su extensión virtual, puede que alguien mucho peor que Donald Trump, decida utilizar las redes para tomar el poder. Vale la pena pensar la posibilidad de diseñar otras plataformas y otras redes sociales, bajo el espíritu de las apuestas democráticas que están en trabajos como La individuación colectiva: Una nueva base teórica para las redes sociales del filósofo Yuk Hui (2011), o el libro Tecnología, política y algoritmos en América Latina, editado por Maximiliano Tello (2020).
LISTA DE REFERENCIAS
Ahrens, J. M. (2018, 21 marzo). La compañía que burla la intimidad de 50 millones de estadounidenses. El País. https://elpais.com/internacional/2018/03/20/estados_unidos/1521574139_109464.html
Baranzoni, S. (2020). Adicción y metabolismo digital: Una mirada desde la filosofía de la tecnología. Revista Colombiana De Bioética, 15(2). https://doi.org/10.18270/rcb.v15i2.2684
Berardi F. (B. & Picotto D. (2010). Generación post-alfa: patologías e imaginarios en el semiocapitalismo (1a ed. 1a reimpr). Tinta Limón.
BBC News Mundo. (2018, 21 marzo). 5 claves para entender el escándalo de Cambridge Analytica que hizo que Facebook perdiera US$37.000 millones en un día. https://www.bbc.com/mundo/noticias-43472797
BBC News Mundo. (2018, abril 9). Cómo el algoritmo de Cambridge Analytica analizó la personalidad de millones de usuarios de Facebook. Recuperado de https://www.bbc.com/mundo/media-43655680
«Big data» y política El poder de los algoritmos | Nueva Sociedad. (2017, 21 junio). Nueva Sociedad | Democracia y política
Bracero Barcelona, F. (2019, 9 agosto). El que vota es el algoritmo. La Vanguardia. https://www.lavanguardia.com/television/20190809/463947169045/el-que-vota-es-el-algoritmo.html
Castro-Gómez S. (2010). Historia de la gubernamentalidad ii: filosofía cristianismo y sexualidad en michel foucault (Primera edición). Siglo del Hombre Editores
Castro-Gómez Santiago & Restrepo E. (2008). Genealogías de la colombianidad : formaciones discursivas y tecnologías de gobierno en los siglos xix y xx (1. ed.).
Clarin.com. (2021, Julio 18). Costa, F. (2021). Tecnoceno: 70 años de tecnología que cambió al mundo para siempre. Clarín. Recuperado de https://www.clarin.com/tecnologia/tecnoceno-70-anos-tecnologia-cambio-mundo-siempre_0_u421CPXBu.html
Clarin.com. (2021, Julio 18). Costa, F. (2021). Tecnoceno: 70 años de tecnología que cambió al mundo para siempre. Clarín. Recuperado de https://www.clarin.com/tecnologia/tecnoceno-70-anos-tecnologia-cambio-mundo-siempre_0_u421CPXBu.html
Content, R. R. (2021, February 12). ¿Qué es la Sociedad de la Información y cómo se estructura? Rock Content – ES. https://rockcontent.com/es/blog/sociedad-de-la-informacion/
Deleuze G. (2006). Post-scriptum sobre las sociedades de control. Polis (20060414). Retrieved September 15 2023 from http://polis.revues.org/5509.
Diccionario Electoral 2006 CD. (2006). Diccionario Electoral. Recuperado 19 de abril de 2022, de http://diccionario.inep.org/C/CARRUSEL.html
Foucault M. Senellart M. Ewald François Fontana A. & Pons H. (2008). Seguridad territorio población : curso del collège de france 1977-1978. Akal Ediciones.
Foucault M. Senellart M. Ewald François & Fontana A. (2007). Nacimiento de la biopolítica : curso en el collége de france (1978-1979) (1. ed. en español). Fondo de Cultura Económica.
Hui, Y. (2011). La individuación colectiva: una nueva base teórica para las redes sociales. CCCB Lab. Recuperado de https://lab.cccb.org/es/la-individuacion-colectiva-una-nueva-base-teorica-para-las-redes-sociales/
Ministerio de Tecnologías de la Información y las Comunicaciones. (n.d.). Sociedad de la Información. https://mintic.gov.co/portal/inicio/Glosario/S/5305:Sociedad-de-la-Informacion
Mouffe C. (2014). Agonística pensar el mundo políticamente. Fondo de Cultura Económica.
Peiró, R. (s. f.). Propaganda. Economipedia. https://economipedia.com/definiciones/propaganda.html
Rodríguez P. M. (2020). Las palabras en las cosas : saber poder y subjetivación entre algoritmos y biomoléculas. Editorial Cactus.
Rodriguez, Pablo Esteban; Gubernamentalidad algorítmica: Sobre las formas de subjetivación en la sociedad de los metadatos; Universidad Nacional del Comahue. Facultad de Humanidades. Centro de Estudios en Filosofía de la Cultura; Barda; 6; 6-2018; 14-35
Rouvroy A. & Berns T. (2013). Algorithmic governmentality and prospects of emancipation disparateness as a precondition for individuation through relationships? Réseaux 163–163. https://doi.org/10.3917/res.177.0163
Sadin É. & Martínez M. (2018). La silicolonización del mundo : la irresistible expansión del liberalismo digital. Caja Negra.
Smicek N. & Giacometti A. (2018). Capitalismo de plataformas. Caja Negra.
Simondon G. (2008). El modo de existencia de los objetos técnicos. Prometeo Libros.
Stiegler B. & Ross D. (2018). The neganthropocene. Open Humanities Press. Retrieved September 15 2023 from http://www.oapen.org/download?type=document&docid=649431
TELLO, Andrés Maximiliano (editor). Tecnología, política y algoritmos en América Latina. CENALTES ediciones. Viña del Mar, 2020
Wiener N. (1998). Cibernética o el control y comunicación en animales y máquinas (2a ed.). Tusquets Editores.