Manipulación digital y subjetividad en la Era de la Posverdad
Por Guadalupe Amadeo Calviño
“Este palacio es fábrica de los dioses”, pensé primeramente. Exploré los inhabitados recintos y corregí: “los dioses que lo edificaron han muerto”. Noté sus peculiaridades y dije: “los dioses que lo edificaron estaban locos”. Lo dije, bien lo sé, con una incomprensible reprobación que era casi un remordimiento. Con más horror intelectual que miedo sensible.”
«El inmortal», J. L. Borges, 1947
En un mundo donde la línea entre lo real y lo producido por el giro cognitivo y creativo de la inteligencia artificial generativa se desvanece crecientemente, nos enfrentamos a una nueva era de incertidumbre y vertiginosa transformación. Las imágenes, los textos y la música creados por IA son ya indistinguibles de las producciones humanas, y muy pronto lo serán las voces generadas por IA capaces de predecir las emociones mediante el reconocimiento facial a través de la cámara del dispositivo y establecer un “diálogo” en tiempo real con el usuario.
“El futuro llegó hace rato”, decía la canción, y lo anticiparon las obras de ciencia ficción –desde la novela 1984 de George Orwell hasta el film Her de Spike Jonze, por dar solo dos ejemplos muy conocidos– que dan cuenta de algunos de los efectos imaginables de la manipulación digital tanto al nivel de las grandes masas como de los individuos.
Esta evolución del tecno-capitalismo, discurso del amo contemporáneo, marca la consolidación de la Era de la Posverdad, y la delgada línea que separaba precariamente en el sujeto posmoderno la realidad –entendida como “su verdad”– de la ficción queda ya definitivamente desanclada de referencias simbólicas socialmente compartidas en un tiempo y un espacio determinados.
Las consecuencias de esta disolución de fronteras en las formas de subjetivación de las nuevas generaciones alienadas en la hibridación con algoritmos sesgados son difíciles de prever en su inédita complejidad. Sin embargo, la interrogación y la lectura colectivas y diversas de algunos síntomas del malestar cultural contemporáneo ya emergentes hasta este punto, son cruciales, y lo son por la relación con las verdades a ser leídas que, aún en su opacidad, los síntomas entrañan[1]. Al menos mientras exista en algunos de nosotros el deseo de leer ahí, claro.
“El teatro mental de operaciones”: imperialismo y manipulación en la Era Digital de la Posverdad
Tomando la recordada frase con la cual Margaret Thatcher señalaba en la década del 80 del siglo pasado el ideal del programa neoliberal (“la economía es el método, el objetivo es el alma”), podríamos suponer que si el “alma” metaforizaba el deseo (como lo plantea la psicoanalista y filósofa Suely Rolnik en su libro de ensayos Esferas de la insurrección, para quien “el cafisheo”, la expropiación, en el “régimen colonial-capitalístico” de nuestra capacidad deseante y vital, y del entramado con otros, es una estrategia biopolítica del gobierno de las vidas) hoy vienen también por la colonización de nuestro funcionamiento cognitivo.
En 2021, hace menos de tres años que parecen décadas, el texto La guerra cognitiva, un documento producido por el equipo de investigación en tecnologías de guerra de vanguardia, el Innovation Hub, de la Otán, advertía sobre cuáles eran las nuevas formas de la guerra vigentes, a partir de las investigaciones en neurociencias y tecnologías de la información. En ese documento se citan explícitamente las palabras del investigador James Giordano: “El cerebro será el campo de batalla del siglo XXI”. A lo largo de las 11 páginas de ese documento, se nos informa que “los humanos son el dominio en disputa. Su objetivo bélico (el de esta nueva forma de la guerra) es su inteligencia, tanto individual como grupalmente”[2]. A través del diseño de un “teatro mental de operaciones militares”, el control de la esfera mental se prioriza sobre el control del territorio, utilizando para ello operaciones de influencia y propaganda, fake news/deep fakes incluidas.
Los sesgos o prejuicios cognitivos atribuidos al funcionamiento cerebral (vg.: los llamados “sesgo de confirmación”, “sesgo de verdad”, etcétera) son así explotados para hacer que el cerebro humano, a través de técnicas de desinformación, no sea capaz de distinguir entre información correcta e incorrecta. Esto es: la información digital se acepta como verosímil basándose en evidencias manipuladas, en un “bombardeo algorítmico” y en la inaccesibilidad de los usuarios a la fuente u origen de esa información, haciendo imposible la verificación de su autenticidad, aún en el caso en que el mismo pudiera suponer que podría estar siendo manipulado. Varias de estas técnicas ahora aplicadas a la guerra han sido exploradas originariamente en el mundo del marketing digital, la publicidad y las estrategias de marketing aplicadas a campañas políticas.
La meta era clara y lo sigue siendo, si tomamos en consideración el uso biopolítico de esta estrategia y de estas tácticas que están haciendo las nuevas derechas –incluido el atroz experimento “anarco-capitalista” del actual gobierno argentino (cuyo meteórico ascenso al poder fue, en buena medida, el resultado de la propaganda en las redes sociales de mayor llegada a los jóvenes, aún bajo la lógica del “consumo irónico” o “random”)–: convertir a cada ser humano “en un arma” (sic), en una herramienta de multiplicación exponencial de lo mismo, sin que pueda estar advertido de ello, mediante la manipulación cognitiva y de la información.
Se trata, entonces, de una combinación de guerra o acción psicológica (como se la conocía en el siglo pasado) y comunicacional, en la que el uso de los sesgos cognitivos proporciona altos niveles de predictibilidad a la conducta humana en las redes, lo que es aprovechado y realimentado por los algoritmos con los objetivos de obtener información, controlar y/o confrontar a individuos o a grupos de interés estratégico; confundir y desestabilizar hasta extremos que el documento en cuestión menciona pormenorizadamente; promover y universalizar determinadas creencias y valores enmascarados bajo la forma de una “desideologización”, de un relativismo ingenuo donde caben todos los negacionismos, de la “cancelación” de la Historia y de una fe ciega en el poder del mercado, desdibujándose crecientemente las diferencias entre democracia y fascismo.
Aquí, ahora
En los vertiginosos albores de lo que muchos señalan como un cambio antropológico o una crisis civilizatoria, nos enfrentamos a un panorama que, en principio, resulta deshumanizante y segregador en su tendenciosa pretensión de universalidad. La pregunta evidente es: ¿qué posibilidades tenemos los sujetos comunes de combatir, resistir o mitigar la colonización biopolítica? La relación con la aparente imposibilidad de un “afuera” de la digitalización de la experiencia bajo las nuevas modalidades del capitalismo actual nos sitúa en una paradoja crucial. Todo lo que podemos pensar por ahora parece llegar tarde y ser meramente paliativo: prohibiciones y regulaciones al uso de pantallas en las infancias, debates sobre regulaciones estatales al mercado tecnológico para que indique las fuentes de la información.
Sin un “afuera” imaginado, sin una negatividad posible, sin una lógica del no-todo posible, habilitada por otros discursos o por discursos otros que descompleten esa totalidad alienante, lo que sobreviene es la emergencia disruptiva, “implosionante”, a cuentagotas, crecientemente feroz cuanto más negada, invisibilizada o reprimida sea, por la vía del síntoma. La necesidad de reintroducir la falta y la diferencia en el discurso dominante resulta urgente para evitar la homogenización y el control total del campo simbólico por parte del tecno-capitalismo. ¿Podremos “salir” a sostener o crear entramados, anclajes, espacios de producción de otras ficciones, de otras narrativas que reintroduzcan la falta y las diferencias, desde donde pensarnos aun colectivamente?
[1] Por mencionar solo algunos: las epidemias de niños y niñas diagnosticados dentro del “espectro autista” o con “trastorno de déficit atencional” con o sin hiperactividad, en particular después de la pandemia; los tendales de individuos solitarios, socialmente fragilizados, deprimidos y en situaciones de desamparo o angustia extrema; la proliferación del consumo de sustancias; los fenómenos de segregación en sus más variadas expresiones violentas en el marco de la naturalización y banalización de la crueldad alentada por algunos líderes políticos y referentes culturales.
[2] Por supuesto, en la consideración hegemónica reduccionista de la subjetividad al modelo metafórico “mente= ordenador” ya hubo una batalla ganada hace varias décadas que no será objeto de este ensayo.
Tlon, Uqbar, Orbis Tertius.