«Cuando uno ya no se informa, no participa más de manera racional de la deliberación pública, el “demo” de la democracia empieza a cambiar de naturaleza y se vuelve una cosa más fundada sobre la emoción, y ahí me permití crear un neologismo: “emocracia”. Es una democracia puramente emocional, la que viene, y la deliberación emocional no es una verdadera deliberación», dice Bruno Patiño, a propósito de la publicación de Submersion (Grasset, 2023), en su programa “La conversación científica” de Etienne Klein, emitido el 23 de diciembre pasado, en Radio France Culture.
Entrevista: Etienne Klein
Traducción: Susana Sherar
En 1941, Stephan Zweig escribió un texto bastante corto titulado “Los pescadores de los bordes del Sena”. La anécdota sucede el día de la ejecución de Luis XVI, el 21 de enero de 1793. Cerca de la plaza de la Revolución –hoy plaza de la Concordia– se erige el cadalso; algunos hombres sentados al borde del Sena, pescan con línea, concentrados solamente en los movimientos de sus corchos. Ni dan vuelta la cabeza cuando el clamor de la multitud señala que el rey acaba de perder la suya.
Zweig leyó esta historia en el libro de Anatole France Los dioses tienen sed, cuando era aún adolescente. Explica que la tomó por una pura invención. ¿Cómo creer que uno pueda no interesarse en la historia cuando esta se desarrolla al alcance de sus ojos? Pero agrega:
“La guerra que se está viviendo me hace sentir la imposibilidad de vivir intensamente todos los acontecimientos al mismo tiempo, incluso los más decisivos. Es por eso que hoy puedo comprender y perdonar a los pescadores del borde del Sena. Tenían buenas razones para estar cansados, hartos de cuatro años de revolución. Tenían, sin duda, más ganas de olvidar la Historia que de tomar parte. Porque tenemos un solo corazón, un corazón angosto que no puede encerrar más que una pequeña dosis de desdicha, incluso cuando se producen con alta frecuencia los hechos llamados «históricos»”.
Nuestra necesidad a veces de dejar pasar los eventos como si no ocurrieran. Algunos meses más tarde, poco antes de suicidarse, el mismo Stephan Zweig hizo una constatación que podría ser otra clave del asunto: “La técnica nos atrae las peores maldiciones –escribe– cuando nos impide, aunque fuera un segundo, escapar del presente”
¿Qué diría si volviera entre nosotros? Con la llegada de la numerización, esta maldición se realizó plenamente… Tantas cosas pasan cuando, queriendo alertar, tomados por el vértigo, ya no sabemos dónde estamos, puesto que las formas modernas de comunicación se transformaron en una vasta polifonía de la insignificancia, fabricando una fugacidad que se renueva sin cesar, promoviendo el apetito insaciable como epopeya del género humano.
Encerrados en la abstención permanente del aquí y ahora (hic y nunc) perdemos los medios intelectuales de discernir qué paisaje general está emergiendo, pues para entreverlo tendríamos que ocupar un lugar topológicamente imposible: estamos, por un lado, arrinconados por los eventos, y por otro, retirados de ellos, apartados de la intensidad del presente, asentados tranquilamente sobre la ribera del Sena y del flujo demasiado fogoso de la actualidad. ¿No sería demasiado pedir a nuestra mente? Para responder a esta pregunta tengo el placer de recibir a Bruno Patiño:
Etienne Klein – ¡Buen día! Usted es el presidente de Arte* y acaba de publicar un libro titulado Submersion, donde trata precisamente de esta cuestión, de la sobreabundancia de sucesos propuestos por la numerización. Mi primera pregunta refiere al título:¿cómo lo encontró? ¿Se le impuso antes de escribir o después?
Bruno Patiño –Fue el título el que determinó el libro, porque…. Van a decir que la metáfora acuática es habitual en mí, porque ya escribí La civilización del pez rojo y Tempestad en la pecera. Entonces pensé en ponerle un punto a este tríptico. Lo que yo había considerado como un tríptico al principio, era esta idea de estar completamente llevado por este flujo, en realidad de ya no ser capaces… no de dominar, sino de aprehender el flujo que llega. Y el título se me impuso. Y dio ese libro, y era tanto más pertinente cuando me decía: ese flujo que es ya infinito va a seguir creciendo con las inteligencias artificiales generativas, o sea que ya, hoy, es incalificable.
–Y en exergo de su libro, Bruno Patiño, usted cita un extracto de la Enciclopedia, mejor dicho del prefacio redactado por Denis Diderot en 1755, mucho antes de la numerización, que paso a leer rápidamente: “…en tanto los siglos sigan pasando, el número de libros va a seguir creciendo. Y se puede prever que en un tiempo más será tan difícil aprender algo de los libros como del estudio directo del universo entero. Será tan cómodo buscar algunas parcelas de verdad escondidas en la naturaleza como encontrarlas escondidas en una multitud de volúmenes encuadernados”. ¡Está todo dicho!
–Sí y no… Eso, en exergo, resume casi el libro. Pero lo podríamos ver de dos maneras: podríamos decir que finalmente es un sentimiento antiguo y bastante recurrente, como que nada nuevo nos está pasando… Acepto el augurio, pero no es el análisis que yo hago. Porque yo creo que Diderot pone finalmente el dedo sobre un principio de aceleración que comenzó con la invención de la imprenta, e incluso antes. Le hacía falta un año, un año y medio, a un monje budista para hacer una Biblia. Cuarenta o cincuenta años después de la invención de la imprenta, hay quince millones de libros en circulación. Ese principio, ese proceso no se va a detener nunca. Y sin duda, gracias a la numerización o a causa de la numerización, crece de manera exponencial en las tres etapas que se pueden distinguir si pensamos que la primera etapa de la numerización es la copia. Todo se vuelve archivo, entonces todo se vuelve copia. Y la copia es ilimitada, entonces todo lo que es disponibilidad aumenta de manera vertiginosa.
La segunda etapa que llega en 2006, 2007, ya no es la copia, es el compartir, la viralidad o, como se dice, la propagación; el CD Rom, las redes sociales, conllevan la conexión permanente.
Esta viralidad trae aparejada también la llegada de lo que se llaman los contenidos generados por los usuarios, entonces el flujo aumenta todavía más, y de ahora en adelante, con las inteligencias artificiales generativas, pasamos a la copia infinita, a la viralidad infinita, y se agrega la producción casi infinita, puesto que la capacidad productiva, sea en la ayuda a la producción, sea la producción sola, de ahora en más en términos cuantitativos es totalmente ilimitada, entonces el flujo va a seguir creciendo.
–Usted dice que “hemos perdido la noche”. ¿Es por la continuidad de ese flujo?
–Yo siempre arranco de un sentimiento. A mí lo que más interesa son las técnicas. Aunque no estoy acá para hablar de mí. Pero hace más de veinticinco años que trabajo en el universo numérico, en la articulación de las medias y la numerización. Lo que me interesó siempre en la tecnología es lo que cambia en nuestros hábitos y lo que cambia en nuestra vida o en nuestras vivencias. Y me pasa que en los momentos donde me encuentro más sumergido, son esos momentos nocturnos donde la pantalla vela en lugar nuestro, y que esta pantalla es a la vez prometedora, porque nos promete un acceso infinito a todo y en realidad se vuelve invasora porque, de manera extraña, este acceso infinito a todo se vuelve una especie de tsunami que nos sumerge y nos arroja en una especie, no verdaderamente de insomnio, sino de “a-somnia”. Porque estamos en vela permanente. En todo caso así lo sentía, y a partir de esa vivencia trato de explicar esta submersión nuestra, este exceso, esta abundancia. Y cuando digo abundancia, abundancia de signos, de mensajes, de imágenes, evidentemente no hablo de la abundancia material, sino de esa abundancia que, de promesa, se volvió problema. Y las consecuencias de esta abundancia son las elecciones que ya no son nuestras, la fatiga que nos aplasta y a veces la alucinación que nos amenaza.
–¿Pero por qué no nos decidimos a ignorar esa pantalla? Para mí, “perder la noche” es el miedo de perder algo importante que pase durante el sueño…
–Puede ser que yo sea un caso desesperado, pero no soy un caso único. Si entramos en detalles, lo que quiere decir es que esa técnica acumula dos cosas: por una parte, la potencia de las redes –y después de todo nadie nos dice que tendríamos que estar permanentemente conectados, y las redes son un dispositivo encargado de una cierta utopía, en todo caso en la que participo–, y por la otra, una economía de la información, que significa, sobre todo en su acepción publicitaria, que usted pase la mayor cantidad de tiempo posible sobre la pantalla. Entonces, este útil desarrolló un cierto número de posibilidades y capacidades de instrumentos, vamos a decirlo así, de manera que pasemos el mayor tiempo posible sobre él. Y eso camina en ciertos individuos como yo. Y esos mecanismos de recompensas permanentes, sea por la recompensa aleatoria, los efectos de completud u otros, hace que seamos relativamente numerosos hoy los habituados a estar permanentemente solicitados, llamados por la pantalla y tenemos a menudo dificultad para apagarla. Ahora “la noche perdida” de la que hablo es un síndrome que algunos llaman el del centinela velador, es decir la persona que es incapaz de apagar totalmente su celular a la noche. Y leí un estudio que decía que entre el 30% y el 40% de la gente tiene ese síndrome.
–¡Es mucho!
–Sí, es mucho…
–Y me imagino que aumenta.
–Sí, aumenta. No de manera muy creciente, pero aumenta. Pero al mismo tiempo, la toma de conciencia de este fenómeno aumenta también. Entonces, vamos a ver lo que pasa.
–Bruno Patiño, usted habló de potencias, entonces hablemos de energía. ¿Usted piensa que es durable? Esta numerización consume demasiada energía eléctrica…
–Yo no tengo conocimientos en ese dominio. Es decir que efectivamente hoy, lo que es sorprendente y contra-intuitivo, para gente que no son científicos, como yo, es que la desmaterialización tiene une traza energética casi tan fuerte, incluso más fuerte que la materialización de las cosas. Entonces…
–Le hago la pregunta porque en un momento volveremos. Usted habla de la ley de Moore…
–Sí, en efecto.
– …que permite reducir la talla de los objetos, los procesadores que realizan ciertas funciones. Y cuando miramos la evolución en el curso del tiempo, digamos desde 1945, el consumo eléctrico engendrado por la informática y luego lo numérico, vemos que aumenta indudablemente, pero no tanto como podríamos suponer, porque la miniaturización de los componentes ha podido amortizar el crecimiento considerable de los usos por una disminución de la energía que reclaman las funciones elementales.
–En todo caso, hay una cosa de la que estoy íntimamente convencido y que no tiene nada que ver con la energía: es que la desaceleración del proceso, no la veo venir.
–En todo caso, se llega a límites cuánticos, no se va a poder reducir la talla de los elementos. De manera que esperamos que próximamente el consumo se vuelva proporcional a los usos, que se multiplican. Entonces si no somos un poco más sobrios, el riesgo es que no se pueda suministrar la energía eléctrica reclamada como necesaria. Entonces… usted dice desde el comienzo de su libro que la democracia, por este hecho, se encuentra evidentemente modificada. Esto modifica nuestra relación con la política, o con los otros, con la información, etcétera, y usted llega a decir que la democracia se transforma en lo que usted llama una “emocracia”, ¿qué es esto?
–Y… De hecho, si hablamos un poco de la evolución democrática, hay que tomarlo de dos maneras. la primera es la deliberación o la naturaleza de la deliberación. Si tomamos un poco la teoría de Habermas sobre el espacio público, en los mecanismos que aseguran la deliberación, y especialmente la deliberación ciudadana, el rol de la información es absolutamente central. Lo que hay que ver es que, con la llegada de las redes sociales, dos cosas operan: una que es consustancial a la red y otra que es consustancial al modelo económico. La primera cosa consustancial a las redes –y pienso que a menudo no nos damos cuenta de ese fenómeno– es lo que yo llamo “el fin del contexto”, o “la gran mezcla”, es decir que una red social es una conversación descontextualizada. Cuando usted está en un café, en una universidad, en una emisión de radio en France Culture, a fortiori en un órgano de información, el contexto en el que usted percibe un mensaje, le asegura la naturaleza del mensaje y se lo hace entender. Una red social, puesto que barre todo tipo de mensajes posibles, sean informativos, amistosos, humorísticos, nocivos, etcétera, una red social no vehicula ningún contexto al mensaje que da, entonces eso provoca una mezcla inmensa y una conversación completamente descontextualizada, que mezcla la información con otros tipos de mensajes y produce una dificultad de discernimiento entre lo que es verdadero o falso. Cierto: todo el mundo habla de eso, de lo que es una información y de lo que no lo es.
El segundo punto consustancial al modelo económico de las redes es que son un modelo publicitario, es decir, privilegian los mensajes que son económicamente más rentables. Y un mensaje para ser rentable tiene que responder a dos condiciones: atraer su atención mientras usted está haciendo otra cosa, y la segunda, es de ser viralizado lo más rápido posible para atraer la atención de los otros. Los mensajes favorizados son aquellos que van actuar más sobre su emoción que sobre su razón, y los mensajes más emociónales son por definición los más dramáticos, los que provocan las reacciones más exageradas. Entonces, si agregamos esos dos puntos, es decir gran mezcla descontextualizada de los mensajes y favoritismo natural de los mensajes más exagerados, se obtiene una deliberación, una conversación cada vez más polarizada, pero también cada vez más cansadora. Y menciono en el libro –esto hace eco evidentemente a Stephan Zweig que usted citaba y a la anécdota de los pescadores el 21 de enero de 1793– lo que uno ve desarrollarse luego de esos dos fenómenos que menciono, es lo que llamo “la fatiga informativa”. Nosotros la medimos con la fundación Jean Jaurès** y Arte. Fue medida por el Reuters Institut de Oxford: entre un tercio y la mitad de la población dice estar hoy cansada de la información y un tercio empieza a no informarse más. Ahora bien, cuando uno ya no se informa, no participa más de manera racional de la deliberación pública, y de una manera u otra el demo de la democracia empieza a cambiar de naturaleza y se vuelve una cosa más fundada sobre la emoción, y ahí me permití crear un neologismo: “emocracia”. Es una democracia puramente emocional, la que viene, y la deliberación emocional no es una verdadera deliberación.
–Y usted dice que uno podría imaginar que lo digital finalmente podría cambiar la vida mental en nosotros, en nuestros cerebros, en nuestra psique, y usted dice también que modifica nuestros cuerpos, o en todo caso nuestras actitudes…
–Fíjese en nuestras actitudes corporales: la nuca para abajo, la tendinitis del pulgar, la mirada un poco ausente porque camina en la calle mirando su teléfono con los auriculares conectados permanentemente. Nuestras actitudes corporales cambian, pero también nuestras actitudes comportamentales. La solicitación permanente que tenemos, cada cuatro, cinco, seis, nueve segundos hace que nuestra concentración sea cada vez más interrumpida. No soy neurólogo y no pretendo serlo, pero cuando trato de mirar, no hay una constatación en ningún estudio de alguna transformación. Hay ciertos estudios que dicen que sí, otros dicen que no; yo protesto contra la incompetencia neurológica, pero al contrario: los cambios comportamentales son una evidencia, todos lo constatan.
–¿Usted conoce una paradoja que fue lanzada en los años 80 por un señor que se llamaba Morabeck? La paradoja que decía que una cosa cuanto más fácil es de realizar por un ser humano, más difícil es de realizar por una máquina, por un algoritmo, y él citaba el peinado. Es verdad: los robots no peinan. En todo caso, los peluqueros no están amenazados por esa competencia técnica… ¡Hasta ahora! Él hablaba también de la captura de una bala. Los robots no podían hacerlo. Y también el reconocimiento de las caras que los humanos hacen muy bien y que pensaban que no podrían hacerlo. Ahí se equivocó. Y bien, ciertas profesiones intelectuales están amenazadas por la competencia del chat GPT. ¿Usted piensa que las modificaciones que lo digital va a engendrar en los puestos de trabajo, por ejemplo las competencias, o la manera de enseñar sufrirá el cambio rotundo que algunos describen?
–Tengo más bien la tendencia a situar las IA generativas como una etapa suplementaria a un proceso que comenzó hace ya veinte o treinta años. Estoy hablando del proceso numérico en general. Hoy hay una expresión que fue utilizada por un desarrollador, que decía: la inteligencia generativa, la IA generativa, no aumenta la altura real de las cosas pero eleva el piso, y entonces eso nos permite, como una herramienta, hacer las cosas mucho más livianas. Pienso que es una herramienta de un poder absolutamente fenomenal y, evidentemente, como toda herramienta, modifica un cierto número de oficios. A mí lo que me interesó en este libro es que efectivamente modifica también de manera cuantitativa todo lo que se va a producir, conllevando consecuencias visibles en sus modificaciones: la información está en primer plano en la avanzada de la influencia de la IA generativa, a la vez herramienta y arma, y entonces ahí vamos a ver qué pasa, pero pienso que efectivamente el flujo de mensajes va aumentar de manera creciente. Entonces va a haber consecuencias directas sobre los oficios. ¿Serán tan radicales como lo dice la gente? ¡No sé! Usted ve cómo un gran grupo como Axel Springer comenzó a crear, esta semana, un medio totalmente generado por la IA. De un punto de vista informativo, se redujo los efectivos de estos diarios, los más populares, la Bild Zeitung y otro más creo, de veinte a treinta por ciento de los efectivos que van a ser sustituidos por las IA .Vemos como en este tipo de mecanismos usted tiene, sea un efecto de sustitución, sea un efecto de aumento o de acrecentamiento de capacidades. O los dos. Sin embargo, si hay algo o un relato en el que no participo –puede ser que me equivoque, dígame– es el relato que hace de la IA no una herramienta, sino una criatura o una creación casi divina, que en un momento dado, como en todo relato mitológico, se daría vuelta contra su creador. Quizá va a pasar en un momento o en otro, pero en todo caso lo que yo constato, lo que yo observo, de manera empírica en los lugares que estudio, es que no pasa eso.
–Pero la palabra inteligencia en la expresión “inteligencia artificial”, la palabra inglesa es “tratamiento de la información”. No es lo mismo que la inteligencia en francés, que comprende el espíritu crítico, la capacidad de distinguir lo falso de lo verdadero, la capacidad de argumentar, etcétera. Pero como sea, la IA imita una forma de inteligencia. Cuando se lee un texto producido por Chat GPT tenemos la impresión, aunque sea falso, que ese texto ha sido escrito por alguien inteligente.
–Pero eso es lo que me interesa, y lo menciono en el libro. Hace un mes, un admirador de Nick Cave envía a Nick Cave una canción suya realizada por Chat GPT, y Nick Cave cuando recibió eso respondió, más o menos: “¡Es cualquier cosa!”, utilizando esa palabra en inglés: “It’s a mockery!”, es una caricatura. Lo que yo pienso es que –puesto que hablo de conciertos de avatares, de músicas realizadas por inteligencia artificiales– efectivamente se lo puede tomar de dos maneras, diciendo: el surgimiento creativo no está porque eso es una forma de clonaje, de repetición o de transformación; pero al mismo tiempo, y esto es lo interesante, eso provoca la emoción y nos encanta dejarnos engañar. Y trato de explicar en el libro hasta qué punto. Incluso si usted sabe que tiene delante suyo un producto de la IA, emocionalmente, de manera humana tiene ganas de hacer como si estuviera delante de una producción y…
–Es el efecto Eliza.
–Es exactamente el efecto Eliza. Y puesto que hablábamos de música, es muy sorprendente la manera en que la gente recibe el último título de Los Beatles, el que se llama No One Day, que es un banda de John Lennon limpiada por la IA a la que se agrega la guitarra de Georges, muerto hace veinte años, a la que se agregan coros que datan del año sesenta o sesenta y cinco y la IA produce eso y provoca en muchos, en todo caso en mí, una emoción extremadamente fuerte, y esta imbricación entre lo que es real y lo que no lo es, lo que es sintético, como se dice hoy y lo que es una producción humana… Esto va a tener consecuencias, no solamente en nuestra vida cultural. Una de las consecuencias posibles e inquietantes sobre nuestra vida no solo informacional, sino nuestra vida en general, son esas falsas predicciones, esta manera que tienen hoy ciertas empresas de proponer un robot conversacional que dialoga con usted. Usted puede dialogar con su padre desaparecido siempre que tenga una grabación de su voz y ciertas producciones suyas que hacen que se encuentren una cierta forma de sintaxis o de dialogo. Y vamos hacia eso cada vez más, a dialogar con criaturas sintéticas. Lo hacemos para pedir una calle, para alquilar un coche, no nos plantea problema. Y vamos a hacerlo de manera cada vez más frecuente para una gran parte de nuestra vida administrativa o cotidiana, habitual. Pero pienso que se va a entrar, efectivamente, en el campo emocional, y de eso me interesa mucho hablar. El peligro es que nos volvamos Don Quijote. Estamos en 1605, es la primera víctima de la sumersión, porque lee demasiadas novelas de caballería y termina no distinguiendo lo que es verdadero y lo que es falso.
–Vive en un metaverso.
–Está en su propio metaverso, y uno podría decir: no importa, tiene su trip… ¡Seguro! Pero su trip no es sin consecuencias para él mismo, puesto que pasa la integralidad del volumen de sus aventuras a hacerse golpear y burlar, manipular y que su vida gloriosa en su propio metaverso caballeresco es en verdad miserable cuando se la mira en su propia realidad.
–El título que elegí para esta emisión, Bruno Patiño, es: “¿El presente se volvió muy intenso?” ¿Hay demasiado de todo en materia de información, de música, de emisiones de radio, de videos, etcétera? Usted explica en su libro que cuando hay demasiado para elegir, no se puede elegir, y cita un estudio británico, realizado en 2020, que dice que hoy pasamos en promedio cien días en nuestra vida decidiendo lo que vamos a mirar. Yo no sé dónde comenzó el estudio. Porque esos cien días corresponden a mi generación, me imagino que en las generaciones siguientes va a ser mucho más. Soy de una generación un poco pasada, quiere decir que la indecisión es consustancial a la elección.
–Porque tenemos demasiado de todo. En un momento dado, digo: no es que se produzca demasiado, es que no se sabe elegir o que no elegimos suficientemente. Yo pienso que si lo que se quiere es el crecimiento de la producción, es consustancial al modelo. Uno puede lamentarse o felicitarse. Yo me divierto citando ciertas cifras que todo el mundo conoce: son las plataformas de streaming musical, entre ochenta y cien millones de títulos. Una plataforma como Netflix son treinta y cinco o cuarenta mil episodios. Si usted está en Gran Bretaña, necesita treinta mil años para mirar las novedades posteadas en Youtube en un año.
Si, hay demasiado, pero al mismo tiempo esto plantea el problema de que si hay demasiado… ¿qué sacamos? Ahora bien, nadie sabe lo que hay que sacar, pero el exceso provoca nuestra indecisión, porque crecimos todos, al menos yo, con la idea que el número de opciones estaba correlacionado con nuestro grado de libertad. Usted tiene elección entre dos opciones, es menos libre que si tiene opción entre cinco opciones –es lo que nos dijeron siempre–, y entre diez opciones usted es aún más libre. Entonces, este paralelismo podría hacernos decir que, si tiene una infinidad de opciones, usted es infinitamente libre o que es totalmente libre.
– O sea que hay un lazo entre la democracia política y la sociedad de consumo.
–En todo caso, la ciencia política norteamericana lo sobreentiende . Pienso que hoy, en cambio, se podría decir que, en materia de elección, más allá de un cierto número de opciones, hay rendimiento decreciente. La gente que trabaja en eso dice que cuando usted tiene más de doce opciones, uno comienza a delegar su elección o a procastinarla. Como ejemplo: los potes de mermelada. Hicieron tests: si tienen opción entre tres o cuatro potes de mermelada, tiene alrededor, no sé qué porcentaje, alrededor de un cuarenta por ciento de gente, compra un pote de mermelada, y cuando tiene opción entre quince o treinta potes, hay solo un quince por ciento que compra.
–Se podría pensar que es por eso que los supermercados están cada día mejor arreglados… Podrían jugar con la escasez, habría más compras.
–En todo caso, se trata de hacer una elección, no del volumen de cosas propuestas, sino de la misma elección en una misma categoría. Es Barry Schwartz, que yo cito en el libro, quien habla de ese tema de la paradoja de la elección que me gusta retomar y en el cual toma ejemplos en términos de jeans y dice: cuando compraba jeans, tenía la elección entre tres modelos y me probaba los tres. Mis expectativas no eran muy fuertes porque tenía opción entre tres modelos. Feliz con mi elección, estaba supercontento cuando salía. Ahora tengo más de cuarenta modelos disponibles para mi corpulencia y mi talle. Entonces, evidentemente, no tengo tiempo de probarlos todos y además, como tengo cuarenta modelos, mis expectativas aumentaron. Entonces yo trato de aumentar mi capacidad de hacer la elección final, es normal probar el modelo que no está, etcétera. Entonces delego mi elección. La delego a la vendedora, a la publicidad, a quien quiera. Pero de alguna manera cuando salgo de allí estoy triste pensando que existe un jean que me quedaría un poco mejor. Estoy seguro que hay uno que me quedaría mejor. Yo comienzo con la idea de la gente que trata de hacer una elección en Netflix. Pregunten esto en su entorno: “No pensás que hay cada vez menos cosas en … y le das el nombre de una plataforma de video. ¿No te parece que Netflix ya no es lo que era?” Y todo el mundo le va a decir: “Es cierto, hay cada vez menos cosas”, aunque estadísticamente hay cada vez más. Es porque la aprehensión de la elección, de la elección de cada uno es cada vez más delegada. ¿Y qué pasa cuando la delego a los algoritmos? ¿Qué pasa cuando la delego al cálculo? La tesis del libro es que cuando yo delego mi elección a un cálculo no es aberrante pero, por esencia, no es satisfactorio.
–¡Pero hace ganar tiempo!
–Hace ganar enormemente tiempo. No sería cien días sino muchos más que pasaríamos eligiendo en la vida. Pero si gana tiempo, estando insatisfecho, ¿qué gana usted al final? Esa es la cuestión. Me digo siempre que evidentemente se podría dar como referencia dominios que son mucho más amplios que el de la música, la cultura, las imágenes, la información u otros. Cada vez más dejamos elecciones vitales a los algoritmos y eso nos hace ganar tiempo. Cada vez más los algoritmos nos ayudan a hacer una elección. Pero esta elección es sobre la base de un cálculo, y este cálculo es forzosamente aproximativo. Cualquiera sea ese cálculo, es reductor y aproximativo. Aquí llamo a un filósofo, Bernard Williams, que es uno de los críticos más feroces del utilitarismo, que dice: un algoritmo, como tal una fórmula de cálculo, no puede ser un agente moral. Entonces es reductor, hay una parte suya que se reduce en esa elección. Y ahí cito más cosas, porque en teoría este universo no le permite encontrar lo que usted no buscaba y no le permite tampoco encontrar lo que busca. Ahora bien, son dos cosas extremadamente importantes en nuestra vida cultural o nuestra vida espiritual en el sentido amplio del término, que puede ser religioso o para nada religioso, pero en todo caso, en una dimensión humana de nuestras vidas. En todo caso, con el equipo de Arte tratamos de desarrollar, como ustedes aquí en France Culture, un medio cultural. Pensamos que la cultura es, en un momento dado, el encuentro con algo, con lo que no nos esperábamos. ¿Con qué? Con algo que puede ser una sorpresa, una revelación, una sacudida. Un algoritmo, aunque extraordinariamente bien formateado, no le permitirá hacer eso.
Y la segunda cosa es que es reductor y es aproximativo. Lo vemos bien: todas las grandes plataformas no paran de revisar las fórmulas de sus algoritmos que promueven la elección porque no son satisfactorias, porque las informaciones sobre ustedes, junto con los clusters en los que se los hace… No tienen la potencia, por el momento en todo caso, agregado al contexto, el humor u otras cosas. Ya se sabe. Yo me acuerdo muy bien de la primera vez y era hace mucho tiempo, me propusieron hacer televisión en Google, debía ser en un salón como ese de Las Vegas, era 2006 ó 2007. Google estaba muy feliz de mostrar el algoritmo que le permitía tener una proposición permanente de series televisivas, de films u otras cosas, conforme primero a lo que usted recibe y segundo a lo que yo sé de su comportamiento. Pero en realidad, cuando se mira de cerca lo que motiva en un momento dado, la elección de un programa de televisión, de una serie u otra cosa, antes que nada está el azar, el humor del día, incluso del instante.
–Y el azar es lo que hace que se cambie de canal, por ejemplo. Uno espera encontrar algo más interesante, y se cambia, se cambia…
–Entonces, su elección se la deja hacer a la lotería. Los estudios muestran que cuando hay seis canales, usted cambia entre seis canales. Doce canales, cambia entre doce canales, pero cuando tiene cuatrocientos cincuenta canales, cambia entre menos canales que cuando tiene ciento cincuenta.
–Entonces ¿qué hace que se multipliquen así los canales?
–Porque estamos en ese mecanismo de aceleración permanente de la producción. Yo creo sinceramente que uno de los límites paradojales de este desarrollo, no es el desarrollo de la oferta, sino la gestión de la elección. Y cuando se ve hoy –puesto que hablábamos de inteligencia artificial generativa y no generativa–, cuando usted escucha a Sam Altman o a Bill Gates por ejemplo, que hablan de agentes en Google, que va a hablarle de “operador personal”, “sistema” o “portero personal”, usted ve que esos empresarios de la tecnología le dicen que al fin de cuentas la IA va a permitirnos tener un asistente personal a quien le voy a delegar mi elección permanentemente.
–De todas maneras, usted tendrá necesidad de asistencia permanente por la GPT.
–Y tendrá la idea, que no es totalmente absurdo cuando ve que hoy hay una versión americana de Whatsapp que permite tener robots conversacionales en dominios diferentes, que pueden ser la salud, la cultura, el deporte. Pero la idea es decirle, cuando usted vuelve cansado a la noche y se dice: hoy estoy cansado, tuve un día malo, había mucha gente en el RER***: “Por favor proponeme una película que me divierta”, y él va a hacer eso por usted muy bien. Personaliza la oferta, o sea delegar totalmente a la elección a la IA por lo que sabe de usted. Y lo que yo digo es: ¿en qué se transforma nuestra vida cultural, nuestra vida de información, cuando efectivamente una parte cada vez mayor de nuestras elecciones es delegada a ese mecanismo? De un lado tiene la economía numérica, que se desarrolla muy bien y, de otro, una reducción de lo que somos hoy.
–No sé si tiene relación con lo que usted está diciendo, pero en alguna parte del libro habla de la desaparición de hit-parades. Ya no hay más esa norma impuesta por los medios que dice: este es el disco que hay que escuchar en este momento. ¿Está ligado a la delegación de nuestras elecciones?
–Un poco, porque la delegación de nuestras elecciones en el mundo pre-numérico no se basaba en cálculos, eran los consejos de un amigo o la idea del colectivo, o sea el instinto gregario ¡que es antiguo, y si anda para los otros, anda para mí! Para eso estaba el hit-parade, entonces compro el número uno. Fíjese que los algoritmos al principio funcionaron así, los algoritmos de proposición, ponían adelante lo que andaba mejor, eran listas de hit-parade entre comillas, numerizadas. Hoy con la especialización cada vez más fuerte de los datos, su individualización, la fragmentación permanente, finalmente poco importa saber lo que pasa en cada uno, puesto que les van a dar la opción, pero lo que es paradójico es que podríamos decir: esto va a crear lo que imaginábamos al principio, es decir una larga cola. Es una fragmentación muy fuerte de la oferta. Pero al contrario, cuando mira el resultado, lo que se llama winner takes all, tienen un resultado con concentraciones de ganadores y muchísimos perdedores. En realidad el hit-parade se lee ex-post, después de nuestra elección, pero miramos todos lo mismo en realidad.
–En realidad usted habla también de libros, un estudio inglés, creo…
–No era un estudio, era el informe anual de Penguin Books sobre miles de libros publicados cada año, la venta promedio por libro era veintidós. Usted tiene una parte importantísima de quienes venden menos de doce ejemplares. No dije doce mil ni mil doscientos, ¡dije doce! O sea, en general, la familia, el círculo cercano, nada más. Quiere decir que en esta superproducción, tiene una concentración cada vez más fuerte. Mientras que un modo de elección es delegado a un modo de cálculo que es cada vez más preciso individualmente.
–Recién usted citó a Dana Williams, filósofa británica conocida por su crítica del utilitarismo, quien también escribió un libro sobre veracidad y verdad, en el cual plantea la distinción entre lo verdadero y lo falso. En nuestras sociedades sumergidas en lo numérico, el deseo de verdad es finalmente la preocupación de no ser engañado por los discursos oficiales, por las élites, etcétera. Y es finalmente la preocupación de no ser ingenuo, lo cual es perfectamente sano. Pero si este deseo de veracidad puede desembocar en los casos límite en las teorías de complot, este deseo de verdad pone en juego un mecanismo perverso. Normalmente debería llegar a la identificación de la verdad, pero es lo contrario: el deseo de verdad llega a una denegación de la verdad. Puesto que desde que caemos en una verdad, nos preguntamos si no es artificial, ficticia, relativa, cultural, efímera, manipulada, etcétera. ¿Usted no piensa que lo numérico agranda la dificultad de distinguir lo verdadero de lo falso?
–¡Sí, seguro! Es decir que primero es que lo numérico imbrica lo verdadero, la ficción y la realidad. Desde el comienzo hay una imbricación. Y esta imbricación es muy positiva cuando del otro lado, usted tiene el discernimiento necesario para llegar a distinguir lo que es verdadero y lo que es falso. Y si me permite decirlo así, con las inteligencias artificiales generativas eso no se va a mejorar. Cuando usted tiene a Johnny Cash que canta Babie Girl usted sabe que es falso porque está muerto hace mucho tiempo.
– ¡Quizá sea falso que esté muerto!
–(Risas) Cuando usted tiene un presidente de la república que canta Alouette, je te plumerai ***** Mmmm, usted sabe que es falso. Sin embargo, en términos materiales, podría ser verdad. Usted tiene esta imbricación, la reproducción permanente que las IA generan. Ya no hay proximidad a la imagen, al sonido. La prueba ya no existe: la imagen, el sonido, pueden ser fabricados delante suyo. Todo depende de usted. Pero, además, lo que yo creo es que a eso se agrega un mecanismo de viralización permanente que apunta justamente a promover el mensaje que hace dudar permanentemente. Y tiene ese lado que hace que usted ceda a la tentación como frente a una golosina, y eso es lo que lo promueve. Es lo que dice Williams.
–Lo falso tiene un perfume más atractivo que lo verdadero…
–Yo empecé mi vida en la prensa escrita, toda persona que trabajaba en la prensa escrita sabía que el desmentido era diez veces menos leído que el artículo original, el artículo inicial. O que si mañana digo un horror sobre usted, será viralizado quince veces o cien veces más que si yo digo algo realmente verdadero, completamente razonable y ponderado, porque la mayor parte de los seres humanos son más bien razonables y temperados. Y usted tiene todas esas estructuras efectivamente disfuncionales, es Ethan Zuckerman y el MIT( Massachussets Institut of Tecnology) que llama a eso las facturas disfuncionales de las redes, y mostraron que este efecto de embale, de crecimiento y de aceleración, y sobre todo de amplificación de mensajes que ponen en duda el conjunto de las cosas, es efectivamente promovido por la esfera numérica, lo que es inquietante hoy es que tenemos cada vez menos elementos a partir del momento donde nada prueba nada. En realidad todo prueba, y es ahí donde llegamos a una posible alucinación general.
– Por supuesto. Esta emisión se llama “La conversación científica”, entonces vamos a hablar un poco de ciencia, y además usted cita el autor americano Lovecraft al final de su libro, quien escribió una pequeña nouvelle en 1928 en la cual habla de ciencia. Lo cito: “Las ciencias, cada una en su propia dirección, nos hicieron poco daño hasta ahora, pero algún día el ensamblaje de conocimientos disociados nos abrirá perspectivas tan terroríficas sobre la realidad y sobre la posición temible que ocupamos que nos volveremos locos a causa de la revelación, o huiremos de esa luz mortal para refugiarnos en la paz y la seguridad de una nueva era de tinieblas”.
–Sí. Es decir que en la nouvelle es la búsqueda de alguien que trata de reunir –se parece casi a Umberto Eco anticipadamente–, que trata de ensamblar todos los elementos de conocimientos posibles, y eso enloquece porque asusta mucho. Y entonces, uno se refugia en la seguridad, el olvido, o la locura, pero es usted el científico, es usted el que me dirá.
–Pero estoy de acuerdo con este análisis. El Covid nos mostró tendencias de ese tipo, de manera bastante pedagógica. ¿Pero cómo reencontrar la libertad en el exceso del que usted habla? Esta sumersión… ¿Cómo sacar la cabeza del agua? ¿Yendo a la pesca?
–En el último capítulo digo que ir a la pesca era reencontrar lo que Paul Valéry llamaba los claustros. En 1931, decía: “Si, en un momento dado, frente a la velocidad, a la aceleración –que no eran nada con respecto a las de hoy–, va a haber que construir claustros para encontrar gente libre, donde ya no entre nada más. Y en el interior de esos claustros estarán los últimos hombres y mujeres, los últimos seres humanos libres”. Y entonces me dije, durante mucho tiempo, que tener lugares de retiro, de desconexión absoluta, va a ser la solución. Pienso que hay que surfear la sumersión. Pienso de manera quizá un poco ingenua, que la educación al discernimiento, la educación filosófica, que la imbricación educativa entre la cultura científica y la cultura de las ciencias humanas…
–En su libro usted no habla de imbricación…
–No lo digo.
–Usted dice: “Hay que operar”. Eso me chocó.
–Hay que operar… un paso al costado. Pasando del casillero del pensamiento científico al del pensamiento literario.
– Sí, es seguro que estamos dominados por el pensamiento científico.
–Yo retomo un libro de Charles Percy Snow, que venía de una de las dos culturas, que venía exactamente de una comunicación que hizo sobre las dos culturas, que decía: “El mundo occidental separó de manera hermética la cultura científica y la cultura de las ciencias humanas, filosófica u otras”. Lo que yo quiero decir en ese capítulo es que no creo que la solución a la sumersión sea una solución técnica, es decir que cuando yo leo o escucho sobre el tema…
–¡En esto estamos de acuerdo!
–Uno dice: bah… es muy simple. Los disfuncionamientos producidos por los algoritmos serán solucionados por los algoritmos. La sumersión será ordenada por la elección que harán los algoritmos. La IA nos dirá qué hacer con la IA. La IA va a permitirnos tener confianza, etcétera. Pienso que es una ilusión. Me digo finalmente que, si tomo metafóricamente la escena final de 2001, Odisea del espacio, en la cual el cosmonauta que parece perdido atraviesa una especie de estroboscopio gigante, para al final entrar en una pieza bizarra que marca a su vez su muerte y su renacimiento como otra persona, me digo que hay que hacer un trabajo filosófico sobre nosotros mismos. No digo abandonar la ciencia, pero no pensar que la técnica, más que la ciencia, tendrá la respuesta al desafío que ella nos plantea hoy.
– Se habla mucho de desconfianza, hoy, cuando se trata de ciencia, tecnología, de IA, etcétera. ¿Pero la desconfianza no es una cosa buena? Le cito una frase, una réplica que pronuncia Jean Gabin en el film Le cave se rebiffe (El tonto se aviva) de 1961 realizado por Gilles Grangier. Gabin dice: “Desde Adán dejándose sacar una costilla hasta Napoleón esperando en Rusia, todos los grandes asuntos que han fallado estaban basados en la confianza”.
–(Risas) Sí, sí, evidentemente. Está perfecto. ¿Qué quiere que responda a eso? Lo que yo creo en cambio es que vivimos un momento de desconfianza generalizada; que, en todo caso, en términos de espacio público –y ahí voy a ponerme “mi uniforme de trabajo”–, todos los barómetros de confianza hoy muestran un desbarranco de esta confianza con respecto a los medios; eso no es tan grave. Pero con respecto a las instituciones, ¡sí! Es mucho más grave, de formas de saberes, de pericias, que se caricaturizan, ahí comienza a volverse dramático, incluso –ahí yo cito los barómetros– de los miembros de la propia familia. Entonces uno dice: ya empieza a parecer una guerra civil permanente.
–¿Pero lo que nos amenaza más es nuestra credulidad o nuestra incredulidad? Si tomamos a Bernard Williams, al que evocamos dos veces, la impresión que tengo es que es más bien la credulidad que nos amenaza cuando se aplica a cosas que no habría que creer.
–Ahí yo sería más cauteloso. Primero que hay muchos estudios que muestran que somos menos crédulos de lo que parecemos. O más exactamente: no es que solo creamos en lo que vemos, sino que llegamos a ver lo que creemos.
–No vemos más que lo que creemos. Exactamente al revés de Santo Tomás.
–Eso es exactamente lo que quería decir. Todo ese universo, toda esa desconfianza generalizada no nos permite más que ver solo lo que se cree. Y después, cada uno de nosotros se vuelve profeta. Voy a unir los dos. Voy a tomar treinta segundos para unir los dos. Hay un libro que cito, no en Sumersión, sino en un libro anterior, un estudio que se hizo: justamente recién escuchaba la emisión de Marie Richet sobre el falso noticiero radiofónico que había hecho Orson Welles a propósito de La guerra de los mundos. Y dos días más tarde, ¿quién pone en escena La guerra de los mundos? Welles. Orson Welles pone en escena La guerra de los mundos de H.G. Wells en forma de noticiero de radio. Dos días más tarde, en los años treinta, el New York Times titula: “Pánico inmenso en la isla de Jersey en Manhattan”. La gente creía que había sucedido. Usted tiene a un universitario americano que pasó varios años de su vida estudiando la realidad.
–Y no pasó nada.
–En realidad cambiaron algunas cositas, pero no fue un gran pánico. Pero sobre todo lo que él estudió mucho fueron las denuncias en las comisarías locales y las cartas recibidas, muy interesantes, porque a grosso modo las cartas decían esto: “Usted está completamente loco, de haber hecho eso, son unos irresponsables, deberían ser condenados, los deberían prohibir. OK, yo no les creí, pero mi vecino sí”. Es decir que, de hecho, usted no es crédulo, pero no le tiene confianza a su vecino. Usted piensa que su vecino es crédulo y desconfía de su vecino. Pero su credulidad, la de usted, es bastante limitada…
