Invasión Algorítmica

La “IA” se hace llamar “inteligencia artificial“, pero no es inteligencia (que siempre requiere entender), sino cálculo mecánico.

En el libro que dedica al arte de la fotografía, La cámara lúcida (1980), Roland Barthes recoge este comentario que le hicieron en un café, refiriéndose a los otros clientes: “Mire qué mates son; en nuestros días las imágenes son más vivientes que la gente.” ¿Cómo es posible que la imagen, la copia, sea más viva, o sea más real, que el original? Lo que en la experiencia del momento se nos presenta, la imagen lo re-presenta, tal vez alterándolo para que resulte más llamativo y espectacular. Y de este modo la representación, el espectáculo, acaba eclipsando la inmediatez del original.

Hoy millones de personas retocan sus selfis antes de enviarlos a Facebook o Instagram, porque la imagen se valora más que la realidad, lo representado cuenta más que lo presente. Acostumbrados a las representaciones sofisticadas, elegidas para impactar, la auténtica presencia de las cosas o las personas puede saber a poco.

El “síndrome de París” afecta cada año a turistas, sobre todo japoneses, profundamente desilusionados porque en la ciudad del Sena, idealizada como la ciudad romántica por excelencia, no encuentran las personas y lugares encantadores que habían imaginado a través de las fotografías de Robert Doisneau y la publicidad de Chanel. El síndrome de París, que puede comportar ansiedad, vómitos y alucinaciones, fue inicialmente diagnosticado por un psiquiatra de origen japonés, Hiroaki Ota, en 1989. Y no solo sucede en París.

Vivimos en un mundo presidido por representaciones, una sociedad del espectáculo. Al principio de una obra con este título (La sociedad del espectáculo, 1967), Guy Debord lamentaba: “Todo lo que era directamente vivido se ha alejado en una representación.” La representación siempre es lejana y secundaria: nos aleja de la plena presencia, de la experiencia inmediata, del latido del vivir. En un mundo repleto de representaciones, dejamos de estar plenamente presentes. La pérdida de la presencia conlleva una pérdida de orientación y nos hace más manipulables.

De ello se aprovecharon los totalitarismos clásicos, como vio Hannah Arendt. La propaganda totalitaria sustituye el mundo real por una gran representación ideológica, en la que no hay lugar para los matices. La gran representación de la propaganda totalitaria tampoco permite que cada persona encuentre un sentido propio a su vida. Según Arendt, una clave del totalitarismo de Hitler y Stalin fue fomentar la falta de sentido (senselessness). Los totalitarismos se construyen de forma sistemática a partir de premisas rígidas que no concuerdan con el dinamismo de la realidad. Por eso son, en una expresión que la filósofa alemana de origen judío repite a menudo, “un pedazo de locura extraordinaria” (a piece of prodigious insanity).

Lo que puede resultar sorprendente es que la locura o la insania de estos sistemas ideológicos se basa, como explica la filósofa, en “el mismo carácter lógico (logicality) con el que están construidos”. Aferrados a su lógica interna, los totalitarismos ignoran los matices y evidencias que no encajan con sus ideas fijas y proceden con una frialdad implacable: una frialdad acerada, si pensamos en las tecnologías de aquel momento; una frialdad algorítmica, si pensamos en las tecnologías de hoy. Los totalitarismos, como los fundamentalismos, desprecian los hechos y el sentido común. Despliegan lo que Arendt reiteradamente describe como un “desprecio por la realidad” (contempt for reality).

Boris Souvarine, amigo de Lenin y Trotski, testigo en Moscú de la “locura extraordinaria” de las purgas estalinistas, escribe desde Francia en 1938:

La URSS es el país de la mentira, de la mentira absoluta, de la mentira integral. Stalin y sus súbditos siempre mienten, en todo momento, en todas las circunstancias, y, a base de mentir tanto, ya ni siquiera saben si mienten.

Poco después, la propia Francia se hunde en el totalitarismo con el mariscal Pétain, colaborador de los nazis. Como explica Koyré en su ensayo sobre la mentira:

El régimen totalitario está esencialmente vinculado a la mentira. Y nunca se ha mentido tanto en Francia como desde el día en que, inaugurando la marcha hacia un régimen totalitario, el mariscal Pétain proclamó: “Odio las mentiras.“

Pero este proceso de desprecio por los hechos, erosión de la honestidad y declive del sentido de la realidad no empieza en el siglo XX. En 1843, exactamente cien años antes de que Koyré denuncie que nunca se había mentido tanto, el filósofo Ludwig Feuerbach deplora que el interés por la realidad se está perdiendo. Constata que se empieza a valorar más lo ilusorio que lo verdadero, “la imagen más que la cosa, la copia más que el original, la representación [Vorstellung] más que la realidad, la apariencia más que la esencia“. Eso constituye, protesta, un “engaño” y un descalabro sin comparación posible (una “aniquilación absoluta“: absolute Vernichtung).

Y este proceso ha ido a peor. Las nuevas tecnologías le dan alas. Otro filósofo que escribe en alemán, el coreano Byung-Chul Han, afirma hoy que la digitalización está debilitando “la conciencia misma de la realidad”.

No se trata solo de que la realidad inmediata se debilite: también se distorsiona su contenido. Eso es lo que significa vivir en un mundo dominado por las representaciones, en una sociedad centrada en el espectáculo. Las representaciones se nos presentan por todas partes, las imágenes pasan a conformar la realidad que nos rodea. Y hoy la mayoría de imágenes que imperan en los medios digitales son imágenes de violencia: violencia física, violencia sexual, violencia contra la belleza, la bondad y la verdad, contra el sentido común, contra el prodigio y la sacralidad de la vida. Los contenidos mentales son lo que lleva al mundo al colapso.

En la mitología griega, Circe es un ser con un extraordinario poder de seducción y de engaño. Hoy, hechizados y enredados por los datos e imágenes que circulan por las pantallas, nos hallamos ante las seducciones de Circe 2.0. Incluyen las promesas de la digitalización, la robotización, el metaverso y el transhumanismo. Incluyen el hecho de dar más valor a los likes y los retuits que a las relaciones genuinas. Incluyen el modo en que alegremente permitimos que los algoritmos capturen nuestros datos, rastreen nuestros movimientos, asedien nuestras profesiones e invadan nuestras relaciones y nuestro espacio, interior y exterior, con la denominada “IA”.

La “IA” se hace llamar “inteligencia artificial“, pero no es inteligencia (que siempre requiere entender), sino cálculo mecánico. Vertiginoso, pero sin experiencia o conciencia. No es inteligencia, pero puede llegar a imitarla a base de algoritmos. Por eso sería más exacto leer el acrónimo IA como “Imitación Algorítmica“. O “Invasión Algorítmica“, si tenemos en cuenta sus repercusiones.

• Extraído de los capítulos 5-6 de Jordi Pigem, Conciencia o Colapso, Fragmenta, Barcelona, 2024, páginas 20-25 (las referencias se encuentran en las páginas 130-131).

Sobre el autor

Jordi Pigem es Doctor en Filosofía por la Universidad de Barcelona. Fue profesor del Masters in Holistic Science del Schumacher College (Inglaterra). Entre sus libros destaca una reciente trilogía sobre el mundo contemporáneo: Pandemia y posverdad (2021), Técnica y totalitarismo (2023) y Conciencia o colapso (2024). Desde 2025 es Fellow del Brownstone Institute y miembro fundador de Brownstone España.