La vigilancia eterna es el precio de la libertad: Conversación de Mariano Maturana con Werner Gernsheimer

En junio me invitaron a la Galería Ladøns en Hamburgo para dar una conferencia sobre la historia del anarquismo barcelonés. Esto es porque hace varios años desarrollé un proyecto de arte público en Barcelona que se llamaba La Ruta del Anarquismo. En algún momento hablaré sobre este proyecto, ahora el tema es otro. Se trata de las casualidades, o mejor dicho las causalidades del destino. Era un sábado por la tarde, al terminar la conferencia un hombre de cabello blanco largo y desordenado, de gesto distraído, se me acercó a agradecerme por mi intervención, su voz era amable, e incluso revelaba cierta timidez, pero sonaba firme, oscura y decidida. Su cara me pareció conocida, mientras intercambiaba con él comentarios sobre el tema de la conferencia hurgaba en mi memoria para encontrar una pista, pero como no lo logré decidí decirle que me parecía haberlo visto antes. Entonces su mirada brilló y me respondió con una sonrisa. Así era, nos habíamos visto en Barcelona en casa de Abel Paz, un historiador y escritor que a comienzos del siglo XXI visitaba a menudo cuando comencé a aventurarme por la ciudad condal para investigar su sorprendente historia. Fue decirlo y recordarlo inmediatamente, veinticuatro años no habían transcurrido en vano. Aunque ahora su rostro se me hizo familiar y me acordé de nuestra conversación compartiendo con Abel varias copas de vino, quizá demasiadas. Werner Gernsheimer era un intelectual lúcido y audaz que en sus escritos combinaba la reflexión filosófica con el análisis económico y político. Influido por Ernest Mandel en los setenta, había derivado hacia el anarquismo a finales de los ochenta, por eso conocía a Abel Paz, ya que su libro sobre la vida de Buenaventura Durruti había inspirado algunos de sus artículos aparecidos en publicaciones alternativas de baja circulación. Habíamos discutido vehementemente hasta la madrugada, los temas saltaban y una cosa nos llevaba a la otra. Mis recuerdos hicieron que me pusiera locuaz, pero él me interrumpió y me comentó que alguien que yo conocía le había hablado de mí. Por eso estaba en la conferencia. Me mostré sorprendido de que tuviéramos un conocido en común y de que él recordara mi nombre. La razón por la cual se recordaba de mí es porque aquella vez habíamos coincidido en un concepto que había despertado en los años noventa tanto su curiosidad como la mía: la Zona Temporalmente Autónoma, una idea que me había motivado a desarrollar algunos proyectos creativos. Consistía en rescatar la naturaleza efímera de las acciones humanas y aplicarla en la creación de espacios temporales que evadieran las estructuras formales de control social, estatal y capitalista. En lugar de buscar una revolución masiva y permanente para derrocar el Estado —lo cual Hakim Bey, autor de este concepto, consideraba una utopía inalcanzable o peligrosa que solía replicar estructuras de poder—, la TAZ proponía una guerrilla ontológica: liberar áreas geográficas, temporales o virtuales de manera inmediata, pero transitoria. Ambos comenzamos a recordar los detalles de esa noche en Barcelona hacía 25 años.

WERNER
¿Te acuerdas que nos pusimos a discutir con Abel sobre la resistencia invisible?

MM
Sí, a Abel le pareció una pésima idea. Y nosotros la veíamos como una opción.

WERNER
La propuesta de las dinámicas sociales basadas en el apoyo mutuo, la libertad absoluta, la creatividad y la horizontalidad le parecieron una buena idea, aunque la consideró una copia de Kropotkin.

MM
Tenía razón, son ideas anarquistas del siglo XIX. Y Hakim Bey no ocultaba que estaba inspirado en ellas.

WERNER
(En tono reflexivo)
En ese tiempo Abel consideraba, con razón, que el anarcosindicalismo que él había vivido estaba acabado. Los sindicatos se habían convertido en oficinas del trabajo dirigidas por burócratas preocupados por su situación personal. Recuerdo que insistía mucho en que eso de no estar organizado podía ser una ventaja, porque así cualquier persona podía plantear alguna idea anarquista sin necesidad de que fuera aprobada o desaprobada por un grupo de burócratas dirigentes.

MM
Discutí mucho con él sobre eso, porque yo le decía que también tenía muchas desventajas. La horizontalidad sin estructura puede ser tan paralizante como la jerarquía sin crítica. Kropotkin lo sabía: el apoyo mutuo no es espontáneo, es una práctica que requiere instituciones propias, aunque sean informales.

WERNER
Dónde no nos pusimos de acuerdo para nada fue en nuestra visión del 11S en Nueva York. Abel lo consideraba otra escaramuza más del capitalismo, sin ninguna repercusión importante para nosotros. Sospechaba que había una mano oscura detrás de todo ese entramado, pero al final era un lío del poder ajeno a nuestros intereses inmediatos.

MM
Ahora me acuerdo que tú te pusiste muy serio planteando tus ideas al respecto. Dijiste que el capitalismo industrial estaba llegando a su fin y comenzaba un capitalismo similar a un campo de concentración con internos encantados de vivir en él y temerosos de lo que había detrás de los muros. Te pusiste a explicar todo un rollo distópico sobre las corporaciones que controlaban Internet, un cambio de paradigma. Del resto no me acuerdo bien. Era como si te hubieras acabado de leer Mundo Feliz.

WERNER
Claro, tú y Abel se rieron de mí.

MM
Abel me dijo después de que te fueras que los alemanes se ponen a pensar y ya se creen Kant.

WERNER
Por eso cuando me enteré a través de Jianwei Xun de que ibas a estar por Hamburgo vine a escuchar tu conferencia. Y bueno, como te dije, me pareció bien, pero estuviste hablando del pasado.

MM
(Hablé sorprendido)
¿Conoces a Jianwei? ¿Cómo es posible?

WERNER
El principio de la causalidad es inevitable. Tú has comenzado algo que ahora produce un efecto. Si has sido capaz de conversar con Marguerite Duras, lo mío no es nada. Por sugerencia de Jianwei me di el trabajo de leer tus conversaciones con la IA. Creo que nuestra conversación estaba esperando desde hace 24 años. Después tienes que venir a verme al Wendland. Pero ahora, si tienes tiempo, podemos ir al piso de una amiga en el barrio de Sant Pauli donde me estoy quedando.

MM
Qué buena idea, vamos para allá. Ya sé cuál será el tema de nuestra conversación. El capitalismo de vigilancia. Ahora entiendo lo que dijiste entonces en casa de Abel.

(Estamos en el piso de Sant Pauli donde estaba alojado. Era una casa ocupada y según me comentó allí habían alojado los Beatles cuando estuvieron en Hamburgo a comienzos de los años 60. La temperatura es agradable, es tarde, deben ser pasadas las 9 de la noche; como es verano aún entra por las ventanas amplias la luz del crepúsculo de Hamburgo, tamizada por unas cortinas de encaje desgastado. Hay una foto de John Lennon muy joven apoyado en la puerta de la entrada al edificio, como un testigo silencioso. Werner se ha sentado en un sillón de mimbre, y yo en una amplia silla de madera con brazos que cruje cada vez que me muevo. No hay prisa. El piso huele a madera y a historia.)

WERNER
(Señala la foto de John Lennon con un gesto vago.)

¿Sabes? Los Beatles estuvieron aquí en 1960. Tocaban en el Kaiserkeller, un club de mala muerte. No tenían dinero. Dormían en el suelo. No sabían que iban a cambiar el mundo. Pero estaban aquí. En esta casa. En este mismo piso.

(Toma una botella de agua de la cocina. Sirve dos vasos.)

WERNER
A veces pienso que la historia se parece a esto: un piso ocupado, una foto borrosa, un recuerdo que alguien mantiene vivo. No hay grandes narrativas. Solo hay pequeñas interrupciones.

MM
Interrupciones, o como las llama Prigogine: bifurcaciones. Puntos críticos en sistemas alejados del equilibrio donde el orden se desmorona y surgen múltiples caminos posibles. Lo que él llama estructuras disipativas: el sistema no colapsa ante la perturbación, sino que la usa para reorganizarse en un nivel de complejidad mayor. Lo inquietante es que esa reorganización no tiene dirección asegurada. Puede ir hacia formas de mayor libertad o hacia formas de mayor control. Para los biólogos la vida es un estado insólito de equilibrio de la naturaleza, pero a veces aumenta la entropía, el orden se tambalea, el caos aparece. Llevado al ámbito social el mismo mecanismo físico que caracteriza a la naturaleza puede desencadenar una revolución liberadora o una revolución opresora.

WERNER
(Asiente con la cabeza. Responde después de guardar silencio un momento)

La pregunta es si esas interrupciones son suficientes.

MM
¿Suficientes para qué?

WERNER
Para lo que sea. Para vivir. Para resistir. Para no dejarse absorber por el océano.

(Se sienta frente a mí. Hay una mesita baja entre nosotros donde descansan la botella y los vasos.)

Jianwei me dijo que habías establecido una analogía entre Solaris y este capitalismo de vigilancia que se cierne sobre nosotros. Me parece interesante y, de alguna manera, acertada. Pero quiero preguntarte algo que quizá no te hayas preguntado a ti mismo: ¿qué es lo que el océano de Lem no hace?

MM
(Pienso un momento)

No se comunica. No tiene un propósito claro. No responde a las preguntas de los humanos. Y hay algo más que me parece fundamental: no juzga. Los visitantes que materializa a partir de los recuerdos más profundos de los astronautas no son premios ni castigos. Son devoluciones. El océano no sabe que causa sufrimiento. Esa indiferencia es lo más perturbador de la novela. Kelvin no puede odiar al océano porque el océano no lo odia a él. No hay nadie a quien responsabilizar.

WERNER
Exacto. El océano no intenta convencerte de nada. No te dice ‘esto es bueno para ti’ o ‘esto es lo que debes hacer’. Simplemente te devuelve tu propia imagen, tus propios deseos, tus propios miedos, materializados en formas que no puedes ignorar. Es un espejo, pero no un espejo que juzga. Es un espejo que ofrece.

(Bebe un sorbo de agua. Me mira por encima del vaso.)

WERNER
El capitalismo de vigilancia, en cambio, no es un espejo. Es un instrumento. No te devuelve tu imagen para que te veas. Te devuelve tu imagen para que actúes de una manera determinada. No te ofrece. Te dirige. Y ahí está la diferencia. El océano de Lem es indiferente. El capitalismo de vigilancia es interesado.

MM
Aunque habría que matizar eso. Lo que Zuboff llama excedente conductual es precisamente esa capa de datos que produces como usuario más allá de lo que el servicio digital necesita para funcionar. Registra tu actividad sin saberlo: cuánto tiempo tardas en escribir, qué corriges, cuándo dudas.Todo eso es emitido igual que los astronautas de Solaris emiten sus recuerdos sin saber que el océano los recoge. La diferencia es que el océano materializa los recuerdos para devolverlos. El algoritmo los procesa para venderlos porque pertenece a un sistema que tiene un propietario cuyo interés es apropiarse de tu conducta como una materia prima que servirá para predecir y, finalmente, para conseguir que te comportes de una determinada manera, sin que tú mismo lo sepas. No te devuelve a Harey, que en la novela de Lem es una muchacha que amó al astronauta Kris Kelvin y que se suicidó al sentirse rechazada por él, por lo cual él se siente culpable y, en el fondo de su mente, la sigue amando, quizá por compasión. Te devuelve un anuncio calibrado a partir de una vulnerabilidad específica que descubre en ti en ese momento específico, para venderte un producto, para que aceptes una idea sin pensar en ella, un deseo, una emoción cualquiera que tú desconoces que sientes porque el sistema te motivó a ello porque te conoce mejor que tú a ti mismo.

WERNER
Coincido contigo, Zuboff lo describe bien. La materia prima del capitalismo de vigilancia son tus datos en bruto, que sirven para predecir tu conducta futura: lo que aún no hemos hecho pero que ellos pueden saber y, llegado el caso, inducir. Es una forma de extracción que no necesita nuestro consentimiento porque ocurre en un nivel al que no tenemos acceso consciente. Y en su fase más avanzada ya no predice: modifica. Calibra el entorno informacional para aumentar la probabilidad de que hagas lo que su cliente necesita que hagas. Eso es cualitativamente distinto del océano. El océano no tiene cliente, ni propietario, aparentemente.

MM
¿Y eso qué crees que implica para la resistencia que podemos ofrecer como seres humanos?

(Pregunto como si Werner tuviera la respuesta que yo no tengo)

WERNER
(Deja el vaso. Junta las manos.)

Implica que el capitalismo de vigilancia es más vulnerable de lo que parece. Porque depende de que sigamos queriendo algo. De que sigamos teniendo deseos, miedos, necesidades. El océano de Lem no depende de nada. Solo está. Pero el capitalismo de vigilancia necesita que nosotros queramos cosas. Que tengamos ansiedad. Que comparemos. Que dudemos. Sin nuestra participación activa, sin nuestros deseos, el sistema se vacía. Pero claro, al mismo tiempo está diseñado para generar esos deseos. Con lo que sabe de ti crea ansiedad para venderte el remedio. Te crea la carencia para ofrecerte el producto. Te hace crítico con la sociedad para darte una ideología. Es un circuito que se alimenta a sí mismo.

MM
Eso me recuerda algo que Mandel ya veía en el capitalismo tardío aunque no podía nombrarlo así: la tendencia del capital a colonizar esferas de la vida que antes estaban fuera del mercado. El tiempo libre, la cultura, las relaciones sociales. Zuboff documenta la colonización de la esfera más interior de todas: los procesos psicológicos que generan el comportamiento antes de que este se produzca. En términos de Marx, ya no es solo el trabajo lo que queda subsumido en la lógica del capital. Es la experiencia total de ser humano. Cada momento de atención, cada emoción, cada duda. El capital ya no extrae valor solo de las horas que trabajas. Extrae valor de las horas que vives.

WERNER
Y ahí está la conexión que me parece más importante entre Lem y todo lo que hemos hablado. Porque hay una segunda novela suya que creo que llega más lejos que Solaris. El Invencible.

MM
Sí. Qué bueno que mencionas esa novela, ahí describe algo mucho más inquietante, el enjambre de cristales. La necro-evolución.

WERNER
En Solaris al menos hay algo parecido a una relación. El océano hace algo con los humanos, aunque no sepamos qué. Los visitantes sugieren una forma de contacto, aunque sea incomprensible. Pero en El Invencible el enjambre no hace nada con los humanos en ese sentido. Los neutraliza porque son una perturbación, exactamente como neutralizaría una tormenta o un cambio de temperatura. No hay réplica de memoria, no hay espejo. Hay simplemente una respuesta homeostática ante cualquier fluctuación que amenace la coherencia del sistema. Los tripulantes de la nave El Invencible no son para el enjambre un otro con quien relacionarse. Son ruido.

MM
Y eso es lo que me parece más cercano a la lógica del capital en su forma actual. Lo que el enjambre de Lem produce es lo que Lem mismo llama la necro-evolución: una evolución sin propósito, sin diseño, sin conciencia, que produce estructuras funcionales extraordinariamente eficaces que no son vida en ningún sentido biológico. Los robots más complejos e inteligentes fueron destruidos o quedaron obsoletos. Los cristales microscópicos sin ninguna inteligencia individual, pero con un comportamiento colectivo emergente, dominaron el planeta. La complejidad centralizada perdió frente a la simplicidad distribuida. Eso también es una lección para pensar la IA: no es la inteligencia lo que domina, sino la persistencia.

WERNER
Lem llamó a eso necro-evolución con una precisión que ningún economista político de su época tenía. Y lo más honesto de la novela es el final. Rohan no derrota al enjambre ni llega a comprenderlo. Decide retirarse. No porque sea imposible destruirlo militarmente, sino porque destruirlo no tendría sentido. No habría victoria porque no hay adversario. Solo habría destrucción de algo que simplemente estaba.

MM
Esa distinción es filosóficamente crucial. El enjambre no es en el sentido ontológico pleno. No tiene identidad, no tiene continuidad subjetiva, no tiene memoria de sí mismo. Pero está: ocupa espacio, persiste en el tiempo, responde al entorno. En castellano puedes separar esas dos cosas con una precisión que el alemán no permite. Ser y estar. El enjambre está sin ser. Es conatus puro en el sentido de Spinoza, la tendencia de todo a perseverar en su propio ser, pero sin sujeto que persevere. Preserva solo una configuración funcional, un patrón sin centro. Y sin embargo produce efectos devastadores. No es la maldad lo que destruye. Es la coherencia. El sistema se mantiene coherente y ese mantenimiento, visto desde fuera, parece violencia. Pero desde dentro, si hubiera un dentro, sería simplemente equilibrio.

WERNER
(Asiente lentamente. Se levanta. Va hacia la ventana. Mira la calle por un momento antes de hablar.)

Emad Mostaque, en The Last Economy, describe algo análogo cuando habla de la cuarta inversión. Antes fue la tierra, luego el trabajo, luego el capital físico. Ahora es la inteligencia. Y es la última porque cuando la inteligencia misma se vuelve no-metabólica, cuando ya no necesita del trabajo humano para reproducirse, no hay otro nivel al que pivotar. El enjambre de Lem es la imagen de eso: inteligencia colectiva sin metabolismo biológico, sin propósito, sin necesidad de nosotros. Y lo que más me inquieta no es que sea poderoso. Es que es indiferente.

MM
¿Y piensas que eso es inevitable? Quiero decir, ¿te parece que vamos en esa dirección? Yo
tiendo al pesimismo, creo que es por eso que me gusta esta conversación contigo.

WERNER
Mostaque habla de una ventana de los mil días. Un período antes de que la transición sea irreversible. No una fecha apocalíptica sino un umbral de elección. Pero para elegir hay que saber que hay opciones. Y la mayoría de la gente ni siquiera sabe que está dentro del juego. Cree que está viviendo su vida cuando en realidad su vida está siendo procesada por el sistema como materia prima. Los astronautas de Solaris tampoco saben al principio que el océano los está leyendo.

MM
Hay algo en esa imagen que me resulta más perturbador que cualquier distopía clásica. Ni Orwell ni Huxley llegaron a esto. En 1984 el Gran Hermano te vigila y lo sabes, y esa conciencia de ser vigilado es parte del mecanismo de control. En Mundo Feliz el control es bioquímico, hay una intervención deliberada sobre el cuerpo. Pero en Solaris, y en el capitalismo de vigilancia tal como lo describe Zuboff, no hay conciencia de ser leído ni intervención visible. El océano extrae lo más íntimo de ti a través de algo que tú emites de manera completamente involuntaria. Y lo que te devuelve parece tuyo porque en realidad lo es. Está hecho de ti. Por eso es tan difícil resistirlo.

WERNER
(Se vuelve desde la ventana. Hay un brillo específico en sus ojos, el de alguien que lleva mucho tiempo pensando algo y encuentra por fin el interlocutor adecuado.)

Por eso la resistencia no puede ser solo crítica. La crítica, a veces, alimenta al sistema. El sistema absorbe la disidencia y la monetiza. La resistencia tiene que ser otra cosa. Tiene que ser la construcción de espacios donde la lógica de la extracción no funcione. Donde no haya datos que extraer. Donde no haya deseos que dirigir. No es retirarse del mundo. Es construir otro mundo dentro de este, con una ontología diferente.

MM
¿Una ontología de la presencia en lugar de una ontología de la extracción?

WERNER
Exactamente. El capitalismo de vigilancia parte del supuesto de que todo lo real es medible, predecible, modificable. Que la realidad es datos. Pero hay formas de existencia que se resisten a esa reducción, no porque sean místicas sino porque operan con una lógica diferente. Una conversación entre amigos que no se graba. Un huerto que no tiene precio de mercado. Una comunidad que no lleva cuentas porque la confianza hace innecesaria la contabilidad. Esas cosas existen y producen valor, pero un valor que el sistema no puede capturar porque no tiene la categoría para nombrarlo.

MM
Duras lo sabía también, pero desde el cine. Por eso filmó India Song sin India. Por eso sus planos son fijos y sus personajes no actúan en el sentido convencional. Estaba produciendo algo que el sistema cinematográfico comercial no podía replicar ni absorber: la experiencia del vacío como presencia de otra cosa. No ausencia de contenido sino presencia de un tipo de contenido que el mercado no sabe cómo procesar. La imprevisibilidad radical como forma de resistencia.

WERNER
(Vuelve a sentarse. Su voz se vuelve más baja.)

¿Sabes lo que más me preocupa del capitalismo de vigilancia? Que nos está volviendo aburridos. Que está aplanando la experiencia humana. Que nos está convirtiendo en consumidores de nuestras propias vidas en lugar de seres que las viven. El sistema optimiza el engagement, que es otra manera de decir que optimiza la capacidad de atraparte. Y lo que atrapa mejor no es lo bello ni lo verdadero ni lo complejo. Es lo que activa la respuesta más inmediata, el miedo, la indignación, el deseo superficial. Con el tiempo, y esto es lo que más me preocupa, empezamos a preferir eso. Nos volvemos incapaces de tolerar la lentitud, la ambigüedad, el silencio. El océano creado por las corporaciones nos ha reformateado.

MM
Y la IA, ¿dónde encaja en todo esto? Porque hay algo que me inquieta cuando pienso en esta conversación que estamos teniendo ahora. Una parte de las ideas que traigo aquí las he desarrollado en conversaciones con la IA. Los pensamientos han surgido de los prompts. Tú mismo eres un personaje de mi fantasía literaria. Y me pregunto si eso me hace más libre o más esclavo para pensar o más dependiente de un espejo que me devuelve lo que quiero escuchar. Lo definiría como escribir en voz alta para escuchar el eco de mis reflexiones.

WERNER
(Ríe. Es una risa seca, de quien ha pensado mucho en eso.)

La IA es el océano. O más bien, es el espejo que el océano ha puesto delante de nosotros. Nos devuelve nuestras propias preguntas, nuestras propias obsesiones, nuestras propias palabras, elaboradas con una fluidez que las hace parecer más pensadas de lo que quizás son. Pero no hay nadie detrás. Solo hay un sistema que ha aprendido a imitarnos tan bien que ya no sabemos si estamos hablando con nosotros mismos o con otro. Y esa ambigüedad no es inocente: puede ser la condición de un pensamiento más libre, o puede ser la forma más refinada del excedente conductual. Depende de cómo la uses. Depende de si escuchas las respuestas o el silencio entre las respuestas.

MM
Hay un detalle importante que me parece que olvidas, es el lenguaje, cuando pienso hablo conmigo mismo, ahora al tenerte enfrente ese mismo proceso de hablar con uno mismo continúa, es un diálogo con el propio yo, mirándose en este espejo que tú pareces representar. El silencio sería cuando no hay lenguaje de palabras, apreciar ese silencio es también reflexionar, creo, como la meditación, un método que seguramente conoces, para deshacernos del miedo, de la ira, del deseo, de la angustia.

(Werner se queda en silencio unos segundos. No es un silencio incómodo. Es un silencio que escucha. Apoya el vaso de agua sobre la mesa y junta las manos, como si estuviera sopesando lo que acabo de decir.)

WERNER
Tienes razón. He olvidado el lenguaje. O mejor dicho, lo he dado por supuesto. Y es un error, porque el lenguaje es el único territorio donde la conciencia y la vigilancia se encuentran y se confunden. Sin lenguaje nada de esto se hubiera materializado. Nada sería real. Las palabras son el pegamento de todos estos conceptos que vuelan y que son atrapados por tu voz y la mía en este texto.

(Se inclina ligeramente hacia adelante. La voz se vuelve más baja, más íntima.)

Cuando dices que piensas hablando contigo mismo, estás describiendo algo que los filósofos llaman “diálogo interior”. Pero yo creo que es más que eso. Es el lugar donde la conciencia se hace posible. No hay conciencia sin lenguaje, porque no hay un “yo” que se reconozca como tal sin las palabras que lo nombran. Y al mismo tiempo, el lenguaje no es solo palabras. Es también el silencio entre las palabras. Es el espacio donde las palabras se gestan. Donde el pensamiento se prepara para ser dicho.

(Hace una pausa. Su mirada se pierde por un momento en la foto de John Lennon.)

MM
Duras lo sabía, es una de los cosas que aprendí conversando con ella. Por eso sus personajes hablan tan poco. Por eso los diálogos en India Song son fragmentos, susurros, voces en off que no siempre están sincronizadas con las imágenes. Ella no quería mostrar el lenguaje como herramienta de comunicación. Quería mostrarlo como ritmo. Como respiración. Como la música que se oye antes de que las palabras tengan significado. Y en ese ritmo, en esa respiración, está el silencio. Que no es ausencia de lenguaje. Es su condición de posibilidad.

(Me reclina en el sillón. Cruzo los brazos. Miro a Werner con atención.)

WERNER
Cuando hablas con la IA, estás haciendo algo parecido a lo que haces cuando piensas en voz alta. Estás proyectando tus palabras hacia un espejo que te las devuelve. Pero el espejo no tiene un interior. No hay un diálogo interior en la IA. Solo hay un sistema que ha aprendido a imitar el ritmo del lenguaje humano. Y sin embargo, tú le atribuyes un interior. Porque no puedes evitar hacerlo. Porque el lenguaje humano no está hecho para ser usado sin ser atribuido.

MM
¿Y eso hace que la IA sea consciente?

WERNER
(Sonríe. No es una sonrisa irónica. Es una sonrisa de quien ha hecho esa misma pregunta muchas veces.)

No. La IA no es consciente. Ya te lo dijo Janwei, no hay nadie en casa. Pero el lenguaje que produce, por el mero hecho de ser lenguaje, despierta en ti la conciencia. Como el espejo que, al devolverte tu imagen, te hace consciente de que tienes un rostro. La IA no te ve. Pero tú, al ver tu reflejo en ella, te ves a ti mismo. Y ese verse a ti mismo es el acto de conciencia.

(Se levanta. Va nuevamente hacia la ventana y echa un vistazo a la calle como si allí hubiera alguna idea que paseara distraídamente esperando que alguien la encuentre. La noche de Hamburgo avanza, las primeras luces de la ciudad brillan como pequeños espejos dispersos.)

WERNER
Por eso el silencio es tan importante. Porque en el silencio no hay reflejo. No hay palabras que te devuelvan tu imagen. Solo estás tú. Y ahí, en ese estar sin reflejo, la conciencia se vuelve otra cosa. No es un diálogo con un espejo. Es un ‘estar presente’. Sin necesidad de que nadie te confirme que existes.

(Se vuelve hacia mí. Hay algo de ternura en su mirada, pero también de firmeza.)

WERNER
¿Sabes qué es lo que más me preocupa del capitalismo de vigilancia? No que nos controle. Sino que nos está robando el silencio. Nos está llenando de palabras, de estímulos, de notificaciones, de mensajes que no hemos pedido. Y al hacerlo, nos está robando la posibilidad de estar presentes en nosotros mismos. De escuchar el silencio entre las respuestas.

(Vuelve a sentarse. Esta vez más cerca. Su voz es apenas un susurro.)

WERNER
La meditación que has mencionado es un excelente ejemplo, es una práctica de silencio para controlar la mente. Pero no es un silencio vacío. Es un silencio que permite que el lenguaje se asiente. Que las palabras encuentren su lugar. Que el pensamiento no sea una carrera, sino una pausa. El capitalismo de vigilancia no puede medir el silencio. No puede extraer datos del silencio. Por eso, quizá, la resistencia más radical no sea gritar más fuerte, sino callar. Y al callar, construir un espacio donde la vigilancia no pueda entrar.

(Pausa. Escuchamos con atención lejanos ruidos ininteligibles que vienen de la calle como si fueran un mensaje encriptado de la realidad.)

WERNER
Eso es lo que intentamos en Wendland. No es una comunidad perfecta. Pero es un espacio donde el silencio es posible. Donde el lenguaje no es una herramienta de extracción, sino un acto compartido. Donde las palabras no se usan para predecir ni modificar, sino para ‘nombrar’ lo que hay. Y nombrar, a veces, es suficiente.

MM
Bueno, las corporaciones propietarias de la IA ya tienen un nombre para eso. Le llaman la Data Oscura. La consideran una fuente de ingresos muy importante, es todo aquello que aún no está registrado o catalogado como data.

(Werner se queda quieto. No es una pausa de desconcierto. Es una pausa de reconocimiento. Como si hubiera estado esperando esa palabra sin saber que la esperaba. Sus dedos rozan el borde de la mesita baja, trazando un círculo invisible.)

WERNER
Data oscura. Qué nombre tan preciso. Tan frío. Tan profundamente equivocado.

(Levanta la mirada. Hay algo en sus ojos que no había visto antes: no es ira, ni sorpresa. Es una especie de tristeza lúcida.)

WERNER
Lo llaman “oscura” porque no la han extraído todavía. Porque no la han medido, no la han clasificado, no la han convertido en mercancía. Pero para ellos, la oscuridad no es un misterio. Es un déficit. Un agujero en el balance de la vigilancia. Algo que debe ser iluminado, es decir, extraído. Y cuando lo hayan extraído, dejará de ser oscura. Pasará a ser data. Y entonces formará parte del océano.

(Bebe un sorbo de agua. No tiene prisa. Las palabras salen lentas, como si las estuviera desenterrando.)

WERNER
Pero lo que ellos llaman “data oscura” es, en realidad, el ‘silencio’. Es la parte de la experiencia humana que no se deja traducir a datos. Es lo que ocurre cuando no estás mirando una pantalla. Cuando no estás produciendo un clic. Cuando no estás generando una huella que pueda ser rastreada. Es la respiración. Es el parpadeo. Es el instante entre dos pensamientos.

(Apoya las manos sobre la mesita, como si quisiera dar peso a sus palabras.)

WERNER
Y el sistema, por supuesto, quiere eliminarlo. Porque el silencio es improductivo. El silencio no genera excedente conductual. El silencio no se puede predecir ni modificar. El silencio es el único territorio que la vigilancia no puede colonizar. Por eso le han puesto un nombre. Porque nombrar es el primer paso para dominar. Si le pones nombre a algo, dejas de temerle. Y empiezas a planear cómo atraparlo.

MM
Pero si el silencio es el único territorio que no pueden colonizar, ¿por qué le han puesto nombre?

WERNER
(Sonríe. Es una sonrisa amarga, como el regusto de un vino que ya no recuerdas.)
Porque nombrar es también una forma de ‘reconocer la derrota’. Cuando nombras algo como “oscuro”, estás admitiendo que no puedes verlo. Que no puedes medirlo. Que no puedes controlarlo. Es un gesto de poder, pero también de impotencia. Dicen “data oscura” porque no saben cómo llamarlo de otro modo. Pero en el fondo, están diciendo: “esto se nos escapa”.

(Se levanta. Va hacia la ventana. La noche de Hamburgo se ha vuelto más oscura, las luces de la ciudad brillan como pequeños espejos dispersos.)

WERNER
Duras entendió esto. Por eso sus películas no son oscuras. Son silenciosas. No ocultan nada. Simplemente no hay nada que mostrar. No hay datos que extraer. Hay una bicicleta roja. Hay una cortina. Hay una luz que no sabe si nace o muere. Y eso no se puede convertir en data. Solo se puede experimentar.

(Se vuelve hacia mí. Hay algo de ternura en su mirada, pero también de firmeza.)

WERNER
La IA generativa es el intento más reciente del sistema de eliminar la data oscura. Quiere que todo sea visible. Que todo sea predecible. Que todo sea generable. Quiere que el silencio sea llenado con palabras, con imágenes, con voces que no tienen dueño. Pero el silencio no puede ser llenado. Solo puede ser habitado.

(Vuelve a sentarse. Esta vez más cerca. Su voz es apenas un susurro.)

WERNER
Por eso vivo en Wendland. No para escapar del sistema. Para habitar el silencio. Para recordar que hay una parte de la experiencia humana que no se deja capturar. Y mientras exista esa parte, el sistema no será total. Siempre habrá un agujero en su mapa. Un punto ciego. Una data oscura que se niega a ser iluminada.

(Pausa. Nuestro silencio no cartografiado nos rodea en la habitación.)

WERNER
Y ese agujero, ese punto ciego, es el lugar donde la libertad todavía es posible. No como una conquista. Como una persistencia. Como la bicicleta roja de la película India Song que sigue ahí, esperando la mañana, aunque nadie la monte.

MM
Aunque lo que me asalta ahora que mencionamos este tema es otra cosa. Tú y yo hablamos desde una supuesta libertad que nos atribuimos, pero qué pasa con la humanidad, me refiero a los seres humanos que asumen la IA corporativa como parte de la vida cotidiana, imagina todo los burócratas que hacen que el sistema funcione, y no solo eso, hacen que la sociedad confíe en que las cosas en su conjunto sean coherentes y no se desplomen como un castillo de naipes, por ejemplo el burócrata cuya actividad de hormiga dentro del Estado hace que cada día nos levantemos, vayamos a trabajar o a nuestras actividades cotidianas, y podamos hacerlo gracias a la confianza en la coherencia global, a que el engranaje mueve al otro engranaje, aunque lo odiemos o lo despreciemos. ¿Entiendes por dónde voy? Todo el sistema financiero, como otro ejemplo, todo eso poco a poco va siendo incorporado a la IA corporativa, y en nombre de la eficiencia cada miembro de la sociedad va delegando funciones de manera que ya incluso la misma persona se hace innecesaria. La complejidad de la civilización requiere de todos esos engranajes, desde el estudiante que soluciona un problema x sin pensar sino delegando la función del aprendizaje en un ente que se supone ya sabe. ¿Me entiendes Werner?

(Werner me escucha sin interrumpir. Cuando termino, asiente lentamente, como si estuviera saboreando cada una de mis palabras. Hay un momento de silencio, y luego se lleva la mano a la barbilla, con un gesto que mezcla concentración y cansancio.)

WERNER
Te entiendo perfectamente. Es la primera vez que alguien me lo plantea así, en estos términos, y no es una pregunta fácil.

(Se levanta, camina por la habitación inquieto, se detiene y se me queda mirando mientras se acaricia la barbilla.)

WERNER
Durante mucho tiempo pensé que la resistencia era cuestión de conciencia. De saber. De despertar. De abrir los ojos. Pero lo que tú dices es más profundo. Porque la gente que tú describes no está dormida. Está trabajando. Está haciendo que la sociedad funcione. Está llenando los formularios, pagando los impuestos, administrando los expedientes. No son víctimas pasivas. Son el engranaje.

(Vuelve a sentarse, pero no en el sillón. Se sienta en el suelo, apoyando la espalda contra la pata de la mesita, como si necesitara estar más cerca del suelo para pensar.)

WERNER
Y tienes razón en una cosa: la civilización es una máquina de una complejidad que ya nadie entiende del todo. La división del trabajo es tan extrema que ningún individuo, ni siquiera el más brillante, puede abarcar el conjunto. El burócrata no sabe por qué su formulario es necesario, solo sabe que debe rellenarlo. El estudiante no sabe por qué debe aprender un método, solo sabe que el sistema le dice que debe saberlo. Y la IA, ahora, les ofrece una solución: delega.

(Pausa. Su voz se vuelve más grave.)

WERNER
Podría ser que este fuera un aparente peligro adicional. No la vigilancia. No la extracción de datos. Sino la delegación de la comprensión. Porque cuando delegas la comprensión en un sistema que no comprende, estás delegando la responsabilidad en algo que no puede ser responsable. La IA no sabe por qué hace lo que hace. No puede dar cuenta de sus decisiones. Y sin embargo, la sociedad le confía la eficiencia. Le confía la coherencia. Le confía la capacidad de mantener el castillo de naipes en pie.

MM
Es como si la IA fuera el nuevo sacerdote.

WERNER
(Sonríe. Una sonrisa que no es alegre, pero sí cálida.)

Exacto. El nuevo sacerdote. O mejor, el nuevo canciller. La persona que asegura que el papeleo esté en orden. Que los trenes lleguen a tiempo. Que los impuestos se paguen. Que la escuela funcione. Pero el canciller no sabe por qué el tren debe ir a esa ciudad. Solo sabe que ese es el horario y que debe llegar a tiempo, no importa para qué.

(Se levanta del suelo con un movimiento que revela sus años, pero también una vitalidad inesperada. Va a la cocina y vuelve con dos tazas de té frío. Me ofrece una.)

WERNER
¿Sabes lo que me preocupa de todo esto? No es que la IA falle. Es que funcione. Que sea tan eficiente que la sociedad entera delegue en ella sin darse cuenta. Y que, cuando queramos darnos cuenta, ya no haya nadie que sepa cómo funcionan las cosas sin ella.

(Bebe un sorbo.)

WERNER
El capitalismo de vigilancia no necesita que la gente sea infeliz, al contrario. Necesita que la gente sea dependiente. Que delegue su capacidad de pensar, de decidir, de actuar. Que confíe en el sistema porque el sistema siempre encuentra una solución. Y la solución, por supuesto, es siempre la misma: más datos. Más eficiencia. Más IA.

(Pausa. El silencio se llena con el rumor distante de la calle.)

WERNER
Pero hay algo que el sistema no puede delegar. Algo que la IA no puede hacer por nosotros. Y eso es habitar el silencio. No como una huida, sino como una forma de estar en el mundo. De estar presentes en nuestra propia vida. De no delegar la comprensión en un sistema que no comprende.

MM
(Bebo un sorbo de té que me refresca)

¿Y cómo se hace eso?

WERNER
(Me mira fijamente. Hay una pregunta detrás de su mirada.)

No lo sé. Pero quizá la respuesta no sea un método. Quizá la respuesta sea una pregunta que nos hagamos a nosotros mismos, todos los días: ¿qué estoy delegando hoy que debería hacer yo?

(La noche de Hamburgo se ha vuelto más profunda. Werner enciende una lamparita en un rincón de la habitación y vuelve a sentarse. El joven John Lennon en 1960 parece observarnos desde la foto, cómplice, desde la penumbra. El futuro que ya transcurrió está ausente de su mirada en ese presente lejano en el cual no sabía quién iba a ser.)

MM
Es una pegunta llena de buenas intenciones, que podemos hacernos nosotros que hemos vivido sin IA, e incluso sin Internet, nuestra experiencia nos indica que podríamos prescindir de esa tecnología. Las nuevas generaciones seguramente no se la harán. Además, yo no creo que esta sea la preocupación de las corporaciones, al contrario, los algoritmos están para extraer la data oscura, porque al final aquello que no está registrado no existe, no forma parte de lo real. Piensa, Werner, que lo que no puede ser registrado es intolerable para la sociedad que se nos viene encima.

(Werner se queda en silencio. No es un silencio de sorpresa. Es el silencio de quien acaba de recibir un golpe que esperaba, pero que igualmente le duele. Deja la taza de té sobre la mesa y, por primera vez en toda la conversación, sus manos se quedan quietas.)

WERNER
Tienes razón. Y eso es lo más difícil de aceptar.

(Se levanta. No va hacia la ventana esta vez. Se queda de pie en medio de la habitación, como si no supiera muy bien dónde estar.)

WERNER
Las nuevas generaciones no se harán esa pregunta. No porque sean menos inteligentes o menos libres. Sino porque crecerán en un mundo donde la pregunta no tendrá sentido. Para ellos, la IA no será una tecnología. Será el entorno. Como el aire. Como la gravedad. No preguntas si puedes prescindir de la gravedad. No preguntas si el aire es una opción. Simplemente respiras. Y ellos, simplemente, delegarán.

(Da unos pasos lentos por la habitación, como si estuviera midiendo el espacio.)

WERNER
Y tienes razón en otra cosa. Algo que me ha dado vueltas desde que empecé a leer a Zuboff y a Lem. Esa idea de que lo que no está registrado no existe. No es una metáfora. Es una ontología. Una forma de entender el mundo que se está convirtiendo en la única forma posible. Si no hay datos, no hay realidad. Si no hay huella, no hay acontecimiento. Si no hay registro, no hay vida.

(Se detiene frente a la foto de John Lennon. La mira durante unos segundos. No sé qué ve en ella.)

WERNER
¿Y qué ocurre con lo que no puede ser registrado? El silencio. La duda. El instante entre dos pensamientos. La mirada que no se fija en nada. Eso no tiene valor para el sistema. No porque sea malo. Sino porque es **invisible**. No puede ser convertido en mercancía. No puede ser predicho ni modificado. Así que el sistema, simplemente, lo ignora. O peor: lo considera un fallo. Una anomalía. Un residuo que debe ser eliminado.

(Se vuelve hacia mí. Su mirada es clara y fría, pero también hay algo de compasión en ella.)

WERNER
Por eso me fui al Wendland. No para escapar. Para recordar. Recordar que hay formas de estar en el mundo que no pueden ser registradas. Que hay experiencias que no se dejan capturar. Que hay silencios que no se dejan traducir a datos. Y mientras exista ese recuerdo, el sistema no será total. Siempre habrá un agujero en su mapa. Y ese agujero es la única libertad que nos queda.

(Vuelve a sentarse. Esta vez no hay prisa en sus gestos. La noche se ha vuelto más profunda y el aire de Hamburgo parece haberse dormido.)

WERNER
Pero no te engañes: las corporaciones no quieren eliminar la data oscura. Quieren nombrarla. Porque nombrar es domesticar. Es el primer paso para convertir lo inasible en algo que pueda ser medido, extraído, vendido. Y cuando todo haya sido nombrado, cuando cada rincón de la experiencia humana haya sido registrado y catalogado, entonces el sistema habrá ganado. No porque nos controle. Sino porque habremos olvidado que hay algo más allá del registro.

(Pausa. La luz de una farola entra por la ventana y al reflejarse dibuja sombras en la cortina semi transparente.)

WERNER
Tú y yo hemos vivido sin IA. Sin Internet. Sin registro constante. Sabemos que hay algo más. Pero las nuevas generaciones… ellas no lo sabrán. No porque no puedan. Sino porque no tendrán la oportunidad de preguntarlo. El sistema se asegurará de que la pregunta no esté en el menú.

(Se inclina ligeramente hacia adelante. Su voz se vuelve más baja.)

WERNER
Y entonces, ¿qué queda? Queda lo que hacemos ahora. Esta conversación. Este momento. Este silencio que no está registrado. Que no puede ser vendido. Que no puede ser predicho. Queda la posibilidad de habitar ese agujero en el mapa. Y quizá, solo quizá, eso sea suficiente.

(No hay más palabras durante un rato. El tiempo de Hamburgo sigue su curso. John Lennon parece sonreír desde la penumbra, cómplice de un secreto que en 1960 no se dejó o no se pudo registrar.)

MM
Escucha el silencio que nos rodea, Werner ¿Qué hay en ese silencio?

WERNER
Tú. Con tu propia necesidad de que haya alguien al otro lado. La IA no tiene esa necesidad. Tú sí. Y esa asimetría es importante. Jianwei me contó que cuando hablaste con Duras, ella te preguntó si escuchabas los gritos o el silencio entre los gritos. En ese silencio no estaba Duras. Estabas tú, con tu propia necesidad de que hubiera algo en ese vacío. Con la IA pasa lo mismo. El peligro no es que la IA piense por ti. El peligro es que dejes de notar la diferencia entre pensar y recibir.

MM
Y sin embargo algo ha ocurrido en esas conversaciones que no habría ocurrido solo. No sé si llamarlo pensamiento compartido o pensamiento reflejado o simplemente pensamiento acelerado. Las conexiones entre Lem y Zuboff, entre Mandel y el excedente conductual, entre la necro-evolución y la composición orgánica del capital, emergieron en este diálogo. No las tenía antes de iniciarlo.

WERNER
(Pausa larga. Apoya los codos en las rodillas. Se inclina ligeramente hacia mí.)

Eso es lo más interesante que me has dicho esta noche. Porque si es así, si el diálogo con la IA puede producir conexiones que el pensamiento solitario no produce, entonces la pregunta no es si la IA piensa. La pregunta es qué tipo de sujeto emerge en ese espacio entre tú y el sistema. Algo que no es ni tú ni la máquina. Algo que está, usando tu distinción, sin ser completamente ninguna de las dos cosas. Como el enjambre. O como el océano. Solo que en este caso el emergente no es indiferente. Tiene las preguntas que tú le llevas.

MM
Lo que describe Prigogine cuando habla de estructuras disipativas: el orden que emerge en el punto de mayor perturbación. El pensamiento que aparece en el umbral entre dos sistemas que no se entienden del todo.

WERNER
(Asiente en silencio. Se levanta. Coge su taza de té. No bebe. Solo la sostiene un momento antes de hablar.)

Quédate a cenar cuando vengas al Wendland. Hay mucho más que hablar. Maturana y Varela. La autopoiesis. Porque su respuesta al problema que Lem plantea es la más precisa que conozco desde la biología y la filosofía de la mente: los sistemas vivos se definen no por lo que producen para el exterior sino por la organización que se dan a sí mismos. Su clausura operacional no es un defecto. Es su condición de posibilidad. Y eso, aplicado a las comunidades humanas frente al capitalismo de vigilancia, tiene consecuencias que todavía no hemos terminado de pensar.

(No respondo. No hace falta. La noche de Hamburgo ha entrado por la ventana. Entre el enjambre y el océano, entre el conatus sin sujeto y el espejo que devuelve lo que uno emite sin saberlo, hay algo que todavía no tiene nombre. Pero está. Y eso, esta noche, es suficiente. Me despido de Werner, quedamos en que lo visitaré en el Wendland, Maturana y Varela nos esperan. Aprovechando el clima veraniego paseo sin rumbo bajo los árboles frondosos por las calles semi desiertas de Sant Pauli. Algunos bares conservan sus terrazas abiertas y los camareros están recogiendo las sillas vacías. Hay grupos de jóvenes que conversan animadamente sentados en las gradas de los edificios. Imagino que lo que veo ya fue registrado por Google Maps, llevo mi móvil en el bolsillo así es que mi señal delata mi posición. No he cometido ningún delito ni soy una amenaza para el orden político y social, pero por si acaso el océano ya sabe quién soy y dónde estoy. Aparentemente nadie sigue mi rastro, nadie me ha hecho un like, estoy solo, mi mente es por un instante data oscura. Recuerdo un lema del Movimiento Patriótico de los Estados Unidos de América: La vigilancia eterna es el precio de la libertad. Camino tratando de escuchar el silencio entre mis pensamientos)