La partícula y el enjambre: Cuarta conversación de Mariano Maturana con Werner Gernsheimer

Durante la mañana Werner me estuvo enseñando la granja comunitaria, explicándome el sinnúmero de actividades que había que desempeñar a diario para su funcionamiento eficiente. Me mostró con orgullo los dos pozos de agua que habían cavado con esfuerzo en los años noventa y que a través de un sistema hidráulico creado por ellos mismos dotaba de agua a los sembradíos. Vivir allí no era fácil, requería voluntad y deseos de prosperar a pesar de las dificultades. A simple vista todo se veía precioso y fértil, pero detrás estaban las disputas, rencillas, cambios insospechados, combinados con entereza e inteligencia para resolver los problemas prácticos, el mantenimiento de la infraestructura, sin perder de vista el objetivo estratégico: sobrevivir en un mundo donde las iniciativas comunitarias anarquistas no son bienvenidas. Por eso para Werner cada día que pasaba era una victoria que había que celebrar con buen ánimo. Caminamos una hora por las plantaciones de verduras y, especialmente, los manzanos, perales y guindos que crecían por doquier cargados de frutos. Las guindas estaban maduras y podía cogerlas estirando la mano, las manzanas y peras estaban aún verdes. La producción de zumos y sidra de manzana eran un producto esencial para el funcionamiento económico de la comunidad. Un producto de gran calidad que habían logrado comercializar en Alemania.

Mientras bebíamos un café matinal a la sombra fresca de una haya continuamos nuestra conversación. Parecía contradictorio contemplar la belleza del momento veraniego en el Wendland, rodeados por la paz de la granja comunitaria comparada con los temas que nos motivaban a intercambiar nuestras ideas.

WERNER (Werner Gernsheimer)
No te lo había comentado, ¿sabes que mi hijo mayor es biólogo y se fue a vivir a los Estados Unidos?

MM (Mariano Maturana)
Me parece increíble, la biología, junto a la neurocirugía y la ingeniería eléctrica son claves en el desarrollo de la neurotecnología.

WERNER
Exacto, se está especializando en ingeniería biológica. Tuve que ponerme a leer mucho para poder discutir con él. Pero, ya no me hace caso.

(MM ríe. Luego ambos se quedan un momento en silencio)

MM
¿Sabes? Me quedé pensando en la máquina de Morel, que se alimenta de tu imagen y que al mismo tiempo te destruye para poder conservarla. Las motivaciones humanas generalmente, aunque no siempre, provienen de hechos emocionales, como Morel, que estaba enamorado, su objetivo era perpetuar su amor, pero el resultado trajo consigo consecuencias escalofriantes. Entonces recordé las investigaciones que han hecho los científicos para clasificar las emociones a partir de la expresión facial.

(WERNER interrumpe, adivinando la reflexión de MM)

WERNER
Ya se a quién te refieres, es Paul Ekman. Es un caso paradigmático, y no por las razones que la gente suele mencionar

MM
¿Qué quieres decir?

WERNER
Todos citan el FACS, Facial Action Coding System, los músculos, las siete emociones universales. Pero casi nadie cuenta cómo empezó, qué lo llevó a dedicarse a esto. Cuando tenía catorce años la madre de Ekman enfermó gravemente. Un trastorno mental severo. Y ahí decidió, siendo un adolescente, dedicar su vida a entender el sufrimiento humano para poder ayudar a gente como ella. No quería ser científico. Quería ser terapeuta. Entró a la universidad a los quince años, y su primer proyecto fue sobre dinámica de grupos terapéuticos.

MM
(Bajo la taza despacio.)

Entonces empezó exactamente donde empieza Morel. No en el laboratorio, sino en el amor. O, como en el caso de Ekman, en el dolor de haber amado a alguien que sufría y no poder hacer nada.

WERNER
Es la lectura que también se me ocurrió anoche, mientras Morel todavía me rondaba la cabeza y no sabía que tú también te habías quedado pensando en lo mismo. Ekman quería leer el rostro humano para entender lo que las palabras no decían de un paciente. Ese fue el impulso original. Pero después el asunto se empezó a torcer, el destino, o como le quieras llamar, por eso no soy marxista, no creo en el determinismo histórico, apareció un mentor, Silvan Tomkins, que tenía una teoría muy fuerte: que las emociones eran innatas, biológicas, escritas en el rostro de cualquier ser humano, en cualquier cultura. Y Tomkins lo convenció de dejar el cuerpo entero y concentrarse solo en la cara.

MM
¿Y ahí nació su famoso viaje a Papúa Nueva Guinea?

WERNER
Exacto, pero no por curiosidad antropológica, como mucha gente cree. Ekman quería zanjar una disputa científica concreta que lo había tenido obsesionado durante años. Darwin, en 1872, había dicho que las expresiones emocionales eran universales, biológicas. Margaret Mead y la antropología cultural de los años cincuenta sostenían lo contrario: que las emociones que se reflejan en el rostro se aprenden culturalmente, como un idioma. Ekman necesitaba encontrar gente que jamás hubiera visto la fotografía de un occidental, para probar que Darwin tenía razón y Mead estaba equivocada. Encontró a los Fore, una tribu en Papúa Nueva Guinea. En 1967 y 1968 fue allí. Les mostró fotos de rostros occidentales, y ellos, según Ekman, identificaron las mismas siete emociones. Ira, asco, miedo, alegría, tristeza, sorpresa, desprecio.

MM
De ahí salió el catálogo.

WERNER
El famoso FACS, Facial Action Coding System de 1978. Tres mil expresiones catalogadas, cuarenta y tres músculos codificados. Un sistema pensado, en la cabeza de Ekman, para diagnosticar mejor, para entender la psicopatología, para ayudar a alguien como su madre. Pero, aquí viene la primera ironía, fíjate en quién financió los primeros estudios.

MM
¿Quién?

WERNER
El Departamento de Defensa norteamericano. Ekman lo cuenta él mismo en una entrevista: dice que el Pentágono, en los años sesenta, “se vio atrapado haciendo una investigación que no debería haber estado haciendo”, y necesitaba deshacerse rápido de esos fondos. Un funcionario, casado con una mujer tailandesa, convencido de que sus propios problemas matrimoniales venían de malentender las expresiones faciales de su esposa, le dio la primera subvención. Ekman terminó, décadas después, trabajando para el Departamento de Seguridad Nacional, identificando lo que ellos llamaban “expresiones de intención mortal inmediata” para sistemas de videovigilancia en aeropuertos.

MM
(Silencio largo. El café se enfría entre las manos.)

Es justo el modelo de Morel. Un hombre motivado por el amor, pero en su caso por el deseo de entender el sufrimiento de alguien cercano, que termina inventando un dispositivo que otros usan para matar, o para vigilar hasta la muerte. Ekman no quería vigilar a nadie. Quería entender a su madre. Y terminó dándole al Estado, y de paso a las corporaciones tecnológicas, un catálogo para leer la cara de un posible terrorista en una cámara de aeropuerto. O registrar el comportamiento de un usuario en una red social para que el sistema haga una predicción de sus deseos y así poder redirigirlos a los contenidos que el algoritmo corporativo considere oportunos.

WERNER
Eso me parece increíble, algo que hace años ni siquiera te podías imaginar cuando navegabas por Internet, nunca pensé que utilizando la cámara de un teléfono móvil o de un ordenador pudieran analizar con una IA emocional los gestos de tu cara al mirar el feed de su app en tiempo real para ajustar el algoritmo y mostrarte los contenidos que te generan un mayor enganche emocional.

MM
Tampoco creo que se lo haya imaginado Ekman mientras le mostraba las fotos a los Fore.
Su catálogo de emociones, que empezó como una herramienta para entender como comunicamos el sufrimiento, terminó siendo el estándar de la industria.

WERNER
(Levanta una ceja.)

¿La industria?

MM 
La computación afectiva. El FACS se convirtió en el sistema de clasificación que las máquinas podían ejecutar. Las corporaciones no necesitan saber si las emociones son universales o no. Necesitan un sistema que funcione, que sea repetible a través de un algoritmo, que pueda ser entrenado con datos. Y Ekman se lo dio.

WERNER
¿Y quién lo compró?

MM
(Saco la libreta que suelo llevar conmigo, busco las notas que tomé anoche, antes de dormir.)

Apple compró Emotient en 2016. Usaban la IA para detectar emociones en tiempo real desde expresiones faciales. Cobraban a anunciantes para analizar cómo respondían los consumidores a sus anuncios. También se usaba en tiendas para capturar reacciones de compradores mirando un producto.

WERNER
(Silencio. Mira los manzanos.)

¿Y eso es legal?

MM
Legal, no sé. Pero es real. Affectiva, fundada por investigadores del MIT, consiguió sesenta millones de dólares para su investigación. Su tecnología analiza fotografías familiares, expresiones en tiempo real a través de webcam. La compró Smart Eye, que hace monitoreo de los conductores en sus coches para analizar las emociones durante la conducción, realizan estudios de mercado relacionados con las corporaciones de seguros, monitorean un individuo, tienen su número de identificación y cuando éste solicita un seguro de coche le cobran según su propensión a tener accidentes.

WERNER
Nadie se escapa, están hilando muy fino.

MM
Y Realeyes, de Oxford, se presenta como el mayor dataset culturalmente diverso para reconocimiento de emociones. El mercado global de Emotion AI se estima en dos mil quinientos millones de dólares este año.

WERNER
(Se reclina en la silla, como si necesitara distancia de las cifras.)

Dos mil quinientos millones. Por leer caras. ¿Y qué leen exactamente?

MM
(Dejo el teléfono sobre la mesa.)

Eso es lo inquietante. Ya no es teórico. Los móviles modernos tienen sensores de profundidad que permiten reconocimiento facial 3D y esos datos registrados son enviados automáticamente a la nube, o mejor dicho, a la base de datos de una corporación que los comercializa.

WERNER
(Su voz se vuelve más grave.)

Mh, cada vez que miras el móvil registran tu cara ¿Y qué más?

MM
Meta presentó una patente el año pasado. Graba la voz del usuario y su entorno de forma persistente, sin necesidad que el usuario lo active.

WERNER
(Pone gesto de incredulidad)

¡No me jodas! Graban los sonidos de tu espacio privado. Entonces no hace falta que hables. Basta con que estés cerca de alguien que hable.

MM
Así es. Analizan tu estado de ánimo por el tono de tu voz, el ritmo, las pausas, tu respiración. Construyen un registro acumulativo de tus tendencias emocionales, con citas textuales de tus conversaciones registradas sin tu consentimiento. La patente lo enmarca como un “coach de fitness”, se supone que su objetivo es ayudarte. Pero la tecnología de fondo es un sistema persistente de monitoreo emocional atado a los datos de voz que recogen a lo largo del día.

WERNER
(Se queda en silencio un momento. Cuando habla, su voz es más baja.)

Entonces de manera voluntaria llevamos en el bolsillo la estación de monitoreo emocional para que nos clasifiquen y que el algoritmo nos entregue la información visual y auditiva según la conveniencia de la corporación de turno.

MM
Pero, no te lo pierdas, el problema es que el famoso FACS ha sido puesto en duda, otros científicos, como Lisa Feldman, hizo la prueba de Ekman con otra tribu de Papua Guinea y resultó que esa gente no reconoció los mismas emociones, interpretaron las fotos de otra manera, lo que aparentemente vendría a dar la razón justamente a los antropólogos contrarios a la idea de Darwin, es decir, que las emociones son culturales.

WERNER
Qué barbaridad, es decir que la clasificación estaría mal hecha, y toda esa información para manipular los comportamientos de miles de millones de personas partiría de una premisa errada. Pero claro, quién para esto ahora, quién para a estos multimillonarios enloquecidos con su poder absoluto.

MM
Y este fenómeno se replica en el caso de la telemetría. Y la telemetría, como la bomba atómica, nace de la misma lógica científica que se enfoca en lo particular, la posibilidad de hacer un cálculo matemático revolucionario o controlar algo a distancia sin necesidad de entender el todo.

WERNER
Ya veo para donde vas.

(Coge las dos tazas vacías y vuelve con dos cafés recién hechos)

La telemetría. El monitoreo a distancia de nuestro cuerpo, de nuestra mente. Todo este tinglado amenaza la autonomía del individuo, el asalto a nuestra conciencia desarticula nuestra capacidad de regular nuestros pensamientos, emociones y deseos.

MM
Exacto. Pero, esto es interesante, en el caso de Stuart Mackay, que fue el primero en conseguir que un circuito de radio funcionara dentro de un cuerpo vivo, no se repite el esquema de Morel con su motivación emocional. En este caso, se trata de un tecnólogo.

WERNER
Casualmente lo ubico. Tiene un libro que se llama Biomedical Telemetry, Mi hijo lo dejó en la biblioteca y para entender algo le eché un vistazo, es un libro técnico, me pareció aburrido. En la introducción entendí que se trataba de un libro pionero en la ingeniería biológica.

MM
Al contrario que Eckman, es el arquetipo del ingeniero-físico puro. Alguien para quien el desafío técnico —hacer que un circuito de radio funcione dentro de un cuerpo vivo— era el fin en sí mismo. La reflexión moral nunca fue su preocupación. Su motivación era la fascinación por la frontera entre la electrónica y la biología. Su trayectoria empezó creando el primer microscopio electrónico y terminó en el tracto gastrointestinal de seres humanos.

WERNER
Vaya recorrido. Es un tipo de personalidad más parecida a varios de los científicos que participaron en el proyecto Manhattan, aunque estaba en su preocupación la derrota del nazismo, más tarde se pudo comprobar que muchos de ellos solo querían conseguir un logro científico y tecnológico, la bomba, y ya está, como queda demostrado en los que hicieron la bomba de hidrógeno motivados por un deseo puramente tecnológico. Von Neumann, sin ir más lejos, un genio matemático totalmente despreocupado por el horror de la destrucción atómica con objetivos militares. Me recuerda al doctor Strangelove.

MM
De alguna manera me parece que tienes razón. Mackay también trabajó en las pruebas atómicas de las Islas Marshall en 1956 y no parece que le haya afectado emocionalmente. Pero, ¿quién soy yo para juzgarlo?

WERNER
Eso dices tú, Mackay diría ¿quién soy yo para detener el progreso? Los científicos técnicos, como él, ven la ciencia como un tren que no se puede parar, la ética es un lujo para los filósofos, no para los ingenieros.

MM
Es cierto, pero sigamos con el tema que nos interesa, porque la telemetría se ha convertido en una tecnología fundamental para el control de la mente. El asunto comenzó cuando inventaron el transistor en 1947, esto hizo posible por primera vez poner un circuito de radio dentro de un cuerpo. Para un ingeniero eléctrico de la generación de Mackay, esto era un problema técnico seductor: ¿cómo hacer que un circuito funcione dentro de un pez, una tortuga o un ser humano? Por eso su primer experimento fue instalar transistores en los cuerpos de las iguanas en las galápagos para registrar continuamente la temperatura corporal profunda de los reptiles en libertad, una medición que era imposible de obtener de forma tradicional sin alterar el comportamiento natural del animal.

WERNER
Lo único que recuerdo de su libro Bio-medical telemetry, antes de quedarme dormido, es del Endoradiosonde. Es un nombre tan raro que por eso lo recuerdo. Era un dispositivo de un solo transistor diseñado para ser tragado por un sujeto y transmitir por radio la presión y la temperatura a medida que avanzaba por el tracto digestivo.

MM
A partir de entonces se han ido perfeccionando los dispositivos que puedes meter en el cuerpo humano par obtener datos. Los tecnólogos no han perdido su tiempo. Los mismos principios de telemetría implantable se extendieron hacia sistemas de control. En 1967 el doctor Vodovnik se implantó un transmisor de telemetría bajo la piel en su hombro. La señal del músculo de su hombro se enviaba a un receptor cercano, y esa señal controlaba la estimulación eléctrica implantada en la pata trasera de un perro. El doctor podía hacer subir y bajar la pata del perro con su propio músculo.

WERNER
Es decir, que ese experimento de 1967 demostró la viabilidad de que era posible crear una máquina controlada por el pensamiento.

(Levanta la vista y observa con cierto temor la haya frondosa que nos protege con su sombra fresca de los rayos del sol veraniego como si entre las hojas hubiera visto algo extraño, tal vez un pájaro desconocido. Miro en la misma dirección. Entonces habla.)

Se me ocurre algo siniestro, nunca había hecho esa conexión, ni se me había ocurrido hacerla hasta ahora con nuestra conversación. La relación de todo este entramado del capitalismo de vigilancia con el origen de la bomba de hidrógeno, el arma más terrible que ha inventado la humanidad. ¿Te recuerdas de MANIAC?

MM
Sí, el computador que se construyó para hacer los cálculos matemáticos que condujeron a la construcción de la famosa The Super.

WERNER
Pues hay un claro nexo entre el método matemático de Montecarlo que inventó Stanislaw Ulam en la década de 1940, y que, junto al físico Edward Teller ideó el avance clave para crear la bomba de hidrógeno. A Ulam se le ocurrió, jugando al solitario aburrido mientras superaba una enfermedad en el hospital, que, en lugar de encontrar una fórmula exacta para adivinar qué cartas iban a aparecer en el siguiente juego, era más fácil simular miles de juegos aleatorios (como jugar miles de partidas de solitario rápidas) y ver qué pasaba estadísticamente en la mayoría. De esta manera ideó el avance clave para crear la bomba de hidrógeno. Y aquí viene lo increíble, hoy en día, esa misma lógica matemática de calcular probabilidades mediante simulaciones se emplea para predecir y monitorizar el comportamiento humano en Internet que utilizan los algoritmos de las corporaciones para enganchar a los usuarios y, así, finalmente, modificar su conducta.

MM
Se me ocurre que esto ha ocurrido porque los científicos han llegado a la conclusión que los seres humanos nos comportamos como partículas, así se entiende esa transición que ves desde la física nuclear a la vigilancia de la conducta en Internet. Un solo individuo en Internet es impredecible, como un juego de solitario, pero miles de millones de usuarios generan patrones probabilísticos que los ordenadores pueden simular.

WERNER
Entonces el determinismo no es histórico, es estadístico.

(Hace una pausa.)

Me parece inevitable que acabemos hablando del conductismo y del BCI (Brain Computer Interface). Porque el conductismo es la versión psicológica de esa lógica científica, no importa lo que hay dentro de una caja negra, solo lo que se ve y puede ser medido.

(Mira la posición del sol calculando la hora.)

Pero, se nos ha hecho tarde para otro café. La probabilidad que me tome otro es igual a 0.

(Levanta la taza vacía. Reímos al mismo tiempo. Era casi mediodía.)

MM
Iré a caminar por el bosque, los árboles refrescan el alma, dicen. Imagino que tienes cosas que hacer.

WERNER
La maravillosa vida cotidiana me llama. Hay algunos asuntos que debo terminar. Pero, no te escapes, la biblioteca sigue donde mismo y después de la cena podemos continuar nuestra conversación. Quizá más tarde le escriba a mi hijo. No sé si me contestará, pero al menos habrá una pregunta en el aire.

MM
Perfecto. Me parece un excelente plan.

(Salgo al camino de tierra que pasa junto a la granja. No se ve nadie a esa hora. Una liebre se asoma entre la hierba alta y se aleja dando saltos. Camino y me pierdo en el follaje. Quiero creer que nadie me vigila.)