Tal como sucedió en la revolución industrial, los poderosos de nuestra época han impuesto su revolución tecnológica sobre las sociedades contemporáneas sin consulta alguna, creando inmensas zonas de marginación y amenazando el empleo. En aquel entonces, los rebeldes luditas se opusieron a las máquinas, y también lo hizo Godard en el siglo XX. Un recorrido por el problema de la innovación tecnológica, el arte y el amor.
You are my creator but I am your master
—Mary Shelley, Frankenstein
Para principios del siglo XIX en Inglaterra ya no quedaba rastro del bosque de Sherwood, la floresta donde vivieron los forajidos que varios siglos atrás dieron origen a la leyenda de Robin Hood. Las reformas legales que sucesivos reyes impusieron para incentivar el pastoreo de ovejas y así crecer la industria textil terminaron por transformar ese paisaje denso y arbolado en la llanura verde y abierta que imaginamos cuando escuchamos el nombre Escocia.
En los años que ponían fin a las aventuras de Napoleón y daban pie a la Revolución Industrial, aquel terruño escocés sufrió también la imposición de un nuevo cielo y de nuevos ríos. Las nuevas fábricas, llenas de maquinaria, exhalaban un humo gris y desechaban líquidos que ennegrecían las aguas. Los cambios en el paisaje tuvieron también impactos en la sociedad. Los inventos industriales —es decir: las máquinas— destruyeron las comunidades de trabajadores textileros que surgieron durante la primera fase de deforestación. Las formas de vida que por siglos se habían mantenido vigentes, con todo y sus propias formas de miseria, quedaron obsoletas. El conocimiento artesanal de los obreros y el valor de su trabajo colectivo fue reemplazado en unos cuantos años por la destreza infernal de las máquinas.
El resultado fue que el rencor y el deseo de venganza, dos ingredientes habituales de la sed de justicia, se instalaron entre los habitantes de la región. El sabotaje industrial había sido una forma de protesta obrera en Inglaterra desde al menos cien años; pero ahora, cuando la interminable guerra contra Francia llegaba a su tercera década y el pragmatismo inhumano del Estado no consideraba siquiera ofrecer concesiones al recién nacido proletariado, la furia trabajadora cobraría una nueva forma. A lo largo y ancho de la isla, bandas de hombres armados con herramientas de trabajo y el rostro pintado de negro, comenzaron a realizar incursiones nocturnas en distintos centros laborales para destruir las máquinas que habían destruido sus vidas.
Estos saboteadores constituían un grupo clandestino y bien organizado, por lo que el gobierno de Londres juntó a más de 3000 hombres —la fuerza represora más grande en su historia hasta ese momento— para acabar con ellos. A pesar de todo su dinero y poder, sin embargo, el Estado inglés no conseguía averiguar sobre los rebeldes mucho más que lo que estos decían de sí mismos: eran un ejército de hermanos y peleaban bajo el mando de un misterioso personaje conocido como el Capitán Ludd. Fue entonces, al mismo tiempo que la Independencia de México, que nacieron los Luditas.
* * *
Siglo y medio más tarde, en 1964, el cineasta francés Jean Luc Godard visitó Estados Unidos para presentar tres de sus películas menores. La influencia mundial de Godard, quizá aún sin igual en toda la historia del cine, había alcanzado el punto más alto de su carrera. El realizador había conseguido dejar de ser sólo un cineasta para pasar a ser considerado un artista y un pensador, con todo lo bueno y lo malo que ambos títulos implican.
Aún lejos del comunismo y antiamericanismo militante que habría de marcar el resto de su vida, Godard aprovechó el viaje para realizar algunas investigaciones que le inquietaban. Meses antes, durante el festival de Venecia, había conversado con Antonioni sobre la última obra de éste, Desierto rojo, y había quedado intrigado por lo que el italiano le contó sobre los avances tecnológicos en la computación y la inteligencia artificial que habían inspirado su película. De allí que Godard pidió a sus anfitriones en Nueva York que le llevaran a visitar laboratorios universitarios, donde conversó con varios científicos y se quedó petrificado al comprender las incipientes pero infinitas potencialidades de las computadoras.
Otro de los motivos de la estancia de Godard en Estados Unidos era que ciertos productores de Hollywood querían que dirigiera Bonnie & Clyde. El francés estaba interesado, pero antes de volver a Francia consiguió sabotear el proyecto para volcar sus esfuerzos en otra película que también estaría hecha con Hollywood en mente, aunque fuera totalmente distinta a las películas de ese rincón del mundo, que Godard tan bien conocía. Consiguió los fondos sin haber escrito el guión, delegando el trámite a un asistente que permanece anónimo, un misterio incluso en las más de mil páginas de la biografía que ocuparon al crítico Richard Brody. Las instrucciones eran sencillas: Godard sólo le dijo a su ayudante que copiara alguna novela gráfica sobre el agente secreto Lemmy Caution, un personaje que ya había protagonizado varias cintas de serie B.
Mientras el ayudante escribía el guión, Godard, atormentado y romántico, se divorciaba de Ana Karina, quien sin embargo no dejaría de ser la actriz principal de su nuevo proyecto cinematográfico. La película en cuestión sería Alphaville, una obra maestra donde se funden el film noir, el expresionismo alemán, el melodrama americano, la ciencia ficción y los propios lamentos fugazmente luditas del director, quien describió el filme que imaginaba de la siguiente manera:
Un agente secreto llegará a Alphaville [y] comprenderá, por algunas señales, que los habitantes de la ciudad, los “letrados”, son mutantes […] Mi agente, mi iletrado, notará que ciertas palabras han desaparecido […] Ana [Karina], una letrada, no conocerá la palabra “Amar” […] Los letrados no sabrán usar pañuelos puesto que tampoco sabrán llorar.
No sabemos mucho sobre los experimentos científicos que Godard presenció en Estados Unidos, pero más de cincuenta años después del estreno de Alphaville no deja de sorprender la lucidez con la que el artista previó mucho de lo que ahora sucede. Ya lo dijo Ted Kascisnki: la ciencia ficción del pasado es la tecnología del futuro.
La película sucede en una ciudad-planeta, Alphaville, donde todo es gobernado por una supercomputadora llamada Alpha 40. El protagonista, Lemmy Caution, es un agente secreto que se hace pasar por periodista para acceder a las altas esferas de Alphaville, donde espera entrar en contacto con un espía aliado. El objetivo final es raptar al científico responsable de Alpha 40, Leonard Von Braun, un genio originario de “los países exteriores” que en el pasado remoto fue secuestrado por Alphaville para usar sus conocimientos en su beneficio.
La trama tiene evidentes ecos de la Guerra Fría, pero Godard no se deja llevar por la política internacional del momento, cosa rara en su obra. La cinta no revela mucho sobre “los países exteriores”; Alphaville no es una alusión directa a la Unión Soviética. No, la visión de Godard es más profética: imagina una sociedad totalitaria regida por la lógica matemática de una máquina inteligente. El principal mecanismo del control que la computadora ejerce sobre la población radica en la “Biblia”: un diccionario que contiene todas las palabras que pueden usarse, y que la Alpha 40 puede editar a voluntad, creando nuevas palabras y desapareciendo viejas según lojuzgue necesario. La finalidad de estas medidas es erradicar toda conducta “ilógica”, de manera que todas las actividades de la gente puedan ser predecidas y controladas por la computadora. Como dice un funcionario del gobierno de Alphaville, en la ciudad-planeta ya no existe la pregunta ¿por qué?, sino sólo la respuesta porque: no hay misterios, sólo explicaciones y predicciones lógicas.
Sobre este escenario, dentro y fuera de la pantalla, Godard enarbola un discurso amoroso. En la película, Lemmy Caution intenta enseñarle a Natasha Von Braun, la hija del infame científico, el significado del amor y la consciencia; en la vida real, Godard intentaba demostrarle a Ana Karina que su deseo de abandonarlo era prueba de su frivolidad e incapacidad de amar. Haciendo un lado los berrinches de Godard, la película ofrece una lectura muy osada de los efectos de la inteligencia artificial aplicada a la gestión de los asuntos humanos. El mundo en el que actualmente vivimos no es idéntico al de Alphaville, pero tiene similitudes ominosas, e incluso realidades aún más terroríficas.
* * *
El campo de estudios científicos conocido como Inteligencia Artificial (IA) tiene dos ramas principales que se han peleado presupuestos militares y universitarios desde la fundación de la disciplina. Su objetivo, como el de toda la ciencia moderna, es ultimadamente el mismo: la aniquilación de lo humano. Lo que distingue a las dos ramas son las teorías que sostienen sobre cómo llegar más rápido a la meta. Estas escuelas de pensamiento son los “conectivistas” y los “simbolistas”. Para ser claros y justos con sus propios términos, recurro a la definición que Chat GPT hace de cada una:
Escuela conectivista: Enfoque que ve la IA como una red interconectada de unidades simples que generan comportamientos complejos a través de la interacción y adaptación.
Escuela simbolista: Enfoque que considera la IA como la manipulación de símbolos y reglas formales para representar el conocimiento y el razonamiento humano.
En términos más llanos y humanos: la escuela conectivista se inspira en las estructuras del cerebro humano, intentando reproducir las redes de vínculos neuronales en programas y máquinas computacionales; la escuela simbolista, en cambio, se sirve de bases de datos (es decir: de símbolos, de palabras, de todo) para “aprender” la forma en que el conocimiento humano distingue y opera entre los elementos resguardados en estas mismas bases de datos. Conviene decir que, en los últimos años, ambas escuelas de pensamiento han encontrado puntos en común, al grado que modelos de lenguaje como Chat GPT funcionan con una mezcla de ambas aproximaciones.
Las dos aproximaciones, también, están presentes en Alphaville. Como argumenta Brody en la ya mencionada biografía, Godard siempre fue un revolucionario conservador: su utopía ofrece una redención moralista y estética. El Frankenstein electrónico que imaginó, por lo mismo, es un ente que “rebasa las intenciones, capitalistas o comunistas, de oprimir a los individuos a través de la ideología; su objetivo, en cambio, es aumentar la organización natural de su estructura”. La estructura de la computadora de Godard, como aquella de la inteligencia artificial de nuestros días, se basa en aprender del pasado para predecir el futuro: a partir del análisis lógico de los comportamientos almacenados en las bases de datos, la máquina traza los límites estrictos de las posibilidades del futuro. En un momento de la película, Alpha 40 explica su funcionamiento con una horrible voz cavernosa —Godard eligió como narrador a un hombre cuyas cuerdas vocales habían sido destruidas en la guerra y que hablaba con el diafragma. La máquina nos dice que dentro de sí “está toda la memoria del mundo”,lo que le permite controlar el futuro.
En semejante contexto el amor se vuelve subversivo precisamente porque es ilógico e incuantificable. Lo dijo mejor San Agustin: “la medida del amor es amar sin medida”. La película de Godard, así, se adelanta a la crisis actual de las relaciones humanas, a las que las principales corporaciones tecnológicas del mundo ven como campos de información que puede ser codificada, manipulada y eventualmente monetizada. La alienación pesadillesca de la película es un espejo atroz pero lúcido de nuestro presente. Es verdad que no tenemos un equivalente exacto de Alpha 40, pues en el mundo real su tarea se la dividen entre cinco o seis empresas, pero la lógica de la supercomputadora de Godard es claramente identificable en los algoritmos de empresas como Facebook, Google, Amazon y Open AI.
Otra similitud importante es la imagen con la que Godard retrata a Alpha 40: una plano muy cerrado, casi abstracto, de un ventilador a contraluz. La infraestructura física de los servicios etéreos de las empresas de tecnología anteriormente mencionadas consiste en enormes servidores, localizados bajo tierra o en sitios remotos y resguardados por sistemas de seguridad impenetrables, que consumen enormes cantidades de energía y por lo tanto pueden sobrecalentarse, por lo que resulta necesario instalar sistemas de ventilación que controlan su temperatura. Según el periodista Andrew Blum —autor del libro Tubes, en el que hace un viaje por la infraestructura física de la red— estos centros de almacenamiento consumen el dos por ciento de toda la electricidad generada en la tierra. En sus discos duros duerme y transita la totalidad de nuestras vidas: secretos, mensajes, fotos, videos; toda la memoria del universo.
* * *
Las máquinas de hoy en día son tan físicas como las que aplastaron a los campesinos del siglo XIX, pero ahora amenazan no sólo con realizar las más oscuras promesas de la revolución industrial, sino también exceder las advertencias de la ciencia ficción. No es mentira ni secreto que la IA va a terminar con cientos de miles de empleos en prácticamente todas las industrias. Al igual que con la máquina de vapor de Watts, esto no va suceder en un sólo instante —seguramente será un proceso de décadas— pero esto no ameliora sus riesgos. La máquina de vapor fue inventada en 1776 y se fue perfeccionando con extraordinaria rapidez. Sin importar las ventajas específicas que surgieron con la renovación constante de la máquina, la razón central de su disrupción sigue siendo la misma: a partir de su invención, la manufactura humana se hizo independiente de la naturaleza.
El renombrado neoludita Kirkpatrick Sale lo explica perfectamente cuando dice que la máquina de vapor “permitió a las sociedades la producción constante de objetos, convirtiendo las economías orgánicas basadas en el trabajo, el campo y el trueque, en economías mecanizadas basadas en el combustible, la fábrica y el comercio internacional”. Debemos desconfiar de una primera lectura triunfal de estos supuestos avances. Quienes se han beneficiado de la transformación tienen un interés en olvidar la miseria e inutilidad a la que fueron arrojados los trabajadores de Escocia a principios del siglo XIX —los mismos que a la postre se convirtieron en luditas—.
Tal como sucedió entonces, los poderosos de nuestra época han impuesto su revolución tecnológica sobre las sociedades contemporáneas sin consulta alguna, creando nuevas e inmensas zonas de marginación al mismo tiempo que un grupo cada vez más pequeño de neo-industriales informáticos acumula más dinero que nunca. La velocidad y voracidad de esta invasión es mucho mayor que la capacidad de adaptarse de los individuos, mercados y culturas. Así como la Revolución Industrial introdujo avances tecnológicos que construyeron una nueva burguesía y una nueva cultura de consumo encima de las carencias de los desposeídos, las tecnologías de la información que nos rigen hoy en día crean nuevas necesidades materiales y emocionales que terminarán por transformar incluso nuestros más íntimos deseos.
Un ejemplo escalofriante de la capacidad del algoritmo de dar forma a la intimidad de multitudes enteras fue documentado por el periodista Max Fisher en su libro The Chaos Machine. En 2016 Christiane, una habitante de los suburbios de Río de Janeiro, subió a YouTube un video de su hija de nueve años aventándose a la alberca de un hotel durante una vacación de verano, con la intención de poder compartirle la liga al resto de la familia. De allí su sorpresa cuando, al día siguiente, su hija llegó emocionada a mostrarle que el video había sido reproducido varios millones de veces.
Preocupada, Christine contactó a Jonas Kaiser, un investigador universitario que había publicado artículos sobre los peligros de la radicalización en la plataforma de video de Google. A partir del video grabado por Christianne, Kaiser comenzó a investigar el sistema con el que el sitio web decidía qué videos recomendar a cuáles usuarios. El académico descubrió que el algoritmo de YouTube había creado, por sí solo, una comunidad de usuarios interesados en videos de niños. En primera instancia estos videos son inocentes, pero bajo los ojos de un pedófilo se convierten en material erótico y sexualizable. Lo más preocupante del hallazgo, sin embargo, no es la capacidad de la computadora de crear comunidades de potenciales pederastas, si no que, algunos meses después, un grupo de periodistas reportó sobre casos de personas que decían haber comenzado a sentirse atraídos sexualmente por niños después de pasar mucho tiempo en YouTube.
Vemos entonces la capacidad profética de Godard: como Alpha 40 en su filme, las máquinas que hemos construído son ahora capaces de moldear incluso nuestros deseos más secretos.
* * *
En las redes sociales del mundo real, el lenguaje es tan importante como lo es en el mundo ficticio de Alphaville. Los discursos imperantes en internet están construídos sobre la misma manipulación de las palabras que determina las emociones de los ciudadanos de Alphaville en la ficción de Godard. Para comprender hasta qué grado los algoritmos se sirven de la lingüística para generar el tráfico web que enriquece a los accionistas y dueños de las plataformas, vale la pena detenerse un momento en un experimento realizado por el científico estadunidense William Brady en vísperas de la elección de Donald Trump en 2018. Tras analizar millones de tuits, Brady y su equipo encontraron que ciertas palabras específicas llaman la atención de los usuarios más que otras. Lo aterrador es que estas palabras, a las que llamaron moral codewords (palabras-clave morales), provocan sentimientos relacionados con la indignación y el odio.
Para comprobar sus hallazgos, los investigadores presentaron una misma idea fraseada de dos formas distintas a un mismo grupo de personas. La primera frase era: “El veloz zorro marrón saltó sobre el perro perezoso”. La segunda versión era: “El veloz zorro marrón saltó sobre el perro mentiroso”. El cambio de la última palabra, que cargaba a la segunda frase con un juicio moral, tuvo muchísimas más interacciones que la primera. La conclusión es que la discusión en redes sociales, que a su vez da forma a tantas sensibilidades, llega a más personas cuando viene cargada de una condena moral. Al multiplicar estos mensajes por las millones y millones de opiniones vertidas a diario en el internet, el efecto es que la percepción de los usuarios sobre su entorno comienza a cambiar: el afecto predominante se convierte en la indignación constante de quien se asume superior. Sobra decir que ese sentimiento es el requisito básico para cualquier forma de fundamentalismo.
El corolario de todo esto es que la radicalización ideológica o la manipulación de las inclinaciones sexuales no son una consecuencia de un plan macabro de la computadora. Al igual que Alpha 40, que dice haber sido diseñado para alcanzar el bien común de la humanidad a partir del control —la predicción— de las acciones humanas, los patrones de comportamiento que los algoritmos crean en sus usuarios son una consecuencia natural (es decir: accidental) del objetivo central inscrito en su código: maximizar el tiempo que la gente pasa “conectada” para así captar su atención y luego ofrecerla al mejor postor. El negocio central de Google, por ejemplo, consiste en la venta de publicidad personalizada.
La cosa, por supuesto, es que esta capacidad de capturar nuestra atención también puede usarse para fines menos comerciales que ideológicos y políticos. Es ahí donde comienza a dibujarse ante nosotros ya no sólo el fin de nuestros trabajos y formas de vida, sino también de todo aquello que Alpha 40 castiga por ser “ilógico” y que Godard sintetiza con el término “consciencia”: el amor, la locura, la pasión. El comportamiento alienado y predecible que las máquinas nos imponen aniquila la irracionalidad que da vida a nuestros días.
* * *
Los luditas del siglo XIX no eran un movimiento político concreto ni poseían una ideología revolucionaria organizada: no eran bolcheviques, mucho menos zapatistas. Fueron, más bien, una constelación de grupos pequeños que se inspiraron mutuamente, y que adoptaron la clandestinidad como recurso de protección y el seudónimo de “King Ludd” como una especie de broma local, arraigada en el folclor de sus tierras y pueblos. Su furia nunca fue tan pueril como para dirigirse específicamente contra las máquinas. No, los luditas peleaban contra lo que las máquinas representaban: la perversión que lleva a algunos a hacer sufrir a otros para su propio beneficio.
Los golpes que los luditas lograron atestar contra la industria textil de su época, sin embargo, fueron tan significativos que su legado se extiende hasta nuestros días. Algunos historiadores calculan que la destrucción que los luditas desencadenaron costó unas cien mil libras de aquel entonces, suficiente para desencadenar cambios constitucionales y movilizaciones militares sin precedentes. Hoy sabemos que la edad promedio de los Luditas era de menos de 30 años. La secrecía y lealtad que mantuvieron siempre hicieron que por mucho tiempo su movimiento estuviera cubierto por el misterio. Carentes de un discurso teórico sofisticado, su mensaje estaba impreso en las acciones que les unían: organizar a la comunidad para irrumpir de noche, armados de sus herramientas de trabajo, para destruir las máquinas que acababan con sus vidas.
Al final de Alphaville, el héroe destruye a la máquina y escapa con la chica. Es un final irónicamente hollywoodiense y extrañamente feliz en la filmografía de Godard, quien quizá se dejó llevar por el despecho que le produjo el rechazo de Ana Karina. Este final un tanto trillado no tendría importancia sin la escena fundamental de la película, en la que Natasha Von Braun descubre el amor a través de la poesía. Lemmy Caution —el héroe a través del cual Godard le habla a Karina, al mismo persona y personaje— cita un poema que Paul Éluard escribió tras descubrir que su mujer, Gala, le había sido infiel con el pintor Max Ernst:
Tu voz, tus ojos…
Tus manos, tus labios…
Nuestro silencio, nuestras palabras.
La luz que se va, la luz que regresa.
Una sola sonrisa para nosotros dos.
Sin necesidad de saber.
Yo he visto la noche crear el día
sin que nosotros cambiemos de apariencia.
Oh bien amada de todos,
y bien amada de uno solo
en el silencio tu boca
ha prometido ser feliz.
De lejanía en lejanía dice el odio
De cercanía en cercanía dice el amor.
El odio, como la cibernética, nos aleja; el amor, aquel impulso anti-cibernético, nos lastima, nos marca, pero también nos acerca y nos hace inmortales. Es gracias a este descubrimiento que el personaje de Karina decide ayudar a Lemmy a destruir a Alpha 40. Que los dos protagonistas escapen juntos constituye un final romántico que hoy es impensable en una película seria: la poesía ya no tiene cabida en la vida que han creado las máquinas.
Y es que la poesía es la forma de arte más obsoleta de todas: apela a las emociones más íntimas, y la intimidad es lo primero que muere dentro del imperio de la alienación tecnológica. Por eso no debe sorprendernos que, cuando el gobierno inglés hizo lo imposible para acabar con los luditas, uno de los pocos hombres ilustres que salió en defensa de los rebeldes fue Lord Byron. Días después de la sesión del parlamento que cambió la ley para castigar la destrucción de cualquier máquina con la pena de muerte o el exilio a Australia, el poeta escribió:
Those villains, the weaver, are all grown refractory,
Asking some succor for Charity’s sake –
So hang them for breaking a bobbin
’Twill save all governments money and meat:Men are more easily made than machinery –
Stockings fetch better prices than lives-
Gibbets on Sherwood will heighten the scenery,
Showing how commerce, how liberty thrives!Some folks for certain have thought it was shocking,
When famine appeals, and when poverty groans,
That life should be valued at less than a stocking,
And breaking of frames lead to breaking go bones.It should prove so, I trust, by this token,
(And who will refuse to partake in the hope?)
That the frames of the fools may be first to be broken
Who, when asked for a remedy, send down a rope.
Godard, otro poeta, resuelve la trama de Alphaville con un golpe ludita para salvar al amor o, como dice en otro momento de la película, para luchar por “los que lloran”. Y es que el cineasta sabía, como los rebeldes del siglo XIX comprobaron a golpes de martillo y nosotros haríamos bien en recordar, que las máquinas no pueden amar.
Samuel Guadalupe
Ensayista y ludita