En memoria de Juana Gutiérrez Haces
El pasado 20 de marzo Eliot Higgins publicó en su cuenta de Twitter una serie de imágenes generadas a través de una plataforma de inteligencia artificial (IA): Midjourney. El propio Higgins dirige otro portal llamado Bellingcat (por la expresión en inglés “belling the cat”, ponerle el cascabel al gato), que se dedica a hacer investigaciones periodísticas utilizando herramientas de internet. Las imágenes que publicó muestran un evento que no ocurrió: el arresto violento de Donald Trump por la policía de Nueva York, al expresidente llorando en su juicio y al mismo personaje en su vida cotidiana en una prisión estadunidense. Higgins dejó bastante claro de qué se trataba desde la primera imagen, añadiéndole un texto en inglés que decía: “Haciendo imágenes de Trump siendo arrestado mientras espero que Trump sea arrestado”. Esto es: deseoso de que el gran jurado fincara cargos penales al empresario y político —lo que finalmente ocurrió—, Higgins se puso a jugar para ver qué pasaba con la nueva herramienta digital. Como resultado de estos acontecimientos fue bloqueado de la plataforma Midjourney y se desató una tolvanera de lamentaciones por la muerte de la verdad.1
La IA ha sido noticia, tema de análisis y escándalo de las últimas semanas. Ha logrado atraer la atención del “público” (una noción en decadencia) hacia una prensa que no ha logrado reformular su lugar frente a los discursos compartidos de la red mundial y que se encuentra de manera crónica al borde de la quiebra financiera, además de ética. Los programas que escriben, hablan y pintan han podido competir brevemente con el divorcio de Shakira, los vestidos de Ángela Aguilar y los preparativos para la coronación de Carlos III. Lo mismo que esos relevantes asuntos, que hoy ocupan la mitad o más de los portales de noticias (a los que seguimos llamando “periódicos”), es notorio que muchas notas sobre los chatbots de IA fueron redactadas con la ayuda de algún tipo de software para argumentar, pues su estructura es siempre idéntica: un exordio que explica el tema general para párvulos de preprimaria, un breve relato sobre el incidente/declaración/hallazgo/escándalo que motiva la nota (casi siempre con insertos de fotos o mensajes en sitios como Twitter o Instagram) y una declaración final de la persona protagonista, o bien la picante observación de que hasta ahora no ha declarado nada. Es un despropósito llamar “inteligencia artificial” a ese método para atraer clics de los lectores. Sí es artificial, pero no es inteligencia.
La diferencia entre la verdad y la mentira no está en riesgo, o no más que de costumbre. En cambio, las nuevas herramientas amenazan los empleos concretos de reporteros y editorialistas, un deterioro iniciado de tiempo atrás en las secciones deportivas. Como el inolvidable Mago Septién, la IA puede redactar un relato bastante aceptable a partir de tres o cuatro datos de un evento deportivo. La prensa mexicana se encuentra en una situación particularmente vulnerable porque, pese a la transición democrática, no se transformó completamente para apoyarse en el periodismo de investigación. Los pocos espacios mexicanos comprometidos con la búsqueda de información son objeto de amenazas cada vez más graves y violentas. Otra dificultad muy grave es que el periodismo con mayor aceptación no es el que expone los hechos, sino el que reitera los prejuicios. No es el campo cívico definido por Manuel Buendía, Julio Scherer y Carlos Payán, sino el sistema monótono y pedante de Lord Molécula.
Pero entendamos que un programa de cómputo sólo puede administrar lo previsible. Si algunas de esas herramientas están ocupando con velocidad ciertas formas de discurso público, incluso de argumentación académica, se debe precisamente a lo previsible de sus argumentos. En un ciberespacio organizado para darle a cada consumidor unas cuantas palabras que reconforten sus prejuicios y justifiquen su cólera, la IA es un recurso que se sobrepone a los escritores humanos, cuya disciplina ante la línea editorial siempre fue rezongona e imperfecta.
Éste no es un problema especialmente novedoso. Desde Aristóteles sabemos que la retórica es una máquina para construir argumentos públicos que tiene, sin embargo, la perturbadora capacidad de demostrar proposiciones contradictorias, siempre y cuando se ajusten a sus protocolos. La preceptiva clásica buscaba que los discursos se ajustaran a convenciones que garantizaban su validez, pero sólo por excepción incurrían en las apologías descaradas de la mentira por encargo. La retórica era una técnica. Distinta de la ética y de la lógica, no le correspondía establecer la bondad o veracidad de los discursos, sino su posibilidad; pero de ahí no podía concluirse —como tampoco se podría ahora— que el bien y la verdad fueran objetivos indiferentes. Le correspondía a cada orador encontrar el justo medio para que su argumentación, necesariamente ajustada a las arbitrarias reglas del discurso público, fuera verdadera. La Ilustración denunció esa pedagogía tradicional y propició transformaciones en distintos saberes que llevaron a la valoración de los datos empíricos por encima de los preceptos. Pero como lo propuso Michel Foucault en Las palabras y las cosas, esta ruptura de la continuidad entre la lengua y el mundo llevó a la autonomía de formas de conocimiento bastante especializadas, como la economía y la lingüística. En esto hay una paradoja, porque esos pequeños sistemas de argumentación se volvieron, al final del camino, todavía más impermeables a los hechos empíricamente demostrables que la vieja preceptiva aristotélica: comenzó la era de las “ideologías”.2
Parece que el final de la Guerra Fría no trajo el fin de las ideologías, como se pensó en los años ochenta, sino su expansión a través del mercado. En todo el mundo, y no sólo en México, están siendo destruidos los fatigosos reglamentos y chocantes normas que le ponían límites a la proliferación de noticias sin fundamento, a las campañas políticas con recursos públicos y desmedido financiamiento privado y a los discursos de odio. El tamaño del negocio se puso en evidencia con la cifra inimaginable que pagó Fox News por sus mentiras en las elecciones de Estados Unidos.3 Las nuevas reglas para construir la discusión quedan establecidas en una transmisión de esa cadena en la que Tucker Carlson asegura que los tacos son un guiso estadunidense: “No, ¿a qué te refieres con “su comida”? ¡Es una comida americana! ¿Qué piensas, que los tacos son de ustedes o algo así? Adoro esto: ¡Es tan loco! […] No te vas a apropiar de mi cultura. Hombre, soy de San Diego. Esos son mis tacos. Son míos”.4 Por delirante que haya sido el desahogo, el locutor hablaba en nombre del decoro periodístico y la exactitud de los datos. Lo que fundamentaba su pretensión no era alguna forma razonable de verificación externa, y por eso mismo indeseable, sino la memoria personal y su afecto por los tacos.
Loco y todo, es un discurso organizado. Lo que defiende es una forma simplista, pero popular, de entender la conciencia individual frente a las pretensiones imperialistas que le atribuye a los locutores hispanos, que a su juicio quieren robarle a los estadunidenses la autoría del nenepil, el buche y el suadero. La repetición de todos esos lugares comunes (yo, mi infancia, mi ciudad, mis costumbres) es lo que organiza el discurso, la información misma no tiene relación con su validez social. Noam Chomsky ha señalado que el problema de los chatbots es que producen “lo mismo verdades que falsedades, apoyando igualmente decisiones éticas y no éticas”.5 La tecnología se reduce a replicar un sistema retórico en el que la ética y la objetividad deben subordinarse a las emociones.
* * *
Pero ¿qué hay de la imagen? ¿Acaso la IA no pone en riesgo nuestra relación con lo visible y, en esa medida, con la verdad? ¿Podremos volver a confiar en que una imagen fotográfica es el mero registro de que, como aseguraba Barthes, “esto ha sido”? Esa visión fenomenológica de lo fotográfico ha sido muy productiva, pero la perspectiva histórica permite enriquecer nuestra comprensión. Con las imágenes pasa algo semejante que con las palabras: jamás fueron construcciones meramente empíricas, azarosas o inocentes. No es ninguna novedad que puedan manipularse con fines de propaganda. Las formas de modificación de las imágenes nacieron prácticamente con la propia técnica fotográfica. La posibilidad de usar las imágenes para engañar sí aumentó con los nuevos medios para la edición de la imagen, que en efecto pueden ser difíciles de detectar. Pero la modernidad tecnológica no inventó la mentira y esta última, para ser eficaz, necesita ser convincente, aceptable o empática. Lo mismo que los discursos verbales, para ser convincentes las imágenes recurren a convenciones del discurso: formas de organización de la imagen y figuras recurrentes. La repetición de los esquemas y las figuras consolida su valor simbólico y permite que sean interpretables. Los discursos verbales pueden redactarse a través de una máquina electrónica porque la retórica que les da sentido ya era una máquina, si bien conceptual, para organizar los argumentos. Pasa lo mismo con las imágenes: los sistemas digitales pueden construir imágenes apoyadas en convenciones y reglas que no son nuevas.
Un buen ejemplo son las famosas, y sin duda gratas, fotos falsas del arresto de Donald Trump por la policía de Nueva York. Esas imágenes tienen un autor —y no es una máquina: Eliot Higgins—, que las describió para que una herramienta de inteligencia artificial las produjera; es el director y fundador de una organización dedicada al periodismo de investigación. No lo hizo para engañar al público, sino para entender qué tan eficaz era la herramienta. La larga cadena de mensajes de Twitter donde las publicó tiene anotaciones como la siguiente: “Algunas cosas de las que me di cuenta cuando generé estas imágenes. Midjourney es bueno para entender acciones simples, pero acciones un poco más complejas y oscuras llevan a resultados raros”. También las ordenó para jugar y, sobre todo, para darse ese gusto. ¿A quién no le gustaría darle un par de indicaciones a una página de internet para borrar a un odioso?
Una observación incluso descuidada de esas imágenes permite detectar patrones bastante convencionales. Esto era previsible. El “episodio” es un evento significativo que forma parte de un relato más amplio. Se apoya en severas convenciones de representación del espacio (como la perspectiva y el claroscuro), así como gestos, posturas y acciones codificadas culturalmente y por eso mismo legibles. Y es que las escenas del improbable arresto de Trump reelaboran y recombinan imágenes y composiciones famosas, concretas, identificables. Se trata de obras que se utilizaban como modelos para la pintura narrativa mucho antes de que hubiera computadoras y que ya se habían adecuado a otros cambios tecnológicos. Por ejemplo, puede compararse sus esquemas compositivos con algunas obras de Rafael, el artista italiano del renacimiento: las estancias vaticanas y los cartones para los tapices de la capilla Sixtina, además un cuadro menos famoso, pero emulado por las academias de arte durante los cuatro siglos siguientes La deposición de Cristo. Durante siglos, los artistas académicos fueron entrenados para organizar los episodios en la pintura de historia siguiendo las reglas aristotélicas de aquellas obras: unidad de tiempo, acción y lugar. Proliferó aún más al final del siglo XIX, cuando otros adelantos tecnológicos popularizaron un sólido mercado para la ilustración comercial. Aunque el arte de vanguardia abandonó ese modelo académico, este último se multiplicó en la cultura visual de las sociedades capitalistas e industriales. Incluso algunas caricaturas de José Guadalupe Posada emulan los cartones de Rafael.
La imagen de Trump levantado en vilo de las piernas y axilas por unos fortachones uniformados se parece en su composición a La deposición. No es la única. Otra más, en la que de manera deliciosa y reconfortante, aunque falsa, Donald Trump huye despavorido hacia el espectador, hacia fuera de la imagen, repite la disposición de un grabado de Marcantonio Raimondi, también basado en un dibujo de Rafael: La masacre de los inocentes. El rostro iracundo de Melania Trump remite a distintas formas de representar las emociones que fueron codificadas por el pintor académico Charles LeBrun en el siglo XVIII. No todas las referencias son así de academicistas. Una serie bastante larga que muestra a Trump en prisión con un uniforme más anaranjado que su pelo, y luego escapando hacia un McDonald’s, parece evocar la popular serie de televisión Orange Is the New Black. Como dijo Megan Garber en The Atlantic: “El elemento crucial de las imágenes no es el hecho de que sean engañosas. Es que son melodramáticas. Presentan el arresto imaginado de Trump en términos cinematográficos máximos: la lucha, la huida, la caída”.6 Se ha discutido mucho en qué medida la persistencia de la significación puede explicarse por las meras convenciones, o bien debería atribuirse a tipos o principios metafísicos que trascienden la historicidad de la imagen. Que un programa de computadora pueda repetir esos conocidos esquemas de una manera tan rutinaria es un argumento a favor de su carácter convencional. La manera de articular la acción con el tiempo y el espacio se ha vuelto absolutamente predecible, y si transmite el fulgor de la “realidad” es porque se atiene a reglas muy conservadoras de representación. Las computadoras, la IA, son aristotélicas. Son la venganza de Aristóteles.
Las fotocomposiciones de IA causaron furor porque le dieron forma a un deseo. No podría decirse “esto ha sido”, sino “esto me gustaría”. Quien las celebra y consume, lo mismo que los suscriptores de canales de propaganda, los lectores de diferentes periódicos, de opuestos editorialistas y comentaristas, ya saben lo que quieren escuchar, leer y ver. Las expresiones escritas o visuales que se atienen a formas de expresión tiesas, reglamentadas y convencionales no han sido difíciles de imitar. Más que lamentar la muerte de la verdad, valdría la pena preguntarse por el agotamiento de formas retóricas cuya repetición evidencia un considerable empobrecimiento de la argumentación pública, mal disimulado bajo obsoletos modelos de discurso e imagen. Son los nuevos sermones barrocos para un mundo de absolutismos crecientes.
Renato González Mello
Investigador del Instituto de Investigaciones Estéticas de la UNAM y miembro de la Academia de Artes
1 Higgins, E. [@EliotHiggins]. “Meanwhile, in AI Trump world”, Twitter, 21 de marzo de 2023. https://t.co/8pzeIZws0k. Stanley-Becker, I., y Nix, N. “Fake images of Trump arrest show ‘giant step’ for AI’s disruptive power”, The Washington Post, 22 de marzo de 2023. Lajka, A., y Marcelo, P. “Fake AI images of Putin, Trump being arrested spread online”, PBS News Online, 23 de marzo de 2023.
2 Foucault, M. Las palabras y las cosas: una arqueología de las ciencias humanas, Siglo XXI, Madrid, 2010.
3 Folkenflik, D., y Yang, M. “Fox News settles blockbuster defamation lawsuit with Dominion Voting Systems”, NPR, 18 de abril de 2023.
4 Mazza, E. “Tucker Carlson’s Taco Tantrum: ‘It’s An American Food! … Those Are My Tacos. Mine!’”, HuffPost, 17 de agosto de 2018.
5 Chomsky, N. “The False Promise of ChatGPT”, The New York Times, 8 de marzo de 2023.
6 Garber, M. “The Trump AI Deepfakes Had an Unintended Side Effect”, The Atlantic, 24 de marzo de 2023.