Las redes sociales tienen sus zonas oscuras; una de ellas es lo que sucede con los moderadores de contenido de las distintas plataformas: jóvenes que trabajan casi en una maquila, y que se ven expuestos a videos y teorías que, como en una novela de ciencia ficción, deforman su universo. También el nuestro.

No acostumbramos pensar en la gente encargada de “moderar” las redes sociales y otros espacios colectivos de internet. Para muchas personas —sospecho—, quienes trabajan revisando denuncias de contenido en línea y otras tareas semejantes no existen siquiera, o solo se dedican a censurar fotos y videos en los que aparezcan pezones o genitales. Sin embargo, en años recientes las grandes plataformas en línea han sido criticadas por problemas mucho más graves que una imagen indecente: Facebook, Twitter, YouTube, WhatsApp y más recientemente Instagram han sido señalados por la cantidad de contenido tóxico cuya difusión permiten, desde mensajes de odio racial hasta desinformación de todo tipo, con consecuencias que han llegado a la violencia real, lejos de las pantallas. El genocidio en Myanmar, impulsado por incitaciones virales contra la minoría birmana rohingya, o el asesinato de 49 personas en dos mezquitas de Christchurch, Nueva Zelanda, que el propio asesino difundió mediante Facebook Live y “sustentaba” con memes y talking points de derecha racista extrema, son solo dos ejemplos.

La figura del moderador de plataformas sociales: ni policía represor ni guardián de la moral, pero con frecuencia destinado a parecer ambas cosas, es ya uno más de los personajes arquetípicos de nuestro presente digital. En cierto sentido, es una figura trágica, pues probablemente nunca será capaz de resolver todos los problemas implícitos en el hecho de que la comunicación cotidiana de miles de millones de personas dependa de un puñado de empresas estadounidenses, esencialmente sin supervisión, sin otros alicientes que la búsqueda de mayores beneficios económicos, y con modelos de negocio que explotan —monetizan— la atención y la información proporcionada por sus usuarios.

Ilustración: Víctor Solís

El dilema actual de estas empresas es que la mejor manera que han encontrado de impedir que las personas se aparten de sus productos, y de los anuncios que se muestran en ellos, es mantener su interés con información que provoque emociones negativas como la indignación o la ira, y que esté sesgada para reforzar creencias preexistentes y el rechazo de cualquier cuestionamiento o matiz. Peor todavía, ninguno de estos gigantes de Silicon Valley da la impresión de querer cambiar de verdad sus formas de operar. Sus esfuerzos para mejorar su imagen pública incluyen (precisamente) la contratación de más personal que revise sus contenidos y atienda quejas de sus usuarios, pero esos esfuerzos suelen verse como insuficientes y muy en desventaja ante las estratagemas y organización de una gran cantidad de personas y grupos, desde publicistas deshonestos hasta granjas de bots y organizaciones racistas. Otro caso muy reciente lo ilustra.

El pasado 9 de abril, la Cámara de Representantes del gobierno de los Estados Unidos llevó a cabo una audiencia pública sobre organizaciones blancas racistas de extrema derecha en aquel país; la audiencia fue transmitida por YouTube, que ha declarado en repetidas ocasiones que no permite la difusión de discursos extremistas…, y la sección de comentarios de la transmisión se llenó de mensajes de odio contra judíos, musulmanes y demás grupos discriminados abiertamente por extremistas, y de forma no muy encubierta por el presidente Donald Trump y su administración. Los moderadores de YouTube cerraron la recepción de comentarios, pero ya era tarde: a los defensores de las políticas del régimen les quedó únicamente negar que los mensajes “fueran para tanto” o dudar en voz alta que lo que acababa de ocurrir hubiese ocurrido (un ejercicio orwelliano que se volvió frecuente en internet desde principios de este siglo y posteriormente ha pasado a la vida pública, offline, de más de un país).

Las dificultades de los moderadores se ven con más claridad en investigaciones como la del periodista Casey Newton, publicada en el sitio The Verge hace un par de meses, acerca de un equipo de “ejecutivos de proceso” subcontratado por Facebook para revisar publicaciones “cuestionables” como videos de asesinatos y ejecuciones, teorías conspiratorias y memes racistas. El trabajo es, básicamente, una maquila: después de un breve periodo de capacitación, los hombres y mujeres de la empresa, todos jóvenes de edad universitaria, trabajan en espacios de oficina abiertos como los de un call center en los que deben atender cada día alrededor de 300 solicitudes de revisión, obligados a obedecer criterios editoriales inconsistentes y cambiantes, desconocedores del contexto (¡y hasta del idioma!) de muchas publicaciones, amenazados con penalizaciones por retrasos y resignados a recibir poca atención a su bienestar emocional ante los contenidos más perturbadores que se les asignan. Intentan protegerse de lo peor que aparece en sus pantallas fumando marihuana, contando chistes nihilistas o buscando fugaces relaciones sexuales. Sus pagas están algunos dólares por encima del salario mínimo, e incluyen pocos o ningún beneficio de los que gozan los empleados de Facebook (la subcontratación es una de las formas en que la empresa de Mark Zuckerberg ahorra dinero para mantener sus elevados márgenes de ganancia). La mayoría de los moderadores termina por “quemarse” luego de un tiempo y se marcha de la empresa, a veces con secuelas similares a las del síndrome de estrés postraumático.

La parte más inquietante del reportaje es la que se refiere a otro daño que produce el contacto reiterado con lo peor de la información engañosa, violenta, a veces enloquecida, que se publica en Facebook. Varios de los moderadores se contagian: según Casey, en la oficina visitada por él había un supervisor terraplanista —convencido de que la Tierra es plana— empeñado en predicar su nueva fe a sus subordinados; otro se había convertido a las teorías conspiratorias según las cuales los atentados del 11 de septiembre de 2001 fueron obra del propio gobierno estadounidense, y otro más era un negacionista del Holocausto. La exposición reiterada a lo que debían evaluar y “moderar” objetivamente los había afectado como a otros dos personajes arquetípicos: la presa ignorante de los engaños en línea y el recluta joven y fanático de un grupo radical, pero sin que ellos encajaran por completo en los perfiles de esos arquetipos, es decir, sin que fueran necesariamente personas de escasa educación, poca capacidad crítica o pobre conocimiento del manejo de internet y otras herramientas digitales. Lo único que todos tienen en común es que son víctimas, cada uno a su manera, de la anomia contemporánea, producida por las diferentes formas de explotación de los regímenes neoliberales.

No es muy alentador darse cuenta de que los propios guardianes de la mente colectiva de la red, que desde muchos puntos de vista podría juzgarse enloquecida, enloquecen también.

Esta vulnerabilidad, sin embargo, así como el impulso colectivo hacia la locura y (en ocasiones) hacia la destrucción, tiene precedentes en la historia y en la literatura. Para examinar situaciones como la descrita, y nuestras opciones ante un panorama en el que la codicia de las compañías tecnológicas probablemente seguirá como hasta ahora mientras diferentes poderes fácticos puedan seguir aprovechándola, haríamos bien en (re)leer novelas como Rascacielos (High-Rise, 1975) de J. G. Ballard, en la que los inquilinos de un “edificio inteligente”, enfrentados a los fallos de tecnología ineficaz y propietarios sin escrúpulos, descienden poco a poco hacia el salvajismo y terminan en una guerra literal, de todos contra todos, por ocupar los pisos más altos y obtener recursos cada vez más escasos. Ballard no tuvo que imaginar la llegada de internet para vislumbrar cómo el avance de la tecnología podría hacer retornar los impulsos más bestiales que el racionalismo había creído poder eliminar, como se ve en este pasaje revelador:

Mientras más árida y carente de afectos se volvía la vida en el rascacielos, mayores posibilidades ofrecía. Por su propia eficiencia, el rascacielos se apoderó de la tarea de mantener el orden social que soportaba a [sus habitantes]. Por primera vez, el edificio removía la necesidad de suprimir cualquier clase de comportamiento antisocial y los dejaba libres para explorar cualquier impulso desviado o descarriado. Era precisamente en estas áreas donde los aspectos más importantes e interesantes de sus vidas tendrían lugar. Seguros dentro de la coraza del rascacielos, como pasajeros a bordo de un avión automáticamente pilotado, eran libres de comportarse de cualquier modo que desearan, de explorar los rincones más oscuros que pudieran encontrar. De muchas maneras, el rascacielos era un modelo de todo lo que la tecnología había hecho para hacer posible la expresión de una psicopatología verdaderamente libre.

Otra obra, menos conocida, que también puede iluminar la cuestión, es una novela corta La solución contra el gusano barrenador (The Screwfly Solution, 1977) escrita por la narradora estadounidense Alice Sheldon. De las más notables autoras de ciencia ficción del siglo XX, Sheldon es recordada como James Tiptree Jr., su seudónimo habitual, y por su claro interés en el feminismo, pero La solución… apareció bajo otro nombre supuesto: Raccoona Sheldon, que ella empleó para narraciones más contestatarias que el resto de su producción.

El argumento de la novela de Sheldon fue, probablemente, estrambótico en el momento de su publicación; ahora parece profetizar el más delirante fanatismo misógino que se puede encontrar en internet. La humanidad se precipita a su propia extinción, nada menos, a causa de una epidemia global de feminicidios, racionalizada por los hombres que cometen los crímenes como una orden de Dios. La nueva iglesia masculina desata una guerra global; unos pocos investigadores descubren que todo ocurre a causa de una sustancia misteriosa que se dispersa por la atmósfera y afecta a los hombres transformando su impulso sexual en un impulso homicida, pero para entonces ya es tarde:

Muy cuidadosamente, [Alan] se permitió pensar en su vida con Anne, su sexualidad. Sí: mucho de su juego amoroso podía verse como salvajismo genitalizado, sexualmente suavizado. Juego/depredación… Apartó deprisa su pensamiento. Recordó una frase de un escritor: “El elemento del pánico es todo sexo” […] La violación de la distancia social, tal vez; otro elemento amenazador. Sea como fuere, ese es nuestro eslabón más débil, pensó. Nuestra vulnerabilidad… La horrible sensación de justicia que había experimentado al encontrarse con el cuchillo en la mano, fantaseando con violencia, regresó a él. Como si aquella fuera la forma correcta, la única. ¿Eso era lo que las orugas  [rociadas con un compuesto que alteraba su conducta] sentían al copular con sus hembras por el extremo equivocado?

Poco después se dio cuenta de que tenía necesidad y buscó un baño. El lugar estaba vacío, excepto por lo que le pareció una pila de ropas bloqueando la puerta del excusado del fondo. Entonces vio el charco rojo y pardo en el que estaba la pila, y los montes azulosos de dos nalgas desnudas, escasas. Se echó hacia atrás, sin respirar, y huyó hacia la multitud más cercana, sabiendo que no era el primero en hacerlo.

Por supuesto. Cualquier impulso sexual. También muchachos, y hombres.

La conclusión es irónica y cruel del mismo modo que buena parte de los memes contemporáneos: poco antes de que muera la última mujer, se descubre que una civilización extraterrestre es la responsable de dispersar el compuesto enloquecedor, para eliminar a la especie humana como los humanos eliminan al gusano barrenador y a otras plagas: alterando su comportamiento para evitar que se reproduzcan. Los hombres en el mundo de Raccoona Sheldon son incapaces de ver más allá de sus instintos e intentar sondear peligros que no comprenden. ¿Seremos mejores que ellos?

 

Alberto Chimal
Entre sus obras destacan la novela La torre y el jardín y los libros de cuentos Manos de lumbre, Los atacantes, Estos son los días y Gente del mundo.

Leer completo