Intoxicados: ¿Qué hacer ante los discursos de odio?

Las redes sociales potencian los discursos de odio porque los capitalizan: contenidos “intensos” atraen más atención y esto se traduce en permanencia en los sitios y monetización. En este ensayo, los autores indagan cómo estos discursos operan en la esfera digital y por qué todas las iniciativas locales que intentan regularlos parecen estar condenadas al fracaso. ¿Qué hacer entonces? Pocas soluciones pero una gran sospecha: ninguna revolución emancipadora será parida por Mark Zuckerberg o Elon Musk.

Por Micaela Cuesta y Ramiro Parodi*

Toda iniciativa local respecto a qué hacer con los discursos de odio (DDO) que proliferan en la esfera pública digital parecen condenados al fracaso. Los debates tienden a anular los dilemas que conlleva: la pregunta por su causa da lugar a prejuicios mecanicistas; la denuncia inmediata de atentar contra la libertad de expresión reproduce acríticamente un dogma liberal; el énfasis en la prepotencia del Estado no permite ver la del mercado. En este triángulo de las bermudas se extravía la perspectiva histórica y la mirada crítica.

Intoxicados

La idea según la cual los DDO en las redes sociales (RRSS) “intoxican” la democracia es tan falaz como su contraria: la creencia de que es la democracia la que está intoxicada y los DDO no hacen más que reflejarlo en las RRSS. El equívoco se halla en la formulación. La pregunta por el origen (o por la causa) puede ser una buena pregunta metafísica, pero es una mala pregunta sociológica. Asumamos una premisa: interacciones cara a cara (marcadas por la co-presencia) se someten a normas de distinta índole que las mediadas por la virtualidad y por una no co-presencia o una co-presencia difusa. Siendo irreductibles las redes sociales a lo que sucede en “el mundo de la vida”, lo que habría que pensar es en qué grado aquello que ocurre en las redes sociales está habilitado por algo que la excede y en qué medida los principios que orientan las acciones en las redes performan con efectos subjetivantes otras prácticas.

Detengámonos en los DDO que circulan en el espacio público digital: ¿son meros ecos de odios asentados en prejuicios sociales más o menos históricos? O, por el contrario, ¿las rrss dan rienda suelta a la expresión de DDO como forma de canalizar frustraciones que, de no volcarse, podrían tener consecuencias aún más nocivas en “el mundo real”? Para quienes sostienen esta segunda hipótesis las rrss cumplirían una función social de descarga libidinal que de obturarse encontraría causes menos recomendables. Una pregunta intermedia podría echar luz sobre esto: asumiendo que existen, antes de la aparición de las rrss, odios y prejuicios sociales qué novedad aportan las rrss en sus formas de configuración, de circulación y también de producción.

Si bien la fábrica de DDO no es exclusiva de las rrss sabemos que ellas muchas veces los propician porque los capitalizan: está probado que contenidos “intensos” atraen la atención y esa atención se traduce en mayor permanencia en el sitio lo cual redunda en monetización a través de la publicidad y de la extracción del dato. Sin ser reflejo mecánico de la sociedad ni producción unilateral e intencionada de los propietarios de las rrss algo ocurre en esa “entre” que debe ser indagado. ¿Cómo trabajan en esa interface compleja los DDO?

Asumamos otra premisa: si afirmamos que las rrss no hacen más que “reproducir” contenidos odiantes producidos en otro lado restamos la dimensión activa y productiva de la reproducción sostenida por la tradición crítica y por el feminismo en particular. El desafío es reflexionar en esa dialéctica de la red entre reflejo y performatividad. Sortear la tentación de la identificación plena entre “vida digital” y “vida real” tanto como su más absoluta y radical distinción podría conducirnos a indagar la novedad y especificidad de esas modalidades de aparición de los odios sociales en las rrss así como su relativa autonomía. Se trata, luego, de interrogar sus lenguajes, sus configuraciones, sus objetos privilegiados y los escenarios en que son convocados. Hacia ellos dirigimos nuestra atención desde el LEDA registrando enunciados, verbos perlocucionarios, objetos de odio e intensidades sin perder de vista una hipótesis sedimentada: la afinidad electiva entre neoliberalismo y subjetividades autoritarias.

Un primer hallazgo es elocuente: quienes son objeto de odio según nuestro registro se parecen, por ahora, bastante a lo que ocurre en nuestra sociedad. La mayoría son mujeres (patriarcalismo), le siguen funcionarios/identidades políticas (antipolítica) y, muy de cerca, “delincuentes/chorros” (punitivismo). Más novedosas son, en cambio, las “escenas” que convocan la producción/circulación de DDO: se trata de publicaciones de usuarios autorizados (por el número de seguidores y el protagonismo público) que funcionan como disparadores o catalizadores de frustraciones traccionadas por corrientes ideológicas vernáculas: securitarismo/punitivismo, patriarcalismo, antipolítica, pánico moral. Una invitación a volcar unpopulars opinions habilitadas por un estatuto paradojal del anonimato: quien interpela no es anónimo y lo hace desde una invitación/provocación “neutral” (aunque no políticamente correcta) y quién responde a la provocación busca, muchas veces, descargar allí lo que no puede en o por otros medios (y miedos). Los tópicos de esas escenas evocan -por lo general de modos elusivos- problemáticas con tradición: chorrxs-migrantes-planerxs-políticxs-putas-corruptxs-negrxs en distintas combinaciones y en diferentes proporciones. En las rrss estas son traducidas, es decir, desplazadas, tergiversadas, pocas veces desmentidas o rebatidas.

Las “escenas de odio” también pueden tomar la forma del escrache. Quizás esta sea una práctica propia del “entre” al que ya referimos. Los escraches en redes sociales se sobreimprimen sobre prejuicios históricos (contra las mujeres, minorías o identidades políticas) pero se individualizan a través del amedrentamiento a un nombre propio (se publican datos de su vida privada como el lugar dónde trabaja, a qué se dedica y qué lugares visitó). Los escraches en redes sociales son distintos a los que no ocurren allí. Podríamos encontrar un análogo en la performance Rhythm0 que Marina Abramović llevó a cabo en Nápoles en 1974. Ella se ofrecía como objeto para que cualquier transeúnte dispusiera de alguno de los 72 utensilios expuestos en una mesa para usar sobre ella. A diferencia de Rhythm0 donde se encontraban desde navajas hasta algodones o uvas aquí encontramos enunciados que tramas ensañamientos, amenazas, insultos, descalificaciones, incitaciones a la violencia. Una bacanal de crueldad.

El mercado de ideas engorda al algoritmo

La consolidación y extensión del uso de internet fue acompañado por la promesa y la ilusión de que a través suyo iba a democratizarse no sólo el acceso a la información sino también la expresión de una pluralidad de voces. A ella se asociaba además la pacificación de las relaciones sociales en virtud de una deconstrucción de prejuicios facilitada por esa fuente de saber de la que todos beberíamos para calmar los mares de la ignorancia que traen la discriminación y la violencia.

Y algo de esa fantasía opera aún hoy en el imaginario de los usuarios de las rrss. No son pocos los que dicen preferir esta vía para informarse atendiendo a una presunta “libertad” de elección, atención y consumo no contaminada ni tutelada por intereses sociales, económicos y/o políticos. La posibilidad de acceder en tiempo real y de primera mano a informaciones, acontecimientos y/o experiencias encierra todavía un mágico encanto. La autonomía del sujeto presupuesta en la filosofía y la política se realiza y fragua en las rrss.

La inmediatez, velocidad y versatilidad que parece caracterizarlas invisibilizaría lo que ellas tienen de mediado, conservador y rígido. En efecto, la lógica algorítmica no puede romper marras con los sesgos sociales que a través suyo se reproducen (y, en simultáneo, valorizan). La orientación de la atención, la elección y el consumo gestionada por la razón algorítmica tiende a nutrir disposiciones de autoafirmación. Así, lejos de alentar modos de la sospecha, la autorreflexión y la crítica, consigue las más de las veces favorecer la autocomplacencia y el conformismo que tantas semejanzas encuentra con el (auto)flagelo. Presa de las formas del prejuicio histórico social las rrss no salen indemnes de la reelaboración de lo peor de la sociedad.

La defensa de la circulación irrestricta de expresiones en rrss -más allá de su contenido- suele hacerse en nombre de ese dogma liberal que afirma que en la concurrencia de ideas se perfecciona y vence el mejor argumento. No obstante, la gramática del algoritmo desbarata esta ilusión en la medida que ofrece argumentos a quienes ya tienen evidencias. Más que ampliar las posibilidades argumentativas, las reglas del juego que los usuarios reconocen en las rrss, hacen caso omiso de expresiones odiantes, ofensivas, agresivas. Las razones para “dejar correr” DDO, según nuestros datos, pueden variar: no alimentar el narcisismo del sujeto enunciador, dejar que ese trabajo lo haga la propia empresa, no tomar en serio el mensaje porque en las redes todo es “memificable”.

Lo cierto es que más allá de las intenciones pretendidas o supuestas entre quienes contribuyen a la circulación (producción y distribución) de esta especie de discursos, el saldo suele ser el traspaso de un umbral donde cualquier cosa puede decirse porque casi nada ya tiene sentido ni importa. La tendencia al vaciamiento de significantes caros a la democracia: libertad, igualdad, derecho, justicia, autoridad, contribuye a paso lento pero seguro al socavamiento de categorías arruinadas por décadas de hegemonía neoliberal.

La pacificación no llega y la virulencia de los intercambios se acrecienta al tiempo que se denuncia una susceptibilidad extrema. Los usuarios ubican elementos de una relación paradojal: por un lado, las redes sociales son espacios de libertad y transparencia (distintos a los medios tradicionales a quienes se los acusa de “bajar línea”); por el otro, “ya no se puede decir nada” porque la red te censura. Entre la crítica a un supuesto estado de hipersensibilidad y la creencia de que es posible decir cualquier cosa porque, tautología mediante, “así es Twitter” o “es gracioso”, lo cierto es que los discursos de odio avanzan ante un mecanismo de censura de la propia red que está lejos de ser eficaz.

Del pacto a la regulación (ya existente)

La reticencia a intervenir sobre los DDO en la esfera pública digital se hace eco no sólo del principio del mercado de ideas, sino también de una idea liberal de democracia según la cual regular ciertos usos públicos de la palabra debilitaría a la propia democracia. Desde distintas perspectivas teóricas se han señalado los puntos ciegos de este planteo: las exclusiones siempre ya activas asociadas a la raza, el género, la clase. Pero hay otras que, apelando a la misma lengua de la democracia liberal subrayan el estatuto controversial o paradójico de la primera enmienda: qué hacer cuándo la libertad de expresión atenta no ya contra el derecho a la igualdad de trato del sujeto individual o colectivo afectado, sino también contra la libertad de expresión de ese otrx al que se está inhibiendo en su derecho o silenciando a partir de acciones (discursivas).

Quizás sea oportuno recordar que en aquellos países de Occidente de amplia trayectoria liberal democrática como Francia y Alemania ya existen leyes que regulan discursos de odio en redes sociales. De hecho, Argentina adhirió al Pacto por la Información y la Democracia cuyo documento clave enlaza el problema de los discursos de odio con el de la desinformación en tanto problemáticas que reclaman políticas públicas. El documento sugiere “regulación pública” y “meta-regulación” para que las redes sociales devengan ambientes menos hostiles. Entre las primeras encontramos “requisitos de transparencia”, “procesos democráticos de supervisión y auditoría”, “sanciones de incumplimiento”. Si esa es la responsabilidad estatal, a las empresas también les corresponde cierto compromiso regulatorio. El documento indica que deberían “seguir un conjunto de principios de derechos humanos para la moderación de contenido basados ​​en el derecho internacional de los derechos humanos”, “Las plataformas deben asumir el mismo tipo de obligaciones en términos de pluralismo que los radiodifusores tienen en las diferentes jurisdicciones donde operan” y “Las plataformas deberían ampliar el número de moderadores y gastar un porcentaje mínimo de sus ingresos para mejorar la calidad de la revisión del contenido y, en particular, en países de riesgo”. La propia ONU invita en 2019 a todos los países comprometidos con valores democráticos a comenzar a hacerlo.

El supuesto es que los DDO que circulan en las rrss afectan no sólo el derecho a la igualdad de trato sino también a la libertad de expresión de las personas y colectivos sociales agraviados, fragilizando procesos de democratización siempre en curso y, desde hace unas décadas, amenazados por el aumento de discursos autoritarios más o menos de derecha.

Una sospecha tan antigua como internet comienza a ganar fuerza: ninguna revolución emancipadora será parida por Zuckerberg o Elon Musk.

 * Laboratorio de Estudios sobre Democracia y Autoritarismos (LEDA-UNSAM). Arte: Alina Najlis. Fuente: Revista Anfibia (revistaanfibia.com).

www.prensared.org.ar

V: 390 T: 902065