Después de años de descontento creciente, los problemas de moderación de las plataformas sociales están comenzando a llegar al resultado final. Durante la semana pasada, Facebook ha estado luchando por contener un boicot de anunciantes en crecimiento, que ha visto a grandes corporaciones como Unilever, Diageo y Coca-Cola rechazar cualquier anuncio en la plataforma durante el resto del año.
El lunes, el pánico se extendió a otras plataformas. Reddit prohibió una variedad de subreddits, incluida la notoria comunidad / r / the_donald, como parte de una nueva política contra el odio basado en la identidad . YouTube prohibió a los supremacistas blancos Richard Spencer y David Duke, junto con sus organizaciones afiliadas. En Twitch, el presidente Trump fue temporalmente prohibido después de que los discursos de retransmisión se señalaran como incitantes al odio racial.
La mayoría de estas prohibiciones y políticas tardaron mucho en llegar, pero hay una razón por la que todas golpearon a la vez. Durante meses, una coalición de grupos civiles, incluidos Color of Change, Sleeping Giants y NAACP, ha estado presionando a los anunciantes para que retiren el apoyo a las plataformas que permiten que el odio racial se extienda sin moderación. Llamada #StopHateForProfit , la campaña se centró inicialmente en Facebook, pero ha crecido para enfocarse en las redes sociales en general durante un movimiento global contra la violencia policial racista.
The Verge habló con Jade Magnus Ogunnaike, subdirector principal de campaña de Color of Change, sobre lo que la campaña quiere de las compañías tecnológicas y cómo pueden prepararse para el largo plazo.
Esta entrevista ha sido ligeramente editada para mayor claridad.
Hasta ahora, #StopHateForProfit ha estado presionando principalmente para que los anunciantes abandonen Facebook, en particular. Pero el lunes, vimos muchos otros movimientos de moderación que parecían relacionados con esa campaña, dejando caer a prominentes supremacistas blancos como Richard Spencer y David Duke. ¿Ves eso como resultado del éxito de la campaña reciente?
Conectaría mucho a las demandas que tuvimos mucho antes de #StopHateForProfit. Hemos estado presionando a Twitter para echar a Trump de la plataforma desde 2018 porque lo usa para difundir la violencia y el odio. Y es lo mismo en / r / the_donald subreddit. Hay muchos otros que también fueron derribados ayer. Esto lleva a consecuencias del mundo real para los negros y las comunidades marginadas. Entonces nos reunimos con el CEO de Reddit como parte de nuestra coalición para discutir sus políticas. Todavía necesitamos detalles completos sobre cómo Reddit está interactuando con esto y cuál es su estructura de moderación real. Tampoco hemos visto ningún documento interno. Pero su nueva política es un gran paso para que un estándar importante de la comunidad de redes sociales rechace el odio en línea a través de una lente de derechos civiles.
El gran problema en general, y es un problema con Facebook, Twitter, Reddit y Twitch, es cómo construir la infraestructura para hacer esto todo el tiempo. Puede realizar estos pequeños cambios, eliminar subreddits o poner una etiqueta en los tweets de Donald Trump, pero hasta que estas plataformas de redes sociales realmente tengan infraestructura de derechos civiles y personal capacitado para evaluar los productos y el contenido en busca de sesgos y discriminación, continuarán para ver estos problemas una y otra vez.
Así que creemos que Twitch es un gran comienzo. Twitch es la primera plataforma en patear al presidente. Reddit está haciendo algunos buenos pasos. Pero lo que es realmente importante es que tenemos esta infraestructura de derechos civiles en su lugar y tenemos personas que están realmente capacitadas para mirar productos y contenido y encontrar las mejores formas de hacerlos seguros para las comunidades negras y marginadas.
Tengo curiosidad por saber qué diría sobre una empresa como Facebook, que ha participado en auditorías de derechos civiles y tiene este grupo de trabajo de derechos civiles en torno a las próximas elecciones en los Estados Unidos, pero no parece estar mejorando en estos temas.
Entonces tienes razón. Facebook ha realizado auditorías de derechos civiles, lo que hizo a instancias de Color of Change y otras organizaciones de derechos civiles. Creo que los resultados se publicarán pronto, pero no se han publicado.
Pero para una empresa en esa posición, no necesitamos un grupo de trabajo. Lo que necesitamos son ejecutivos de nivel C-suite con experiencia en derechos civiles para evaluar las formas en que las políticas y los productos relacionados con la discriminación, los prejuicios y el odio están afectando a los usuarios. Necesitamos una persona que se dedique a garantizar que las decisiones de diseño de la plataforma tengan en cuenta el impacto que están teniendo en las comunidades marginadas y el potencial de radicalización y odio.
También debo señalar que el grupo de trabajo de Facebook no es personal dedicado. El grupo de trabajo dedicado a la elección. Pero el 4 de noviembre, ese grupo de trabajo habrá terminado. Y sabemos que el odio en Facebook va a impactar a los negros mucho después de que terminen las elecciones de 2020.
Como dijo Sleeping Giants ayer , los grupos de derechos civiles literalmente han estado pidiendo algunas de estas prohibiciones durante años. Entonces, ¿por qué está sucediendo ahora, todo a la vez?
Creo que estamos en un momento decisivo para la justicia racial. Puede atribuirlo a varios eventos diferentes. Parte de esto se debe a la forma en que el gobierno nos ha fallado y las corporaciones nos han fallado a raíz del coronavirus. Pero también, vimos a Eric Garner. Vimos a Sandra Bland. Vimos a Michael Brown. Los organizadores negros en el movimiento han estado empujando nuestra cultura a este punto. Hace seis años, cuando mataron a Michael Brown, no verías a McDonald's diciendo que Black Lives Matter. Fue una declaración radical. Y el crédito va completamente a los organizadores del movimiento que han llevado la cultura al punto en el que ya no podemos ignorar los asesinatos policiales y vigilantes de personas negras.
Por supuesto, las corporaciones aún tienen un largo camino por recorrer. Al decir "Black Lives Matter" es genial, nos gusta la declaración, pero es totalmente simbólico cuando los trabajadores negros son despedidos por hablar sobre el racismo, o corporaciones como Facebook se niegan a invertir en infraestructura de derechos civiles, o cuando Twitter permite que Trump incite a la violencia contra los manifestantes por hablar Socavan su declaración con sus acciones reales, y de eso se trata la campaña #StopHateForProfit.
Una de las inquietudes que escucho sobre la desplantación desde la izquierda es que está construyendo un libro de jugadas que podría usarse contra activistas. En este momento, Color of Change está presionando a Facebook para deshacerse de los grupos nacionalistas blancos. Pero entonces, ¿estás preocupado, algunos años después, algún grupo de derecha podría usar este mismo enfoque para prohibir los grupos de Black Lives Matter?
Cuando hablamos de la deformación, buscamos intencionalmente grupos y contenido que inciten a la violencia y perjudiquen a las personas. Entonces miras algo como Unite the Right en Charlottesville hace dos años. Hubo una marcha masiva de supremacistas blancos alrededor de estos monumentos confederados, y al día siguiente, una mujer fue literalmente asesinada. Por lo tanto, no buscamos eliminar a las personas que simplemente tienen opiniones diferentes. Estamos buscando eliminar información que es dañina. Y eso podría ser información errónea de la vacuna o conspiraciones violentas como Pizzagate que terminan enviando personas a la pizzería y disparando. Estas no son solo personas con opiniones diferentes. Estas son personas que son violentas y tienen la intención de causar daño a otras personas.
Richard Spencer realmente encarna el simple cambio de marca de la supremacía blanca. La mayoría de las personas pueden entender por qué no querrías que alguien en una campana de KKK difunda información violenta en tu plataforma. Eso tiene mucho sentido para la mayoría de las personas porque la capucha es tan simbólica del odio, el terrorismo y la violencia. Pero debido a que Richard Spencer tiene una camisa abotonada, zapatos duros y cabello gelificado, de repente, se vuelve no amenazante, y nos alienta a mirar a ambos lados del problema. En realidad, está presionando el mismo odio y desinformación que empuja el KKK. Simplemente se renombró en una nueva salida.
También quiero señalar que los organizadores negros ya están siendo destituidos constantemente en Twitter y Facebook y otros espacios de redes sociales. Los organizadores negros que dicen "por favor no nos maten" o "desbancar a la policía" a menudo se moderan más que los supremacistas blancos reales diciendo que los negros son genéticamente inferiores. Así que no creo que sea una comparación adecuada en absoluto.
¿A dónde crees que va el movimiento desde aquí? ¿Qué deben hacer las empresas para tratar de solucionar estos problemas a largo plazo?
No hay una solución rápida. Y es por eso que las empresas se apresuran a hacer lo simbólico. Sabes, eliminamos algunos subreddits o lanzamos una declaración. Es un gran paso, pero no hay soluciones rápidas para la intersección del racismo y el capitalismo. No hay soluciones rápidas para compañías como Reddit que han estado inmersas en la cultura racista desde el principio. No podemos simplemente animar las cosas rápidas. Las empresas deben someterse a auditorías de derechos civiles. Deben analizar cómo se manifiesta el racismo y la discriminación en todos los niveles de la empresa.
No hay nada que pueda hacer para arreglar el racismo en su empresa o afirmar que las vidas negras importan. Lo que realmente tiene que suceder es que las empresas tienen que comprometerse con un salario digno para todos sus empleados, y luego deben invertir en auditorías de derechos civiles y llevarlo a cabo paso a paso para implementar esos cambios. Por mucho que los negros deseen que podamos chasquear los dedos y hacer que las empresas afirmen vidas negras, no solo en la muerte sino también en la vida, eso simplemente no va a suceder. Las empresas tienen que estar allí a largo plazo.