COMENTARIO
X
Stream de historia
Artículos Recientes
En el período previo a la manifestación March for Life de la semana pasada, Twitter generó controversia por censurar al menos dos tweets pro-vida diferentes, incluido uno del representante Matt Gaetz, enmascarándolos de la vista con una advertencia de "contenido sensible". Después de la protesta resultante, la compañía siguió el libro de jugadas ahora estándar de culpar al "error" algorítmico y eliminó las advertencias. Aún así, Twitter se niega a proporcionar detalles adicionales sobre cómo ocurrió el error. A medida que las plataformas de redes sociales se conviertan cada vez más en los "espacios públicos" a través de los cuales se produce el debate democrático, los errores y los prejuicios involuntarios de sus cajas negras de moderación tendrán un impacto cada vez mayor en el debate democrático.
Hoy vivimos en un mundo en el que Twitter proclama abiertamente su derecho a eliminar los tweets presidenciales oficiales con los que no está de acuerdo. Facebook bloquea los partidos políticos elegidos a nivel nacional que considera "odioso" y ha ido tan lejos como intervenir silenciosamente en una elección nacional para someter a las publicaciones que apoyan a un partido a un escrutinio especial.
Un pequeño número de compañías privadas ahora tienen la máxima autoridad sobre lo que se nos permite ver y decir en línea y pueden intervenir a voluntad en el discurso político, considerando cualquier punto de vista con el que no estén de acuerdo como "inaceptable" y eliminando todas las menciones al respecto. El mundo, cualquier voz, no importa cuán marginada o odiosa, puede hablar libremente en un espacio público, un legado de la creencia de los Fundadores de que el flujo libre de ideas forma la base de la democracia. Sin embargo, la Primera Enmienda no se aplica en el ciberespacio. Los "espacios públicos" digitales en los que se producen nuestros debates sociales son en realidad propiedad privada, propiedad de un pequeño grupo de fundadores ideológicamente homogéneos de Silicon Valley que son libres de establecer sus propias reglas para el discurso dentro de sus jardines amurallados.
A medida que las sociedades de todo el mundo se vuelven cada vez más diversas y divergentes en sus creencias, se hace cada vez más difícil diseñar un único conjunto de reglas de discurso con las que toda la sociedad pueda estar de acuerdo. ¿Es frenar la inmigración ilegal una cuestión de política legítima o debería prohibirse como "discurso de odio"?
Detrás de todas estas acciones hay ejércitos de moderadores humanos y algorítmicos que controlan la conversación global, sus instrucciones secretas y sus decisiones finales. Cuando cometen errores o sus decisiones generan controversia, las empresas no tienen la obligación de proporcionar al público más detalles sobre lo que sucedió específicamente.
En el caso de los tweets de March for Life, un portavoz de Twitter confirmó que un error algorítmico provocó que los tweets se marcaran como contenido confidencial, pero se negó a proporcionar más información. Cuando se le preguntó por qué la compañía creía que el público no tenía derecho a más información sobre qué específicamente sobre los tweets activaron el algoritmo, el portavoz dijo que la compañía no tenía más comentarios.
Del mismo modo, cuando se le preguntó el año pasado por qué Facebook creía que era aceptable para él determinar qué tipo de discurso y creencias políticas eran permisibles en su plataforma, en lugar de dejar esas decisiones a los tribunales y gobiernos elegidos democráticamente, o para proporcionar más detalles sobre sus errores , la compañía ofreció que "son definitivamente preguntas importantes" pero que no tenía más comentarios.
A pesar de su apariencia de imparcialidad, los humanos diseñan algoritmos que construyen sus propios prejuicios y creencias en su creación. ¿Podrían los tweets de Marcha por la vida haber sido marcados por un algoritmo que fue entrenado deliberada o inadvertidamente para reconocer el discurso antiaborto como un discurso sensible? ¿Qué otros temas están a solo un tuit de ser censurados incorrectamente? Sin una mayor transparencia de Silicon Valley, simplemente no tenemos idea.
Lo más importante, ¿cómo aseguramos la diversidad ideológica en estos sistemas de moderación, especialmente cuando sus creadores tienden a inclinarse fuertemente hacia un lado del espectro político?
Al final, a medida que un puñado de plataformas sociales se convierten cada vez más en las plazas públicas de facto a través de las cuales las sociedades debaten sus problemas más importantes, el libre flujo de información que sustenta la democracia misma a veces se ve bloqueado por censores no electos e inexplicables que imponen sus propias creencias a todos de la sociedad. Orwell estaría orgulloso.
