Gigantes de la tecnología en el punto de mira de medidas enérgicas contra el contenido dañino

El envío de mensajes "genuinamente amenazantes" o "falsos a sabiendas" se encuentran entre los nuevos delitos que se agregan a las leyes de seguridad en línea propuestas.

Si se aprueba, el proyecto de ley de seguridad en línea del gobierno podría hacer que las redes sociales sean multadas con el 10% de su facturación global si no eliminan el contenido dañino.

Los cambios significan que también tendrán que eliminar proactivamente el contenido dañino.

El proyecto de ley también cubre la pornografía vengativa, la trata de personas, el extremismo y la promoción del suicidio en línea.

Ya indicó que los sitios web, como Facebook y Twitter, que albergan contenido generado por los usuarios tendrían que eliminar rápidamente el contenido ilegal una vez que se les informara.

Ahora también tendrán que implementar medidas proactivas para detener la actividad ilegal.

El tema se ha convertido recientemente en un tema de conversación con elabuso racista de los futbolistas , la pornografía de venganza y el ciberflashing , y la desinformación de Covid se destacó como preocupaciones clave de seguridad que las empresas de redes sociales deben abordar.

La secretaria de Cultura, Nadine Dorries, instó a las plataformas en línea a comenzar a hacer los cambios ahora, antes de que el proyecto de ley entre en vigor.

En declaraciones a BBC Breakfast, dijo: "Pueden comenzar a hacer lo que deben hacer para eliminar esos algoritmos dañinos y eliminar gran parte del daño que causan, particularmente a los jóvenes y a la sociedad en general".

El ministro agregó que la medida "mantendría los pies en el fuego" de las compañías de redes sociales que han "dañado vidas" y las haría rendir cuentas por primera vez.

Judy Thomas, cuya hija Frankie se quitó la vida a los 15 años en septiembre de 2018, dijo que la tableta y la computadora de su escuela se habían utilizado para acceder a material angustiante en las horas y meses antes de su muerte.

Ella le dijo al programa Today de BBC Radio 4: "En enero, febrero, marzo [2018] había estado accediendo, en la escuela, a sitios horrendos".

La Sra. Thomas pidió una verificación de edad obligatoria para proteger a los niños en línea y dijo que todos los sitios web deberían incluirse en el alcance del proyecto de ley, en lugar de solo las plataformas más grandes.

"Necesitamos asegurarnos de que los jóvenes simplemente no puedan acceder a los daños en línea, y que si las empresas hacen algo incorrecto… que haya un precio real que pagar", dijo.

La Sra. Thomas agregó que estas sanciones no deben ser solo financieras, ya que muchas empresas podrían "absorberlas fácilmente", sino que los jefes de estas empresas también deben ser "responsables".

Las grandes empresas de tecnología dicen que dan la bienvenida a la "claridad" que trae el proyecto de ley de seguridad en línea y que reconocen la necesidad de una regulación.

En muchos casos, no han esperado a que los gobiernos intervengan y han invertido en tecnología como el aprendizaje automático para identificar contenido dañino a escala.

Sin embargo, mientras muchos dicen que el proyecto de ley no va lo suficientemente lejos, las empresas de redes sociales señalan problemas de libertad de expresión.

Dicen que quieren asegurarse de que las nuevas reglas no restrinjan el acceso de las personas a la información al hacer que las empresas "moderen en exceso" eliminando demasiado contenido, para cumplir con ellas.

El amplio alcance del proyecto de ley de seguridad en línea significa que siempre tendrá sus críticos.

Pero los expertos subrayan que su introducción será nada menos que una revolución en la forma en que se vigila el mundo en línea, y significará que será un lugar muy diferente para la próxima generación.

Cuando se le preguntó sobre la verificación de edad, Dorries dijo que el gobierno estaba analizando la idea, pero dijo que había un "desventaja" en exigir que todos los niños verificaran su edad para acceder a Internet.

"Y los jóvenes van a internet para ir de compras, ya sabes, de ropa. ¿Debemos asegurarnos de que verifiquen su edad cuando hacen eso?", agregó.

El gobierno confirmó que los delitos que se agregaron a la lista de delitos prioritarios, que deben ser eliminados por las plataformas según los cambios, incluyen:

Anteriormente, las empresas solo se veían obligadas a eliminar estas publicaciones después de que se denunciaran, pero ahora se les exigirá que sean proactivas para evitar que las personas las vean en primer lugar.

El gobierno dijo que nombrar estos delitos también permitió a Ofcom, el regulador propuesto, tomar medidas más rápidas.

Los cambios se producen después de que tres informes separados de comités parlamentarios advirtieran que el proyecto de ley requería fortalecimiento y más claridad para las empresas de tecnología.

Además, se han añadido al proyecto de ley tres nuevos tipos penales.

El primero es enviar "comunicaciones genuinamente amenazantes", como una amenaza de violación, muerte o daño financiero, o comportamiento coercitivo y controlador y acoso en línea.

Enviar "comunicaciones dañinas", como que un abusador doméstico le envíe a una expareja una fotografía de la puerta de su casa para asustarla, es la segunda. Sin embargo, el contenido ofensivo sin la intención de causar una angustia grave no sería ilegal.

El nuevo delito final es "comunicaciones falsas a sabiendas", que cubriría mensajes enviados deliberadamente para causar daño, como una amenaza de bomba falsa.

El gobierno dijo que el proyecto de ley no prohibiría la "información errónea", como una publicación en las redes sociales que promoviera una cura falsa para el coronavirus, siempre que quienes la difundieran no supieran que lo que estaban diciendo era falso.

Si usted o alguien que conoce se siente emocionalmente angustiado, la información sobre dónde puede obtener apoyo está disponible en la línea de acción de la BBC aquí .

¿Se ha visto afectado por mensajes dañinos en línea? Cuéntenos su historia por correo electrónico: [email protected] .

Incluya un número de contacto si está dispuesto a hablar con un periodista de la BBC. También puede ponerse en contacto de las siguientes maneras: