El plan del Reino Unido de negar a los terroristas “espacios seguros” en línea nos haría menos seguros a largo plazo – The Conversation #Hackeaelsistema

por Molly Land

A raíz de los recientes ataques en Manchester y Londres, la primera ministra británica, Theresa May, ha pedido a las empresas de redes sociales que eliminen los “espacios seguros” en línea para la ideología extremista. A pesar de haber perdido la mayoría en las recientes elecciones, está avanzando con planes para regular las comunicaciones en línea, en cooperación con el recién elegido presidente francés Emmanuel Macron.

La declaración de May es sólo una de las varias iniciativas dirigidas a “limpiar” Internet. Otros incluyen la propuesta de Alemania para multar a las empresas de redes sociales que no eliminan los contenidos ilegales y el llamamiento del Procurador General de Australia para leyes que exigen a las empresas de Internet para descifrar las comunicaciones a petición.

Es comprensible querer hacer algo – cualquier cosa – para ayudar a restaurar una sensación perdida de seguridad. Pero como abogado de derechos humanos que ha estudiado la intersección de los derechos humanos y la tecnología durante los últimos 10 años, creo que la propuesta de May y otros como ella son extremadamente preocupantes. Ellos asumen erróneamente que eliminar el odio en línea y el extremismo reduciría la violencia en el mundo real. Al mismo tiempo, estos esfuerzos pondrían en peligro más que proteger al público al restringir las libertades civiles en línea para todos. Es más, podrían implicar la entrega de funciones clave del gobierno a empresas privadas.

Debilitar la seguridad para todos

Algunos políticos han sugerido que las empresas de tecnología deben construir “puertas traseras” en las comunicaciones cifradas, para permitir el acceso de la policía. Pero los atacantes decididos simplemente recurrirán a las aplicaciones sin puertas traseras.

Y las puertas traseras inevitablemente reducirían la seguridad en línea de todos. Socavar el cifrado nos dejaría a todos más vulnerables a la piratería informática, el robo de identidad y el fraude. Como el activista de tecnología Cory Doctorow ha explicado: “No hay puerta trasera que permita a los buenos pasar por ella”.

¿Los daños del discurso?

La declaración de May también refleja un deseo más amplio de prevenir la llamada “radicalización en línea“, en la que se cree que los individuos conectan en línea con ideas que les llevan a desarrollar puntos de vista extremos y luego, en última instancia, a tomar medidas.

El concepto es engañoso. Sólo estamos empezando a entender más acerca de las condiciones bajo las cuales el discurso en general, y en particular el discurso en línea, pueden incitar a la violencia. Pero la evidencia que tenemos indica que el discurso en línea desempeña un papel limitado. La gente se radicaliza a través de encuentros y relaciones cara a cara. Los medios de comunicación social pueden ser utilizados para identificar personas abiertas a la persuasión, o para reforzar las creencias preexistentes de la gente. Pero ver la propaganda no nos convierte en terroristas.

Si no está claro que eliminar el discurso extremo o odioso de Internet ayudará a combatir la violencia fuera de línea, ¿por qué tantos gobiernos de todo el mundo están presionando por ello? En gran parte, es porque somos más conscientes de este contenido que nunca antes. Es en las mismas plataformas que utilizamos para intercambiar fotos de nuestros niños y nuestros gatos, lo que ejerce presión sobre políticos y políticos para que parezcan estar “haciendo algo” contra el terrorismo.

Censura excesiva

Incluso si la propaganda en línea juega un papel mínimo en incitar a la violencia, existe un argumento de que los gobiernos deben tomar todas las medidas posibles para mantenernos a salvo. Una vez más, es importante considerar los costos. Cualquier esfuerzo para eliminar sólo el contenido “extremista” está destinado a afectar un montón de discurso protegido también. Esto es en parte porque lo que algunos ven como extremismo puede ser visto por otros como disidencia política legítima.

Además, exactamente el mismo material podría significar cosas diferentes en diferentes contextos, material utilizado para provocar el odio también podría ser utilizado para discutir los efectos de esos mensajes odiosos. Esta es también la razón por la cual no es probable que tengamos una solución tecnológica a este problema en el corto plazo. Aunque el trabajo está en marcha para tratar de desarrollar algoritmos que ayuden a las empresas de redes sociales a identificar el discurso peligroso, estos esfuerzos están en las primeras etapas, y no está claro que un filtro podría hacer estas distinciones.

Los riesgos de la censura privada

Tratar de eliminar contenido extremista en línea también puede implicar una amplia delegación de autoridad pública a empresas privadas. Si las empresas se enfrentan a consecuencias legales por no eliminar el contenido ofensivo, es probable que se inclinen por el lado de la censura. Eso es contrario al interés público de la censura limitada por la libertad de expresión.

Además, dar a las empresas privadas el poder de regular el discurso público reduce nuestra capacidad de responsabilizar a los censores por sus decisiones, o incluso de saber que se están haciendo estas elecciones y por qué. Proteger la seguridad nacional es una responsabilidad estatal, no una tarea para las empresas privadas.

Si los gobiernos quieren ordenar que las empresas eliminen el contenido, esa es una decisión de política pública. Pero la idea de May de delegar este trabajo en Facebook o en Google significa transferir la responsabilidad de la regulación del discurso a entidades que no son responsables ante las personas que están tratando de proteger. Este es un riesgo para el estado de derecho  que debería preocuparnos a todos.

El camino a seguir

Hay, por supuesto, material en línea que causa problemas en el mundo real. Los trabajadores encargados de revisar el contenido marcado pueden hacer daño a su salud mental al ver contenido violento, obsceno y perturbador todos los días. Y los crímenes de odio en línea pueden tener impactos extraordinarios en la vida real de la gente. Necesitamos desarrollar mejores respuestas a estas amenazas, pero debemos hacerlo cuidadosamente y cuidadosamente, para preservar la libertad de expresión y otros derechos humanos.

Una cosa es cierta: un nuevo tratado internacional no es la respuesta. En su declaración del 4 de junio, May también pidió a los países crear un nuevo tratado para contrarrestar la propagación del extremismo en línea. Eso es simplemente una invitación a censurar el discurso en línea, incluso más que algunas naciones ya lo hacen. Las naciones no necesitan incentivos adicionales ni apoyo internacional para agredir a los disidentes.

Los tratados de derechos humanos, como el Pacto Internacional de Derechos Civiles y Políticos, ya proporcionan una base sólida para equilibrar la libertad de expresión, la privacidad y la regulación de los contenidos nocivos en línea. Estos tratados reconocen los intereses legítimos del Estado en la protección de los individuos frente al discurso perjudicial, siempre y cuando esos esfuerzos sean lícitos y proporcionales.

En lugar de centrarnos en el hombre de paja de la “radicalización en línea”, necesitamos una discusión honesta sobre los daños del discurso en línea, los límites de la censura estatal y el papel de las empresas privadas. Simplemente cambiar la responsabilidad de las empresas de Internet para averiguar esto sería el peor de todos los mundos posibles.

This entry was posted in Artículos, DD.HH., Sociedad, Tecnología. Bookmark the permalink.

Deja un comentario