Artículos

Por qué el modelo de negocio de gigantes de las redes sociales como Facebook es incompatible con los derechos humanos

por Sarah Joseph

Facebook ha tenido unas semanas malas. El gigante de los medios sociales tuvo que disculparse por no proteger los datos personales de millones de usuarios del acceso a la empresa de minería de datos Cambridge Analytica. La indignación se cierne sobre su admisión de espiar a la gente a través de sus teléfonos Android. El precio de sus acciones se desplomó, mientras que millones de personas borraron sus cuentas con disgusto.

Facebook también se ha enfrentado al escrutinio de su incapacidad para impedir la difusión de “noticias falsas” en sus plataformas, incluso a través de un aparente esfuerzo propagandístico ruso orquestado para influir en las elecciones presidenciales estadounidenses de 2016.

Las acciones (o inacciones) de Facebook facilitaron las violaciones de la privacidad y los derechos humanos asociados con la gobernanza democrática. Pero puede ser que su modelo de negocio – y los de sus pares de medios sociales en general – sea simplemente incompatible con los derechos humanos.

Lo bueno

De alguna manera, los medios sociales han sido una bendición para los derechos humanos – más obviamente para la libertad de expresión.

Anteriormente, el llamado “mercado de las ideas” estaba técnicamente disponible para todos (en los países “libres”), pero en realidad estaba dominado por las élites. Aunque todos podían ejercer por igual el derecho a la libertad de expresión, carecíamos de igual voz. Los porteros, especialmente en la forma de los medios de comunicación dominantes, controlaban en gran medida la conversación.

Pero hoy en día, cualquier persona con acceso a Internet puede transmitir información y opiniones a todo el mundo. Aunque no todo será escuchado, los medios sociales están expandiendo los límites de lo que se dice y se recibe en público. El mercado de las ideas debe ser más grande, más amplio y más diverso.

Los medios sociales mejoran la eficacia de los movimientos políticos no dominantes, las asambleas públicas y las manifestaciones, especialmente en países que ejercen un control estricto sobre los derechos civiles y políticos, o que tienen fuentes de noticias muy pobres.

Los medios sociales desempeñaron un papel importante en la coordinación de las protestas masivas que derribaron las dictaduras en Túnez y Egipto, así como las grandes revueltas en España, Grecia, Israel, Corea del Sur y el movimiento Occupy. Más recientemente, ha facilitado el rápido crecimiento de los movimientos #MeToo y #neveragain, entre otros.

Lo malo y lo feo

Pero las máquinas de “libertad de expresión” de los medios sociales pueden crear dificultades en materia de derechos humanos. Esas voces recién empoderadas no son necesariamente voces deseables.

Las Naciones Unidas descubrieron recientemente que Facebook había sido una importante plataforma para propagar el odio contra los rohingya en Myanmar, lo que a su vez condujo a la limpieza étnica y a crímenes de lesa humanidad.

El sitio para compartir videos YouTube parece guiar automáticamente a los espectadores a las versiones más raras de lo que podrían estar buscando. Una búsqueda sobre el vegetarianismo podría llevar al veganismo; correr a ultramaratones; la popularidad de Donald Trump a los discursos de la supremacía blanca; y Hillary Clinton al trutherism del 11 de septiembre.

YouTube, a través de los impactos naturales y probablemente involuntarios de su algoritmo, “puede ser uno de los instrumentos de radicalización más poderosos del siglo XXI”, con todos los abusos de los derechos humanos que podrían derivarse de ello.

El modelo de negocio y los derechos humanos

Los abusos contra los derechos humanos podrían estar arraigados en el modelo empresarial que ha evolucionado para las empresas de medios sociales en su segunda década.

Esencialmente, estos modelos se basan en la recogida y uso con fines de marketing de los datos de sus usuarios. Y los datos que tienen son extraordinarios en su capacidad de elaboración de perfiles, y en la consiguiente base de conocimientos sin precedentes y el poder potencial que otorga a estos actores privados.

La influencia política indirecta es ejercida comúnmente, incluso en las democracias más creíbles, por organismos privados como las grandes corporaciones. Este poder puede verse parcialmente limitado por “leyes antimonopolio” que promueven la competencia y evitan el dominio indebido del mercado.

Las medidas antimonopolio podrían utilizarse, por ejemplo, para colgar Instagram de Facebook o YouTube de Google. Pero el poder de estas empresas se debe esencialmente al mero número de usuarios: a finales de 2017, Facebook tenía más de 2.200 millones de usuarios activos. Las medidas antimonopolio no pretenden limitar el número de clientes de una empresa, a diferencia de sus adquisiciones.

Poder a través del conocimiento

En 2010, Facebook llevó a cabo un experimento desplegando aleatoriamente un botón no partidista “Voté” en 61 millones de canales durante las elecciones de mitad de período en Estados Unidos. Esa simple acción condujo a 340,000 votos más, o cerca del 0.14% de la población votante de los Estados Unidos. Este número puede cambiar una elección. Una muestra más grande conduciría a aún más votos.

Así que Facebook sabe cómo desplegar el botón para influir en una elección, lo que sería claramente lamentable. Sin embargo, la mera posesión de ese conocimiento hace de Facebook un actor político. Ahora sabe que ese botón es el impacto político, los tipos de personas que es probable que motive, y el partido que se ve favorecido por su despliegue y no despliegue, y en qué momentos del día.

Puede parecer intrínsecamente incompatible con la democracia que ese conocimiento se confiera a un organismo privado. Sin embargo, la retención de estos datos es la esencia de la capacidad de Facebook para ganar dinero y gestionar un negocio viable.

Microobjetivo o Micro-targeting

Un estudio ha demostrado que una computadora sabe más sobre la personalidad de una persona que sus amigos o compañeros de piso a partir de un análisis de 70 “likes”, y más que su familia a partir de 150 likes. A partir de 300 likes puede superar a su cónyuge.

Esto permite el micro-targeting de personas para mensajes de marketing – si esos mensajes comercializan un producto, un partido político o una causa. Este es el producto de Facebook, del cual genera miles de millones de dólares. Permite una publicidad extremadamente eficaz y la manipulación de sus usuarios. Esto es así incluso sin los métodos turbios de Cambridge Analytica.

La publicidad es manipuladora: ese es su punto. Sin embargo, es difícil etiquetar toda la publicidad como una violación de los derechos humanos.

La publicidad está disponible para todos con los medios para pagar. El microobjetivo de los medios sociales se ha convertido en otro campo de batalla en el que el dinero se utiliza para atraer clientes y, en el ámbito político, influir y movilizar a los votantes.

Si bien la influencia del dinero en la política es omnipresente – y probablemente inherentemente antidemocrática – parece poco probable que gastar dinero en desplegar medios sociales para impulsar un mensaje electoral sea más una violación de los derechos humanos que otros usos políticos abiertos del dinero.

Sin embargo, la extraordinaria escala y precisión de su alcance manipulador podría justificar un tratamiento diferencial de los medios sociales en comparación con otros tipos de publicidad, ya que sus efectos políticos manipuladores podrían socavar las opciones democráticas.

Al igual que en el caso de la recopilación masiva de datos, tal vez se pueda llegar a la conclusión de que ese alcance es simplemente incompatible con los derechos humanos y democráticos.

“Noticias falsas”

Por último, está la cuestión de la difusión de la desinformación.

Aunque la publicidad pagada no puede violar los derechos humanos, las “noticias falsas” distorsionan y envenenan el debate democrático. Una cosa es que millones de votantes se vean influenciados por mensajes precisamente dirigidos a los medios sociales, y otra cosa es que mensajes maliciosamente falsos influyan y manipulen a millones, ya sea que se paguen o no.

En una Declaración sobre Noticias Falsas, varios expertos en derechos humanos de la ONU y de la región dijeron que las noticias falsas interferían con el derecho a conocer y recibir información – parte del derecho general a la libertad de expresión.

Su difusión masiva también puede distorsionar el derecho a participar en los asuntos públicos. Rusia y Cambridge Analytica (asumiendo que las acusaciones en ambos casos son ciertas) han demostrado cómo los medios sociales pueden ser “usarse como arma” de manera imprevista.

Sin embargo, es difícil saber cómo las compañías de medios sociales deben lidiar con las noticias falsas. La supresión de noticias falsas es la supresión del habla – un derecho humano en sí mismo.

La solución preferida esbozada en la Declaración sobre noticias falsas es desarrollar la tecnología y la alfabetización digital para que los lectores puedan identificar más fácilmente las noticias falsas. La comunidad de derechos humanos parece confiar en que la proliferación de noticias falsas en el mercado de las ideas puede corregirse con mejores ideas en lugar de con censura.

Sin embargo, uno no puede ser complaciente al asumir que un “mejor discurso” triunfa sobre noticias falsas. Un estudio reciente concluyó que las noticias falsas en los medios sociales:

… se difunden significativamente más lejos, más rápido, más profundo y más ampliamente que la verdad en todas las categorías de información.

Además, los “bots” de Internet aparentemente difunden noticias verdaderas y falsas al mismo ritmo, lo que indica que:

… las noticias falsas se difunden más que la verdad porque los humanos, y no los robots, son más propensos a difundirlas.

La verdad deprimente puede ser que la naturaleza humana se sienta atraída por historias falsas sobre las verdaderas más mundanas, a menudo porque satisfacen prejuicios, prejuicios y deseos predeterminados. Y los medios de comunicación social ahora facilitan su propagación a un grado sin precedentes.

Tal vez el propósito de los medios de comunicación social -la publicación y el intercambio de discursos- no puede dejar de generar un mercado distorsionado y contaminado de ideas falsas que socavan el debate y las opciones políticas, y tal vez los derechos humanos.

¿Y ahora qué?

Es prematuro afirmar que la recogida masiva de datos es irreconciliable con el derecho a la intimidad (e incluso con los derechos relacionados con la gobernanza democrática).

Del mismo modo, es prematuro decidir que el microtargeting manipula la esfera política más allá de los límites de los derechos humanos democráticos.

Finalmente, puede ser que una mejor tecnología del habla y correctiva ayude a deshacer los impactos negativos de las noticias falsas: es prematuro asumir que tales soluciones no funcionarán.

Sin embargo, para cuando se llegue a tales conclusiones, puede ser demasiado tarde para hacer mucho al respecto. Puede ser un ejemplo en el que la regulación gubernamental y el derecho internacional de los derechos humanos -e incluso la perspicacia y la pericia en materia de negocios- estén demasiado rezagadas con respecto a los avances tecnológicos como para apreciar sus peligros en materia de derechos humanos.

Como mínimo, ahora debemos cuestionar seriamente los modelos de negocio que han surgido de las plataformas de medios sociales dominantes. Tal vez Internet debería ser reconectado desde la base, en lugar de ser dirigido por las necesidades empresariales de los oligarcas digitales.