Artículos

La datacracia no es democracia

Hay una carrera mundial por el control de los datos, que son el combustible de la nueva economía. Del petróleo al dato. De lo fósil o lo digital. La cantidad de datos que la humanidad genera por día es inabarcable -incomprensible por inimaginable- para los humanos y su crecimiento sigue una curva exponencial sin límites aparentes. Si añadimos el escenario de los datos generados por la Inteligencia Artificial, podremos intuir que esta carrera competitiva, que emprenden los gobiernos y las empresas transnacionales, no ha hecho nada más que empezar. Los datos y su creación, gestión, comercialización y transformación son la base del nuevo poder económico… y político, tal vez el más potente que hemos conocido.

El objetivo es predecir

Nuestras huellas digitales son cada vez más profundas y extensas: nuestras búsquedas en Google, nuestras conversaciones en Facebook, nuestras compras y hasta los segundos que pasamos en cada página, son datos fácilmente recuperables, sistematizados y analizados. Podemos medir comportamientos, también sentimientos… ¿y predecir ideas? Además, nuestros entornos están cada vez más fuertemente sensorizados lo que hace que nuestro libre albedrio esté fuertemente condicionado. Las burbujas que los algoritmos recrean sobre nuestra realidad son tan transparentes como claustrofóbicas.

El objetivo de la data mining es predecir el comportamiento humano gracias a un profundo conocimiento de nuestra identidad y de nuestras relaciones, deseos, opiniones y posiciones. Esto aplica tanto para el consumo como para la política: saber qué vamos a comprar, saber qué vamos a votar. Anticiparse y reconducir (orientar, inclinar, persuadir) es la clave del enorme potencial de los datos.

Dataísmo, datacracia

La carrera por los datos es un ejemplo claro de lo que Yuval Noah Harari (autor de Sapiens: De animales a dioses, Homo deus, y de 21 lecciones para el siglo XXI) conceptualiza como ‘dataismo’: el flujo de información convertido en conocimiento que es el valor supremo para la toma de decisiones. Este comportamiento desenfrenado por la obtención de datos para la toma de decisiones se cristaliza en una nueva geopolítica de los datos, donde el control de la información funciona como mecanismo de empoderamiento de las nacionales en el plano internacional; lo vemos en el latente conflicto entre Estados Unidos y China por el 5G, o en la gran preocupación que generó el destino de la información recopilada por FaceApp.

Mientras los Gobiernos descubren que su capacidad de control de las empresas tecnológicas es limitada y sus multas -por sus excesos en la privacidad- no dejan de ser simples cosquillas para gigantes más poderosos que los propios Estados. Dos multas recientes ilustran el desafío y, paradójicamente, las limitaciones de la regulación actual. En abril del año pasado 23 grupos de defensa de los derechos de los niños denunció ante la Comisión Federal del Comercio (FTC, por sus siglas en inglés) que Google recopilaba información personal de menores de 13 años (ubicación, dispositivo y números de teléfono, y los rastreaba sin su consentimiento). Finalmente, el Gobierno de Estados Unidos y Google acordaron este viernes que el gigante tecnológico pague una multa millonaria por no haber tomado las medidas adecuadas para evitar que menores de edad pudieran tener acceso a imágenes inapropiadas y por recopilar sus datos.

Otra reciente multa durísima sobre Facebook completa el escenario de sus incumplimientos sobre privacidad: la Comisión Federal de Comercio (FTC) estuvo estudiando los últimos meses qué sanción ponerle y finalmente llegaron a la conclusión de que la red social deberá pagar una multa de u$s 5.000 millones. El senador Mark Warner afirmó: “Dadas las repetidas violaciones a la privacidad de Facebook, está claro que se requieren reformas estructurales fundamentales” y que “la FTC no puede o no está dispuesta a poner barreras razonables para garantizar que la privacidad y los datos del usuario estén protegidos”. Y cerró con una frase dura: “Es hora de que el Congreso actúe”. ¿Demasiado tarde?

¿Regular o trocear a las grandes corporaciones?

El desarrollo de la ciencia de datos acarrea grandes beneficios, como la aparición de nuevas herramientas para la investigación científica, grandes facilidades para los gobiernos en la detección de problemas o la planificación de políticas públicas, e incluso la aparición de un nuevo mercado: los trabajos en programación y en recolección, almacenamiento y análisis de datos han abierto cientos de miles de nuevas oportunidades laborales. Pero hasta este progreso no puede justificar una fe ciega en el determinismo tecnológico. Depende de nosotros hacer que la tecnología esté al servicio de los humanos y no los humanos al servicio de la tecnología.

Los avances tendientes a la manipulación personal (como lo vemos con los deep fakes) puede poner fácilmente en peligro nuestra libertad y al sistema democrático. Hay visiones más apocalípticas, como las de Martin Hilbert, profesor de la University of California que afirma: “la democracia no está preparada para la era digital y está siendo destruida”.

Entonces, ¿cómo podemos garantizar la libertad si nos vemos asfixiados de estímulos que condicionan nuestro pensamiento individual, planificada por algoritmos que conocen nuestro comportamiento a la perfección y saben por dónde comprarnos? ¿El gobierno de los datos y la datacracia pueden poner en jaque a las sociedades libres?

Orientar el desarrollo científico y tecnológico hacia la mejora efectiva de las condiciones de vida de todos, y hacia la sostenibilidad, exige una actualización de nuestros esquemas éticos que nos ayude a actuar de forma responsable. Pero, especialmente, exige un coraje y una determinación política para decidir si solo con la regulación y su capacidad coercitiva e intimidatoria (multas) es suficiente o si bien, por el contrario, hay que pensar seriamente como “troceamos” a estas corporaciones tecnológicas para evitar que su poder excesivo condicione nuestra democracia. Este debate ya está abierto, al menos, entre la mayoría de los pre candidatos demócratas en las próximas elecciones. La datacracia no es democracia. Este es y será el gran debate.

Via