Artículos Democracia Digital Información Inteligencia Artificial

Inteligencia artificial y democracia

Print Friendly, PDF & Email

Una Inteligencia Artificial (IA) que prediga nuestras preferencias en base a nuestras actitudes pasadas, ¿no simplemente profundizaría los prejuicios personales? Las tecnologías digitales tienden a encerrarnos en círculos de preferencias similares, y de hecho hoy mismo la IA es responsable de casos como Facebook donde esto es particularmente problemático



por Gonzalo Díaz y Martín Pérez Comisso

Se ha hablado que la Inteligencia Artificial (IA) podría revolucionar la democracia, aprendiendo las preferencias de los votantes, llegando incluso votar en su representación. Estando en la “cima de expectativas sobredimensionadas” para la IA, en esta columna se plantean cuatro preguntas de sano escepticismo que debemos hacernos ante cualquier propuesta grandilocuente de “tornar obsoleta la democracia actual”.

1) ¿Quién controlaría la IA?

La IA no es algo que se diseñe una vez y que luego se “eche a volar”.
Al contrario, una IA es un código generado por un grupo de personas,
una corporación o un gobierno, y es este grupo el que diseña los
criterios y objetivos que optimizará la IA, que la mantiene actualizada y
que agrega o quita fuentes de datos. Este grupo controlador tendría
entonces una enorme influencia.

Que una empresa como YouTube controle una IA para predecir cuál video
querrás ver a continuación es una cosa, pero para predecir lo que
querrás votar, o incluso votar en tu representación, se debe poner un
microscopio sobre quién la controlará y quién fiscalizará a ese grupo.

2) ¿Qué datos requeriría la IA y cómo se gestionarían esos datos?

Con escándalos como el de Facebook, que vendió información personal
de millones de personas a empresas que buscaban influir en el voto de
las personas, debe preocuparnos qué nivel de recolección de datos
implicaría esta propuesta. Una IA que pretenda predecir las preferencias
democráticas de las personas necesitaría una cantidad similarmente
enorme y centralizada de datos, incluyendo datos personales.

¿Quién recopilaría esta información? ¿Dónde estaría almacenada? Sería
delicado que el grupo controlador de la IA sean los mismo que tengan
acceso a este silo de información personal y privada de toda la
ciudadanía. ¿Qué pasaría si hubiese una filtración? Si la democracia
dependiera de ese silo de información, ¿sería obligatorio entregar los
datos?

3) ¿Cómo se manejarían los sesgos?

La IA no es una fórmula mágica para extraer conocimiento y verdad de
los datos. Al contrario, parece reproducir y a veces incluso amplificar
los sesgos y prejuicios de las personas, porque sus predicciones se
basan en comportamientos históricamente sesgados. Esta realidad ha
generando fenómenos que varían desde lo anecdótico, como la IA de
Microsoft que se tornó Nazi, hasta lo preocupante, como la IA que usó
Amazon para contrataciones y que fue clausurado por discriminar a las mujeres o la IA que utilizó un tribunal de justicia de EEUU para predecir futuros criminales que resultó discriminar contra negros.

Una IA que pretenda predecir qué proyecto de ley, candidato o incluso
modelo de sociedad preferiría un votante, debe ser diseñada con sumo
cuidado para minimizar los sesgos, y no caer en la arrogancia de
pretender eliminarlos por completo.

4) ¿La IA propiciaría un diálogo democrático?

Si bien las democracias del mundo urgen reformas en pos de mayor
participación, e incluso de democracia directa, la democracia se reduce a
predecir qué quiere cada persona, sino de propiciar diálogo, de
convencernos e incluso a veces de corregirnos.

Una IA que prediga nuestras preferencias en base a nuestras actitudes
pasadas, ¿no simplemente profundizaría los prejuicios personales? Las
tecnologías digitales tienden a encerrarnos en círculos de preferencias
similares, y de hecho hoy mismo la IA es responsable de casos como
Facebook donde esto es particularmente problemático


Gonzalo Díaz, Coordinador de Contenidos, Directiva
Nacional Revolución Democrática y Martín Pérez Comisso, Investigador
Doctoral HSDS&T Arizona State University, militante Revolución
Democrática.

Please follow and like us:
error