Justicia algorítmica y autodeterminación deliberativa

Abstract

If democracy is about enabling all people to have equal opportunities to influence the decisions that affect them, digital societies need to ask how to ensure that new environments make this equality feasible. The first challenges are conceptual: understanding how the interaction between humans and algorithms is configured, what the learning of these devices consists of, and the nature of their biases. Immediately afterwards, we come up against the unavoidable question of what kind of equality, we are trying to ensure, bearing in mind the diversity of conceptions of fairness in our societies. If articulating this pluralism is not a matter that can be resolved with an aggregative technique, but re-quires political compromises, then a deliberative conception of democracy seems the most apt to achieve the equality to which democratic societies aspire.

Si la democracia consiste en posibilitar que todas las personas tengan iguales posibilidades de influir en las decisiones que les afectan, las sociedades digitales tienen que interrogarse por el modo de conseguir que los nuevos entornos hagan factible esa igualdad. Las primeras dificultades son conceptuales: entender cómo se configura la interacción entre los humanos y los algoritmos, en qué consiste el aprendizaje de estos dispositivos y cuál es la naturaleza de sus sesgos. Inmediatamente después nos topamos con la cuestión ineludible de qué clase de igualdad estamos tratando de asegurar, teniendo en cuenta la diversidad de concepciones de la justicia que hay en nuestras sociedades. Si articular ese pluralismo no es un asunto que pueda resolverse con una técnica agregativa, sino que requiere compromisos políticos, entonces una concepción deliberativa de la democracia parece la más apta para conseguir esa igualdad a la que aspiran las sociedades democráticas.