Una teoría crítica de la inteligencia artificial

El perfilado de datos de Netflix, por ejemplo, permite identificar las preferencias políticas de los usuarios sobre la base de las películas y los documentales vistos; la inducción de preferencias de los clientes de Amazon puede efectuarse de manera similar, utilizando los criterios de búsqueda y la compra de libros en la plataforma; los hábitos de consumo que se revelan en las tarjetas de fidelización de los grandes almacenes pueden informar sobre el estado de salud de sus propietarios o sobre las prácticas religiosas, en función del consumo o abstinencia de ciertos productos en determinados periodos del año.

Las redes sociales, las tecnologías de la vigilancia o el ubicuo internet de las cosas están configurados de tal manera que resulta difícil proteger la información personal.

algoritmos, que en apariencia se limitan a registrar la reputación, también son fuente de desigualdad. Los algoritmos se proponen calcular la verdadera naturaleza de la sociedad, sus gustos, valoraciones y estimaciones, a partir del comportamiento de los internautas.

El ciberespacio amplifica las voces de aquellos que ya son aventajados y, frente a las aspiraciones de lograr una profundización en la democracia, internet reforzaría más bien el statu quo.

Existe una «brecha digital» por la que ciertos ciudadanos son excluidos del paraíso digital de muy diversas maneras: además de por no disponer del software o del hardware adecuado, por carecer de la formación necesaria para usar las tecnologías disponibles, por incapacidad de encontrar los espacios o el contenido apropiados a sus circunstancias, orientación y experiencias.

Hay diversos tipos de desigualdad digital y unas asimetrías considerables.
Los big data son un asunto político en la medida en que lo son sus circuitos de producción, distribución y consumo, es decir, lugares en los que el acceso, el control y la capacidad están desigualmente distribuidos por relaciones de poder asimétricas.

idea de que es posible acceder directamente a la realidad recogiendo y midiendo todas las señales sin tener que interpretarlas ni cuestionar sus contenidos podría calificarse como un auténtico «coup data», un golpe efectuado a través de los datos

los datos hay inscritas estructuras de poder que, a su vez, estos reproducen. ¿Quién programa los algoritmos, qué unidades son definidas como datos, qué sistema de clasificación se utiliza para ello, quién dispone del poder de definición de la realidad (Berger / Luckmann 1966)?

Hay una tendencia a cuantificar los fenómenos del mundo para hacerlos estadísticamente calculables, pero, entonces, los fenómenos complejos tienen que ser normalizados y estandarizados, porque no todo fenómeno es reducible a números calculables sin violentarlo

datos no pueden ser utilizados como parapeto que haga innecesaria la deliberación en torno a las decisiones y las proteja de toda crítica