Inégalités programmées : capitalisme, algorithmes et démocratie

Les moteurs de recherche, GPS, smartphones, etc. utilisés quotidiennement fonctionnent grâce à des algorithmes, qui sont des formules mathématiques non neutres. Elles génèrent des inégalités et posent des questions politiques à propos de la justice sociale, de l’écologie, en passant par les modes d’information, de délibéra- tion et d’aide à la décision publique ou privée (par exemple, dans l’attribution de prêts bancaires, le recrutement de candidat.e.s, etc.).

Les données ne sont pas une invention ré- cente, par contre ce qui est relativement récent est la transformation d’un nombre croissant de domaines, de situations, de gestes en générateurs de données. Tout dans notre monde est suscep- tible d’être transformé en données ou de devenir source de données.

A titre d’exemples

Aux États-Unis, depuis quelques années, il existe une collaboration entre un consortium d’univer- sités prestigieuses et quelques sociétés de fonds d’investissement. Les employé.e.s de ces fonds portent au cou une carte à puce semblable à celles utilisées dans certains milieux de travail pour, par exemple, enregistrer l’entrée et la sortie des travailleur.euse.s ou pour leur donner accès à un bâtiment. Sauf qu’ici, ces cartes permettent de collecter des données biophysiques générées par les corps des gestionnaires de portfolios d’inves- tissement. Ces dernières mettent en relation les performances avec les niveaux de tension et de stress vécus pendant la gestion d’une opération. Le but n’est pas d’évaluer les travailleur.euse.s, mais bien d’optimiser leurs performances de tout un chacun. On s’est rendu compte que certain.e.s gestionnaires sont très performant.e.s à des bas niveaux de stress, tandis que d’autres le sont en situation de haute tension. La conséquence du projet sera, en toute probabilité, une modification profonde de l’organisation du travail, car l’attribu- tion des portfolios à gérer se fera sur base de l’optimisation du rapport prise de risque/capacité du ou de la gestionnaire. gestionnaires sont très performant.e.s à des bas niveaux de stress, tandis que d’autres le sont en situation de haute tension. La conséquence du projet sera, en toute probabilité, une modification profonde de l’organisation du travail, car l’attribu- tion des portfolios à gérer se fera sur base de l’opti- misation du rapport prise de risque/capacité du ou de la gestionnaire. 

Un autre exemple. Vous avez sans doute entendu parler de l’internet des objets, des « smart cities ». L’idée sous-jacente est celle d’une amélioration de nos conditions de vie, grâce à une gestion écologique et efficiente de nos lieux de vie : le trafic, le chauffage, l’illumination, etc. Et cela grâce aux données, aux réseaux de communication (comme la 5G), à l’interconnexion. Il faut toutefois penser qu’à la base de ces projets se trouvent des dispositifs de collecte et de traitement de données. L’exemple du constructeur anglais de voitures de très haut de gamme Rolls Royce, parle de lui-même. En plus de produire des voitures, Rolls Royce fabrique aussi des moteurs d’avion. Depuis quelques années, ses moteurs ne sont plus vendus aux constructeurs d’avions, mais ils leur sont loués. L’intérêt économique de cette entreprise ne se situe plus dans la réalisation immédiate de la plus-value contenue dans ses moteurs, mais bien dans les données que ces mêmes moteurs sont capables de récolter. Les moteurs sont dotés de senseurs qui collectent une énorme masse de données concernant leur fonctionnement, les conditions de vol, etc. Ces données permettent à Rolls Royce, d’une part, d’optimiser l’organisation des services. d’entretien, de réduire le nombre de réparations et, d’autre part, de faire de la recherche et développement en partie au moins en la faisant payer aux utilisateurs de ses produits. Les données sont une nouvelle source de profit pour les entreprises qui produisent et gèrent les objets connectés. Uber fait de même en collectant des données sur le trafic dans les villes, qui sont utilisées dans le développement de voitures sans conducteur. 

Les données deviennent donc une nouvelle matière première à extraire ou à générer pour en tirer profit. Une autre source de profit – mais pas seulement – est le profilage. Nous sommes toutes et tous des utilisateur.rice.s enthousiastes des ré- seaux sociaux, des moteurs de recherche, des ser- vices de « cloud », d’applications de géolocalisation. Ces services gratuits, disponibles sur toutes sortes de plateformes ou dispositifs, ouvrent des possibilités toujours plus importantes de communiquer, de collaborer et d’être mobile, mais seulement à la condition de ne pas trop se préoccuper de l’utilisa- tion que l’on fait des données – sur nous-mêmes, sur nos habitudes, sur nos ami.es et allié.es, sur nos intérêts, sur nos préférences, sur nos pro- blèmes [combien d’entre nous font des recherches pour se faire des diagnostics soi-même quand on ne se sent pas bien ?] – que nous générons lors de notre inscription à ces services, de notre utilisa- tion de ces services dits « gratuits ». Car à partir de ces données on peut créer toutes sortes de profils de consommateur, de terroriste potentiel, etc. 

Le profilage n’est pas une nouveauté : il suffit de regarder les séries nord-américaines intitulées Crime Scene Investigation CSI (ou Les Experts en français) et le nom d’une ville américaine ou, pour certain.e.s, d’avoir la « mauvaise » origine ethnique ou de fréquenter les « mauvais » milieux pour sa- voir que la pratique du profilage n’est pas nouvelle. Mais la disponibilité d’énormes quantités de don- nées, avec l’accroissement considérable de la capa- cité de stockage et d’analyse de celles-ci, permet d’inventer tout le temps de nouveaux profils, prenant en compte des données a priori insignifiantes. Prenez certaines banques qui peuvent construire des profils de fiabilité des client.e.s potentiel.le.s à partir des caractéristiques personnelles et des comportements de leurs client.e.s actuel.le.s. Ces profils sont construits en cherchant des régularités à partir de relations entre variables : par exemple, le remboursement à temps de votre crédit et le code postal de votre résidence. Si des régularités peuvent être observées entre ces deux variables, des profils de client.e.s plus ou moins fiables sont construits à partir de leur lieu de résidence. 

Ces exemples montrent que les données sont à la fois une source de profit et une nouvelle mo- dalité de nous gouverner, en tant que travailleur.euse.s et comme citoyen.ne.s. Elles représentent aussi une nouvelle manière de nous faire travailler. Un travail caché, qui n’est pas nommé comme tel, mais qui est bien réel : nous sommes, toutes et tous, des entraineurs de machines intelligentes. 

Les algorithmes et l’usage économique des données ne concernent pas uniquement les passionné.e.s d’informatique. Ils représentent aussi des enjeux qui concernent le mouvement ou- vrier dans son ensemble ainsi que les mouvement sociaux. C’est pourquoi en février 2020, le Centre d’information et d’éducation permanente (CIEP) du Mouvement ouvrier chrétien a organisé une journée d’étude intitulée Inégalités programmées. Capitalisme, algorithmes et démocratie pour débattre des enjeux actuels de société autour des algorithmes, en croisant les approches théoriques, les expériences pratiques de terrain en Éducation permanente et des initiatives collectives. Cette journée d’étude a aussi permis de révéler les rapports de domination sous-jacents tant au Sud qu’au Nord de notre société, et de questionner les croisements entre capitalisme, algorithmes et démocratie. 

Qu’est-ce qui fait qu’un mouvement social tel que le MOC et une organisation d’éducation populaire comme le CIEP décident qu’il faut s’occuper de données et de leurs usages ? On peut pointer l’invisibilité et l’immatérialité des données. Les exemples présentés ci-dessus illustrent la thèse que derrière la surface de ce qui est visible et tangible, il y a des processus à l’œuvre auxquels nous contribuons mais dont nous ne connais- sons ni les intentions ni les aboutissements. Et donc nous devons en faire un champ d’action politique, de prise de conscience, de critique, de réappropriation, de revendication. 

Cette publication reprend notamment les interventions de cette journée d’étude sur les don- nées, leurs sens et usages. Elle est complétée par des interventions extérieures critiques. 

Rapport rendu par le centre d'information et d'éducation populaire de Louvain la neuve, sous la direction de France Huart. Lire l’intégralité ici.