« Moi Robot, Toi Humain » – II

Le Léviathan algorithmique : quand le code confisque l'État de droit.

L'automatisation massive des décisions administratives ne se contente pas de moderniser l'État. En déléguant l'interprétation de la loi à des systèmes informatiques opaques, les démocraties libérales vident le droit de sa substance protectrice au profit d'une implacable rationalité technique.

Loin des traditionnels romans de plage légers et des cahiers de vacances qui encombrent les valises, notre série estivale « Moi Robot, Toi Humain » vous soumet la lecture la plus glaçante (parfaite parade aux canicules) et nécessaire de la saison. Alors que l'Union européenne déploie fièrement son règlement sur l'intelligence artificielle (AI Act), la juriste et philosophe Nathalie Smuha jette un froid polaire sur l'enthousiasme technocratique avec son ouvrage Algorithmic Rule By Law. Oubliez les dystopies hollywoodiennes : au cœur des administrations européennes et nord-américaines, le recours massif aux systèmes de décision automatisés mute silencieusement la nature même du pouvoir d'État. Sous couvert d'efficacité bureaucratique, les algorithmes suppriment le pouvoir d'appréciation humain et traduisent le droit en un code binaire aveugle aux nuances du réel. Ce transfert de pouvoir, des législateurs vers les ingénieurs, signe le glissement de l'État de droit (Rule of Law) vers un règne par la loi (Rule by law), où la norme juridique n'est plus un rempart pour le citoyen, mais un instrument de domination optimisé. Analyse d'un naufrage démocratique par notre Cassandre des nouvelles technologies, Marc Lipskier.

L'effondrement ne prend pas la forme d'une dictature lointaine. Il se niche dans l'opacité des courriers administratifs de nos voisins immédiats, dans la froideur d'un redressement fiscal automatisé, dans la suppression instantanée d'une allocation vitale. Le livre de Nathalie Smuha documente une vingtaine d'illustrations concrètes, formant une véritable cartographie de l'algocratie (littéralement le pouvoir des algorithmes) administrative au sein de démocraties libérales bien établies comme les Pays-Bas, le Royaume-Uni, la France, la Belgique, la Suède ou les États-Unis. 

En France, chaque année depuis une décennie, du fait de l’algorithme, des étudiants sont laissés pour compte au moment de l’admission dans l’enseignement supérieur. Aux Pays-Bas, l'affaire des allocations familiales (Toeslagenaffaire) a révélé comment un algorithme de détection de fraude, appliqué avec une rigidité impitoyable, a précipité des dizaines de milliers de familles innocentes, souvent issues de l'immigration, dans la ruine financière. 

Au Royaume-Uni, le logiciel comptable Horizon a envoyé des centaines de gérants de bureaux de poste en prison pour des détournements de fonds fictifs, purement générés par des erreurs de code. Ces drames ne relèvent pas du dysfonctionnement accidentel. Ils constituent l'aboutissement logique d'une mutation structurelle de l'action publique : l'émergence du Léviathan algorithmique, sur lequel s’ouvre le livre de Nathalie Smuha.

Au XVIIe siècle, Thomas Hobbes conceptualisait le Léviathan comme un souverain artificiel monumental, une entité toute-puissante à laquelle les individus cédaient leur liberté en échange de la sécurité civile. La figure ressurgit aujourd'hui sous une forme numérique. Pour Nathalie Smuha, le Léviathan algorithmique désigne cet appareil d'État moderne qui, dopé par la puissance de calcul, démultiplie ses capacités d'action, de surveillance et de coercition sur la population. L'administration recourt à des systèmes informatiques — qu'il s'agisse de règles codées explicitement ou de modèles d'apprentissage automatique fondés sur les données — pour informer ou dicter ses actes.

Ce déploiement technologique s'inscrit dans la continuité historique de la rationalisation wébérienne, cette volonté séculaire de la bureaucratie d'éliminer l'arbitraire humain par la standardisation des procédures. Le concept d'« algocratie », conceptualisé par l'autrice, désigne précisément ce point de bascule : le moment où l'administration publique délègue formellement ses prises de décision et son pouvoir de coercition à des systèmes informatiques automatisés.

Si cette transition se présente en apparence comme le prolongement ultime de l'idéal de neutralité bureaucratique, elle constitue en réalité une rupture qualitative absolue. L'algocratie n'est pas une simple administration numérisée. La vitesse d'exécution instantanée, l'échelle d'application massive et le degré d'automatisation confèrent à l'exécutif une puissance de frappe asymétrique.

Ce changement d'échelle neutralise de fait les contre-pouvoirs juridictionnels et parlementaires traditionnels, structurellement incapables de suivre la cadence, d'acquérir l'expertise requise ou d'auditer la machine.

Nathalie Smuha catégorise les dommages engendrés par cette machine étatique en trois strates cumulatives. Le préjudice frappe d'abord l'individu, privé injustement d'un droit fondamental. Il s'étend ensuite au collectif, lorsqu'un biais statistique systématise la discrimination d'un groupe démographique ciblé. Il contamine enfin la société tout entière. Ce préjudice sociétal mine l'intérêt commun à vivre sous une autorité prévisible et non arbitraire, détruisant la légitimité même du contrat social, que l'on soit ou non directement victime de la machine.