Dans son ouvrage Anatomie de la bureaucratie (Éditions du Cerf), Frédéric Masquelier met en garde contre une bureaucratie devenue plus rapide et plus efficace, mais aussi plus opaque et déshumanisée. Selon lui, l'automatisation des procédures et le recours croissant aux outils numériques soulèvent des questions majeures de responsabilité, de souveraineté et de libertés publiques, qui appellent à maintenir un contrôle humain sur les décisions administratives.
Frédéric Masquelier : "Aujourd'hui, on n'a plus besoin d'experts humains, on a des algorithmes"
Périco Légasse : Dans votre livre vous insistez sur le risque de déshumanisation. Vous estimez que l'administration moderne tend à réduire les individus à des données, scores, profils de risque et indicateurs statistiques. Le citoyen n'est plus traité comme une personne singulière, mais comme un ensemble de données à traiter…
Frédéric Masquelier : Classement, notation, tout ça, c'est voulu pour limiter le pouvoir des élus. Et ça, depuis le XIXe siècle. C'est un système qui considère que les élus sont instables, qu'ils sont incompétents, qu'ils ne sont pas capables de gérer eux-mêmes. Ce n'est pas toujours faux d'ailleurs. Heureusement qu'on a un État qui fonctionne aussi, je suis pas un anarchiste. Mais néanmoins, ce système est conçu de cette manière-là. Donc, il faut des experts. Et aujourd'hui, on n'a plus besoin d'experts humains, on a des algorithmes.
Ça, c'est du point de vue de la conception. Mais il faut aussi regarder les destinataires de l'ensemble de ces normes et de ces décisions : il s'agit de nous. Est-ce que l'humain a vocation à être simplement gouverné par une machine ? Je ne le pense pas. En tant que maire, je sors d'une campagne électorale. Cela permet de rencontrer des milliers de gens. Et on s'aperçoit que les gens ne veulent pas seulement des décisions - ils veulent pouvoir être entendus, ils veulent pouvoir être écoutés, ils veulent pouvoir s'exprimer. Et la décision n'est pas seulement issue d'un calcul algorithmique. Mais la décision doit être aussi issue de toutes ces phases d'échange, d'écoute et de contradiction. Et c'est vrai qu'avec la bureaucratie algorithmique cette phase disparaît tout simplement.
"Les décisions vont se prendre par on ne sait qui"
Périco Légasse : Vous dites : "La bureaucratie, elle change de forme, mais elle ne disparaît pas". Les procédures, les files d'attente, les formulaires papier qu'on a connus sont progressivement remplacés par une bureautique numérique. Il y a les plateformes en ligne, l'algorithme de décision, système de notation et de contrôle, automatisation des procédures administratives… Toute cette transformation fait qu'on n'a plus le contrôle de rien. L'interlocuteur, c'est pas une personne humaine, c'est une voix, c'est une touche qu'on appuie. Et si ça ne marche pas, on n'a que ses yeux pour pleurer…
Frédéric Masquelier : C'est à peu près ça. C'est ce qu'on nous vend à travers "la bureaucratie efficace". Puisque, traditionnellement, on critiquait l'inefficacité. Aujourd'hui on est passés à une bureaucratie qui est efficace. Efficace grâce à l'IA notamment. Prenez l'exemple de l'administration fiscale, qui fonctionne remarquablement bien. Simplement, tout s'accélère. Mais néanmoins, les vices traditionnels de la bureaucratie demeurent.
Périco Légasse : Bien qu'avec un outil formidable ! "Il n'y a pas de mauvais outils, il y a que de mauvais ouvriers !"
Frédéric Masquelier : C'est tout à fait ça. Ça accélère les procédures. Mais néanmoins, vous avez des défauts nouveaux qui apparaissent. Mais c'est la traçabilité : vous pouvez partir maintenant au fin fond de l'Himalaya, on va quand même pouvoir vous retrouver. Il y a des questions de souveraineté aussi qui se posent, parce qu'on donne des données à des plateformes qui sont logées à l'étranger.
Et puis, vous avez les mêmes défauts : les décisions vont se prendre par on ne sait qui, mais quelqu'un qui est éloigné. Là, en l'occurrence, ce sera un algorithme. Qui a conçu cet algorithme ? On n'en sait rien. Est-ce que cet algorithme a des biais ? Parce qu'il reste quand même conçu en partie aussi par des humains, avec un certain nombre de prismes déformants. Et puis, qui était responsable ? Ben, si vous devez aller faire un procès à Microsoft ou à Meta en Californie, et bien, je vous souhaite bien du courage !
"Il faut se demander quelles sont les limites que l'on met"
Périco Légasse : Vous allez même jusqu'à parler de menace pour les libertés publiques. L'une des idées fortes de votre livre, c'est que la bureaucratie n'est pas seulement un problème d'efficacité administrative, elle devient un enjeu démocratique. Lorsque les décisions sont prises par des procédures automatisées ou par des règles techniques difficilement contestables, le contrôle démocratique s'affaiblit, le pouvoir se déplace vers des systèmes personnels que peu de citoyens comprennent réellement. Qu'est-ce qu'on peut faire contre ça ?
Frédéric Masquelier : D'abord, ça existe. Vous prenez la Chine : c'est un excellent exemple. Il ne s'agit pas d'une dystopie, d'une extrapolation, ou de la science-fiction, ça existe ! Dans beaucoup d'États d'Asie d'ailleurs. Singapour, même des États du Moyen-Orient, ça fonctionne un petit peu comme ça. Vous avez ce contrôle permanent, ce contrôle social qui existe. Et quand ça tombe dans de mauvaises mains… Parce que tout ceci peut être aggravé aussi lorsque vous avez des pouvoirs autoritaires, dictatoriaux. Tout ceci peut s'amplifier, et la question est celle de la liberté.
Donc, aujourd'hui, bien entendu qu'il y a l'IA, bien entendu que les algorithmes vont se développer, notamment dans le cadre de l'administration de l'État. Mais la réflexion qu'il faut avoir, - et peu de gens l'ont quand même, - c'est : "quelles sont les limites que l'on met ?". Pour ma part, les limites, c'est tout d'abord tout ce qui relève du discernement humain. Et puis, ça rejoint le premier sujet, c'est celui de la responsabilité. Dans la mesure où il ne s'agit pas de renvoyer à des algorithmes la responsabilité d'une mauvaise décision. Donc, il faut un contrôle humain, il faut une validation humaine, et il faut être particulièrement vigilant sur ce point.
Cliquez ici pour écouter l’invité de Périco Légasse dans son intégralité en podcast.
Retrouvez “Le face à face” de Périco Légasse chaque jour à 13h dans "La France dans tous ses états" sur Sud Radio.
Toutes les fréquences de Sud Radio sont ici !