Le Comptoir : Le numérique est souvent vu comme démocratique et porteur de nouvelles libertés. Pour vous, il est cependant responsable d’une « nouvelle servitude volontaire » en édifiant un modèle sécuritaire, sans surprise, et où les individus sont à la fois normalisés et isolés les uns des autres. Sur quels arguments s’appuient ces critiques ? Les nouvelles technologies sont-elles mauvaises en soi, ou bien est-ce leur utilisation qui est mauvaise ?

Philippe Vion-Dury : Peut-être faut-il commencer par expliciter l’expression « nouvelle servitude volontaire » dans ce contexte. Il y a servitude, car de grandes multinationales des nouvelles technologies numériques font tout pour prédire nos désirs, comportements et potentiels afin de mieux les contrôler, les orienter ou les dicter – se rendre maîtres de nous. Cette servitude est volontaire dans la mesure où ce contrôle, ce pouvoir, s’exerce par la médiation d’outils et de plateformes que nous utilisons volontairement et quotidiennement comme Facebook, Netflix, Uber, Spotify ou Google. Ce sont les algorithmes de ces entreprises qui construisent notre monde social (le fil d’actualités), nos recherches (les résultats après requête), définissent le trajet le plus court, le partenaire idéal, la prochaine chanson à écouter ou vidéo à visionner. Enfin, cette servitude volontaire est “nouvelle”, car ce pouvoir qui émerge n’est pas une domination à l’ancienne, où l’on nous dit quoi faire ou ne pas faire avec des ordres et des interdits, – patriarcale et disciplinaire –, mais une domination infiniment plus soft, insidieuse, bienveillante, immanente au champ social, agissant par la multiplication des suggestions, incitations, conseils, recommandations… J’essaie de ramasser cette idée à la fin du livre en opposant la figure très actuelle de Big Mother à celle, selon moi révolue, de Big Brother.

Les critiques que je formule contre ces nouvelles technologies s’appuient sur un double constat. Le premier a été la découverte du pouvoir d’influence des algorithmes et des modèles comportementaux sur nos décisions. Ils peuvent anticiper nos désirs, nos comportements, nos vices, percer l’intimité de nos opinions ou le secret de nos préférences, ou encore établir des profils “à risque” dans la santé ou la sécurité, ou au contraire “prometteurs” dans le recrutement et les études. Si vous connaissez par cœur une personne et savez comment elle peut réagir, vous pouvez être tenté de faire en sorte qu’elle se comporte conformément à votre propre intérêt. C’est ce qu’on appelle ni plus ni moins de la manipulation. Ce pouvoir-là existe déjà, bien qu’il soit encore largement imparfait, et se trouve dans les mains d’acteurs économiques. Le deuxième constat a été celui de la diffusion de ces techniques initialement employées dans le marketing et la publicité à des pans entiers de la société : assurances, villes, élections, antiterrorisme, police, journaux, culture, management… autant de secteurs qui tentent de mettre à profit ces techniques.

Les critiques de l’ouvrage portent donc tant sur la nature de ces technologies, c’est-à-dire le pouvoir qu’elles offrent, que sur la volonté totalisatrice (pour ne pas dire totalitaire) des acteurs qui les développent et les diffusent. Peut-être sortira-t-il du bon de ces technologies, mais ce qui m’intéresse ici, ce sont leurs effets prévisibles. Et si on les situe dans le système actuel, les effets me paraissent essentiellement négatifs.

« 1984 ne peut pas être invoqué pour analyser le “projet politique de la Silicon Valley” car, dans l’univers orwellien, tout est interdit. Notre monde est plutôt placé sous le signe d’un contrôle “permissif”, résumé par cette superbe expression de Clouscard : tout est permis, mais rien n’est possible. »

Vous dites que la personnification tend à créer un monde où l’individu « est appelé à être un simple spectateur halluciné d’un environnement où tout est calibré pour lui » et où, selon la formule de Guy Debord, « plus il contemple, moins il vit ». Vous montrez en même temps que le numérique rend possible et acceptable un monde de surveillance généralisé. Le « projet politique de la Silicon Valley » est-il finalement un mélange entre Le Meilleur des mondes d’Huxley et 1984 d’Orwell, qui marcherait autant à la séduction qu’à la surveillance ?

Orwell et Huxley nous poussent tous deux à réfléchir sur le pouvoir. Dans 1984, Orwell pousse à fond la logique d’un pouvoir totalitaire de type étatique, vertical, incarné dans la figure de Big Brother. Huxley, de son côté, met très peu en scène l’État dans Le Meilleur des mondes : le pouvoir y est davantage exercé de manière diffuse, par les conventions sociales, les tabous, le plaisir et la consommation de cette drogue du bonheur, le “Soma”.

Il est aujourd’hui très convenu de dire que les technologies numériques pourraient dégénérer en une surveillance de masse, totalitaire, dont la Stasi n’aurait même pas rêvé. Il ne s’agit pas de présumer de l’avenir de nos sociétés, ou d’oublier la diversité des systèmes politiques dans le monde. Mais pour qu’Internet accouche de Big Brother, cela supposerait un État fort, autoritaire, alors que la dynamique dans nos sociétés occidentales (et du monde qui s’occidentalise) est à l’affaiblissement de l’État, attaqué sur ses flancs par le néolibéralisme économique d’un côté, et de l’autre le libéralisme culturel qui a largement battu en brèche le patriarcat et les rapports d’autorité.

Je pense l’autre option – Big Mother – beaucoup plus actuelle et pertinente. Internet s’est transformé en supermarché planétaire et a, en quelque sorte, trahi les espérances de ses pionniers, qui militaient pour un « espace de pur esprit » débarrassé des lourdeurs et empêchements de la matière. Les entreprises étendent maintenant leurs mains sur notre intimité, nous accompagnent partout : dans nos rendez-vous amoureux, nos découvertes artistiques, nos recherches intellectuelles, nos achats, notre santé, etc. Dans ce système-là, nous avons tous l’illusion sans cesse renouvelée de la liberté et du plaisir, alors qu’en réalité, nous nous laissons exploiter pour pouvoir consommer davantage. Nous affadissons notre vie en laissant pénétrer la logique marchande toujours plus profondément, et affaiblissons notre libre-arbitre en nous en remettant aux conseils, suggestions et recommandations de ces multinationales amicales.

Pour en revenir à la question, 1984 ne peut pas être invoqué pour analyser le « projet politique de la Silicon Valley » car, dans l’univers orwellien, tout est interdit. Notre monde est plutôt placé sous le signe d’un contrôle “permissif”, résumé par cette superbe expression de Clouscard : « tout est permis, mais rien n’est possible. »

« Et tout ceci se fait sous le signe du “cool”, avec un Zuckerberg en hoodies qui débarque, tel Prométhée, apporter le feu au monde et abolir toutes ces insupportables frontières. »

Vous écrivez que le projet des dirigeants de la Silicon Valley est politiquement technocrate, économiquement libéral et culturellement libertaire. Pouvez-vous développer ?

Et “messianique”, une quatrième composante profondément liée à l’histoire coloniale et protestante américaine. Précisons que lorsqu’on parle de « projet de la Silicon Valley », il faut considérer cette expression avec toutes les limites qu’elle contient : diversité des opinions ; mythification par les technologues et la presse “techno-glamour” à la Wired ; absence d’organisation réelle ou de gouvernement même si une sécession vis-à-vis des États-Unis a déjà été évoquée. Disons que la Silicon Valley est traversée par différents courants d’où émergent quelques lignes directrices que l’on se permettra d’appeler “projet”. C’est un catalyseur et un moteur de la société qui vient.

Ce projet est technocratique et scientiste dans la mesure où il gravite autour de la figure de l’ingénieur et de l’expert. On trouve toute une mythologie de l’inventeur dont les héros sont Steve Jobs, Steve Wozniak, Elon Musk, Sergeï Brin et d’autres. Ces pionniers et les multinationales qu’ils ont créées détiendraient les réponses à tous les problèmes, proposant à tour de bras des solutions technologiques simples à des phénomènes sociaux, politiques ou même écologiques infiniment complexes. Le monde est perçu à travers la logique simplificatrice des machines. Il est d’ailleurs intéressant de noter que les mêmes qui “s’alarment” officiellement de l’émergence d’une IA [intelligence artificielle, NDLR] militent ardemment pour la diffusion des machines automatisés dans toute la société… Le politique est entièrement évacué pour laisser place à la Raison et à ses experts qui pensent pouvoir résoudre le problème de la faim en connectant les miséreux à Internet.

En réalité, cet angélisme sert souvent à masquer des intérêts bien plus terre-à-terre. Facebook a, par exemple, annoncé en 2013 vouloir créer une application gratuite sur smartphone, où toutes sortes de services seraient accessibles même pour les gens dépourvus de connexion internet. Il n’a pas fallu longtemps aux autorités indiennes de régulation par exemple, pour comprendre qu’il s’agissait en réalité d’une prise de contrôle du marché du sous-continent avançant masquée sous la banderole « la connectivité est un droit humain ». Le vrai visage de la Silicon Valley, c’est plutôt celui du capitalisme prédateur, celui qui cherche à briser corporations et médiateurs par « la mise en relation des consommateurs » et la désintermédiation, à contourner les législations en orchestrant des stratégies du “fait accompli” prenant de court les régulateurs nationaux, à échapper à l’impôt en recourant à l’optimisation fiscale et la concurrence internationale, alliant les prises de contrôle agressives à la défense de ses monopoles.

Et tout ceci se fait sous le signe du “cool”, avec un Zuckerberg en hoodies qui débarque, tel Prométhée, apporter le feu au monde et abolir toutes ces insupportables frontières. Si l’on a un peu remisé les rites New Age des années 80, le vocable progressiste et “communaliste” des mouvements contestataires des sixties est en revanche toujours à l’ordre du jour quoique vidé de sa substance originelle (révolution, communauté, réseau, horizontalité, pair-à-pair, etc.). Je conseille à tout le monde la série Silicon Valley, qui met en scène de manière à la fois hilarante et acerbe ces différents aspects.

Selon vous, derrière le numérique se cache « le fantasme d’une humanité gouvernée rationnellement » et « se manifeste dans la régulation algorithmique l’ambition inédite d’un gouvernement par les statistiques et probabilités ». Depuis ses origines, le libéralisme désire substituer “l’administration des choses” au “gouvernement des hommes”. La société numérique est-elle finalement l’aboutissement total de la logique libérale ?

Peut-être une autre “société numérique” est-elle possible, mais disons que le numérique permet un développement du libéralisme en accouchant d’une sorte de « libéralisme algorithmiquement régulé » – une expression absolument affreuse. L’alliance entre Wall Street et la Silicon Valley est facilitée par une résonance entre le capitalisme libéral et la “société numérique” imaginée par les cybernéticiens : tous deux reposent sur une axiomatique des systèmes auto-régulés, tous deux envisagent les hommes de manière non-humaine, tous deux se placent dans une perspective saint-simonienne et envisagent, vous l’avez dit, le bon gouvernement comme une « saine administration des choses » qui se ferait par l’application de lois (économiques, communicationnelles, etc), et tous deux haïssent, en conséquence, le politique, l’humain, l’indétermination, le hasard, l’erreur ou l’affect.

En outre, l’histoire nous rappelle que l’innovation dans les communications physiques ou informationnelles a toujours joué un rôle capital dans le développement du capitalisme ces trois derniers siècles, en fluidifiant les échanges de marchandises et de capitaux. Le capitalisme industriel n’aurait pas été possible sans l’invention du chemin de fer puis du transport routier d’un côté, et des télécommunications de l’autre. Ce n’est pas tant que ces nouvelles technologies “fluidifiantes” et communicantes créent et déterminent de nouveaux stades du capitalisme par leur découverte, mais plutôt qu’elles font sauter les digues qui limitent son développement. Il ne paraît donc pas insensé de penser que l’ère numérique ouvre une nouvelle séquence du capitalisme.

Bien entendu, certains diront que cette séquence pourrait être plus “humaine” et raisonnable que les précédentes, qu’elle ouvre la voie vers plus de collaboration, de relocalisation, d’économie des ressources, etc. Sans faire ici de pronostic, disons simplement que si l’on se penche une seconde sur les hérauts de ce néocapitalisme numérique, leurs stratégies et leur idéologie, on est généralement peu porté à l’optimisme.

« Nous affadissons notre vie en laissant pénétrer la logique marchande toujours plus profondément, et affaiblissons notre libre-arbitre en nous en remettant aux conseils, suggestions et recommandations de ces multinationales amicales. »

Aujourd’hui nos États semblent impuissants face aux grandes multinationales et les individus sont complètement sous le charme des nouvelles technologies. Quels moyens possédons-nous pour nous opposer au projet politique de la Silicon Valley ?

C’est la question la plus épineuse, et je ne donne aucune réponse dans mon livre. Selon l’adage, « savoir c’est pouvoir », le simple fait d’identifier les dynamiques en présence, de comprendre les enjeux et les risques, de percevoir les aliénations et les dominations qui s’expriment à travers certaines technologies et écosystèmes, c’est déjà beaucoup. Cela permet d’éviter de se faire récupérer ou de frapper à côté. Je me méfie beaucoup des nouvelles rhétoriques qui opposent “ceux qui font” et “ceux qui commentent”. Commenter, dialoguer, réfléchir, s’instruire, c’est nourrir un effort réflexif qui permet de bien agir et qui créera, à terme, un changement véritable. Se contenter de faire sans réfléchir, cela donne des gens qui croient sincèrement que le capitalisme vert est une écologie, ou que Uber est un héraut de l’économie du partage.

Cela dit, il y a, comme toujours, deux niveaux de lutte : l’individuel et le collectif. Au niveau collectif, il est possible de faire appel au législateur, au personnel politique, de recourir aux juges, aux syndicats, à toutes les formes institutionnelles qui peuvent jouer le rôle de digue ou être capables de porter un contre-modèle. Au niveau individuel, il s’agira plutôt de sensibiliser son entourage à ces questions, modérer son usage de certaines technologies et plateformes, de penser son rapport au monde, au libre-arbitre, à la puissance d’agir par soi-même et non à travers un environnement automatisé visant à nous assister en tout, à lisser toute aspérité, éradiquer toute friction, et ériger un monde utilitaire et aseptisé.

Le problème est que, dans une perspective d’ensemble et de progrès social, la lutte individuelle est vaine, et le combat collectif semble perdu d’avance. Non seulement nous avons perdu la culture de la mobilisation mais nous sommes confrontés au quotidien à la puissance de la rhétorique du progressisme libéral, très mécanique et fataliste, qui consiste à dire : « vous pouvez bien vous agiter, tout ceci est inéluctable, seuls ceux qui s’adaptent survivent ». Ironiquement, ce sont eux qui disent ensuite que les “déclinistes” et les réactionnaires sont défaitistes ! Néanmoins, il semble que les lignes commencent à bouger en faveur de l’intensification des tensions sociales. Les nouvelles technologies peuvent être le motif d’un embrasement, comme l’ont prouvé les manifestations anti-Uber qui ont presque tourné à l’émeute.

« Je ne pense pas qu’il faille poser le rapport à la technologie en terme de retour en arrière ou de recul, mais davantage en terme de choix et de maîtrise. »

Dans la conclusion de votre ouvrage, vous déplorez le fait que les nouvelles technologies empêchent l’émergence de tout projet de société autonome au sens où l’entendait Cornelius Castoriadis, c’est-à-dire une société où “l’institué” (structures sociales, politiques et culturelles) n’est pas formé par une puissance extérieure (Église, État, Marché, etc.). Un tel projet exige-t-il un recul technologique ?

Effectivement, Castoriadis opposait à l’autonomie le concept d’hétéronomie, où Dieu est imposé à la société par l’Église et son clergé, ou le Marché par le capitalisme. Le projet que je décris dans le livre d’une société de contrôle dont la gestion serait assurée par une régulation algorithmique à la fois automatisée et “intelligente” rentre à merveille dans cette définition, me semble-t-il. On essaie d’instituer une sorte de Raison, externe à la société et à sa volonté, la dépossédant de la maîtrise de son destin “pour son bien”, pseudo-rationnalité s’exprimant par l’intermédiaire de systèmes artificiels s’auto-corrigeant et visant à l’optimisation du corps social de la même manière qu’on optimise les performances d’une machine.

Mais attention, ce ne sont pas les nouvelles technologies elles-mêmes qui empêchent l’autonomie (ou l’auto-institution politique, qu’il faudrait prendre le temps de définir plus longuement), mais plutôt l’hétéronomie dont elles sont vectrices. Ces mêmes technologies pourraient avoir une place dans une société réellement autonome, même si leur visage serait certainement bien différent. Mais, il est difficile de nier que ces technologies renforcent aujourd’hui l’hétéronomie à deux têtes (la Silicon Valley et Wall Street) au détriment de l’autonomie. Cela doit mener à deux conclusions. La première est que lutter pour une société nouvelle en s’en remettant exclusivement aux nouvelles technologies (éthique des hackers et makers) ou au contraire en rejetant en bloc celles-ci (néo-luddisme et rejet en bloc des technologies modernes) serait une erreur : le recours aux technologies porte le risque de renforcer le pouvoir en place, leur rejet porte celui de passer à côté de leurs bienfaits éventuels dans l’organisation d’une société meilleure. La seconde conclusion est qu’il faut redonner ses lettres de noblesse à la critique de la technologie, longtemps mise de côté par la “critique classique” française.

Enfin, je ne pense pas qu’il faille poser le rapport à la technologie en terme de retour en arrière ou de recul, mais davantage en terme de choix et de maîtrise. Une société véritablement autonome devrait être capable de dire oui ou non à une technologie, ou de lui dire oui dans un cadre délimité. L’hétéronomie se manifeste par un phénomène d’inéluctabilité (« ça va arriver quoi qu’on fasse ») et de boîte noire, où les individus ne comprennent plus le fonctionnement et le but de leurs machines. L’autonomie, au contraire, passe par un rapport de transparence, de compréhension et de maîtrise vis-à-vis des outils. Ivan Illich parlait d’outils “conviviaux”, qui ne déterminent pas les usages qu’on en fait. Mais, l’autonomie passe aussi à mon sens par le développement d’une “éthique” dans notre rapport aux outils et objets. On pourrait la juger à l’aune de la puissance et du pouvoir : à force de trop “faire faire” aux outils (le pouvoir), que continue-t-on de “faire” par nous-mêmes  (la puissance) ? Le GPS augmente notre capacité de contrôle et d’action sur le monde, mais diminue notre capacité d’orientation, nous rive à l’outil et ses indications, lisse notre réalité en la facilitant, en la rendant pratique. Derrière toutes ces questions, je pense qu’il y a la nécessité fondamentale de repenser notre “être au monde”.

Nos Desserts :

• Pour trouver La nouvelle servitude volontaire en librairie
• Il y a peu, au Comptoir, on vous proposait un entretien avec Karine Mauvilly sur les dangers du numérique
• On a déjà eu l’occasion d’interroger la critique de la technologie numérique avec Pièces et Main d’Œuvre dans notre revue, mais aussi Pierre Thiesset et François Jarrige
• Retrouvez Étienne de La Boétie, père du concept “servitude volontaire”, sur Le Comptoir
• Au Comptoir, on vous proposait aussi une analyse des contre-utopies avec une « lecture croisée d’Orwell, Huxley, Zamiatine »
• Et enfin (re)lisez les articles de Noé Roland sur Google pour Le Comptoir : « Le capitalisme d’après demain » et « L’araignée qui a colonisé le Web »