2019 n’a commencé que depuis quelques semaines mais certains estiment que nous tenons déjà l’un des livres les plus importants de l’année.

L’ouvrage en question s’intitule « L’Age du capitalisme de surveillance » et a été écrit par Shoshana Zuboff, professeure émérite à la Harvard Business School.

De quel problème s’agit-il ? De l’avènement d’une nouvelle ère du capitalisme, celle de la surveillance, d’abord ouverte par le secteur numérique et en passe de s’étendre largement au-delà. Zuboff porte une vision très noire sur ce basculement, qui menace jusqu’à la démocratie, estime-t-elle.

Les éloges pleuvent sur ce pavé de plus de 600 pages paru mi-janvier aux Etats-Unis, fin janvier au Royaume-Uni : The Guardian, qui parle d’un livre « frappant et éclairant », qualifie sa publication « d’événement très important » ; le Financial Times le qualifie de « révolutionnaire, magistral, alarmant…incontournable » ; même le très libéral Wall Street Journal considère qu’il s’agit d’« un ouvrage rare qui met un nom sur un problème devenant critique ».

Si les idées de Zuboff ne sont pas fondamentalement nouvelles, elle met les mots sur une réalité perçue de façon souvent incomplète voire superficielle. Sa thèse, qui suscitera certainement des critiques tant elle est orientée (voire caricaturale dans sa démonstration, jugeront certains), force néanmoins chacun à se poser des questions clefs et pourtant souvent trop vite évacuées. Comme l’écrit le Wall Street Journal : « l’apport majeur de ce livre est de mettre des mots sur le phénomène en cours, de le replacer dans une perspective culturelle et historique, et de nous inviter à prendre le temps de réfléchir au futur ».

Que nous dit Zuboff ? Que la notion de « capitalisme de surveillance » – expression qu’elle a popularisée dans un article en 2014 – est encore mal comprise : bien plus que d’une (r)évolution numérique, il s’agit d’une nouvelle ère du capitalisme qui a trouvé comment exploiter la technologie à ses fins.

« La technologie est juste la marionnette : le capitalisme de surveillance est celui qui tire les ficelles. (…) Il est impossible d’imaginer le capitalisme de surveillance sans numérique, mais il est facile d’imaginer le numérique sans capitalisme de surveillance. Ce capitalisme n’équivaut pas la technologie. Il repose sur les algorithmes, l’intelligence artificielle, etc., mais il n’est pas la même chose que chacune de ces technologies-là ».

Les modèles d’affaires des géants du numérique sont aujourd’hui bien connus mais Zuboff les replace dans un contexte plus large : selon elle, il ne s’agit pas seulement d’algorithmes complexes mais de la dernière phase de la longue évolution du capitalisme. Après la production de masse, le capitalisme managérial, l’économie des services, le capitalisme financier, nous serions entrés dans une nouvelle ère du capitalisme, fondée sur l’exploitation des prédictions comportementales issues de la surveillance des utilisateurs. En ce sens, The Guardian situe son livre dans « la continuation » des analyses sur le capitalisme produites « par Adam Smith, Max Weber, Karl Polanyi et Karl Marx ».

« Le capitalisme de surveillance s’approprie l’expérience humaine comme matière première gratuite et la traduit en données comportementales. Même si certaines de ces données servent à améliorer des services, le reste est utilisé comme surplus comportemental, intégré dans des processus de « machine intelligence » avancés puis transformés en produits prédictifs qui anticipent ce que vous voudrez faire maintenant, bientôt et plus tard. Au bout du compte, ces produits prédictifs sont échangés sur une nouvelle forme de places de marché que j’appelle marchés futurs comportementaux ».

Ainsi, le fameux adage « si c’est gratuit, c’est que vous êtes le produit » est incorrect pour Zuboff.  Au lieu d’être le produit, l’utilisateur est un rouage du véritable produit : les prédictions sur son futur, vendu au plus offrant.

Une nouvelle ère ouverte en 2001

Zuboff situe l’émergence du capitalisme de surveillance aux débuts des années 2000 : selon elle, celui-ci a été inventé et perfectionné par Google de la même façon que la Ford Motor Company avait inventé et perfectionné la production de masse et que General Motors avait inventé et perfectionné le capitalisme managérial.

Elle raconte que ce nouveau capitalisme a été inventé vers 2001 et a d’abord servi de solution d’urgence pour Google, dont la situation financière commençait à se compliquer suite à l’explosion de la bulle Internet. Faisant face à une perte de confiance de leurs investisseurs, et à une pression grandissante de ces derniers, les dirigeants de Google choisirent d’abandonner la position critique qu’ils tenaient publiquement jusqu’alors contre la publicité. A la place, ils décidèrent de booster leurs revenus publicitaires en tirant profit de leur accès exclusif aux données de leurs utilisateurs et en les combinant avec leurs capacités analytiques et leur puissance de calcul déjà existantes. L’idée sous-jacente : générer des prédictions sur le taux de clic des utilisateurs, considéré comme un signal de pertinence d’une publicité.

Dès lors, l’objectif de Google devint le suivant : exploiter au maximum le surplus de données comportementales et développer des méthodes pour trouver de nouvelles sources de ce surplus.

« Google a mis au point de nouvelles méthodes de capture de ce surplus, capables de dévoiler des données que les utilisateurs ont délibérément choisi de garder confidentielles et de déduire des informations personnelles que les utilisateurs ne fournissent pas ou ne souhaitent pas fournir. L’objectif est ensuite d’analyser ce surplus pour rechercher des significations cachées pouvant prédire les futurs clics. Les données liées à ce surplus sont devenues la base des nouveaux marchés prédictifs : la publicité ciblée. »

C’est donc vers 2001, écrit Zuboff, que la recette du capitalisme de surveillance voit le jour : un mélange inédit (et lucratif) de surplus comportemental, sciences de la donnée, infrastructure matérielle, puissance de calcul et plateformes automatisées.

Comme elle le raconte, ce n’est qu’en 2004, quand Google entre en Bourse, que la puissance de ces nouveaux mécanismes prend publiquement toute sa mesure : l’entreprise révèle alors que ses revenus ont augmenté de 3590% depuis 2001.

La publicité n’était que la première étape

Au XXe siècle, l’ère de la production de masse avait démarré avec la fabrication de la Ford Model T avant de s’étendre au reste de l’économie. De la même façon, le capitalisme de surveillance a commencé au début du XXIe siècle avec la publicité en ligne, mais s’étend désormais bien au-delà. Rapidement devenu le modèle par défaut des entreprises de la Silicon Valley, le capitalisme de surveillance n’est aujourd’hui plus limité au secteur numérique, puisqu’il touche, explique Zuboff, de multiples secteurs : assurance, distribution, soins, finance, divertissement, éducation, transports… « Presque chaque produit ou service qui commence par le mot « smart » ou « personnalisé », chaque « assistant digital », est simplement un maillon d’une chaîne logistique où transitent un flux de données comportementales destinées à prédire nos futurs » écrit-elle.

Les acteurs de ce capitalisme se sont peu à peu perfectionnés. « Ils ont d’abord appris que plus ils récoltent de surplus, plus leurs prédictions sont bonnes, ce qui leur permet de générer des économies d’échelle. Ils ont ensuite découvert que plus le surplus est varié, plus les prédictions gagnent en valeur ». De là, selon elle, les efforts de ces acteurs pour passer de l’ordinateur au mobile, qui se retrouve partout : « conduite en voiture, achats, joggings, recherche de place de parking, santé, beauté…et toujours, toujours, la localisation ».

Mais ces acteurs ne se sont pas arrêtés là. Analyser les données pour prédire les comportements n’était qu’une première étape : la frontière ultime, pour Zuboff, repose sur « les systèmes conçus pour modifier les comportements, afin d’orienter ceux-ci vers des résultats commerciaux désirés ». Elle cite notamment deux exemples en ce sens :
-les tests de Facebook pour influencer les émotions de leurs utilisateurs en manipulant leurs fils d’actualité (tests effectués en 2014 sur plus de 600 000 utilisateurs, qui se sont révélés très concluants) ;
-le jeu de réalité augmentée Pokémon Go où des joueurs étaient amenés sans en avoir conscience à devoir se rendre dans des magasins (du monde physique) pour capturer des Pokémon. Les concepteurs du jeu avaient créé un système d’enchères destiné aux marques, permettant de guider les joueurs vers celles prêtes à payer le plus cher.

« Il ne suffit plus d’automatiser les flux d’informations nous concernant ; l’objectif est maintenant de nous automatiser » assène-t-elle, en soulignant les stratégies mises en place pour éviter le consentement des utilisateurs : « ces processus sont méticuleusement conçus pour produire de l’ignorance en contournant la prise de conscience individuelle et en éliminant toute possibilité de libre-arbitre ». Elle cite un data scientist rencontré durant ses travaux : « nous pouvons programmer le contexte qui entoure un comportement particulier afin d’imposer un changement ».

Pourquoi c’est une menace pour la démocratie et la société

Ce pouvoir d’influencer nos comportements « n’a aucun fondement démocratique ni légitimité morale », juge-t-elle, « puisqu’il usurpe nos droits décisionnels et érode notre autonomie individuelle, pourtant essentielle dans une société démocratique ».

Par « droits décisionnels », Zuboff entend notre capacité à défendre nos propres futurs, qui se retrouvent aujourd’hui manipulés par les systèmes prédictifs. Enutilisant les services du capitalisme de surveillance, les individus acceptent bien plus que la seule perte de contrôle sur leurs données : ils placent la trajectoire de leur vie, la détermination de leur voie, sous le contrôle du marché, de la même façon que les joueurs de Pokémon Go, guidés par leurs écrans, franchissent les portes de magasins sans avoir pris conscience de s’être fait quasiment piloter à distance.

Pour Zuboff, le problème fondamental de cette nouvelle ère capitaliste est bien son danger sur la démocratie : « La démocratie s’est endormie pendant que les capitalistes de la surveillance ont accumulé une concentration inédite de connaissances et de pouvoir. (…) Nous entrons dans le XXIe siècle marqués par cette profonde inégalité dans la division des apprentissages : ils en savent plus sur nous que nous en savons sur nous-mêmes ou que nous en savons à leur sujet. Ces nouvelles formes d’inégalité sociale sont par nature antidémocratiques. »

Dans The Guardian, l’éditorialiste John Naughton écrit : « La combinaison de la surveillance par l’Etat et par son équivalent capitaliste signifie que la technologie sépare les citoyens en deux groupes : les observateurs (invisibles, inconnus, non-responsables) et les observés. Les conséquences sur la démocratie sont profondes car l’asymétrie de savoir se traduit en asymétrie de pouvoir. Mais là où la plupart des sociétés démocratiques ont un minimum de contrôle sur la surveillance exercée par l’Etat, nous n’avons aujourd’hui pas de contrôle réglementaire sur la surveillance des entreprises privées. C’est intolérable. »

Selon Zuboff, le capitalisme de surveillance diffère des autres formes de capitalisme à plusieurs égards, mais notamment pour une raison majeure : « il abandonne les réciprocités naturelles qui ont aidé par le passé à ancrer le capitalisme, même imparfaitement, aux intérêts de la société ». Outre la remise en cause du libre-arbitre et de l’autonomie des individus, elle estime que ce nouveau capitalisme pose par exemple aussi un problème en termes d’emploi. Grâce à leurs moyens technologiques, les grands acteurs de ce capitalisme peuvent en effet se permettre d’employer relativement peu de salariés compte tenu de leur puissance, ce qu’elle illustre par un exemple frappant : « General Motors employait plus de personnes au pic de la Grande Dépression que Google ou Facebook n’en employait au plus haut de leur valeur de marché ».

…

De multiples questions de fond sont ouvertes par cet ouvrage (qui pèche cependant sur la forme par son style ampoulé, son ton hyperbolique à l’excès, et ses nombreuses répétitions). Arrêtons-nous quelques instants pour aborder certains points :

1/ La thèse et les arguments de Zuboff sont évidemment très orientés : le portrait noir qui est dressé des usages des données mériterait de faire valoir un point de vue différent, capable de souligner les aspects plus positifs de ce qui constitue effectivement un changement de paradigme (nb : plutôt que d’essayer de présenter -trop- rapidement ici un autre son de cloche, il sera plus judicieux d’y consacrer un article dédié). A lire Zuboff, les services numériques dominants n’apporteraient que dangers voire apocalypse, ce qui est évidemment très caricatural. En outre, il est permis de relativiser les pouvoirs actuels des mécanismes d’intelligence artificielle, sources de fantasmes et de mythes souvent surjoués – un flou d’ailleurs entretenu par les leaders du numérique.

Soulignons néanmoins un point important : Zuboff n’est pas une critique ordinaire du modèle des géants du numérique. Par le passé, elle a par exemple été éditorialiste pour des revues comme Fast Company et Businessweek, « deux bastions du techno-optimisme pas vraiment connus pour leur sentiment anticapitaliste » comme l’écrit le chercheur Evgeny Morozov dans une longue analyse dédiée à l’ouvrage de Zuboff (où il juge que l’ouvrage met trop l’accent sur la surveillance au détriment du capitalisme lui-même). Morozov, réputé pour sa dénonciation des dangers du numérique, rappelle que Zuboff était auparavant « prudemment optimiste à la fois sur le capitalisme et la technologie » : il y a 10 ans, elle écrivait par exemple qu’un géant comme Apple apportait une « valeur immense » à ses utilisateurs en leur offrant « ce qu’ils veulent, comme ils le veulent, à l’endroit où ils le veulent ».

Le basculement de Zuboff en une décennie est tout sauf anecdotique. Il est le signe, ou plutôt la confirmation, que la contestation des géants du numérique n’est plus l’apanage de sphères réfractaires aux innovations technologiques. Que des médias très pro-business comme le Wall Street Journal ou le Financial Times en viennent aujourd’hui à recommander cet ouvrage en dit long. Au vu de cette agrégation des inquiétudes, voire des contestations, une question se pose : ce modèle est-il aussi puissant qu’il n’y paraît ?

2/ Quelles solutions ? Zuboff rejette l’idée de mesures concrètes et simples capables d’apporter des réponses fortes à court terme. « Il n’y a pas de plan d’action simple, mais on sait une chose : le capitalisme de surveillance a progressé sans entraves pendant deux décennies. Nous avons besoin de nouveaux paradigmes nés d’une compréhension fine des mécanismes économiques de ce modèle ».

Demander aux GAFA de protéger notre privacy serait comme demander à Henry Ford de fabriquer chaque modèle de Ford T à la main

Elle juge que le GDPR [règlement sur les protections des données pour tous les citoyens européens mis en place en 2018] est « un bon début », mais réfute l’idée que des politiques antitrust sévères, qui démantèleraient des géants technologiques, puissent régler les causes profondes du problème : « à lui seul, un démantèlement n’éliminerait pas le capitalisme de surveillance : à la place, il produirait de plus petites entreprises sur ce même modèle et ouvrirait la voie à plus de concurrents opérant sur ces principes ».

Une chose est sûre pour elle : demander aux géants technologiques de protéger notre vie privée serait « comme demander à Henry Ford de fabriquer chaque modèle de Ford T à la main ». Autrement dit, l’autorégulation est un non-sens.

Finalement, « s’extraire de la toxicité du capitalisme de surveillance sera un processus long, lent et difficile », écrit-elle. « Le premier travail à faire doit être de nommer les choses. Ce que j’espère, c’est que mettre des mots sur la situation contribuera à un changement radical de l’opinion publique, surtout parmi les jeunes ».

3/ Cet espoir exprimé par Zuboff est-il vraiment réaliste ? Elle est loin d’être la première à alerter sur les dangers des technologies appliquées à la surveillance. Son ouvrage s’inscrit dans les pas de nombreux intellectuels (comme Alain Damasio en France, auteur notamment de « La Zone du Dehors »), chercheurs, activistes, incluant des acteurs du numérique (comme Tristan Nitot en France, dont le livre Surveillance :// aborde le sujet en quatre chapitres éclairants et accessibles à tous). Or jusqu’ici, malgré la progression ces dernières années de services numériques visant la « privacy by design » (garantir la confidentialité des données dans la conception même des produits) comme le moteur de recherche Qwant, ces idées semblent peiner à trouver un écho massif auprès du grand public et (surtout) à provoquer un basculement des usages. Est-ce seulement une question de temps ? La prévalence de la fameuse réaction « pourquoi m’en préoccuper, je n’ai rien à cacher » reste très importante…

Comment dépasser le « Je n’ai rien à cacher »

« Lorsque les gens disent « je n’ai rien à cacher », ils disent en fait « je me moque de mes droits ». Si vous cessez de défendre vos droits en disant « je n’ai pas besoin de mes droits dans ce contexte », ce ne sont plus des droits. Vous les avez convertis en quelque chose dont vous jouissez comme d’un privilège révocable. Et cela réduit l’étendue de la liberté au sein d’une société. » – Ignacio Ramonet, auteur de L’empire de la surveillance cité par maisouvaleweb.fr

En 2017, une journaliste utilisatrice de Tinder demanda aux propriétaires de l’application de lui envoyer ses données. Elle reçut près de 800 pages, contenant des informations personnelles de toute nature : l’âge moyen des hommes qui l’intéressaient, où et quand chaque conversation en ligne avec ses « matchs » s’était produite, etc. Un sociologue spécialiste du numérique qu’elle interrogea alors à ce sujet lui répondit: « Les applications comme Tinder profitent d’un phénomène émotionnel simple : nous ne pouvons pas ressentir les données. Nous sommes des créatures physiques. Nous avons besoins de matérialité ».

C’est aussi ce qu’explique Zuboff à propos du modèle de surveillance : « Son opacité et son caractère insidieux le rend difficile à appréhender, de la même façon qu’il est difficile d’appréhender le changement climatique ».

Dès lors, comment réussir à lever cet obstacle pour qu’une prise de conscience massive puisse se produire ? Pour beaucoup, c’est surtout la succession des scandales (piratages massifs ou révélations choquantes sur les usages de nos données) qui sera la plus efficace pour provoquer un choc de mentalités capable de se concrétiser dans les usages.

En attendant un scandale d’une ampleur telle qu’il serait à même de provoquer ce choc, les défenseurs de la privacy tentent de répondre au « je n’ai rien à cacher » de plusieurs manières :

• « Dire que vous ne vous préoccupez pas du droit au respect de la vie privée parce que vous n’avez rien à cacher équivaut à dire que vous ne vous préoccupez pas de la liberté d’expression parce que vous n’avez rien à dire. » – Edward Snowden
  
  
• « Protéger sa vie privée n’équivaut pas à vouloir se cacher pour planifier de renverser le gouvernement : la protection de la vie privée est l’état naturel des choses. Par exemple, lorsque vous allez aux toilettes, en particulier dans des toilettes publiques, vous fermez généralement la porte. La raison pour laquelle vous le faites, ce n’est pas parce que vous prévoyez de renverser le gouvernement. Vous pourriez l’être, mais il y a des chances que ce ne soit pas pour ça. Vous y aller pour utiliser les toilettes » – Riccardo Spagni, développeur principal du projet Monero (monnaie numérique intraçable)
  
  
• « On peut prendre le problème de deux manières », explique de son côté Marc Meillassoux, réalisateur du documentaire « Nothing to hide », interrogé par maisouvaleweb.fr :

« La première approche est de prendre les cas individuels : ça prend au maximum 15 minutes avant que la personne qui pense n’avoir « rien à cacher », se rende compte que c’est faux. Chacun a une histoire et une sensibilité particulière à la surveillance et à la vie privée: certains seront agacés de recevoir des publicités basées sur leur dernière recherche Google, d’autres savent par expérience que certains épisodes médicaux (dépression, cancer) pourraient les mettre en difficulté s’ils venaient à être connus, d’autres seront gênés qu’une banque se base sur leur réseau d’amis pour définir un taux d’intérêt pour un emprunt…

-La seconde approche, la plus importante, est de comprendre qu’une société sans militants écologistes, sans journalistes d’investigation, sans secret médical ou professionnel, sans lanceurs d’alerte, sans juges indépendants est une société qui à terme s’enfoncera inéluctablement dans le totalitarisme. Les utopies communistes peuvent en témoigner. »

« Il y a cette idée dangereuse que transparence et honnêteté seraient synonymes. « Je n’ai rien à cacher » entend-on. Même aux Nazis ? On présuppose que la faute est consubstantielle à celui qui cache et que l’observateur est honnête et de bonne foi. C’est souvent l’inverse ! Pourquoi y-a-t-il des isoloirs ? Pas pour cacher un délit mais parce que le sens du vote n’appartient qu’à soi. » – Pierre Bellanger, fondateur du réseau social Skred (et PDG de Skyrock), cité par PetitWeb

En 2014, le journaliste Glenn Greenwald – le premier à avoir publié les révélations d’Edouard Snowden, dans The Guardian – a donné une conférence sur le sujet, dont la vidéo a été très partagée par la suite. Il y tient une défense de la privacy qui peut être résumée ici en trois points :  

1. Chacun a besoin d’un jardin secret

« Les êtres humains, même ceux qui disent contester l’importance de la privacy, comprennent de façon instinctive son importance fondamentale. Nous sommes certes des animaux sociaux : nous avons besoin de faire savoir aux autres ce que nous faisons, disons, pensons, et c’est la raison pour laquelle il nous arrive de publier des informations personnelles en ligne. Mais il est tout aussi essentiel, pour être libre et épanoui, d’avoir un jardin secret à l’abri du jugement des autres. Il y a une raison à ce besoin : nous tous – pas seulement les terroristes ou les criminels, nous tous – avons des choses à cacher. Il y a plein de choses que nous faisons ou pensons, que nous racontons volontiers à notre médecin, notre avocat, notre psy, notre époux, ou notre meilleur ami mais qui nous rempliraient de honte si le reste du monde les apprenait.  »

En 2009, Eric Schmidt, alors PDG de Google, crut intelligent de dire : « Si vous faites quelque chose que vous ne voulez pas que d’autres apprennent, peut-être devriez-vous commencer par ne pas la faire ». Ironie du sort : quatre ans plus tôt, il avait ordonné aux employés de Google d’arrêter de communiquer avec l’ensemble des journalistes du média CENT, suite à la publication d’un article contenant des informations sur sa vie privée…obtenues exclusivement grâce à des recherches sur Google !

2. Se savoir observé(e) modifie le comportement en tendant vers le conformisme

« Les comportements que nous adoptons quand nous pensons être observés sont soumis à une forte autocensure. C’est un simple fait de la nature humaine reconnu par les sciences sociales. Il existe des dizaines d’études psychologiques qui prouvent que lorsque quelqu’un sait qu’il pourrait être observé, le comportement qu’il adopte est beaucoup plus conformiste et consensuel. Chez les humains, la honte est une motivation très puissante, de même que le désir de l’éviter. C’est pourquoi les individus, lorsqu’ils sont observés, prennent des décisions qui résultent, non pas de leur propre réflexion, mais des attentes qu’on a mises sur eux, ou des règles de la société. »

3. Ce conformisme est destructeur pour l’esprit critique, la créativité et la capacité à s’indigner

« Une société où les gens sont surveillés à chaque instant est une société qui pousse à l’obéissance et à la soumission : voilà pourquoi, tous les tyrans, du plus manifeste au plus subtil, aspirent à ce système. A l’autre bout du spectre, il y a le royaume de la privacy : cette possibilité d’aller dans des lieux où l’on peut penser, interagir et parler sans ressentir le jugement d’autrui, qui sont les seuls endroits possibles où la culture de la créativité, de l’expérimentation et du débat peuvent exister ».

Et Greenwald d’ajouter que seule cette deuxième option permet l’émergence de mouvements citoyens capables de s’opposer à des régimes autoritaires ou anti-démocratique. « Celui qui ne bouge pas ne sent pas ses chaînes » conclut-il en citant Rosa Luxembourg…

En 2010, la France s’enthousiasmait pour un court essai au succès inattendu : « Indignez-vous », de Stéphane Hessel. Presque une décennie plus tard, durant laquelle des trillions de données auront été avalées et exploitées par des géants privés à des fins prédictives, le moment est peut-être venu de le (re)lire, avec un regard différent. La question de fond, elle, reste cependant la même : dans quelle société voulons-nous vivre, et quel avenir souhaitons-nous laisser à nos (petits) enfants ? A l’aune de la surveillance, l’expression « digital natives » prend ainsi un sens tout particulier…

Clément Jeanneau