Confessions d’ex:

Depuis plusieurs mois, d’anciens employés des géants américains du web sonnent l’alerte en pointant la dangerosité de leurs anciens employeurs, quitte à rompre leurs accords de confidentialité :

Jeff Hammerbacher, à la tête de l’équipe data de Facebook jusqu’en 2008, déclare en Avril 2011 dans Bloomberg Businessweek: « Les plus beaux esprits de ma génération travaillent à comment faire cliquer les gens sur des publicités. »

Ev Williams, fondateur de Twitter et Medium en Janvier 2017 sur le blog de Medium: « La majorité de ce que nous consommons est payé par des entreprises qui cherchent à faire dominer leurs points de vue. Tout est mesuré, amplifié pour sa capacité à aller dans ce sens. »

Tristan Harris, ancien ingénieur de Google en Avril 2017 à une TED Talk à Vancouver: « Jamais jusqu’à présent une poignée de gens et d’entreprises n’avaient façonné ce que pensent et ressentent un milliard de personnes chaque jour par les choix qu’ils font depuis leurs écrans. »

Adam Schrader, patron de l’ancienne équipe éditoriale de Facebook en Novembre 2016 à VICE News:
« Mark disait que 1% des articles postés sur Facebook étaient faux, Mais 1% de plusieurs milliards de liens ça fait un sacré paquet d’électeurs soumis à des fake news. »

« Je n’ai pas peur de Facebook ou de rompre mon accord de confidentialité car il est plus important de faire passer ce message. »

Chamath Palihapitiya ancien cadre de Facebook chargé de la croissance de leur nombre d’utilisateurs jusqu’en 2011, à la Stanford Graduate School of Business le 13 novembre 2017 :

« Je me sens immensément coupable. En tant qu’ingénieurs de Facebook, nous savions plus ou moins que quelque chose de mauvais pouvait se passer. Les boucles de rétroaction court-termistes qui carburent à la dopamine déchirent le tissu social et détruisent le fonctionnement de la société. Il n’y a pas de discours citoyen, pas d’entraide, il y a de la désinformation. Ceci est un problème global. Il dégrade les comportements fondamentaux de la société envers elle même. Vous ne le comprenez pas, mais vous êtes programmés… c’est à vous de décider à quel point vous êtes prêts à renoncer à votre indépendance intellectuelle. Nous organisons nos vies autour de cette image de la perfection parce que nous sommes récompensés par des signaux [pavloviens], les cœurs, “like” et autres pouces en l’air sont réducteurs, on les confond avec la vérité, c’est juste vraiment malsain. »

Une ancienne dirigeante de Facebook, Sandy Parakilas, qui y avait travaillé en 2011-2012 sur les questions de vie privée, déclare en novembre 2017 dans le New York Times : « Ce que j’ai vu de l’intérieur était une entreprise qui privilégiait la collecte de données de ses utilisateurs plutôt que de les protéger des abus », dénonçait-elle, estimant que « les politiques ne devraient pas permettre à Facebook de se réguler lui-même. Parce qu’il ne le fera pas. »

Sean Parker, investisseur de la première heure dans Facebook, en novembre 2017 à une conférence du site d’information Axios, décrit Facebook comme « une boucle infinie de validation sociale… Exactement le genre de chose qu’un hackeur comme moi inventerait, parce que vous exploitez une vulnérabilité de la psychologie humaine. Dieu sait ce que ça fait au cerveau de nos enfants. Les inventeurs, les créateurs – comme moi, Mark [Zuckerberg], Kevin Systrom d’Instagram et tous ces gens – avions bien compris cela, c’était conscient. Et on l’a fait quand même. »

1. Ma vie avec les GAFA, en 5 histoires

L’espion qui aimait mon enceinte vocale

Eliza a 24 ans et elle adore la façon dont les gadgets technologiques de Google, Apple, Facebook et Amazon lui facilitent la vie. Car elle est paresseuse, Eliza, au point d’avoir craqué pour le dernier téléviseur coréen à commande vocale. Maintenant, elle peut allumer la télé et changer de chaine sans lever le petit doigt. Emballée par ce mode d’interaction, elle découvre qu’on peut aussi éteindre et allumer les lumières par la voix grâce à des assistants vocaux connectés. Vous savez, ces enceintes « intelligentes » qui ont fait fureur à Noël. Eliza file au magasin où elle hésite entre Google Home et Alexa, le modèle d’Amazon. Elle opte pour le second, étonnée de voir que les prix de ces objets débutent à moins de 50 euros. « Il doit y avoir un truc… », songe-t-elle.

Eliza a raison : Amazon vend à perte ce haut parleur high-tech. La raison tient dans son micro intégré, qui permet de tout savoir sur les comportements d’achat de sa propriétaire. Cela représente bien plus de valeur, à long terme, que la marge qu’aurait pu réaliser Amazon sur la vente de ce gadget. Les assistants à commande vocale sont superflus et vous exposent à une surveillance de tous les instants. Même quand les téléviseurs sont apparemment éteints, ils peuvent être allumés par commande vocale, ce qui implique que leur micro reste actif. Comme l’a montré le reportage de Shane Harris pour le Daily Beast en février 2015, les Smart TV de Samsung enregistrent les conversations des foyers, les analysent et les revendent à des tierces parties. Les assistants intelligents de Google Home ou Amazon Alexa, qui surveillent également leurs utilisateurs, font partie intégrante du modèle d’entreprise de ces géants. Des joujoux qui n’intéressent pas que les GAFA. En mars 2017, les forces de l’ordre américaines ont utilisé des enregistrements Amazon Echo dans l’Arkansas – ce qui signifie qu’elles peuvent les intercepter. Puisque leurs micros restent toujours ouverts et connectés, ces équipements présentent également des failles en termes de cybersécurité en créant de nouveaux points d’entrée dans nos vies. Il en va de même pour les serrures connectées, comme les expérimente Amazon afin de livrer les courses chez vous en votre absence. Des serrures paradoxalement moins sûres… car actionnables à distance.

En « Algo-cratie », les prix font du yoyo

Eliza vient d'emménager dans un quartier populaire, qui se boboise lentement mais sûrement. Elle veut faire une demande de crédit et sa banque lui a proposé de le faire en ligne. Quand elle se connecte depuis son nouveau domicile, elle remarque que le taux qui lui est proposé a augmenté. En revanche, les billets d’avions qu’elle envisage de réserver pour Lisbonne semblent plus abordables que dans ses souvenirs. Bizarrement, le week-end précédent, lors d’un séjour chez son oncle de Neuilly où elle avait effectué les mêmes recherches depuis l’ordinateur de son hôte, les prêts bancaires étaient plus économiques et les billets d’avion… plus chers. Eliza n’y comprend plus rien.

Et pour cause ! Dans le monde des GAFA, il existe autant de tarifs que de consommateurs. La banque d’Eliza utilise un algorithme pour déterminer son score de solvabilité et détermine un taux de crédit en fonction du résultat. Si son profil n’est pas assez étoffé, l’organisme fonde son jugement sur des critères comme son lieu de connexion ou le modèle de l’appareil avec lequel elle se connecte. À partir des informations recueillies sur Eliza, sa banque l’a comparée à d’autres individus, lui a attribué un scoring et lui a proposé le taux de crédit associé. Il en va de même pour les prix dynamiques des billets d’avion ou des hôtels. Tim O'Reilly, auteur de Qu’est ce que le Futur ? (Harper, 2017) voit dans ces décisions invisibles une « algocratie » où les algorithmes sont de plus en plus sollicités dans des décisions telles que : qui peut hypothéquer, comment attribuer les dons d’organes, qui présente le plus fort risque de récidive ou peut bénéficier d’une remise de peine. Selon le prospectiviste, l’important est de s’assurer que les bases de données moulinées par de l’intelligence artificielle ne sont pas biaisées par des discriminations ou des injustices. Dis moi qui tu es, je te dirais combien tu me dois !

Comment devenir complotiste en trois clics

Ça y est, Eliza s’envole en week-end au Portugal ! Durant son absence, elle prête son appart à une copine, une jeune maman, qui utilise l’ordinateur de la maison pour faire quelques recherches sur la dangerosité des vaccins. Au retour d’Eliza, la curiosité de son amie a un étrange effet sur ses recherches Google et YouTube. Les moteurs de recherche lui proposent des articles et des vidéos complotistes, sur la dangerosité des vaccins, mais pas que. Eliza clique sur quelques-unes de ces suggestions... Et le phénomène ne cesse de s’amplifier.

Eliza s’est retrouvée victime de la personnalisation des résultats de recherche, qui est notamment exploitée par des pages malveillantes. Ces pages visent à générer le maximum de clics en diffusant de fausses infos pour empocher des revenus publicitaires. Selon Décodex, la base de données du Monde qui recense les intox sur Internet, 1/4 de celles-ci portent sur les vaccins. Rappelons que l’immense majorité des spécialistes affirme que les vaccins créent l’immunité au sein d’une population et que les réactions allergiques sont rarissimes. Or en 2017, les intox plus partagées sont : « Les vaccins combinés sont moins sûrs » (issu de la page « Santé et nutrition »), « L'obligation vaccinale est une exception française » (issu de la page « résistance et unité PACA »), et « les vaccins contiennent des agents anti-fertilité » (issu de la page « Meilleurs plats et Astuces »). La simple recherche du mot « vaccins » pousse les utilisateurs vers des résultats complotistes. Sur Pinterest, plateforme à fort usage féminin, la proportion des commentaires et contenus critiques envers les vaccins est passée de 25 % en 2005 à 75 % en 2015, comme le notent trois chercheurs de l’université de Virginie dans leur étude « Comment sont représentés les vaccins».

Les complotistes viennent expliquer des phénomènes chaotiques en leur attribuant un dessein. Ils ciblent des populations vulnérables, comme les jeunes mères inquiètes pour leurs enfants, ou les survivants d’événements traumatiques. Leurs meilleurs alliés ? Les GAFA ! Après l’attentat de Las Vegas en Août 2017, les utilisateurs qui se sont déclarés « en sécurité » via Facebook ont vu leur flux d’informations envahi de contenus d’extrême droite qui y voyaient un complot démocrate. Renée Diresta, journaliste chez Fast Company, démontre qu’une fois qu’une personne interagit avec un groupe complotiste, elle est poussée algorithmiquement vers les autres. Ainsi, les groupes anti-vaccins amènent en suggestion des groupes anti-OGM, d’autres qui pensent pouvoir guérir le cancer « naturellement », voire des groupes négationnistes. Cela est permis par la personnalisation des fils d’actualité, que Facebook pratique depuis 2006, Google et YouTube depuis 2009… ce que 60 % des utilisateurs ignorent. Cette personnalisation de l’info permise par les réseaux sociaux « accroit les divisions, à la faveur de bulles d’informations polarisées, de chambres d’écho, d’opinions unilatérales ultra-partisanes, favorisées par les algorithmes des géants du web qui renforcent nos convictions », analyse Eric Scherer, directeur de la prospective à France Télévisions dans la revue méta-média #14 Hiver 2017. 

J’ai participé à une fausse manif

Eliza veut afficher son ouverture d’esprit à ses nouveaux voisins et décide de le faire en « likant » la page Facebook de la « fondation musulmane » de son quartier. Elle reçoit alors une invitation pour un événement « pacifiste pour la sureté des mosquées et leurs quartiers ». Quand elle va y assister, la semaine suivante, elle est surprise de voir que la plupart des membres de la communauté n’ont jamais entendu parler de la dite fondation musulmane. Elle remarque par contre que des manifestants d’extrême droite se sont eux aussi rassemblés sur la place. Mais ces derniers semblent tout aussi perdus, cherchant avant tout à attirer l’attention des médias présents. C’est à se demander, songe Eliza, si l’organisateur de cette étrange manifestation n’est pas le même que celui qui a orchestré son contre-mouvement…

Dans le mille ! Cette anecdote en rappelle une autre, cette fois bien réelle. Celle de la manifestation organisée par la Russie le 3 septembre 2016 à Washington. Un cas parmi quelque 60 autres (selon Deepa Seetharaman and Jack Nicas dans le Wall Street Journal du 30 octobre 2017), où les russes ont organisé les deux côtés d’une manif dans l’espoir de créer des confrontations violentes. Le but : créer des images amplifiées par les télévisions, qui nourrissent l’agitation et délégitiment le rassemblement politique comme mode d’expression. Sarah Oates, professeur à l’université du Maryland affirme  (WSJ, ibid.) que le Kremlin a promu ces événements « car (il) pense que les manifestations déstabilisent les démocraties ». Les Russes ont ainsi tenté d’influer sur la politique aux États-Unis, au Royaume Uni, en Inde, au Soudan, en Birmanie, aux Philippines, en Allemagne, en Espagne, mais aussi en France lors de la campagne de Marine le Pen en 2017. En septembre, Facebook a admis avoir décelé aux États-Unis 470 faux comptes utilisés par les Russes pour exploiter les divisions de la société. Twitter a admis que 400 000 « bots », des logiciels automatisés,  furent utilisés pendant l’élection. Des chercheurs de l’USC estiment qu’entre 10 et 15% des comptes actifs sur twitter sont fictifs, et automatisés pour envoyer des messages politiques mensongers. « L’objectif était de maximiser les réactions », conclut le rapport de la CIA de janvier 2017 sur la propagande informatique en Russie. 

Pour qui veut faire campagne en politique, les GAFA sont devenus des consultants incontournables. L’équipe d’Obama lors de sa campagne de réélection de 2012 se vantait de pouvoir classer les votants en tribus d’esprits uniformes et de cibler leurs messages pour ces publics. Un microciblage qui, depuis, s’est perfectionné : il se nourrit aujourd’hui des informations de consommation des électeurs, mais aussi de quizz psychologiques, comme en a exploité l’entreprise Cambridge Analytica pendant les campagnes pro-Brexit et pro-Trump en 2016. Cette société, détenue par le milliardaire américain de l’informatique Robert Mercer, spécialisée dans le traitement et l’analyse de données, a utilisé les outils de ciblage de Facebook pour déstabiliser les partisans d’Hillary Clinton et du maintien du Royaume Uni dans l’UE. De jeunes urbains idéalistes et des personnes de couleur ont alors été inondés de « dark posts », visibles uniquement par des publics micro-ciblés, en fonction de leurs réponses à des tests de personnalité. Andy Wigmore, directeur de la communication pour la campagne Leave.EU d’Arron Banks en faveur du Brexit, raconte au magasine Society en Octobre 2017 : « Grâce à Cambridge Analytica, nous avions des informations très poussées sur énormément d’électeurs. J’ai été soufflé en découvrant les choses que le logiciel savait de moi ». Brad Parscale, américain propriétaire d’une agence de marketing éponyme, était en charge des médias sociaux pour la campagne de Trump. « Je me demande toujours, s’exclame-t-il, pourquoi les gens en politique agissent comme si ces choses étaient mystiques, c’est la même m…. qu’on utilise à des fins commerciales, avec des noms plus classes. » Parscale a raison : il a utilisé l’outil Facebook dédié aux « publics personnalisés semblables » pour le ciblage, puis l’outil « brand lift » pour la mesure de l’efficacité de son investissement financier. Les techniques de base de la publicité ciblée en ligne… En 2015, la Vice-Présidente du groupe européen d’associations des droits humains EDRi, Katarzyna Szymielewicz, résume ainsi la situation: « En matière de surveillance, il n’est pas question de connaître vos secrets, mais de gérer des populations. » Électeurs, à la prochaine élection, souvenez-vous : les GAFA ont le pouvoir de faire ou défaire un vote.

Ce produit, Facebook savait que j’allais acheter

De retour de la manifestation factice, Eliza apprécie peu d’avoir été dupe. Elle se connecte sur Facebook pour en savoir plus. Là, elle est exposée à une publicité pour des produits cosmétiques… qu’elle achète sur Amazon en deux clics pour se les faire livrer immédiatement. Cette publicité n’était pas là par hasard: Facebook savait. Il peut prédire six mois à l’avance 80 % des comportements de ses utilisateurs, comme l’adoption d’un régime, ou une commande de maquillage… Après l’achat d’Eliza sur Amazon, Facebook détecte une nouvelle opportunité en décelant sa piètre estime d’elle-même. Il lui propose des repas pour un régime minceur. Cette fois Eliza se sent clairement manipulée…

Scott Galloway, auteur de Les Quatre : l’ADN cachée des GAFA (Portfolio, 2017), estime que « les consommateurs et les annonceurs ont voté par leurs actions et exprimé que cet aspect intrusif est le prix à payer pour la pertinence ». Facebook, Google et Amazon, dont les revenus dépendent du ciblage comportemental, les y ont bien aidé. Nous ne sommes pas leurs clients, mais le produit qu’ils vendent à des annonceurs. Antonio Garcia Martinez, créateur de FBX, le marché d’enchères publicitaires de Facebook, décrit son bébé ainsi : « Chaque site que vous visitez lance une course folle à l’argent sur les câbles sous-marins de fibre optique, en employant les meilleures technologies de traitement de bases de données et tout ce que d’avides inconnus peuvent savoir sur vous. Les entreprises se battent à coups de calculs, en moins de 120 millisecondes, pour savoir laquelle aura le privilège d’apparaitre sous vos yeux. » Facebook et Google cherchent ainsi à extraire de nos profils le plus de valeur possible, sans nous laisser choisir ou même savoir comment nous sommes modélisés. Qu’ils soient géographiques ou psychologiques, ces modèles peuvent avoir un effet déterministe dévastateur sur la société. Dans son livre World Without Mind (Penguin Press, 2017), Franklin Foer écrit que « les grandes entreprises technologiques ont donné naissance à une nouvelle science qui construit des produits selon les gouts de ses consommateurs. Elles automatisent les choix que nous faisons, en suggérant les informations que nous devrions lire, ce que nous devrions acheter, les chemins que nous devrions prendre, les personnes que nous devrions connaître. »

2. Les GAFA, plus forts que les États ?

Facebook a atteint les deux milliards d’utilisateurs en Juin 2017. Ensemble, les GAFA font travailler 760 000 employés en septembre 2017, les deux tiers chez Amazon, seulement 23 000 chez Facebook. Au même moment, leur valorisation boursière s’élevait à 2 600 milliards de dollars, soit le PIB de la France pour un nombre d’employés équivalent à la population de la métropole de Toulouse ! Apple a encaissé un revenu comparable au PIB du Danemark. Dans le même temps, il a installé son siège social en Irlande pour ne payer que 4 % d’impôts.

Les GAFA seraient-ils devenus indétrônables ? Bruce Schneier, auteur de Data et Goliath (W. W. Norton & Company, 2015) estime que « les intermédiaires de l’information sont par nature profondément monopolistiques : de nombreux effets économiques récompensent les premiers arrivés, pénalisent les nouveaux-entrants, donnent envie aux consommateurs de rejoindre les réseaux les plus grands et rendent le passage [des usagers] à la concurrence plus difficile ». Une concurrence qu’il  devient aisé de vassaliser, comme l’analyse Lina Khan de l’Open Markets Institute: « Amazon a lancé ses propres marques à partir des recherches de marché de ses concurrents qui furent obligés d’utiliser sa plateforme pour être vus, s’appropriant leurs connaissances des consommateurs sans avoir à prendre de risques. […] Amazon est devenue une forme d’infrastructure pour toutes ces entreprises qui en dépendent. » Cela s’est vérifié dans la distribution de marchandises, comme dans l’hébergement de serveurs informatiques, avec Amazon Web Services qui représente aujourd’hui plus d’un tiers du marché. Beaucoup de start-up n’ont qu’une idée en tête : se faire racheter à prix d’or par les GAFA. Une motivation qui rencontre le désir de ces derniers d’acheter leur concurrents avant de devenir obsolètes, et d’acquérir des contenus qu’ils pourront privilégier sur leurs plateformes. Depuis 2008, Google a racheté YouTube, Amazon a avalé Twitch (streaming et VOD), Zappos (vente de chaussures) et Whole Foods (supermarchés bio), Facebook a dépensé 25 milliards en 4 ans pour WhatsApp, Instagram et Oculus. 

La Danoise Margarethe Vestiger, commissaire européenne à la concurrence, surveille de près ces constitutions d’empires. Dans un discours à Lisbonne en novembre 2017, elle affirmait : «  Plus la possession des données devient importante pour dominer la concurrence, plus nous devons examiner les fusions qui rassemblent des grandes bases de données. Le contrôle des données ne devrait pas être une façon de créer une barrière à l’entrée pour ses rivaux. » Eric Scherer abonde en ce sens : « N’est-il pas problématique, à terme, de voir de telles entreprises accumuler un tel niveau de richesses - dont elles ne font rien si ce n’est racheter tout concurrent qui pourrait les détrôner - au point de devenir plus puissantes que les États et de pouvoir s’offrir les meilleurs avocats pour défendre leurs causes ? »

Anders Samuelsen, ministre des affaires étrangères du Danemark estime dans des propos relayés par CNN en Janvier 2017 que « dans le futur, nos relations bilatérales avec Google seront aussi importantes que celles que nous avons avec la Grèce ». C’est pourquoi en mai 2017, le Danemark a été le premier État à nommer un ambassadeur numérique charger de négocier avec les géants du web. Pendant ce temps, les villes nord-américaines tentent d’amadouer Amazon pour qu’il installe chez elles son second siège social et les 50 000 emplois qui iront avec). C’est à celle qui offrira le plus beau cadeau à la firme de Jeff Bezos. Par exemple, Chicago lui propose d’avoir le choix de l’utilisation de l’argent des impôts versés à l’État. Ces mêmes villes, qui déplorent le manque d’argent pour investir dans leur propre infrastructure, sont prêtes à laisser Amazon prendre la relève. Google cherche également à justifier son rôle de substitution à l’investissement public dans le cadre de ses projets de R&D de long-terme au laboratoire Google X lancé en 2010, renommé X en 2015. X se décrit comme «s’attaquant aux immenses problèmes en utilisant des technologies révolutionnaires pour trouver des solutions radicales». En 2013, Google lance Calico, dont l’objectif est la «lutte contre l’âge». Cette vision transhumaniste a accéléré chez Google depuis que Sergey Brin a appris qu’il portait les gènes de la maladie de Parkinson, et n’a pas le temps d’attendre la régulation bio-conservatrice.

« Une entreprise ne devrait jamais se voir attribuer le travail d’un gouvernement. Ils poursuivent des objectifs complètement différents », dénonçait le lanceur d’alerte Edward Snowden, en septembre, dans Der Spiegel. Qu’importe, « la vision de Zuckerberg pour Facebook est celle d’une entité qui pourra supplanter la puissance publique dans certaines de ses fonctions clés », explique Ethan Zuckerman, directeur du MIT Media Lab. Zuckerberg qui affirmait dans son manifeste de février 2017 : « Facebook ressemble plus à un gouvernement qu’à une entreprise traditionnelle, nous avons une large communauté, et plus que les autres entreprises technologiques, nous mettons vraiment en place des lois. » Il y affirme également que « le progrès demande que nous formions une communauté globale» et que «notre prochain objectif sera de developper l’infrastructure sociale pour les communautés». Facebook espère supplanter la puissance publique dans plusieurs secteurs, sans être régulée, et investit « la plupart de [son] temps sur l’infrastructure technologique invisible » selon l’interview de l'Economist en Avril 2016. Zuckerberg crédibilise son éventuelle candidature présidentielle en 2020 par des embauches d’anciens responsables des campagnes d’Obama et W. Bush et par de nombreux déplacements qui imitent les rituels de campagne. La moyenne des sondages le donne à 29% d’opinions favorables vs 27% de négatives. La marche est encore haute, alors qu’il démontre qu’il n’a pas d’instinct politique. Au lieu de se rendre à Porto Rico après l’ouragan, il se filme avec un casque Oculus sur la tête pour une «visite du désastre en réalité virtuelle». Zuckerberg nourrit l’ambition d’agir en tant qu’acteur politique sur la scène globale. La diplomatie internationale de Facebook se résume pour l’instant à l’échec de son programme « Free Basics », qui consistait à financer l’installation de connections internet dans les régions défavorisées du globe. « La connectivité, affirmait Zuckerberg, doit être quelque chose que tout le monde partage et une opportunité pour tous. » Pour y parvenir, Facebook comptait sur l’entreprise aérospatiale Ascenta (qu’il a racheté en 2014) pour faire voler des avions solaires autonomes capables d’émettre des ondes wifi au dessus de pays du tiers monde et « connecter le dernier milliard ». Mais la cible pilote de la démarche, l’Inde, a rejeté le plan de Facebook, dénonçant du néocolonialisme sous couvert de charité. En avril 2016, le magazine The Economist accuse Facebook de « voiler ses intérêts corporatifs par un discours humanitaire ». Il faut dire que le programme faisait passer toutes les connections par le réseau social. Une version quelque peu bridée d’Internet… Les projets Free Basics de Facebook et Loon de Google (des ballons stratosphériques gonflés à l’hélium pour diffuser de l’internet en 4G sur des kilomètres) visent le même objectif : toujours plus d’utilisateurs, toujours plus de données à traiter, pour toujours plus de croissance. 

Reste à définir selon quelles règles, quels modèles on décide de traiter ces données. Un enjeu que Tim O'Reilly, auteur de Qu’est ce que le Futur ? (Harper, 2017), résume ainsi : « Vous choisissez le critère d’optimisation de vos algorithmes et en retour, ils forment votre entreprise, son modèle commercial, ses consommateurs, et finalement notre société entière ». 

Problème : « Le modèle algorithmique est optimisé pour l'efficacité et le profit, non pour la justice ou le bien public », déplore Cathy O’Neil, ancienne de la finance et data scientist proche du mouvement de protestation Occupy Wall Street. Pedro Domingos, auteur de “L’algorithme Maitre” (Basic Books, 2015) affirme que nous sous-estimons l’impact des algorithmes, qui sont invisibles : « Les gens s’inquiètent de ce que les ordinateurs vont devenir trop intelligents et conquérir le monde, mais le vrai problème est qu’ils sont trop stupides et qu’ils l’ont déjà conquis. » Stupides… Ou tout simplement cupides. « Facebook, Twitter, et les réseaux sociaux en général sont alimentés par une logique de gratifications, analyse le journaliste Joshua Topolwsky dans La Mort de l’Internet (décembre 2017) pour The Outline. « Et comme dans tout système où on compte les points, certains s’en jouent jusqu’à la triche. La plupart des acteurs destructifs sont motivés par l’argent. Twitter défend son inaction envers le harcèlement comme un acte de liberté d’expression, mais c’est un acte de commerce. » Sous la pression des marchés financiers, Twitter s’est fixée comme critère d’optimisation la croissance du nombre d’utilisateurs et n’a donc aucun intérêt à fermer les comptes frauduleux. Jeff Hammerbacher, qui dirigea l’équipe data de Facebook, pose lui aussi la question de meilleures mesures du succès : « Si, au lieu de diriger leur infrastructure incroyable à faire cliquer des gens sur des pubs, Facebook focalisait ses ressources sur les problèmes irrésolus de la science, en quoi est ce que le monde d’aujourd’hui serait différent ? »

Mais les GAFA restent focalisés sur leur croissance. Comment, dès lors, ne pas regarder vers le marché gigantesque qu’est la Chine ? Facebook y est interdit depuis 2009 mais a depuis réagi en mettant en place des instruments de censure pour séduire le régime. Dans le même but, en septembre, Apple a banni les réseaux privés virtuels (VPN) utilisés par les dissidents Chinois pour naviguer de façon anonyme. En centralisant les données de leurs utilisateurs dans l’obsession de capturer toute l’information, les GAFA mettent en place l’infrastructure de l’autoritarisme. La Chine ne les a cependant pas attendus pour conjuguer numérique et pratiques liberticides. Elle utilise déjà l’analyse du trafic internet de ses citoyens pour interdire les transports à ceux qui osent critiquer publiquement la politique de leur gouvernement sur les réseaux sociaux. En Février 2017, la Cour populaire suprême déclare avoir interdit les déplacements de 6,15 millions de personnes en avion et 1,65 millions en train, d’après WIRED. Les BATX (Baidu, Alibaba, Tencent, Xiaomi), homologues chinois des GAFA, travaillent en étroite collaboration avec le parti Communiste Chinois dans le modèle du capitalisme d’État. Ce qui prolonge la logique dont on voit les prémisses en Occident à des fins liberticides. En 2020, les systèmes d’évaluation des BATX utiliseront leurs données pour alimenter un “indicateur de fiabilité sociale” pour chaque citoyen qui empêchera l’accès à certains services et visas en dessous d’un certain score.

Un récent classement BrandIndex de l’institut YouGov désigne Google « marque préférée des consommateurs » au niveau mondial (dans 26 pays). Ils n’ont pas écouté Eric Schmidt, son PDG de 2001 à 2011, puis président exécutif d’Alphabet – la nouvelle maison mère du moteur de recherche – jusqu’au 21 décembre dernier : « Nous savons où vous êtes, avez été, nous pouvons plus ou moins savoir à quoi vous pensez. S’il y a quelque chose que vous faites et que personne ne doit savoir, peut-être devriez vous commencer par ne pas le faire. » Dormez tranquilles, les GAFA protègent votre liberté. Celle de bien vous tenir.

3. Comment résister ?

À titre individuel, il est désormais quasi impossible de se couper des GAFA sans avoir à payer un fort coût social. C’est ce que le sociologue brésilien Roberto Unger appelle « la dictature de l’absence d’alternatives ». Les GAFA se sont rendus indispensables, et ils organisent et formatent nos vies à partir des données personnelles que nous leur fournissons. Gilles Moyse, cofondateur de la start up de traitement du langage Récital, s’alarme : « À un niveau personnel, mais aussi professionnel, tout le monde dépend des pages Facebook et des rankings de Google. Si on entrait en conflit avec les Etats-Unis, ils n'auraient pas à envoyer un seul soldat : ils auraient juste à éteindre Google, le GPS, les services internet. »

Que faire concrètement ? Au niveau local, utiliser des médias moins traçables comme la presse papier, les podcasts, soutenir ses commerçants de quartier et effectuer ses achats en liquide, éviter les cartes de fidélité, et les agents à commande vocale qui sont inefficaces, biaisés et superflus. Pour casser votre bulle informationnelle, consultez directement des sites de sources avec des positionnements idéologiques alternatifs. Jonathan Albright, chercheur en journalisme à Columbia, propose de complémenter les emojis de réaction sur Facebook : “Et si il y avait un émoji de « confiance »? Ou un émoji de « respect »? Si la palette actuelle de 6 visages émotionnels « faché-j’aime-triste-haha » reste le mode d’interaction, nous resterons coincés avec des chambres d’écho et de l’indignation. J’ajouterais qu’il serait intéressant de pouvoir signaler les articles particulièrement persuasifs, qui ont réussi à rendre leur lectorat moins manichéen. Par exemple, si vous êtes anglophone, je vous conseille de lire les débats du subreddit ChangeMyView (URL: reddit.com/r/changemyview)  un site sur lequel les utilisateurs se voient attribuer un “delta” lorsqu’ils arrivent à convaincre leur interlocuteur de changer de point de vue et où les utilisateurs persuasifs affichent leur nombre de “deltas” comme un badge d’honneur.

Pour résister à l’empire de Google, je conseille l’utilisation de moteurs de recherche alternatifs qui ne pistent pas leurs utilisateurs et protègent leurs données. Par exemple, Qwant, « le moteur de recherche qui respecte votre vie privée », Francais, lancé en 2013. Il  a enregistré 2,6 milliards de requêtes en 2016. Ou encore DuckDuckGo, « le moteur de recherche qui ne vous espionne pas », Américain, lancé en 2008, qui lui revendique 6 milliards de requêtes. Si vous souhaitez remplacer Gmail, vous pouvez utiliser la messagerie chiffrée du Suisse ProtonMail. Vous pouvez contribuer à Wikipédia financièrement ou en partageant votre expertise. Wikipedia est le seul parmi les plus grands sites internet à renoncer au tracking et à la publicité et dépend de la passion de ses contributeurs à protéger sa réputation.

Pour éviter d’être traqué aux quatre coins du web par les annonceurs de Facebook et de Google, vous pouvez activer l’option “empêcher le suivi sur plusieurs domaines” dans les réglages de Sécurité du navigateur Safari d’Apple sur les versions sorties à partir de l’été 2017, et un bloqueur de publicités intrusives sera inclus en option à partir du 15 février sur Google Chrome. Si vous souhaitez consulter une vision d’ensemble de vos activités répertoriées par Google, l’entreprise a lancé la page myactivity.google.com/ en 2016. Si vous souhaitez consulter et demander à vous désinscrire des cookies d’identification auprès des courtiers de données, consultez youronlinechoices.com/fr/controler-ses-cookies/ pour en traiter 124 en une seule visite. Vous pouvez également demander directement sur le site d’un courtier en données la suppression de votre dossier: acxiom.fr/a-propos-d-acxiom/information-sur-le-depot-de-cookie/. L’extension pour navigateur web “AdNauseam”, disponible à adnauseam.io, cherche à utiliser des techniques d’obscurcissement pour brouiller le signal des traqueurs publicitaires : elle se charge de cliquer la totalité des publicités en tâche de fond afin de ne pas déranger votre session. Cela fausse les corrélations de votre modèle et vous permet de résister à la catégorisation systématique en silos homogènes. L’extension “Facebook Disconnect” empêche Facebook de tracer votre navigation sur tous les sites internet affichant un pouce bleu. L’extension “Privacy Badger” de l’Electronic Frontier Fondation (ONGI de protection des libertés sur Internet), disponible à eff.org/fr/privacybadger, vous permet de consulter l’intégralité des traqueurs tiers sur une page web et de controller pour chacun le niveau auquel vous souhaitez être pisté, ce qui a un aspect éducatif quant à l’ampleur du ciblage comportemental permanent et replace le consentement entre les mains de l’utilisateur. Si vous voulez vraiment aller au fond des choses, vous pouvez installer une extension qui bloque les publicités, telle que uBlock, qui permet d’autoriser les pubs uniquement sur les sites que vous souhaitez soutenir. Pour ne pas être contre-productif, assurez-vous que votre bloqueur de publicités ne revend pas vos informations de navigation à des tierces parties, comme l’a fait AdBlock.

Les stratégies de résistance n’existent pas qu’à l’échelle individuelle. Elles sont également collectives et politiques, comme le mouvement anti-monopole qui se développe en réaction aux GAFA. Cela commence par les impôts. Les lanceurs d’alerte des Paradise Papers ont mis en avant l’évasion fiscale d’Apple et Facebook en 2015. En Juin 2017, la commission européenne à la concurrence, sous la direction de Margarethe Vestager, inflige une amande de 13 milliards d’euros pour impôts impayés. Dans la foulée, Vestager fait payer 2,42 milliards d’euros à Google pour avoir abusé de sa position dominante sur le marché des recherches en favorisant son propre comparateur d’achats Google Shopping. Ces montants peuvent paraitre exorbitants, mais rappelons que d’après le Financial Times, la réforme du code fiscal américain en 2018 va permettre à Apple de rapatrier ses profits et d’économiser 47 milliards de dollars pour les reverser à ses actionnaires. Margarethe Vestager explique sa position lors d’une conférence TED à New York en Septembre 2017: « la règlementation et les règles de concurrence peuvent nous aider à nous assurer que les nouvelles technologies traitent les personnes de façon équitable et assurent que tous les agents du marché peuvent se concurrencer sur un pied d’égalité. » Nous sommes loin d’y être, mais c’est un début ! Même Bercy est sur l’affaire : Bruno Le Maire estime qu’il « est temps que l'Europe […] fasse payer à Google, Amazon et Facebook les impôts qu'ils doivent aux contribuables européens ». Pour ce faire, il a lancé un projet de taxation des GAFA sur leurs chiffres d’affaires générés dans chaque pays européen, et non plus uniquement sur leurs bénéfices, malgré les protestations de l’Irlande qui les abrite. Le porte-parole de Google France rétorque: « Plus une entreprise grossit et réussit, plus elle attire l’attention. […] C’est lié à cette impression que nous sommes sur plein de sujets différents ». Cette intégration verticale sera peut-être la clé de leur démantèlement partiel. 

Aux États Unis, les lois dites ‘antitrust’ permettent au gouvernement de casser les monopoles de grands groupes industriels quand ils présentent des conflits d’intérêts. C’est grâce à ce modèle qu’en 1984, le juge Harold Greene fit plier AT&T et négocia son démantèlement. La société investissait dans la recherche via son laboratoire Bell Labs, mais elle brevetait ses inventions plutôt que de les partager comme dans le cas de la recherche étatique. Jonathan Taplin, chercheur à l’université de Californie du Sud, écrit dans le New York Times d’Avril 2017 que « L’obligation donnée à AT&T de concéder des licences a permis le développement de Texas Instruments, Motorola, et de nombreuses autres start-ups ». De la même façon, en 2001, le département de la Justice Américain s’est intéressé à Microsoft après que ce dernier ait fait pression sur Netscape pour l’éliminer du marché des navigateurs internet en installant son propre logiciel, Internet Explorer, par défaut. Selon Scott Galloway, auteur de Les Quatre: l’ADN cachée des GAFA, Google n’a pu devenir l’entreprise géante qu’elle est aujourd’hui « uniquement parce que l’État Américain a demandé à Microsoft d’arrêter de tuer les entreprises naissantes». 

Sauf qu’aujourd’hui, le même problème se pose avec Google. Un mouvement d’appel au démantèlement des monopoles prend de l’ampleur aux États-Unis depuis la mi-2017, quand le parti Démocrate Américain a annoncé qu’il en faisait un pilier de son programme électoral pour les élections parlementaires de 2018. David Cicilline, un démocrate du Rhode Island, estime que « la concentration de pouvoir entre les mains de quelques entreprises peut nuire à l’économie et aux consommateurs à long terme ». Les GAFA commencent à avoir peur : Eric Schmidt, ex patron de Google, a récemment fait pression sur le think tank “New America” et exigé qu’ils licencient Barry Lynn, un chercheur qui avait publié un papier anti-monopolistique qui applaudissait les amendes imposées par Margarethe Vestager, ce qu’ils ont fait après avoir publié un blog où la directrice du think tank le blâme publiquement pour « faire entrave à leur relation avec Google sur des aspects cruciaux ». Ce genre d’abus de pouvoir grossier est le signe d’une entreprise inquiète de la possibilité d’être régulée, et qui agit de façon antidémocratique par désir de survie.

En Europe, il y a un début de prise de conscience. Au-delà des amendes de Vestager, le RGPD (Réglement européen de protection des données personnelles) entrera en vigueur en mai 2018 et créera des pratiques d’hygiène autour de la protection des données privées. Il faut cependant s’assurer que ces lois visent les GAFA sans freiner la construction d’entreprises européennes. L’Allemagne utilise son Autorité de la Concurrence pour lancer une investigation sur la façon dont Facebook aspire les données comme un trou noir mais refuse de les partager.

James Allworth, auteur de « Comment Mesurerez Vous Votre Vie »  affirme que « la meilleure façon de maintenir la santé d’une économie est de prioriser la démocratie. Les chefs d’entreprise sont à la recherche du profit par tous les moyens, dans le cadre des règles du jeu. Il y a deux leviers implicites : jouer le jeu sous sa forme actuelle, ou en changer les règles. » Tim O'Reilly, auteur de “Qu’est ce que le Futur?” propose une mesure alternative du succès : « une entreprise doit créer plus de valeur qu’elle n’en capture. Les parutions qui dépendent de l’achat ou de l’abonnement de leurs lecteurs ont une incitation à servir leur lectorat, alors que les parutions qui dépendent de la publicité ont une incitation à servir leur annonceurs. » À bon entendeur. Les services soi-disant gratuits devraient faire émerger des soupçons auprès de leurs utilisateurs. En ayant conscience de leur influence, nous pouvons nous prémunir contre l’omniprésence, l’omniscience et l’omnipotence des GAFA en construisant un mouvement qui essaie d’introduire des valeurs d’équité, de vérité et de confiance pour venir complémenter la simple mais dangereuse mesure de la croissance interminable.