Il est diffusé depuis quelques jours sur Netflix, et chaque internaute a le même réflexe : sidération et envie d’en parler aux collègues. Car ce que provoque le documentaire Derrière nos écrans de fumée (The social dilemma en VO) est différent de ce qu’un énième film sur la tech pourrait faire naître en nous. Il parle justement de nous, de nos agissements de tous les jours, de nos doigts qui s’agitent sur un smartphone, de nos notifications, des likes que l’on obtient, ou pas, sur Facebook, Twitter, Linkedin, Instagram, Snapchat ou autre Tiktok.
Sommes-nous prêts à admettre que ces dérives néfastes proviennent directement de notre travail ?Tristan Harris, ex-éthicien du design chez Google
Mais surtout, Jeff Orlowski, le réalisateur du doc, a réussi à attirer devant sa caméra, ceux qui ont conçu ces machines, qui les ont améliorées ou qui les ont monétisées. Ceux-là même qui aujourd’hui regrettent d’avoir ouvert cette boîte de pandore du décervelage, de la marionnettisation des esprits, et de la soumission aux algorithmes de quelques milliards de personnes.
C’est facile d’oublier aujourd’hui que ces outils nous ont procuré des choses vraiment merveilleuses. Ils ont réuni des familles dispersées, trouvé des donneurs d’organes.[…] Mais nous étions naïfs sur le revers de la médaille.Tim Kendall, ex-directeur de la monétisation de Facebook, ex-président de Pinterest
Ceux-là même qui ont créé la fameuse « économie de l’attention » grâce aux enseignements appris aux laboratoire de « captologie » de l’université de Stanford, parmi les pionniers de cette science de la manipulation en ligne.
Seules deux industries appellent leurs consommateurs « utilisateurs » : celle de la drogue et celle du logicielEdouard Tufte
Ils regrettent, ces cadres de la Silicon Valley de n’avoir pas eu conscience, au moment de participer à la déferlante planétaire de ces réseaux sociaux, de n’avoir eu qu’une conscience court-termiste. Il en va ainsi de celui qui a développé le like chez facebook. Après tout, qu’est-ce qu’un petit pouce en l’air que, d’un clic, on appose au bas d’un post ? Un simple coucou à un ami, ou à sa famille, une toute simple façon d’apprécier ce qu’il ou elle nous a destiné ? Mais l’on sait maintenant, et Derrière nos écrans de fumée nous le rappelle : il s’agit de bien plus que cela, d’une manipulation, d’un clic qui met en marche des algorithmes qui nous poussent à consommer, et surtout, à penser sous influence retorse.
En psychologie, on appelle ça un renforcement positif intermittent. Vous utilisez le produit consciemment. Mais je rentre dans votre tête pour y implanter une dépendance inconsciente et vous programmer plus profondément, sans que vous le sachiez.Tristan Harris, ex-éthicien du design chez Google.
Ces cadres repentis ont aujourd’hui changé de voie. Ils ne corrigeront jamais le mal qu’ils ont contribué à causer. Quoique. Le fait d’en parler, face caméra, aux 170 millions d’abonnés Netflix dans le monde est déjà une manière de rédemption. Ils nous parlent des fléaux des réseaux, mais ils nous parlent aussi de notre boulot.
Si la technologie suscite un chaos général, le scandale, l’incivilité, le manque de confiance dans l’autre, la solitude, l’aliénation, renforce la polarisation, le détournement d’élections, le populisme, multiplie les distractions, occulte les vrais problèmes… c’est ce qui fait société. Et cette société est à présent incapable de se régénérer et se délite dans le chaos.Tristan Harris
Ils nous disent de ne pas faire comme eux, de réfléchir à moyen ou long terme, de ne pas simplement voir l’aboutissement immédiat d’un produit ou d’un projet. Mettre fin au court-termisme en entreprise ? Se rappeler l'avertissement de Rabelais et de son " Science sans conscience n'est que ruine de l'âme " ?
Un vœu pieux. Mais un vœu qui, s’il est ancré dans la tête et dans les actions de tous ceux qui participent à l’entreprise, pourrait bien devenir laïque. Et de moins en moins pieux.
Bande annonce du documentaire à voir sur Netflix
Dessin de Charles Monnier ©cadremploi
Je suis rédactrice en chef de Cadremploi depuis 2006, en charge de la rubrique actualités du site. Je couvre des sujets sur la mutation des métiers, l'évolution des rapports recruteurs/recrutés, les nouvelles pratiques managériales ou les avancées de la parité. A la fois sous forme de textes, d'émissions video, de podcasts ou d'animation de débats IRL.