Quand Black Mirror frappe à la porte

Le déterminisme, pleinement théorisé par Spinoza dans l’ouvrage Ethique introduit une nouvelle composante dans la construction de la pensée en faisant prendre conscience aux individus qu’ils ne sont peut-être pas si libres qu’ils ne le croient. Tels des cailloux que l’on aurait lancés puis dotés de conscience en milieu de trajectoire, les hommes, selon Spinoza, n’avaient pas idée que le chemin qu’ils suivaient était en réalité déjà tracé. L’arrivée des nouvelles technologies et des gigantesques multinationales qui régulent implicitement une part de notre vie quotidienne soulève de façon très contemporaine la question insolvable du libre-arbitre.

 

Facebook, Google, Amazon, Apple… Ces entreprises, en récoltant des données sur leurs utilisateurs, subissent la tentation de pouvoir influencer les comportements. En effet, ce sont des entreprises à but lucratif ; tous les services qu’elles proposent ont donc un coût, bien qu’il soit souvent invisible. Leur capacité à déterminer les réactions des individus s’inscrit de fait dans un modèle économique de performance, et leur permet d’intégrer les utilisateurs dans un cercle vertueux de profit en les gardant potentiellement « ad vitam aeternam ».

Ainsi, Facebook n’hésite pas à effectuer des expériences pour consolider sa base de données sur les comportements humains. L’entreprise a notamment essayé de cibler (via un algorithme) les posts négatifs sur de vastes échantillons d’utilisateurs, observant la façon dont cela influait sur l’humeur et les commentaires que rédigeaient les sujets tests[1]. Plus récemment, Facebook a effectué des modifications sur son algorithme pour analyser comment cela influençait le trafic de plusieurs sites d’information. Il a ainsi été constaté que certain de ces sites ont perdu jusqu’à 75% de leur fréquentation[2]. Ces deux exemples témoignent de l’impact que peut avoir une simple modification algorithmique sur les comportements des individus, et par là même de l’influence de Facebook.

Cette idylle entrepreneuriale est rendue possible par le Big Data, qui inverse complètement l’asymétrie d’informations grâce à la quantité de données collectées sur chaque individu, les entreprises possédant désormais jusqu’aux détails les plus intimes des usagers.

Pour reprendre l’exemple précédent, Facebook est dorénavant capable de deviner la situation amoureuse d’un individu, les drogues qu’il a pu consommer, son orientation sexuelle, son ethnie, et les gens qu’il aurait pu rencontrer (allant jusqu’à identifier un donneur de sperme à son « fils »[3]), simplement en analysant ses likes.

L’entreprise Amazon elle, peut saisir les tendances politiques des individus via les livres achetés sur la plateforme. Sans parler de Google… Malgré cela, des études récentes montrent qu’environ 60% des gens ignorent que ces sites sont régis par des algorithmes[4]. Et donc l’impact inconscient que cela peut avoir sur leurs agissements.

Les campagnes présidentielles de ces dernières années se sont ainsi appuyées sur cette capacité à influencer les comportements individuels à l’aide d’algorithmes. L’utilisation de ce type de technologies à des fins politiques, bourgeonnante dans la campagne de Barack Obama, prend toute son ampleur dans celles de Trump, Clinton, Mélenchon, Macron et des Républicains. A titre d’exemple, les cadres de LREM établissaient des profils des quartiers de Paris selon leur appétence et leur incertitude, et Les Républicains utilisaient des publicités ciblées qui insistaient sur les points d’hésitation des électeurs.

Pour prendre un autre exemple, l’ambition de la Chine dans ce domaine témoigne de la globalité du problème. Le pays a pour projet de créer un gigantesque système de notation des citoyens reposant sur le Big Data et la récolte de données[5]. En fonction de leurs recherches, de leurs achats, de leur vie sur les réseaux sociaux, etc. les chinois se verront attribuée une note qui déterminera leurs possibilités d’avenir : le niveau de la note des parents déterminera par exemple l’accession des enfants aux meilleures écoles. Il s’agit en somme de réguler les destinées individuelles par un ensemble de valeurs et de codes dictés par l’Etat, le tout via des algorithmes utilisant le Big Data. De là à entrer dans un épisode de Black Mirror, il n’y a qu’un pas…

On peut finalement distinguer deux types d’influences des algorithmes sur les individus : l’une implicite, subtile, silencieuse qui, par la compréhension des réactions et psychologies collectives et individuelles tente d’orienter les comportements ; l’autre, explicite et coercitive, cherche à imposer pragmatiquement un mode de vie, une pensée et donc un chemin de vie.

S’agirait-il de la Mort de Dieu et de son remplacement par l’Informatique ? Plus intime, il guiderait les hommes ou leur imposerait un destin telles les Moires (les trois divinités du destin grecques), en prodiguant des conseils personnalisés, connaissant nos désirs avant même qu’ils ne nous viennent à l’esprit. Le philosophe Leibniz aborde ce questionnement dans l’ouvrage Essais de Théodicée en différenciant le déterminisme qui est l’œuvre de Dieu, et l’influence (contexte social, environnement…). Mais alors, de quoi les GAFA (Google, Apple, Facebook, Amazon) se rapprochent-elles le plus ? D’un Dieu omniscient qui détermine ou d’un outil d’influence ?

Dans cette optique, il paraît nécessaire de questionner plus sérieusement les notions de libre-arbitre et de déterminisme. Nos actions sont-elles les conséquences d’un ensemble de facteurs sociaux, génétiques et environnementaux ? Dans ce cas, un déterminisme franc venant des algorithmes aurait pour seule différence d’être connu, honnête et pragmatique. Et si au contraire nous possédons un libre-arbitre, est-il judicieux de le renier, même inconsciemment, pour des intérêts pécuniers ou d’ordre ?

Une nouvelle question émerge de cette réflexion : la conscience du pouvoir de ce déterminisme algorithmisé permet-elle de s’en détacher ? La connaissance du phénomène nous rend-elle une part de liberté ? Cette réponse est celle de Spinoza dans l’Ethique au problème du déterminisme, et semble être d’actualité si les GAFA peuvent réellement influencer nos comportements. En outre, comme demandait Sartre, sommes-nous prêts à assumer cette liberté, à en être responsables ? Il est sûrement parfois plus simple d’être bercé par des conseils, des ordres. Les GAFA pourraient ainsi incarner une autorité paternaliste détruisant l’angoisse de la liberté en prenant les gens par la main. Sartre dans l’ouvrage L’être et le néant prétendait que nous avions toujours le choix, et n’admettait aucune excuse pour éluder sa liberté : la rejeter reviendrait à agir de mauvaise foi, à devenir une chose qui ne suit que son essence ; l’assumer serait être authentique et sans excuses.

Une véritable question de responsabilité se joue ici, que ce soit pour les entreprises ayant un pouvoir d’influence en main, ou pour les individus soumis à ce pouvoir. C’est aux utilisateurs de se protéger contre cette influence, s’ils le désirent. Le confort accordé par les GAFA peut leur paraître appréciable, mais en cas de gêne il en va de leur responsabilité de se prémunir.

La marchandisation des informations de plus en plus intimes et leur utilisation dans la prédiction ou l’influence des comportements est un problème majeur et qui nous concerne tous ; chacun en tant que pierre de l’édifice se doit donc de mener cette réflexion. Il semble nécessaire de prendre du recul, puisqu’il en va de notre liberté, si tant est qu’elle existe.

 

 

[1] Adam D.I. Kramer, Jamie E.Guillory, and Jeffrey T.Hancock, “Experimental evidence of massive-scale emotional contagion through social networks”.

[2] Reed Albergotti, « Facebook Experiments Had Few Limits; Data Science Lab Conducted Tests on Users with little Oversight”, Wall Street Journal, July 2014

[3] https://refind.com/link/8762353?tb=true#https://gizmodo.com/how-facebook-figures-out-everyone-youve-ever-met-1819822691

[4] Motahhare Eslami, Aimee Rickman, Kristen Vaccaro and Christian Sandvig, “Reasoning about Invisible Algorithms in News Feeds”, Wired.

[5] http://www.lemonde.fr/idees/article/2017/10/25/le-gouvernement-chinois-exploite-habilement-ce-que-nous-ont-appris-les-reseaux-sociaux_5205452_3232.html

Soyez le premier à commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*