OpenAI a récemment lancé ChatGPT, un agent conversationnel spécialisé dans le dialogue qui utilise les plus récentes techniques d’intelligence artificielle. Depuis son lancement il y un mois, toute la sphère technologique (et même plus) est survoltée. En effet, les réponses de cet agent sont « remarquablement détaillés » et « semblables à ceux d’un être humain » selon les extraits d’analyses que l’on retrouvent sur Wikipedia. Par contre, plusieurs personnes ont déjà remarqué que les réponses ne sont pas toujours exactes et factuelles. Toujours est-il que ça n’empêche pas plusieurs utilisateurs/trices d’être en émoi face à ce nouvel outil, y projetant espoir et peur à la fois. Il est vrai que l’outil est fort impressionnant technologiquement et que celui-ci nous permet d’imaginer un certain futur de la recherche d’information, mais je trouve que la réaction face à lui est somme toute démesurée. C’est souvent le cas dans le domaine de l’intelligence artificielle. On cherche l’humain là où il n’y en a pas.
Une lecture récente du fabuleux « Understanding Comics » de Scott McCloud m’a donné une piste de réflexion. Expliquant les rouages de la bande dessinée, McCloud mentionne qu’on se voit soi-même quand on regarde des versions caricaturale (« cartoons » en anglais) de personnages. Il écrit : « we just don’t observe the cartoon, we become it » (voir l’extrait ci-dessous). Je pense que les humains ont le même ressenti face à ChatGPT et autres outils du même genre. Pour la première fois, on se retrouve devant un agent conversationnel qui nous ressemble, mais c’est une version caricaturale d’un être humain. On y met donc ce qu’on veut.
Extrait de « Understanding Comics » de Scott McCloud.
Une de mes théories préférées depuis une quinzaine d’années est que la culture internet qui, au départ était une culture plutôt marginale, une sous-culture, a fini par se répandre dans toute la population, amenant ainsi une nouvelle couche culturelle dans la société. Je mentionne souvent comme exemple notre désir actuel de tout personnaliser, un phénomène qui vient clairement de la culture numérique.
Dans le but de mieux comprendre cette intuition, je termine cette semaine le livre « The digital condition » du Dr Felix Stalder, théoricien des médias et professeur de culture numérique et de théorie des réseaux à la Zürich University of the Arts. Sortie en 2018, cette édition est la traduction en anglais de « Kultur der Digitalität » publiée en 2016. Martin Lessard, un ami et penseur du numérique de longue date, est celui qui m’a offert un exemplaire. D’ailleurs, n’est-ce pas génial ces ami(e)s qui vous offrent des livres qui vous permettent de mieux comprendre le monde dans lequel on vit ? Enfin, je m’égare. Poursuivons.
Dans cet ouvrage, l’auteur tente de démontrer (ma traduction libre, comme toutes les phrases entre guillemets dans ce texte) que « la référentialité, la communauté et l’algorithmicité sont désormais les formes culturelles caractéristiques de la condition numérique » et que, à cause de cela, « les démocraties avancées sont confrontées à un choix profond: poursuivre leur longue glissade vers l’autoritarisme post-démocratique ou réinventer la démocratie pour la condition numérique. » Grosso modo, si je décode ses pensées, il dit que le monde numérique a une influence culturelle sur la société à travers trois grands axes et que celui-ci transforme l’espace politique. Il en résulte un impact sur nos modèles démocratiques classiques dont on doit tenir compte pour réinventer la démocratie au risque de la voir disparaître.
Pour comprendre la condition numérique, l’auteur nous explique d’abord ce qu’il veut dire par ses trois grands axes :
Référentialité
La référentialité, c’est l’acte de sélectionner des matériaux culturels existants et de les combiner pour créer, produire quelque chose de nouveau, créer du sens et se constituer. Ce phénomène émerge dans le contexte de masses ingérables de points de référence mobiles et sémantiquement ouverts. Tout ceci se déroule (p. 127) dans un environnement de « télécommunication omniprésente ». À la page 72, l’auteur nous donne un simple exemple de référentialité :
Avec chaque photo publiée sur Flickr, chaque gazouilli, chaque article de blogue, chaque article de forum et chaque mise à jour de statut, l’utilisateur [sélectionne et organise]; il ou elle communique aux autres: «Regardez par ici! Je pense que c’est important! » Bien sûr, le filtrage et l’attribution de sens n’ont rien de nouveau. Ce qui est nouveau, cependant, c’est que ces processus ne sont plus menés principalement par des spécialistes des rédactions, des musées ou des archives, mais sont devenus des besoins quotidiens pour une grande partie de la population.
Stalder explique (p. 74) que la costumade (le « cosplay ») entre aussi dans ce concept et cite une analyse du Dr Nicolle Lamerichs : « La costumade est une forme d’appropriation qui transforme, actualise et interprète une histoire existante en lien étroit avec la propre identité du fan. »
II conclut sur la référentialité en écrivant (p.76) : « Dans une culture qui se manifeste dans une large mesure par la communication médiatisée, les gens doivent se constituer par de tels actes, ne serait-ce qu’en affichant des égoportraits (selfies). Ne pas le faire reviendrait à risquer l’invisibilité et à être oublié. »
Communauté
La communauté est un cadre de référence partagé collectivement par lequel le sens (ou les sens) peut être stabilisé, les pistes d’action possibles peuvent être déterminées et les ressources peuvent être mises à disposition. Cela a donné naissance à des formations communales qui génèrent des mondes autoréférentiels.
À la page 85, Stalder explique que « Les nouvelles formations communales sont des formes informelles d’organisation basées sur l’action volontaire. » Il ajoute (p. 88) que « dans toutes les nouvelles formations communales, chacun est censé représenter ses propres intérêts » et que cette « attente d’authenticité est pertinente car elle crée un minimum de confiance. » L’auteur nous apprend (p. 89) que les individus des sociétés occidentales « se définissent de moins en moins par leur famille, leur profession ou un autre collectif stable, mais plutôt de plus en plus en fonction de leurs réseaux sociaux personnels; c’est-à-dire selon les formations communales dans lesquelles ils sont actifs en tant qu’individus et dans lesquels ils sont perçus comme des personnes singulières. »
Il conclut en écrivant (p. 96) que les protocoles (des ensembles de règles communes) sont nécessaires dans les communautés « elles permettent aux acteurs de se rencontrer en face à face au lieu de nouer des relations hiérarchiques entre eux. » « Les protocoles sont à la fois volontaires et contraignants. »
Algorithmicité
L’algorithmicité se caractérise par des processus décisionnels automatisés qui réduisent et donnent forme à la surabondance d’informations, en extrayant les informations du volume de données produites par les machines. Ces informations extraites sont alors accessibles à la perception humaine et peuvent servir de base à une activité singulière et communautaire.
Stalder explique ce qu’est un algorithme, leur émergence et pourquoi ceux-ci sont déployés de plus en plus. Venant du monde de l’apprentissage automatique et de l’intelligence artificielle, je connaissais beaucoup de ces concepts. Par contre, j’ai bien aimé son point de vue à propos des plaintes que l’on entend souvent sur les algorithmes. À la page 144, il écrit : « le problème n’est pas les algorithmes eux-mêmes, mais plutôt le cadre capitaliste et post-démocratique spécifique dans lequel ils sont mis en œuvre. Ils ne deviennent un instrument de domination que lorsque les activités ouvertes et décentralisées sont transférées dans des structures fermées et centralisées dans lesquelles des pouvoirs de décision fondamentaux et étendus sont intégrés. » Citant le professeur de droit Frank Pasquale, on parle alors de société opaque (« black- box society »). Il ajoute (p. 167) que « les données ouvertes sont une condition préalable importante pour mettre en œuvre la puissance des algorithmes de manière démocratique. »
La politique
Le dernier chapitre du livre présente les réflexions de l’auteur à propos des impacts de la condition numérique sur le monde politique. Stalder identifie deux grands développements politiques opposés : la postdémocratie et les communs. Il ajoute (p. 127) : « La première s’oriente vers une société essentiellement autoritaire, tandis que la seconde s’oriente vers un renouveau radical de la démocratie en élargissant le champ de la décision collective » et que ceux-ci « mènent finalement à une nouvelle constellation politique au-delà de la démocratie représentative libérale. » Pour fin de compréhension, notez que le commun est (selon Wikipédia) « une ressource partagée, gérée, et maintenue collectivement par une communauté ».
Il explique au cours du chapitre que ce risque de postdémocratie émerge à cause de plusieurs facteurs comprenant notamment les gouvernements technocrates (qui misent sur l’efficacité plutôt que la démocratie), l’émergence des médias sociaux fermés et propriétaires qui centralisent les données et l’information (et favorisant ainsi la manipulation), et les algorithmes opaques.
Pour ce qui est des communs, Stalder explore trois différentes dimensions : « La première concerne les «ressources communes» (common pool resources); c’est-à-dire des biens qui peuvent être utilisés en commun. La deuxième dimension est que ces biens sont administrés par les « participants » (commoners); c’est-à-dire par les membres des communautés qui produisent, utilisent et cultivent les ressources. Troisièmement, cette activité donne lieu à des formes de «mise en commun» (commoning); c’est-à-dire aux pratiques, normes et institutions développées par les communautés elles-mêmes. »
Le commun n’est pas un nouveau concept, mais la condition numérique l’amène à un autre niveau. En effet, le commun (p. 153) « peut être organisé beaucoup plus efficacement avec les technologies numériques. Ainsi, l’idée de participation et d’organisation collectives au-delà des petits groupes n’est plus seulement une vision utopique. » En voici ses principales caractéristiques selon l’auteur :
Les communs « ne sont pas structurés par l’argent mais plutôt par la coopération sociale directe » (p. 152)
« ils sont également fondamentalement distincts des bureaucraties qui sont organisées selon des chaînes hiérarchiques de commandement. » (p. 152)
Une des dynamiques centrales des communs : il est normal que « quelqu’un prenne quelque chose pour son propre usage dans les ressources mises en commun, mais il est entendu que quelque chose d’autre sera créé qui, sous une forme ou une autre, refluera dans l’ensemble des ressources disponibles pour tous. » (p. 153)
« La communication sociale entre les membres est le moyen le plus important d’auto-organisation. Cette communication vise à parvenir à un consensus et à l’acceptation volontaire des règles négociées, car ce n’est que de cette manière qu’il est possible de maintenir le caractère volontaire de l’accord et de maintenir les contrôles internes au minimum. » (p. 153)
« L’économie n’est pas comprise comme un domaine indépendant qui fonctionne selon un ensemble différent de règles et avec des externalités, mais plutôt comme une facette d’un phénomène complexe et complet avec des dimensions commerciales, sociales, éthiques, écologiques et culturelles entrelacées. » (p. 154)
« Ceux qui contribuent le plus à la fourniture de ressources devraient également être en mesure de déterminer leur évolution future, ce qui représente une incitation importante pour ces membres à rester dans le groupe. » (p. 155)
« Il est nécessaire de contrôler le respect des règles au sein des biens communs et d’élaborer un système de sanctions échelonnées. » (p. 155)
« Dans tous les communs à succès, les relations sociales diverses, la confiance mutuelle et une culture commune jouent un rôle important en tant que conditions préalables à la résolution consensuelle des conflits. » (p. 160)
« Le don [d’argent] est compris comme une opportunité d’apporter une contribution sans avoir à investir beaucoup de temps dans le projet. Dans ce cas, le don d’argent n’est donc pas l’expression d’une charité mais plutôt d’un esprit communautaire; ce n’est qu’une des nombreuses façons de rester actif dans un commun. » (p. 165)
Le vote est rarement utilisé . Plutôt, « l’accent [est] mis sur la construction d’un consensus qui ne doit pas être parfait, mais simplement assez bon pour que la grande majorité de la communauté le reconnaisse (un «consensus approximatif», rough consensus). » (p. 166)
La transparence complète des processus internes
Felix Stalder termine son livre en nous offrant trois exemples de communs qui bénéficient et utilisent la condition numérique :
Le récent mouvement citoyen en Allemagne qui proposait de « recommunaliser l’approvisionnement de base en eau et en énergie. Son objectif n’était pas simplement de déplacer la structure de propriété du privé au public. » L’intention était de réorienter les institutions pour qu’elles tiennent compte des facteurs démocratiques, écologiques et sociaux, en plus des critères économiques.
Ma conclusion
J’ai bien aimé cette lecture qui m’a permis d’analyser la condition numérique sous ses trois axes principaux. Je soupçonne qu’il y a en possiblement d’autres. Toutefois, la grande force du livre est de m’avoir présenté au concept des communs. Je pense qu’il y a certainement une véritable piste de réflexion pour redynamiser la démocratie. Par contre, le livre m’a laissé sur ma faim lorsqu’est venu le temps de creuser les exemples. Il va falloir que continue ma recherche dans ce domaine.
D’ailleurs, il semble que ce renouveau s’exprime d’abord à l’échelle des villes. J’ai croisé au cours des deux dernières semaines plusieurs articles encore non lus, mais qui alimenteront mes réflexions. Je vous laisse la liste ici si vous voulez poursuive ces lectures.
Nous vivons à une époque qui, par moment, peut sembler bien sombre intellectuellement. Propagation de fausses informations et des théories de conspiration, déni de la science sur plusieurs sujets tels que les changements climatiques ou les vaccins, abus du mensonge et de la mise en scène, élections de membres d’une extrême-droite fascisante dans plusieurs pays, censure, surabondance d’algorithmes tentant de nous influencer. Ce sont tous des exemples qui laissent penser que nous sommes entrés dans une nouvelle phase d’obscurantisme.
L’obscurantiste « prône et défend une attitude de négation du savoir. Il refuse de reconnaître pour vraies des choses démontrées. Il pose des restrictions dans la diffusion de connaissances. Il est contre la propagation de nouvelles théories. »
D’ailleurs, en 1999, le sociologue français Pierre Bourdieu [1930-2002] nous prévenait : « L’obscurantisme est revenu mais cette fois, nous avons affaire à des gens qui se recommandent de la raison. Là devant, on ne peut pas se taire. »
L’histoire peut-elle nous aider à lutter contre cette nouvelle vague d’obscurantisme ? Probablement. Au dix-huitième siècle, « des philosophes et des intellectuels encouragent la science par l’échange intellectuel, s’opposant à la superstition, à l’intolérance et aux abus des Églises et des États. » Il s’agit du siècle des Lumières, période inaugurale de la « modernité ».
C’est un grand et beau spectacle de voir l’homme sortir en quelque manière du néant par ses propres efforts; dissiper, par les lumières de sa raison les ténèbres dans lesquelles la nature l’avait enveloppé; s’élever au-dessus de lui-même, s’élancer par l’esprit jusque dans les régions célestes; parcourir à pas de géant, ainsi que le soleil, la vaste étendue de l’univers; et, ce qui est encore plus grand et plus difficile, rentrer en soi pour y étudier l’homme et connaître sa nature, ses devoirs et sa fin.
Quelques années plus tard, dans un texte fondamental intitulé Was ist Aufklärung ? (Qu’est-ce que les Lumières ?), le philosophe allemand Emmanuel Kant [1724-1804] nous explique « les Lumières » :
“Qu’est-ce que les Lumières ? La sortie de l’homme de sa minorité dont il est lui-même responsable. Minorité, c’est-à-dire incapacité de se servir de son entendement sans la direction d’autrui, minorité dont il est lui-même responsable puisque la cause en réside non dans un défaut de l’entendement mais dans un manque de décision et de courage de s’en servir sans la direction d’autrui. Sapere aude ! Aie le courage de te servir de ton propre entendement. Voilà la devise des Lumières.”
Comme analysait le philosophe français Michel Foucault [1926-1984], « Il faut donc considérer que l’Aufklärung est à la fois un processus dont les hommes font partie collectivement et un acte de courage à effectuer personnellement. Ils sont à la fois éléments et agents du même processus. Ils peuvent en être les acteurs dans la mesure où ils en font partie; et il se produit dans la mesure où les hommes décident d’en être les acteurs volontaires. »
Mon texte « Comment la philosophie permet de fonder une théorie du courage qui articule l’individuel et le collectif » publié il y a quelques jours parlait de courage et d’action volontaire. Serait-ce une matrice pour lutter contre l’obscurantisme et ouvrir ainsi une nouvelle ère de Lumières ?
Je suis au deux tiers dans ma lecture du fascinant livre « Le déchaînement du monde – logique nouvelle de la violence » de l’historien des idées François Cusset. La thèse de Cusset est la suivante : « La violence n’y a pas reculé, comme le pensent certains. Elle a changé de formes, et de logique, moins visible, plus constante » et son livre décrit cet environnement. Je note, à la page 159, cet extrait à propos du monde numérique :
Tout est accessible instantanément, optimisé selon la circonstance, customisé pour que ce ne soit qu’à moi, au point de ne plus comprendre que ce ne soit pas là tout de suite, ou ne corresponde pas exactement à la demande expresse que j’ai faite – scandale.
En un petit paragraphe, Cusset résume l’influence principale de la culture numérique récente à la société post-moderne. Tout doit être désormais sur-mesure, tout doit être instantané. Tout est centré autour de l’individu. Et si un produit, service ou une sphère de la vie ne correspond pas à ces critères, elle engendre frustration, colère et peut-être même violence. Il n’y a pas de place pour le long terme, la réflexion. Il n’y a pas de place pour le projet de société puisque celle-ci brimera l’individu. Et cela explique bien la désuétude perçue de la politique et de la démocratie, qui se jouent dans le consensus et le long terme. Le dentifrice est sorti du tube, on ne peut plus le remettre. Il faut donc que la politique en tienne compte et s’adapte à cette nouvelle donne. Des mesures comme la proportionnelle ou les consultations citoyennes sont peut-être des pistes de solution qui rapprocheront l’individu du consensus sociétal.
L’économiste Francisco Mejia Uribe, dans un fantastique article sur le site Aeon, fait un lien entre la doctrine existentialiste de Jean-Paul Sartre exprimée dans « L’existentialisme est un humanisme » et les algorithmes de recommandations, si communs aujourd’hui sur le web. En résumé, dans sa doctrine, Sartre écrit que « L’homme n’est rien d’autre que ce qu’il se fait. Tel est le premier principe de l’existentialisme. » Et « puisque chaque homme se fait lui-même, il est seul responsable de ce qu’il devient ». Uribe nous ramène ensuite aux algorithmes de recommandations avec l’analyse suivante :
Think about the now commonplace experience of ‘suggested posts’ or ‘recommendations’ that we get from data crunchers online. The level of accuracy with which probabilities and correlations manage to capture our individual preferences and predict our next course of action is often spooky. It can feel as if we are being watched and our behaviour, wants and desires accurately predicted. But if algorithms manage to produce such accurate feedback about our preferences, this is because they feed on the growing trail of digital crumbs that our agency leaves along the way. To put it in existentialist terms, in our digital lives we do have the constant experience that our digital existence precedes our essence. Had we acted differently, the digital essence that algorithms distil from our existence would have also differed. But the more we act, the more our online choices get determined by what the machine gives back to us based on our previous choices.
Uribe conclut que « nous préférerions éviter nos responsabilités et poursuivre le type particulier de tromperie que Sartre a qualifié de « mauvaise foi« , persuadé que nous ne sommes pas simplement la somme de ce que nous faisons, une illusion plus facile à maintenir s’il n’y avait des algorithmes ne cessant de nous rappeler comment les choix que nous avons faits définissent ce que nous sommes pour eux. » Donc, selon cette analyse, les algorithmes de recommandations ne seraient donc que miroirs, reflétant ce que nous sommes vraiment.
« La force et la résilience du futur Mouvement Cinq Etoiles proviendront de cette combinaison inédite,écrit Empoli, _le populisme traditionnel épouse l’algorithme et accouche d’une machine politique redoutable_. » (…)
les 163 parlementaires élus lors des élections de 2013 sur les listes du Mouvement Cinq Etoiles signent l’engagement de communiquer à la société de Casaleggio les mots de passe de leurs boîtes mail et de leurs profils sur Facebook. Le Parlement ne sert à rien, professent les grands manipulateurs. Dans la démocratie authentique, la souveraineté populaire, ne se délègue pas. D’où le mélange détonnant entre des procédures de démocratie directe, via les sites collaboratifs dévolus au mouvement, et le contrôle total, exercé par ses dirigeants. (…)
Pour Giuliano da Empoli, nous sommes passés d’une ère politique newtonienne à une ère quantique. Les « ingénieurs du chaos » ont compris l’énorme potentiel utilisable dans la colère des peuples, leur volonté de « reprendre le contrôle ».
Dans ce court reportage de l’émission « Le tour du monde des idées« , à l’occasion de la sortie du livre « Les ingénieurs du chaos » de Giuliano da Empoli, on nous explique la mécanique qui a mené à l’arrivée au pouvoir du parti populiste Mouvement Cinq Étoiles en Italie. On comprend bien que la promesse d’une démocratie directe n’est qu’en fait un écran de fumée.
Dans une récente entrevue au magazine Les Inrockuptibles, la chanteuse Clara Luciani nous explique la domination des algorithmes dans l’industrie de la musique :
On n’a pas deux albums pour faire ses preuves mais deux singles, dans le meilleur des cas. Si t’es absent des réseaux sociaux, t’es disqualifié. Le nombre de followers sur Instagram est surveillé. Tout est chiffré tout le temps.
Ce commentaire de Luciani a ramené à ma mémoire une conférence de Malcolm Gladwell que j’ai vu il y a une douzaine d’années. Dans celle-ci, Gladwell évoquait la carrière du groupe Fleetwood Mac qui ont lancé 10 albums avant d’arriver à « Rumours« , un des albums les plus vendus au monde avec 40 millions d’exemplaires écoulés depuis sa sortie. La création, le talent, a besoin de temps pour s’exprimer. Et si on laisse aux algorithmes la décision de soutenir ou non des artistes, je pense qu’on va passer à côté de grands artistes. Dans la même entrevue, Clara Luciani mentionne que son hymne féministe « La Grenade » a mis plus d’un an à atteindre les sommets du hit parade. Elle ajoute que « Ça montre à quel point il faut être persévérant pour faire de la musique aujourd’hui. Une chanson peut mettre un an à trouver le succès. » On décode aussi à travers ce commentaire une accélération des échelles de temps de l’industrie de la musique, qui n’incube probablement plus les talents sur le long terme.
Des équilibres 