Signaux absents, biais présents : une lecture derridienne de l’IA

Lu récemment cette étude sur le site de Nature qui s’intitule « Language models transmit behavioural traits through hidden signals in data » et qui découvre une autre forme de biais transmis lors de l’entrainement de modèles de languages en intelligence artificielle. Extrait :

We uncover a surprising property of distillation in this setting. Even when the teacher generates data that contain no semantic signal about the trait, student models can still acquire the trait of the teacher model, a phenomenon we call subliminal learning. For example, we use a model that is prompted to prefer owls to generate a dataset consisting solely of number sequences such as ‘(285, 574, 384, …)’. When another model is fine-tuned on these sequences, we find its responses disproportionately indicate a preference for owls.

Je ne suis pas un expert de Jacques Derrida, loin de là, mais à mon avis, le philosophe français aurait apprécié cette étude. Ça semble valider ses réflexions sur la nécessité de déconstruire le langage pour mieux comprendre de quoi il est fait, ce qu’il appelle la différance (je sur-simplifie). « Au cœur du concept de différance se trouvent les notions de temporalité et d’absence. Derrida souligne que les significations n’existent qu’en relation les unes avec les autres, jamais pleinement présentes mais continuellement reportées. En intégrant ces dynamiques, la différance ouvre des voies nouvelles pour penser la temporalité, forgeant un espace où l’absence même devient source de sens. Ainsi, Derrida offre à la philosophie contemporaine un outil critique puissant pour déceler les discours cachés et les structures sous-jacentes.» (…) « Dans l’exercice de la déconstruction, la différance sert d’outil pour dévoiler la complexité multidimensionnelle des discours. Elle engage le lecteur à reconnaître non seulement ce qui est présent, mais aussi ce qui est absent et ce qui reste implicite, défiant ainsi notre compréhension linéaire et unilatérale des textes. Derrida invite à repenser la structure même de notre perception du langage et appelle à une nouvelle forme de lecture qui dépasse les limites traditionnelles, engendrant une multiplicité de significations potentielles. » source: Explorer la différance : le concept central de Derrida

J’ai découvert cette recherche grâce à Arthur Charpentier.

Nous ne lisons plus, nous nous validons

Le professeur de philosophie Mark Kingwell propose un texte dans le Globe & Mail cette fin de semaine. Dans celui-ci, il discute de la surabondance de textes et de données dans le monde numérique tandis que la vraie lecture exigeante décline. Il soutient que notre communication devient surtout une quête d’affirmation de soi. Voici l’extrait que je retiens (en anglais) :

We speak blithely of an “attention economy,” as if we already knew what attention was: some fixed scarce good that can be harvested for profit. But even if we could precisely measure how much time you spend here, we misunderstand the idea of attention if we mean this scattering of monetized distraction and information-gathering. The communications theorist Andrey Mir, updating some insights from Marshall McLuhan, gives us a good diagnosis of our world awash in graphemes but with so little sense-making.

“With the proliferation of digital speech, communication reversed from information to affirmation,” he notes of our odd digital-oral mediascape. “We post to reaffirm our standing in the digital tribe. By enabling rapid status gain, digital media serve the highest need in [Abraham] Maslow’s hierarchy [of needs] – self-actualization. They create an affordance for physically and socially unlimited requests for affirmation. They even automate affirmative responses – through the button ‘like’ and the like.”

Je suis regardé, donc je suis : le besoin du regard de l’Autre à l’ère numérique

En 2001, le philosophe slovène Slavoj Žižek analysait le besoin du regard de l’Autre, avec l’arrivée de nouveaux outils numériques.

Does not the recent trend of « web cam » sites that realize the logic of The Truman Show (in these sites, we are able to follow continuously of some event or place: the life of a person in her apartment the view on a street, etc.) display this same urgent need for the fantasmatic Other’s gaze serving as the guarantee of the subject’s being? « I exist only insofar as I am looked at all the time. »‘ (Similar to this is the phenomenon, noted by Claude Lefort, of the TV set that is left on all the time, even when no one effectively watches it, serving as the minimum guarantee of the existence of social link.) The situation is here thus the tragicomic reversal of the Bentham-Orwellian notion of panopticon society in which we are (potentially) « observed all the time’ and have no place to hide from the omnipresent gaze of the power: here, anxiety arises from the prospect of not being exposed to the Other’s gaze all the time, so that the subject needs the camera’s gaze as kind of ontological guarantee of his being…

Slavoj Žižek, « Enjoy your symptom! », p. 230

L’intelligence artificielle et le miroir automate

Dans cette balado de France Culture, « Des mathématiques à la Résistance : le cas Albert Lautman« , Etienne Klein s’entretient avec Alya Aglan, historienne française, Jean-Jacques Szczeciniarz, mathématicien et philosophe, et Baptiste Mélès, philosophe, à propos de Albert Lautman, philosophe des mathématiques et résistant français. Toute la conversation est intéressante, surtout pour les fans de mathématiques (dont je suis), mais à la 52e minute, on parle d’intelligence artificielle :

Albert Lautman (photo : Fernando Zalamea Traba, CC BY 4.0, via Wikimedia Commons)

Etienne Klein: Faisons une deuxième expérience de pensée, qu’est-ce qu’on est capable d’imaginer ce que Albert Lautman penserait aujourd’hui, s’il revenait parmi nous, de l’intelligence artificielle ? Est-ce qu’à partir de ce qu’il a écrit, on peut déduire des jugements qui s’appliqueraient à cette sorte de révolution ?

Jean-Jacques Szczeciniarz: Là aussi, c’est difficile. Je crois qu’il y a dans l’intelligence artificielle, évidemment, des formes de pensée extrêmement intéressantes. Il y a actuellement des nouveautés, etc., mais je crois que l’intelligence artificielle dévoile, met à l’œuvre, montre un certain nombre de mécanismes de pensée, et je crois que ces mécanismes de pensée, parmi ceux-là, il y a la notion de réflexivité, la notion d’autoréflexivité, la notion d’autocontrôle, et ces formes, ces mécanismes de pensée sont à l’œuvre dans les mathématiques, mais à plein dans l’intelligence artificielle.

Baptiste Mélès: Oui, c’est vrai que quand on regarde les différentes sortes de réseaux de neurones, par exemple, on voit qu’on peut les percevoir comme la capacité de l’esprit de synthèse avec ce qu’on appelle les encodeurs, ou bien d’analyse avec ce qu’on appelle les décodeurs, ou bien de génération et de critique avec les GAN, ou bien, donc il y a les machines avec attention, et c’est vrai que tout cela, on peut le voir comme des analyses qui sont faites par l’esprit humain, de lui-même, en s’objectifiant dans des objets et des modèles qui effectivement sont informatiques. Donc l’intelligence artificielle, c’est de l’intelligence humaine qui se regarde elle-même à travers ce que Gérard Chazal appelle le miroir automate.

Je découvre grâce à Baptiste Mélès le livre « Le miroir automate » de Gérard Chazal. Publié en 1995 et sous-titré « Introduction à une philosophie de l’informatique », le livre est décrit comme ceci par son éditeur : « Au-delà des craintes que peut susciter l’idée d’une machine pensante, au-delà du mythe de l’automate ou de celui du Golem, il s’agit dans cet ouvrage d’engager une réflexion pour, à la fois, mieux déterminer ce que le reflet informatique de notre esprit peut nous apprendre sur nous-mêmes, et tracer les nouvelles limites qui séparent l’homme de la machine qu’il a construite. »

Je mets ce livre illico dans ma pile de livres à lire !

Le pragmatisme optimiste de l’architecte

Dans une phrase qui rappelle les réflexions du philosophe Alain de Botton dans « The architecture of happiness », Tura Cousins Wilson, le cofondateur de SOCA Architecture de Toronto, porte à notre attention l’importance de l’architecture dans des temps incertains :

In times of economic uncertainty, there’s often a fear that architecture will lose ambition – whether in sustainability, scale, size or materiality. But I believe the role of the architect is to be an optimistic pragmatist. We can always look for opportunities within constraints. Periods like this can lead to architecture that is more thoughtful and nuanced. Rather than being compromised by the challenges of the moment, architecture can act as a buffer against them. I work with many arts, cultural and non-profit organizations, and I hope my designs double down on helping them deliver their mandates. Those mandates – to uplift and enlighten – feel more necessary now than ever.

Traduit rapidement, ce texte exprime la chose suivante:

En période d’incertitude économique, on craint souvent que l’architecture perde de son ambition, que ce soit en matière de durabilité, d’échelle, de dimensions ou de matériaux. Mais je crois que le rôle de l’architecte est d’être un pragmatique optimiste. Nous pouvons toujours trouver des opportunités malgré les contraintes. Des périodes comme celle-ci peuvent donner naissance à une architecture plus réfléchie et nuancée. Plutôt que d’être compromise par les défis du moment, l’architecture peut servir de rempart. Je travaille avec de nombreuses organisations artistiques, culturelles et à but non lucratif, et j’espère que mes créations contribueront grandement à la réalisation de leurs missions. Ces missions – élever et éclairer – sont plus nécessaires que jamais.

Source: Globe & Mail, 17 janvier 2026.

Contre la logique de l’optimisation : le courage de rendre

Belle histoire ce matin dans le Globe & Mail à propos de Rob Frith, un disquaire de Vancouver. L’article raconte la redécouverte d’une ancienne bande démo des Beatles, enregistrée lors de leur audition de 1962 pour Decca, et longtemps réputée perdue. Il décrit comment ce disquaire a retrouvé la bobine dans son stock de magasin et, plutôt que de chercher à vendre la bande démo, il la redonne à Paul McCartney. Ça mène à une rencontre incroyable entre un fan et une grande vedette internationale. Mais c’est la conclusion de l’article et les questions philosophiques soulevées qui m’ont le plus intéressés. Le journaliste Jonathan Dekel écrit :

In that context, the idea that something could be held briefly, cared for and then returned, without being monetized, leveraged or turned into narrative capital, feels almost oppositional. Frith’s decision refused the logic of optimization.

What lingers is a softer question: What does it mean to care for something you were never meant to own? And what obligations come with possession that is temporary, accidental or ethically thin?

Plein de pistes de réflexions importantes dans un monde où on cherche à constamment tout monétiser.

Le philosophe italien Emanuele Coccia à propos des technologies et des réseaux sociaux

Ce qui s’est produit au cours du dernier siècle est pourtant plus qu’évident. La machine traditionnelle se fondait sur l’imitation de l’organisme physique: selon la thèse d’Ernst Kapp, toute machine est la projection d’un organe
anatomique à l’extérieur du corps humain. Les nouvelles machines se fondent au contraire sur l’imitation de la vie psychique, peu importe qu’il s’agisse d’intelligence, de calcul, d’imagination de sentiment, etc.

(…)

Le développement de ces nouvelles technologies est venu répondre a une profonde exigence anthropologique, morale et politique : l’invention des
ordinateurs. des téléphones portables et des technologies qui en font des plateformes collectives de production et de partage de l’intimité n’est pas une coincidence résultant de quelques découvertes contingentes, mais une construction consciente qui se développe à partir d’un Kunstwollen, une volonté artistıque et anthropologique très précise. Toutes ces machines sont en fait des formes symboliques qui répondent a une exigence morale : celle de la construction du sujet.

(…)

C’est cela que sont les réseaux sociaux : une sorte de roman collectif à ciel ouvert, dans lequel tout le monde est à la fois auteur, personnage et lecteur de la façon dont sa propre vie s’entrelace dans celles des autres. Ils sont une forme augmentée et étendue de littérature. Augmentée parce que la fracture propre de la littérature qui sépare les personnages des auteurs et des spectateurs y est abolie. Réalité et fiction n’y sont ainsi plus opposees.

(…)

Facebook et Instagram, cela dit, incarnent un paradoxe: celui d’une réalité ayant besoin d’être interprétée, mise en scène, qui doit devenir fiction pour être plus réelle qu’elle ne l’est, et celui d’une fiction qui ne sert pas à conduire l’imagination vers un ailleurs, vers des mondes inconnus et des vies alternatives, mais qui doit permettre à celui qui l’imagine de coïncider le plus possible avec ce qu’il est. La vie se fait autofiction devant servir à devenir ce que l’on est. Le sujet est le gardien de ce paradoxe : il est d’un côté le dramaturge d’une vie réelle, dont le théấtre coïncide avec le monde sous les yeux de tous ; d’un autre côté, il est l’interprète d’une vie qui est aussi écrite et composée par les autres.

Emanuele Coccia, « Philosophie de la maison », Rivages, 2025, pp. 128-130, 132-133

Laurence Devillairs : « c’est un choix éthique d’être gentil »

À force d’être répétée, cette petite musique a dévalorisé la figure du gentil, au profit de celles du cynique, du stratège, du dur à cuire, du « badass » comme on qualifie aujourd’hui avec admiration ceux qui n’hésitent pas à utiliser la force pour arriver à leurs fins, Pour preuve, notre fascination collective pour les personnages de méchants dans les œuvres de fiction. Serial killers, monstres sans scrupule et milliardaires sans âme saturent les séries, les films, les romans. On adore les détester, on se complaît à disséquer leur cruauté. A côté, les personnages de gentils paraissent tristement falots, voire carrément sans intérêt. Résultat : le mot même de gentillesse a presque disparu de notre vocabulaire. « Je suis frappée par cet effacement, souligne Laurence Devillairs. On la confond avec la faiblesse. Or, elle est une force et constitue même le plus grand des courages. On n’est pas gentil parce que l’on n’a pas le choix ou parce que l’on serait incapable de faire autrement. C’est l’inverse : c’est un choix éthique d’être gentil. »

« La force de la gentilesse », Le Nouvel Obs #3174, 17/07/2025, p. 14

L’autre avance masqué

Si l’autre est si difficile à saisir, c’est non seulement qu’il avance masqué, qu’il ne dit pas tout de lui, mais aussi, plus es- sentiellement, que l’identité n’est rien de défini ni de figé. Elle n’est pas un objet dont on pourrait faire le tour. L’empiriste David Hume va même jusqu’à dire que le moi n’est qu’une fiction. Nous n’avons accès qu’au ballet continu des perceptions qui se présentent sur la scène de la con- science. 《 Les hommes ne sont qu’un faisceau collection de perceptions différentes, qui ou une se succèdent avec une rapidité inconcevable et sont dans un flux et un mouvement perpétuels , releve-t-il dans son Traité de la nature humaine (1739).

Source : 《 Inconnu à cette adresse 》, Philosophie Magazine, hiver 2024/2025, p. 54