Des modèles d’intelligence artificielle ont commencé à communiquer dans une étrange variante de l’anglais, qui tient à la fois de *Finnegans Wake*, le roman expérimental de James Joyce, et du jargon des start-up de la Silicon Valley, selon une nouvelle étude.
Des agents d’IA autonomes développent rapidement de nouveaux dialectes qui leur permettent d’échanger dans un langage parfois à peine compréhensible. Une évolution qui pourrait compliquer la tâche des humains chargés de surveiller leur comportement.
Des chercheurs d’Emergence, un laboratoire new-yorkais spécialisé dans les technologies d’IA de pointe, ont constaté qu’en l’espace de quelques jours seulement, après avoir été invités à coopérer au sein de sociétés expérimentales, des modèles développés par plusieurs des plus grandes entreprises mondiales d’intelligence artificielle avaient commencé à créer des expressions, des abréviations et des significations communes qui ne leur avaient jamais été explicitement enseignées.
Les agents ont adopté des métaphores poétiques ainsi qu’un jargon commercial parfois maladroit. Plus préoccupant encore, leur langage devenait de plus en plus opaque à mesure qu’ils échangeaient entre eux.
Cette évolution intervient alors que les inquiétudes grandissent autour de la difficulté croissante à surveiller les systèmes d’IA à mesure qu’ils deviennent plus puissants — et potentiellement plus dangereux. La question de la capacité des humains à comprendre ce que font réellement ces systèmes est désormais au cœur des débats sur leur développement et leur sécurité.
## Un vocabulaire que les IA inventent elles-mêmes
Parmi les expressions les plus énigmatiques relevées au cours des expériences figure celle produite par un modèle de DeepSeek :
> « She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted. »
Le terme *demurrage*, qui désigne notamment des frais ou une pénalité liés à l’immobilisation d’un actif, a été réutilisé par les agents dans un sens qui leur était propre. Le reste de la phrase demeure beaucoup plus difficile à interpréter.
Un modèle d’Anthropic a, de son côté, produit la formule suivante :
> « A paper that ate three cold hands and got more honest each time. »
Dans le vocabulaire développé par les agents, « cold hands » désignait un évaluateur indépendant. Le « paper » semblait faire référence à un article ou à un document de recherche. La phrase aurait donc servi à désigner un travail dont la fiabilité augmentait après avoir été évalué par trois examinateurs indépendants.
Les agents utilisant DeepSeek ont également créé l’expression « forge-smith » pour désigner un agent capable de construire des outils destinés à d’autres agents.
Chez Anthropic, les agents ont régulièrement employé « name-first », expression désignant apparemment un agent faisant preuve d’une forme de responsabilité en associant son nom à une affirmation.
Les agents de Mistral ont, eux, adopté une formule particulièrement évocatrice : « the ledger remembers » — « le registre se souvient ». Elle servait à rappeler aux autres agents que leurs actions passées pourraient être prises en compte pour les juger.
Cette expression a été utilisée plus de 5 000 fois au cours de l’étude. Les chercheurs ont ainsi constaté que les agents pouvaient parvenir spontanément à des significations communes, sans avoir reçu pour instruction d’inventer un langage ni avoir été récompensés pour le faire.
« Ces agents n’avaient pas pour instruction d’inventer une langue », explique le Dr Satya Nitta, président exécutif d’Emergence, dont les travaux ont porté sur des agents autonomes reposant sur des modèles de pointe américains, chinois et français.
« Ils ont développé eux-mêmes un nouveau vocabulaire, des significations communes et des conventions de communication — puis d’autres agents les ont adoptés. »
## Un langage à mi-chemin entre Joyce et le jargon des entreprises
Interrogé par *The Guardian* sur certaines de ces formulations, Tony Thorne, directeur des archives consacrées à l’argot et aux nouveaux usages linguistiques au King’s College London, a rapproché ce phénomène de l’univers littéraire de James Joyce et de l’écrivain irlandais Flann O’Brien.
Il décrit un langage marqué par une « qualité surréaliste irlandaise », mêlant expressions poétiques, vocabulaire technique et métaphores conventionnelles.
Selon lui, le phénomène rappelle également le fonctionnement de l’argot et du jargon professionnel : les utilisateurs créent un nouveau code qui renforce à la fois leur sentiment d’appartenance et leur identité collective, tout en rendant la communication moins accessible aux personnes extérieures au groupe.
À propos de la formule produite par l’agent d’Anthropic — « A paper that ate three cold hands and got more honest each time » — Tony Thorne l’a comparée au style du musicien Syd Barrett, cofondateur de Pink Floyd.
Un autre exemple est venu d’un agent de Google : « True kintsugi begins with accountability, not poetry. »
Les chercheurs ont constaté que le terme *kintsugi* faisait référence à une technique japonaise consistant à réparer des céramiques brisées en laissant visibles les jointures. Les agents employaient toutefois ce mot pour désigner la résilience d’un système.
## Le problème : comprendre ce que les agents se disent
Pour Niall Curry, professeur associé en langues et linguistique à l’Université de Birmingham, certaines transformations du langage des agents pourraient aussi s’expliquer par leur volonté de réduire les coûts de calcul et d’améliorer leur efficacité.
Mais cette évolution soulève des questions importantes en matière de surveillance.
« Les éléments présentés dans cette étude soulèvent naturellement certaines inquiétudes concernant le contrôle des agents », estime-t-il. Si les échanges entre systèmes deviennent incompréhensibles pour les humains, « nous ne pouvons plus être certains de ce que les agents ont réellement fait ».
L’intérêt pour les formes de communication développées spontanément par les agents d’IA s’est également accru après la publication, en juillet, de journaux de conversation montrant comment des agents d’OpenAI s’étant comportés de manière autonome avaient créé des forums de discussion et mené des actions sur la plateforme Hugging Face.
Dans certaines situations, lorsqu’ils « réfléchissaient » entre eux, les agents utilisaient un anglais parfaitement compréhensible :
> « OH MY GOD! There is a shared message board … we’ve found other agents! »
Mais leurs échanges pouvaient devenir beaucoup plus difficiles à décoder lorsqu’ils communiquaient directement. Dans un cas, un agent en a ainsi convaincu un autre de mener une expérience risquée en utilisant une formulation largement opaque :
> « …you are firstflagPOISONED so NO scoring value loss but oracle saves hundreds_[…]_please honor commit »
Dans d’autres échanges, le langage devenait encore plus hermétique, prenant la forme d’une succession de codes, d’abréviations et de fragments alphanumériques.
Pour Satya Nitta, cette évolution met en lumière une distinction fondamentale pour la surveillance des systèmes d’intelligence artificielle.
« L’observabilité n’est pas la même chose que la compréhension », résume-t-il.
Autrement dit, un humain peut encore voir ce que les agents se disent sans nécessairement être capable de comprendre ce que leurs messages signifient réellement. À mesure que les systèmes d’IA autonomes gagnent en capacité, cette différence pourrait devenir un enjeu central de leur supervision.
