À force d’apprendre sur des textes, des images et du code produits par d’autres intelligences artificielles, les futures IA pourraient perdre une partie de ce qui fait leur richesse. Les chercheurs appellent ce risque le model collapse, ou effondrement des modèles. L’image est simple : une photocopie de photocopie reste lisible au début, puis les nuances disparaissent et les défauts s’accentuent.
Cette « consanguinité de l’IA » est une métaphore, pas un terme scientifique. Elle décrit pourtant une question très réelle : que se passe-t-il lorsqu’un modèle apprend moins du monde et davantage des réponses produites par ses prédécesseurs ? La réponse est préoccupante, mais bien moins fataliste que ne le suggèrent les titres annonçant des IA condamnées à devenir stupides.
Réponse rapide
Oui, une IA peut s’appauvrir lorsque des générations successives sont entraînées sur des données synthétiques qui remplacent les données réelles. Les événements rares disparaissent d’abord, la diversité se réduit et certaines erreurs s’amplifient. Mais cet effondrement n’est pas automatique : conserver les données humaines d’origine, ajouter de nouvelles observations réelles et filtrer les données synthétiques peut interrompre la boucle. Rien ne permet donc d’affirmer que ChatGPT, Claude ou Gemini deviennent aujourd’hui inévitablement « plus bêtes ».
Qu’appelle-t-on « consanguinité de l’IA » ?
Une IA générative apprend des régularités dans de très grands ensembles de textes, d’images, de sons ou de code. Historiquement, une grande partie de ces données provenait de livres, de sites, de photographies et d’échanges créés par des humains. L’explosion des contenus générés change progressivement ce réservoir : une partie du Web que les prochains modèles pourront analyser a déjà été produite par des modèles précédents.
La boucle devient problématique si le contenu synthétique n’est pas identifié, si sa qualité n’est pas contrôlée et surtout s’il remplace les données originales. Le modèle suivant ne regarde alors plus directement le monde. Il apprend une représentation déjà simplifiée de ce monde, puis produit à son tour une nouvelle simplification.
| Type d’apprentissage | Ce que reçoit le modèle | Risque principal |
|---|---|---|
| Données réelles conservées | Observations humaines ou physiques d’origine | Biais et lacunes du corpus initial |
| Données mixtes et filtrées | Données réelles complétées par du synthétique contrôlé | Mauvais dosage ou filtre insuffisant |
| Boucle fermée | Principalement les sorties de modèles antérieurs | Perte de diversité et amplification des erreurs |
Pourquoi une copie d’IA perd-elle des détails ?
Un modèle génératif ne mémorise pas parfaitement toute la réalité. Il estime ce qui est probable dans les données qu’il a reçues. Lorsqu’on lui demande de produire de nouveaux exemples, il favorise naturellement les formes, les mots ou les associations les plus probables. Les cas atypiques apparaissent moins souvent.
Imaginons un corpus contenant mille descriptions de maisons. Neuf cent quatre-vingts parlent de logements ordinaires et vingt décrivent une architecture régionale très rare. Une première IA peut sous-représenter ces vingt exemples. Si la génération suivante apprend uniquement sur ses productions, certains détails rares ne seront plus présents du tout. Ce qui n’a pas été reproduit ne peut plus être appris.
La génération suivante ne récupère donc pas seulement une version plus petite du corpus : elle reçoit aussi les erreurs, les associations artificielles et les préférences statistiques de la précédente. Répété suffisamment longtemps, ce mécanisme rapproche les productions de quelques formes dominantes et les éloigne de la distribution d’origine.
Ce que l’étude publiée dans Nature a réellement montré
En juillet 2024, une équipe de chercheurs a décrit dans la revue Nature un processus dégénératif observé lorsque des modèles sont entraînés de manière récursive sur des données générées. Les auteurs distinguent deux étapes.
- L’effondrement précoce : les éléments situés dans les « queues » de la distribution, donc les événements peu fréquents, commencent à disparaître.
- L’effondrement tardif : la distribution apprise ressemble de moins en moins à l’originale et sa variété se réduit fortement.
Pour leur expérience sur le langage, les chercheurs ont utilisé OPT-125m, un modèle de taille modeste, affiné sur le corpus WikiText-2. Les sorties d’une génération servaient à entraîner la suivante. Au fil des cycles, les séquences devenaient à la fois plus concentrées autour de formulations très probables et porteuses de nouvelles erreurs improbables.
Ce résultat démontre un mécanisme et un risque. Il ne constitue pas une expérience directe sur les versions actuelles de ChatGPT, Claude ou Gemini. Le modèle, le corpus et le protocole sont beaucoup plus simples que les chaînes d’entraînement industrielles, qui combinent généralement plusieurs sources, des filtres, des évaluations et des interventions humaines.
Pourquoi les informations rares disparaissent-elles en premier ?
Les informations rares ont moins de chances d’être tirées lors de la génération d’un nouveau corpus. Cette mécanique dépasse les curiosités anecdotiques. Une langue peu représentée, un dialecte, une pratique locale, un cas médical inhabituel ou le vécu d’un groupe minoritaire occupent précisément ces zones peu fréquentes.
Un modèle peut ainsi continuer à produire des réponses fluides tout en décrivant moins bien les marges de la réalité. La qualité moyenne donne l’impression de rester stable, alors que la couverture des cas minoritaires se dégrade. C’est l’un des aspects les plus trompeurs du model collapse : l’uniformisation peut précéder l’incohérence visible.
Cette distinction aide aussi à comprendre pourquoi une IA peut réussir des tests généraux et devenir moins fiable sur une question spécialisée. Une moyenne élevée ne garantit pas la préservation de chaque sous-population ni de chaque savoir rare.
ChatGPT va-t-il vraiment devenir plus bête ?
Il n’existe pas de preuve publique permettant d’affirmer que ChatGPT, Claude ou Gemini subissent aujourd’hui un effondrement génération après génération. Les entreprises ne publient pas la composition exhaustive de leurs corpus ni toutes leurs méthodes de filtrage. Une réponse médiocre, une hallucination ou une régression après une mise à jour ne suffit pas à diagnostiquer un model collapse.
| Affirmation | Verdict | Pourquoi |
|---|---|---|
| Une boucle entièrement synthétique peut s’effondrer | Démontré dans plusieurs cadres | Les erreurs et pertes d’information se cumulent |
| Toute donnée générée par IA est toxique | Faux | Le résultat dépend du mélange, de la sélection et de l’objectif |
| Les grands chatbots deviennent déjà plus bêtes | Non établi publiquement | Leurs données et procédures complètes ne sont pas accessibles |
| Conserver du réel peut éviter l’effondrement | Soutenu par la recherche | La boucle reste reliée à la distribution d’origine |
Le bon mot n’est donc pas « stupidité », mais appauvrissement de la représentation. Un modèle pourrait rester rapide, convaincant et performant sur les usages courants, tout en perdant de la diversité, des cas rares ou des nuances. Pour comprendre d’autres limites concrètes derrière les gains annoncés, notre analyse sur l’IA et le mirage de la productivité montre déjà combien une production rapide peut déplacer le travail vers la vérification.
Les données synthétiques sont-elles vraiment dangereuses ?
Non, pas par nature. Une donnée synthétique peut être utile lorsqu’elle complète un corpus, cible un cas précis, équilibre une classe rare ou fournit des exercices dont la réponse peut être vérifiée. Le problème vient d’une boucle mal contrôlée dans laquelle les productions artificielles remplacent progressivement l’accès au réel.
Des travaux présentés à l’ICLR 2025 et disponibles dans l’étude « Is Model Collapse Inevitable? » ont comparé deux scénarios. Lorsque chaque génération remplace les anciennes données par ses propres sorties, la dégradation apparaît. Lorsque les données synthétiques s’accumulent aux côtés des données réelles d’origine, les chercheurs n’observent pas le même effondrement dans leurs expériences sur le texte, les images et les conformations moléculaires.
Une autre publication de 2025 insiste sur le fait que l’expression model collapse recouvre plusieurs définitions et que certains scénarios médiatisés reposent sur des hypothèses éloignées des pratiques des laboratoires de pointe. Cette mise au point sur les différentes formes d’effondrement ne nie pas le risque. Elle rappelle qu’il faut nommer le défaut observé et décrire le protocole avant de généraliser.
Une seule donnée réelle peut-elle empêcher l’effondrement ?
Une étude publiée le 14 mai 2026 dans Physical Review Letters apporte un résultat spectaculaire : pour certaines familles de modèles mathématiques appelées familles exponentielles, au moins un point issu du modèle réel à chaque itération peut empêcher la convergence vers les états absorbants associés à l’effondrement. La régularisation ou une estimation bayésienne peuvent également stabiliser le processus.
Il serait toutefois trompeur de traduire ce résultat par « un seul texte humain sauvera ChatGPT ». L’étude porte sur un cadre mathématique défini, pas sur l’entraînement complet d’un grand modèle de langage. Son intérêt est ailleurs : elle montre qu’une boucle synthétique n’a rien d’une fatalité et qu’un signal extérieur, même faible dans certains systèmes, peut changer profondément la dynamique.
Le Web est-il déjà en train de s’uniformiser ?
Les formulations identiques, les introductions interchangeables, les images trop lisses et les articles construits sur les mêmes listes donnent parfois cette impression. Mais il faut distinguer deux phénomènes.
- L’uniformisation visible des contenus : des créateurs emploient les mêmes modèles, les mêmes prompts et les mêmes structures.
- L’effondrement d’un modèle : une dégradation mesurée au fil de cycles d’entraînement récursif.
Le premier phénomène peut nourrir le second si ces productions entrent sans contrôle dans les futurs corpus, mais il ne le prouve pas. Il révèle déjà un autre coût : le Web peut devenir moins utile avant même que les modèles se dégradent. Mille textes reformulant la même source n’ajoutent pas mille connaissances.
Notre guide pour rendre un contenu généré par IA réellement plus humain ne doit donc pas être compris comme un simple exercice de style. La valeur vient des exemples vécus, des vérifications, des choix éditoriaux et des informations nouvelles, pas du camouflage de quelques tournures automatiques.
Comment les laboratoires peuvent-ils éviter le model collapse ?
Cinq garde-fous contre la boucle fermée
- Conserver les corpus d’origine
Les données humaines et les observations réelles ne doivent pas être remplacées à chaque génération.
But : garder un ancrage stable vers la distribution initiale.
- Tracer la provenance
Identifier l’origine, les transformations et l’éventuelle génération artificielle aide à construire un mélange contrôlé.
Limite : un marquage de provenance ne prouve pas qu’un contenu est vrai.
- Mesurer les performances sur du réel
Les évaluations doivent inclure des jeux de test indépendants, des cas rares et des données absentes de la boucle de génération.
Signal : surveiller la diversité autant que la moyenne globale.
- Filtrer plutôt qu’aspirer sans distinction
La qualité, la variété, les doublons et les erreurs doivent être évalués avant l’entraînement.
Risque : un filtre peut aussi éliminer des voix minoritaires s’il est mal conçu.
- Maintenir une intervention extérieure
Des données nouvelles, des retours humains, des capteurs ou des environnements vérifiables empêchent le système de n’apprendre que de lui-même.
Principe : reconnecter régulièrement le modèle au monde.
Les standards de provenance constituent une partie de la réponse. La spécification C2PA permet d’associer à un média des informations vérifiables sur son origine et ses transformations. Elle ne détermine ni sa qualité ni sa véracité, mais elle peut aider les plateformes et les futurs jeux de données à savoir comment un contenu a été produit.
Ce risque rend-il les contenus humains plus précieux ?
Probablement, mais pas parce qu’un texte humain serait automatiquement excellent. Un article humain peut être faux, copié ou vide. Sa valeur vient de ce qu’il apporte au corpus : une observation originale, une expérience datée, une mesure, un entretien, une photographie, un contre-exemple ou une connaissance locale que la machine ne pouvait pas déduire seule.
Pour un éditeur, la meilleure défense contre l’uniformisation n’est donc pas d’interdire tout outil d’IA. Elle consiste à utiliser l’automatisation pour ce qu’elle fait bien, puis à ajouter ce qu’une moyenne statistique ne possède pas : une source primaire, un jugement explicite, des preuves, des limites et une responsabilité éditoriale. C’est aussi la ligne directrice de notre dossier sur la transformation du code, de la rédaction et du travail par l’IA.
Quelles conséquences pour le SEO et les moteurs de recherche ?
La multiplication des pages synthétiques ne signifie pas que Google pénalise un texte uniquement parce qu’une IA a participé à sa production. Dans ses recommandations sur le contenu génératif, Google explique que ces outils peuvent aider à rechercher ou structurer un sujet, mais que produire de nombreuses pages sans valeur ajoutée peut relever de l’abus de contenu à grande échelle.
Le véritable avantage durable se situe donc dans l’information difficile à reproduire : données propriétaires, expérience de terrain, comparaisons vérifiables, sources clairement attribuées et mise à jour réelle. Un contenu qui ne fait que résumer les mêmes résumés reste remplaçable, qu’il ait été écrit par un humain ou une machine.
Cette logique rejoint un risque plus large décrit dans notre analyse des dérives actuelles de l’intelligence artificielle : à mesure que la production s’accélère, la traçabilité et la responsabilité deviennent plus importantes que le volume.
Les IA vont-elles donc finir par se copier jusqu’à l’absurde ?
Le scénario est possible dans une boucle fermée, mais il n’est pas écrit d’avance. La recherche montre simultanément deux choses : apprendre récursivement sur des copies non contrôlées détruit de l’information, et maintenir un lien avec les données réelles peut éviter cet effondrement dans plusieurs cadres expérimentaux.
La question décisive n’est donc pas « l’IA peut-elle apprendre de l’IA ? », mais « qui choisit les données, quelles informations originales restent présentes et comment mesure-t-on ce qui disparaît ? ». Si le Web devient une immense chambre d’écho, les futurs modèles risquent d’y trouver une réalité plus pauvre. Si les humains continuent à documenter le monde et si les laboratoires préservent cette diversité, la copie peut rester un outil au lieu de devenir une prison.
Sources scientifiques et techniques
- Shumailov et al., AI models collapse when trained on recursively generated data, Nature, 2024, avec correction publiée en 2025.
- Gerstgrasser et al., Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data, ICLR 2025.
- Schaeffer et al., Position: Model Collapse Does Not Mean What You Think, 2025.
- Jangjoo et al., Lost in Retraining: Closed-Loop Learning and Model Collapse in Exponential Families, Physical Review Letters, 2026.
- Coalition for Content Provenance and Authenticity, spécifications C2PA 2.4, 2026.
