Model Collapse ist da: Die Feedback-Schleife aus synthetischen Daten, die die KI 2026 auffrisst

Es gibt eine Zahl, die jedem, der 2026 KI-Produkte trainiert oder ausliefert, Unbehagen bereiten sollte.

Ein Europol-Bericht aus dem Jahr 2022 prognostizierte, dass bis zu 90 % der Online-Inhalte bis 2026 synthetisch generiert sein könnten. Die Schätzung war damals aggressiv. Der beschriebene Trend war es nicht. Mitte 2026 liegt der Anteil KI-generierten Materials in den Trainings-Korpora des offenen Webs je nach Schnitt weit verbreitet bei 40–60 % — und er wächst. Einige Quellen beziffern den Anteil neuer Web-Inhalte, die KI-generiert oder KI-übersetzt sind, bereits auf über 50 %.

Das ist für sich genommen keine Krise. Es wird eine, wenn man sich daran erinnert, worauf die nächste Generation von Foundation Models trainiert werden wird.

Der Trainings-Satz für das Modell nach dem nächsten wird ein signifikanter Anteil von Outputs der Modelle davor sein. Der Trainings-Satz danach wird es noch mehr sein. Jede Generation wird mit den Outputs der vorherigen Generation verwässert. Jede Generation wird weniger vom ursprünglichen menschlichen Signal sehen, das dem Feld seine Gewinne überhaupt erst eingebracht hat.

Das ist das Problem, das Leute aus dem Feld inzwischen Model Collapse nennen — und 2026 ist es keine Forschungs-Kuriosität mehr. Es ist ein operatives Problem, das jeder, der KI-Produkte baut, verstehen muss.

Was Model Collapse tatsächlich ist

Der Begriff wurde in den letzten 18 Monaten überladen, daher lohnt es sich, präzise zu sein.

Model Collapse (manchmal AI Inbreeding, Habsburg-KI oder Model Autophagy Disorder — MAD genannt) ist das Phänomen, bei dem ein Machine-Learning-Modell, das auf Daten trainiert wird, die von früheren Modellen produziert wurden, schrittweise Informationen über die wahre zugrundeliegende Verteilung verliert. Konkret zeigen Generationen von so trainierten Modellen:

• Schmaler werdende Output-Verteilungen. Weniger Diversität in der Formulierung, weniger Varianz in kreativen Entscheidungen, weniger Tail-Verhaltensweisen.
• Verlust seltener Ereignisse. Long-Tail-Klassen, ungewöhnliche Formulierungen, Minderheiten-Dialekte, niedrigfrequente Fakten — genau die Dinge, die einem Modell Textur geben — verschlechtern sich am schnellsten.
• Mode-Suchendes Verhalten. Modelle konvergieren hin zu den häufigsten Outputs, was sie selbstbewusster klingen lässt, während sie bei allem außerhalb des Durchschnitts messbar ungenauer werden.
• Selbstverstärkende Artefakte. Statistische Eigenheiten des vorherigen Modells werden ins nächste Modell verstärkt, bis sie wie Features der Welt wirken.

Der Wikipedia-Eintrag zum Begriff (aus dem ursprünglichen Nature-Paper von Shumailov et al. 2023) bringt den Kernpunkt sauber auf den Punkt: Wenn Modelle auf Daten früherer Modelle trainiert werden, driftet die Verteilung hin zu den Tendenzen des vorherigen Modells — zunächst kollabiert die Varianz, dann folgt der Mittelwert selbst. Das Original-Paper hat das in Sprachmodellen und Gaussian-Mixture-Modellen gezeigt. Nachfolgende Arbeiten haben es in Diffusions-Modellen, Code-Modellen und Protein-generativen Modellen reproduziert.

Das ist kein hypothetisches Zukunftsproblem. Es ist der Failure Mode des nächsten Trainingslaufs.

Warum 2026 der Moment ist, in dem es zuschlägt

Drei Kräfte sind in diesem Jahr zusammengekommen.

1. Das Angebot an sauberen, menschengenerierten Daten verknappt sich. Public-Web-Crawls, die den Frontier-Modell-Boom 2018–2024 gefüttert haben — Common Crawl, Wikipedia, GitHub, arXiv, Reddit, Stack Overflow, Nachrichten-Archive — sind seit Jahren verwässert worden. 2026 ist das marginale neue Dokument im offenen Web mit höherer Wahrscheinlichkeit KI-generiert, KI-übersetzt oder KI-editiert als je zuvor. Die Infrastruktur hat nicht aufgeholt: Die meisten Labs trainieren weiterhin auf Web-Scale-Crawls, weil die Alternative schlechter ist.

2. Synthetische Daten sind für Frontier-Training nicht mehr optional. Fast jedes Frontier-Lab nutzt inzwischen in irgendeiner Form synthetische Daten im Pre-Training oder Post-Training. RLHF, Constitutional AI, Instruction-Synthesis, Reasoning-Trace-Generierung — im Kern ist all das Training auf den eigenen Outputs des Modells (gefiltert oder nicht). Der Anteil synthetischer Inhalte im Trainings-Mix eines bestimmten Frontier-Modells liegt 2026 im niedrigen zweistelligen Prozentbereich und wächst. Die wichtigsten Open-Weight-Releases dieses Jahres dokumentieren alle Synthetic-Data-Pipelines.

3. Das Flywheel schließt sich. Ein Modell generiert eine Million plausibel klingender Webseiten. Diese Inhalte werden indexiert, gecrawlt und landen im nächsten Trainings-Set. Das nächste Modell trainiert darauf und produziert Inhalte mit ähnlichen statistischen Fingerabdrücken. Die Inhalte werden erneut indexiert. Innerhalb von zwei bis drei Zyklen ist der Long Tail des menschengenerierten Signals im Trainings-Mix substanziell überschrieben worden.

Drei Jahre lang war die Annahme, dass KI-generierte Inhalte im offenen Web einen klein genug Anteil ausmachen, dass sie keinen einzelnen Trainingslauf dominieren würden. Diese Annahme ist nicht mehr sicher.

Was die Labs tatsächlich tun

Die gute Nachricht ist, dass die großen Labs wissen, dass das kommt, und sie stehen nicht still. Die schlechte Nachricht ist, dass es noch niemand vollständig gelöst hat, und die Mitigationen sind partiell, teuer und erzeugen eigene Second-Order-Probleme.

Watermarking und Provenance. Mehrere große Anbieter liefern (oder haben angekündigt) Watermarking für Modell-generierten Text, Bilder, Audio und Video. C2PA-ähnliche Content Credentials gewinnen an Zugkraft. Die APIs von OpenAI und Anthropic geben Provenance-Metadaten für generierte Inhalte zurück. Google hat SynthID stark vorangetrieben. Das Problem: Provenance-Metadaten werden trivial entfernt, wenn Inhalte Crawler passieren, kopiert, umformuliert oder übersetzt werden. Als Verteidigung gegen Model Collapse ist Watermarking grob vergleichbar mit Spam-Filterung in E-Mail — es erhöht die Kosten der Verschmutzung, es eliminiert sie nicht.

Curriculum-Filterung auf Trainingsdaten. Labs investieren stark in Klassifizierer, die die Wahrscheinlichkeit schätzen, dass ein bestimmtes Trainings-Dokument menschengeneriert, KI-generiert oder hybrid ist. Die besseren Klassifizierer sind Berichten zufolge multimodal und beziehen stilistische, statistische und Provenance-Signale ein. Der Trade-off: Aggressive Filterung von vermuteten KI-Inhalten schrumpft das effektive Trainings-Set, was die Labs zwingt, entweder mehr für Compute auszugeben oder sich stärker auf die synthetischen Daten zu stützen, die sie eigentlich vermeiden wollten. Es gibt kein kostenloses Mittagessen.

Synthetische Daten aus vertrauenswürdigen Quellen. Die meisten Frontier-Labs generieren synthetische Trainingsdaten inzwischen bevorzugt aus ihren stärksten internen Modellen, mit strikter Filterung, Deduplizierung und Grounding gegen verifizierte Quellen. Sowohl der Anthropic-Constitutional-AI-Ansatz als auch die OpenAI-Instruction-Tuning-Pipelines machen Versionen davon. Das Prinzip: Synthetische Daten sind in Ordnung, wenn sie gegrounded, divers und hochwertig sind. Das Risiko ist, dass die Anforderungen „gegrounded" und „divers" leicht zu behaupten und schwer zu messen sind, und das Feld arbeitet noch daran, wie gute Evaluation aussieht.

Real-World-Datenakquise. Mehrere Labs haben Budget von reinem Compute hin zu Datenakquise verlagert — Bezahlung für lizenzierte Corpora (Nachrichten-Archive, akademische Verlage, Code-Repositorys, professionelles Schreiben), Anstellung menschlicher Autoren für gezielte Aufgaben und Aufbau von Partnerschaften mit Institutionen, die Originalinhalte produzieren. Das ist die teuerste Option und die zuverlässigste. Sie ist auch die langsamste, und sie hat den Seiteneffekt, dass sie den Zugang zu Trainingsdaten in den Händen einer kleinen Anzahl gut kapitalisierter Labs konzentriert.

Reasoning-Trace-Distillation. Eine spezifische Technik, die 2026 zentral geworden ist: Generierung großer Mengen synthetischer Reasoning-Traces (Chain-of-Thought, Tool-Use-Sequenzen, schrittweises Problemlösen) aus einem starken Teacher-Modell, dann Destillation in einen kleineren Student. Das ist der Motor hinter den meisten kürzlichen Reasoning-Model-Releases. Es funktioniert bemerkenswert gut für Mathe, Code und strukturiertes Reasoning. Es löst nicht das Diversitätsproblem auf den offenen, faktischen oder stilistischen Dimensionen — und das sind die Dimensionen, in denen Collapse zuerst auftritt.

Constitutional AI und Self-Improvement-Loops. Mehrere Labs wetten darauf, dass man Modelle trainieren kann, ihre eigenen Outputs gegen einen festen Satz von Prinzipien zu kritisieren und zu revidieren, was die Abhängigkeit von menschlichen Ratingern reduziert. Das ist real, es funktioniert, und es ist selbst eine Form von Training auf synthetischen Daten — mit den gleichen Risiken.

Keine dieser Mitigationen ist für sich genommen ausreichend. Die Labs fahren sie in Kombination. Der kombinierte Effekt ist, plausibel, dass Model Collapse verlangsamt aber nicht verhindert wird. Das ist der realistische Base Case für 2026.

Was Builder mitnehmen sollten

Wenn du kein Frontier-Modell trainierst, mag das wie das Problem von jemand anderem klingen. Ist es nicht.

1. Eure Fine-Tuning-Daten sind wertvoller denn je. Jedes Produktteam, das ein sauberes, gelabeltes, menschlich verifiziertes Dataset für Fine-Tuning oder Evaluation kuratiert hat, sitzt auf einem strategischen Asset, das gerade wertvoller wird. Die Teams, die in proprietäre Daten investiert haben — domänenspezifische Corpora, experten-gelabelte Reasoning-Traces, lizenzierte Inhalte, internes Experten-Review — haben einen Graben, der sich weitet.

2. Garbage in bedeutet immer noch Garbage out — aber jetzt ist die Garbage plausibel. Das Risikoprofil für jedes System, das auf Web-Scale- oder User-Generated-Content trainiert wird, hat sich verschoben. Die gefährlichen Inputs in 2026 sehen nicht offensichtlich kaputt aus; sie sehen aus wie hochwertige Outputs eines kompetenten Modells. Das macht Dataset-Hygiene schwieriger, nicht einfacher. Teams, die in Eval-Pipelines investiert haben, sind besser dran als Teams, die in Scale investiert haben.

3. Die Messlatte für Evaluation ist gerade höher gegangen. Wenn euer Modell zur Verteilung der vorherigen Generation driftet, werden einfache Accuracy-Benchmarks das nicht fangen. Ihr braucht Distribution-Shift-Monitoring, Tail-Behavior-Coverage-Tests und explizite Checks auf die Artefakt-Typen, die Model Collapse produziert. Die Teams mit Eval-Suites, die das abdecken, sind die, die das Problem bemerken werden, bevor ihre Nutzer es tun.

4. Synthetische Daten sind ein Tool, keine Strategie. Synthetische Daten funktionieren für spezifische, gut definierte Zwecke — Augmentierung unterrepräsentierter Cases, Generierung von Reasoning-Traces, Produktion hochvolumiger Übungsmaterialien. Sie sind kein Ersatz für Original-Signal. Teams, die sich darauf als primäre Trainingsquelle stützen, werden die Collapse-Effekte auf ihren eigenen Produkten innerhalb von 12–18 Monaten sehen, selbst wenn es den Frontier-Labs gelingt, sie in ihren Basis-Modellen zu vermeiden.

5. Der Graben verschiebt sich von „mehr Daten" zu „besseren Daten". Fünf Jahre lang war die dominante Strategie in der KI Scale: größere Modelle, größere Datensätze, mehr Compute. Die strukturelle Antwort auf Model Collapse ist das Gegenteil: kleinere, sauberere, besser kuratierte Datensätze; smartere Filterung; aggressivere Nutzung von Human-in-the-Loop-Generierung; Bereitschaft, für Original-Signal zu zahlen. Teams, die diese Verschiebung jetzt verinnerlichen, werden Ende 2027 in einer stärkeren Position sein.

Die unbequeme Frage

Es gibt eine Version dieser Geschichte, in der Model Collapse ein handhabbares Engineering-Problem ist: Labs investieren in bessere Filter, bessere Provenance, bessere Synthetic-Data-Pipelines, und die schlimmsten Effekte beschränken sich auf eine kleine Anzahl von Edge Cases. Die Frontier-Modelle verbessern sich weiter. Das Open-Weight-Ökosystem zahlt einen höheren Preis, passt sich aber an.

Es gibt eine andere Version, in der Model Collapse schneller kompoundiert, als die Mitigationen mithalten können. Die Tail-Verhaltensweisen von Frontier-Modellen verschlechtern sich auf Weisen, die Benchmarks übersehen. Die Kosten für Original-Datenakquise spiralen sich hoch. Die Kluft zwischen gut kapitalisierten Labs und allen anderen weitet sich. Das Open-Weight-Ökosystem wird spürbar schlechter. Die nächste Generation von Startups trainiert auf zunehmend synthetischen Corpora und liefert Produkte mit zunehmend synthetischen Outputs aus.

Mitte 2026 ist die ehrliche Antwort, dass beide Versionen plausibel sind, und das Feld ein unkontrolliertes Experiment laufen lässt, um herauszufinden, in welcher wir sind. Das Experiment begann in dem Moment, als die erste Generation von Foundation Models begann, ihre Outputs in großem Umfang ins Web zu publizieren. Jeder Monat, der ohne strukturelle Lösung vergeht, ist ein weiterer Monat Daten für das Experiment.

Wenn du mit KI baust, ist das das Problem, das es sich enger zu verfolgen lohnt als jedes Model-Release. Das nächste GPT, das nächste Claude, das nächste Gemini — sie alle werden auf einem Trainings-Mix aufgebaut, der sich substantiell von dem Mix unterscheidet, der ihre Vorgänger aufgebaut hat. Einige dieser Unterschiede werden Verbesserungen sein. Einige werden die frühen Signaturen des Collapse sein, vor dem sich das Feld seit drei Jahren still sorgt.

Die Builder, die Datenqualität als First-Class-Engineering-Problem behandeln — nicht als Pre-Processing-Schritt — werden die sein, die 2028 noch differenzierte KI-Produkte ausliefern. Die Builder, die weiterhin Daten als etwas behandeln, das man so viel wie möglich scrapt und später aussortiert, werden herausfinden, wie „später aussortieren" aussieht, wenn die Daten meistens KI sind.

Das ist keine Doomer-Position. Es ist eine Engineering-Beobachtung. Die Infrastruktur unter der KI-Industrie verändert sich, und die Veränderungen werden kompoundieren. Die Teams, die ihre Annahmen jetzt aktualisieren, werden die sein, die noch stehen, wenn das Bild sich klärt.