Zum Inhalt springen
  • BTC $59.070 −5,2%
  • ETH $1.624 −7,7%
  • SOL $68,90 −5,7%
  • BNB $540,55 −6,7%
  • XRP $0,9086 −5,9%
  • DOGE $0,0544 −6,6%
  • ADA $0,1431 −5,9%

Studie: Die Vielfalt der LLM-Ausgaben ist kein Konstruktionsfehler, sondern eine Datenlücke

Jeder, der schon einmal Zeit damit verbracht hat, sich mit einem KI-Assistenten zu unterhalten, hat es wahrscheinlich bemerkt: Stellt man dieselbe Frage auf ein paar unterschiedliche Arten, erhält man oft unheimlich ähnliche Antworten. Diese Wiederholung hat in Forschungskreisen der KI einen Namen – Mode Collapse – und eine neue Studie untersucht, warum das passiert und, noch wichtiger,…

LLM output diversity
LLM Output Diversity Challenges and Solutions in AI

Jede Person, die Zeit damit verbracht hat, mit einem KI-Assistenten zu chatten, hat es wahrscheinlich schon bemerkt: Stellt man dieselbe Frage auf ein paar unterschiedliche Arten, erhält man oft unheimlich ähnliche Antworten. Diese Wiederholung hat in der KI-Forschung einen Namen – Mode Collapse – und eine neue Studie untersucht, warum das passiert und, noch wichtiger, was man dagegen tun kann. Die Forschung, verfasst von Kirill Skobelev, Eric Fithian und X.Y. Han und veröffentlicht im September 2026, befasst sich mit der Diversität von LLM-Ausgaben und kommt zu dem Schluss, dass die Lage nuancierter ist, als es die jüngsten Warnungen im Feld vermuten ließen.

Wichtigste Erkenntnisse

  • Mode Collapse tritt auf, wenn große Sprachmodelle Ausgaben erzeugen, die sich stärker wiederholen oder einander ähneln als die reale Population von Antworten, die sie widerspiegeln sollen.
  • Diversitätsprobleme können in beide Richtungen gehen – Modelle können je nach spezifischem Modell und Datensatz unterdivers oder überdispers sein.
  • Ausreichend viele Daten für das überwachte Fine-Tuning ziehen die Ausgabendiversität eines Modells in Richtung der Zielverteilung, auf der es trainiert wurde.
  • Fine-Tuning selbst bringt keine eingebaute Tendenz mit, Diversität kollabieren zu lassen oder sie aufzublähen – die Richtung hängt von den verfügbaren Daten ab.
  • Die Lücke zwischen der Diversität eines Modells und dem realen Ziel ist mathematisch durch die Quadratwurzel der KL-Divergenz zwischen beiden begrenzt.

Mode Collapse und Diversitätsprobleme in großen Sprachmodellen

Mode Collapse beschreibt ein einfaches, aber folgenschweres Problem: Wenn ein LLM wiederholt mit demselben Fragetyp konfrontiert wird, beginnen seine Antworten sich viel stärker zu ähneln, als sie sollten. Frühere Arbeiten von Doshi und Hauser (2024), Bisbee et al. (2024) und Xie et al. (2026) haben dies als wiederkehrende Sorge hervorgehoben und argumentiert, dass Modellausgaben im Vergleich zur Population der Antworten, die sie repräsentieren sollen, tendenziell unterdivers sind.

Das Papier nimmt diese Sorge ernst, macht sie aber komplexer. Anstatt Mode Collapse als festes, in die Funktionsweise von LLMs eingebautes Problem zu behandeln, argumentiert die Studie, dass es vollständig vom spezifischen Modell und dem Datensatz abhängt, auf dem es trainiert wurde, ob ein Modell in Richtung Gleichförmigkeit kollabiert – oder in die andere Richtung in eine übermäßige Streuung ausschlägt. Es gibt hier kein universelles Urteil; das Ergebnis verschiebt sich von Fall zu Fall.

Definition und Messgrößen von Mode Collapse

Um dies messbar statt anekdotisch zu machen, stützt sich die Forschung auf eine konkrete Messgröße: die Wahrscheinlichkeit, dass zwei Antworten, die unabhängig voneinander aus demselben festen Prompt gezogen werden, am Ende übereinstimmen. Forschende nennen dies eine „Kollisions“-Wahrscheinlichkeit, und sie kann auch als erwartete Ähnlichkeit zwischen zwei Ausgaben unter einer Kernelfunktion ausgedrückt werden. Das liefert einen numerischen Zugriff auf etwas, das üblicherweise nur vage mit Begriffen wie „wiederholend“ oder „immer gleich“ beschrieben wird.

Variabilität der Diversität über Modelle und Datensätze hinweg

Aus diesem Messansatz ergibt sich, dass Unterdispersion nicht der einzige Fehlermodus ist, auf den man achten sollte. Einige Modelle und Datensätze drücken die Ausgabendiversität zu stark nach unten und spiegeln damit die in früherer Forschung geäußerte Sorge um Mode Collapse wider. Andere tun das Gegenteil und streuen Antworten stärker, als es die reale Verteilung rechtfertigt. Beides sind Formen von Fehlkalibrierung, und beides ist relevant für alle, die sich darauf verlassen, dass ein LLM eine realistische Bandbreite menschenähnlicher Antworten widerspiegelt – sei es für Umfragesimulationen, kreatives Schreiben oder Codegenerierung.

Auswirkungen von überwachten Fine-Tuning auf die Ausgabendiversität

Fine-Tuning erweist sich als der Hebel, der bestimmt, in welche Richtung die Diversität kippt – und er kann sich erfreulicherweise mit genügend Daten selbst korrigieren. Die zentrale Behauptung des Papiers lautet, dass sich mit ausreichenden Daten für das überwachte Fine-Tuning die Ausgabendiversität eines Modells der Diversität der Zielverteilung annähert, aus der die Fine-Tuning-Daten stammen. Einfach gesagt: Füttert man das Modell mit genügend repräsentativen Beispielen, beginnt seine Streuung der Antworten, der Realität zu entsprechen, statt zu einem der Extreme abzudriften.

Auswirkung des Umfangs der Fine-Tuning-Daten

Das ist nicht nur eine theoretische Feinheit. In allen Experimenten, die die Forschenden durchführten, führte das Hinzufügen weiterer Zieldaten während des Fine-Tunings konsequent dazu, dass sich die Modelldiversität der menschlichen oder synthetischen Benchmark annäherte, die imitiert werden sollte. Dieses Muster zeigte sich unabhängig davon, ob die zugrunde liegende Aufgabe synthetische Sprachen, menschliche Umfrageantworten oder Programmierprobleme betraf, was darauf hindeutet, dass der Effekt nicht an einen engen Anwendungsfall gebunden ist.

Fehlende inhärente Tendenz zum Mode Collapse

Vielleicht am kontraintuitivsten ist der Befund, dass überwachte Fine-Tuning keine inhärente Neigung mit sich bringt, Diversität kollabieren zu lassen oder sie aufzublähen. Fine-Tuning mit endlichem Stichprobenumfang – also Fine-Tuning mit einer begrenzten, realistischen Datenmenge statt mit einem unendlichen Idealdatensatz – kann ein Modell sowohl unterdispers als auch überdispers zurücklassen, und welche Variante eintritt, hängt vom beteiligten Modell und Datensatz ab, nicht von einem strukturellen Fehler im Fine-Tuning-Prozess selbst. Das ist wichtig für die laufende Debatte über Mode Collapse in Sprachmodellen: Es rahmt das Problem um von „Fine-Tuning verursacht Collapse“ zu „Das Ergebnis des Fine-Tunings hängt davon ab, wie viel und welche Art von Daten man ihm gibt“.

Theoretischer Rahmen und Validierung

Um zu erklären, warum Diversität in die eine oder andere Richtung driftet, entwickelt die Studie einen mathematischen Rahmen, statt sich rein auf Beobachtung zu stützen – und testet diesen Rahmen anschließend in realen Experimenten über sehr unterschiedliche Domänen hinweg.

Bias-Varianz-Dekomposition der Diversitätslücke

Die Forschenden leiten das ab, was sie eine Bias-Varianz-Dekomposition der erwarteten Lücke zwischen der Kollisionswahrscheinlichkeit eines Modells und der Kollisionswahrscheinlichkeit des Ziels nennen. Dies ist der Mechanismus hinter dem Befund der „fehlenden inhärenten Verzerrung“: Er trennt den systematischen Fehler vom zufälligen, stichprobengetriebenen Fehler und zeigt mathematisch, warum endliche Daten die Dinge je nach Ziehung in beide Richtungen verschieben können.

Mathematische Schranke über KL-Divergenz

Das Papier etabliert außerdem eine harte Grenze dafür, wie stark die Diversitätskalibrierung danebenliegen kann. Die absolute Lücke zwischen Modell- und Zieldiversität ist durch die Quadratwurzel der Kullback-Leibler-Divergenz – ein Standardmaß dafür, wie unterschiedlich zwei Wahrscheinlichkeitsverteilungen sind – von der Zielverteilung zum Modell begrenzt. Die praktische Konsequenz: Ein Modell, das unter standardmäßigem Cross-Entropy-Training bereits nahe am Optimum liegt, kann keine extrem fehlkalibrierte Diversität aufweisen. Gute Sprachmodellierung setzt mit anderen Worten eine Obergrenze dafür, wie schlimm das Diversitätsproblem werden kann.

Empirische Validierung über verschiedene Experimente hinweg

All dies bleibt nicht rein theoretisch. Das Team testete sowohl die Dekomposition als auch die auf der KL-Divergenz basierende Schranke in drei unterschiedlichen experimentellen Settings: kleine Transformermodelle, die auf synthetischen Sprachen trainiert wurden, vier LLMs, die auf menschliche Umfragedaten feinabgestimmt wurden, und dieselben vier LLMs, die auf CodeNet, einen Datensatz aus von Menschen geschriebenen Code-Lösungen, feinabgestimmt wurden. Diese Spannweite – von künstlichen Sprachen über menschliche Meinungsdaten bis hin zu realen Programmierproblemen – verleiht den Ergebnissen eine breitere Basis, als es ein einzelner enger Testfall könnte.

In allen drei Settings hielt das Muster: Mehr Zieldaten während des Fine-Tunings brachten die Modelldiversität näher an die menschliche oder synthetische Benchmark, genau wie es die Theorie vorhersagte. Diese Konsistenz macht aus einer interessanten mathematischen Kuriosität etwas mit praktischem Gewicht für alle, die Sprachmodelle entwickeln oder feinabstimmen.

Warum das für die KI-Entwicklung wichtig ist

Die praktische Implikation ist klar: Diversitätsfehlkalibrierung in LLMs ist kein permanenter Konstruktionsfehler – sie ist weitgehend ein Symptom von Stichprobenfehlern mit endlichem Umfang, das schrumpft, wenn das Fine-Tuning die reale Zielverteilung besser annähert. Das rahmt die Modellkalibrierung in der KI eher als Datenproblem denn als Architekturproblem. Teams, die sich über repetitive oder übermäßig erratische Modellausgaben Sorgen machen, könnten feststellen, dass die Lösung weniger in der Neugestaltung des Modells als vielmehr in der Erweiterung oder Verfeinerung des Fine-Tuning-Datensatzes liegt.

Dies relativiert auch einen Teil der Alarmrufe aus früherer Forschung, wonach LLMs kategorisch unterdivers seien. Die Ergebnisse der Autorinnen und Autoren deuten darauf hin, dass die Realität stärker fallabhängig ist: Einige Modelle kollabieren in Richtung Gleichförmigkeit, andere streuen zu stark, und die Richtung hängt von der spezifischen Kombination aus Modell und Datensatz ab – nicht von einer universellen Tendenz, die in die Funktionsweise großer Sprachmodelle eingebaut wäre.

FAQ

Was ist Mode Collapse in großen Sprachmodellen?

Mode Collapse bezeichnet, dass LLM-Ausgaben sich häufiger wiederholen oder einander ähneln, als es die Zielverteilung vorgibt.

Wie beeinflusst überwachte Feinabstimmung die Ausgabendiversität von LLMs?

Ausreichende Daten für überwachte Feinabstimmung bringen die Ausgabendiversität von LLMs näher an die Zielverteilung der Daten heran und verringern Mode Collapse oder Überdispersion.

Ist überwachte Feinabstimmung inhärent darauf ausgerichtet, die Diversität zu erhöhen oder zu verringern?

Nein, überwachte Feinabstimmung ist nicht inhärent auf Mode Collapse oder dessen Gegenteil ausgerichtet; Effekte endlicher Stichproben können Unter- oder Überdispersion verursachen.

Welche theoretischen Werkzeuge werden verwendet, um Diversitätsfehlkalibrierung in LLMs zu verstehen?

Eine Bias-Varianz-Dekomposition und eine Schranke, die die Quadratwurzel der KL-Divergenz einbezieht, beschreiben die Lücke zwischen der Ausgabendiversität von Modell und Ziel.

{„@context“:“https://schema.org“,“@type“:“FAQPage“,“mainEntity“:[{„@type“:“Question“,“name“:“Was ist Mode Collapse in großen Sprachmodellen?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Mode Collapse bezeichnet, dass LLM-Ausgaben sich häufiger wiederholen oder einander ähneln, als es die Zielverteilung vorgibt.“}},{„@type“:“Question“,“name“:“Wie beeinflusst überwachte Feinabstimmung die Ausgabendiversität von LLMs?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Ausreichende Daten für überwachte Feinabstimmung bringen die Ausgabendiversität von LLMs näher an die Zielverteilung der Daten heran und verringern Mode Collapse oder Überdispersion.“}},{„@type“:“Question“,“name“:“Ist überwachte Feinabstimmung inhärent darauf ausgerichtet, die Diversität zu erhöhen oder zu verringern?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Nein, überwachte Feinabstimmung ist nicht inhärent auf Mode Collapse oder dessen Gegenteil ausgerichtet; Effekte endlicher Stichproben können Unter- oder Überdispersion verursachen.“}},{„@type“:“Question“,“name“:“Welche theoretischen Werkzeuge werden verwendet, um Diversitätsfehlkalibrierung in LLMs zu verstehen?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Eine Bias-Varianz-Dekomposition und eine Schranke, die die Quadratwurzel der KL-Divergenz einbezieht, beschreiben die Lücke zwischen der Ausgabendiversität von Modell und Ziel.“}}]}

Artikel mit Unterstützung künstlicher Intelligenz erstellt und von der Redaktion überprüft.

Francesco Antonio Russo

Alle Artikel von Francesco Antonio Russo