Fine-Tuning trainiert ein fertiges Modell auf einem kleinen, gezielten Datensatz nach — es ändert Verhalten und Stil, ist aber der falsche Weg, um Wissen einzubauen.
Was bedeutet Fine-Tuning (SFT)?
Nachtraining eines fertigen Modells auf einem kleinen, gezielten Datensatz, um Verhalten, Stil oder Fachdomäne anzupassen. Bei der LLM-Erstellung heißt diese Stufe Instruction Tuning: zehntausende Beispiel-Dialoge („User fragt X → gute Antwort ist Y“) machen aus dem Textvervollständiger einen Assistenten.
Abgrenzung — worauf es ankommt
Zwei Bedeutungen sauber trennen: (1) die SFT-Stufe der Hersteller-Pipeline, (2) Fine-Tuning durch Unternehmen, die ein fertiges Modell auf eigene Daten nachtrainieren. Wichtigste Faustregel: Fine-Tuning ändert Verhalten und Stil, ist aber der falsche Weg, um Wissen einzubauen — dafür ist RAG da.
Beispiel aus der Praxis
Eine Versicherung fine-tuned ein Modell auf 5.000 Beispiel-Schriftwechsel, damit es Antworten exakt im Ton und Aufbau des Hauses formuliert.
Zum Weiterdenken
Es basiert auf Transfer Learning: Das im Pretraining Gelernte wird wiederverwendet, nur ein Bruchteil der Anpassung ist nötig. Effiziente Methoden wie LoRA (Low-Rank Adaptation) trainieren nur wenige zusätzliche Parameter statt des ganzen Modells — dadurch ist Fine-Tuning heute schon für kleinere Budgets machbar. Risiko: Catastrophic Forgetting — zu aggressives Fine-Tuning verschlechtert allgemeine Fähigkeiten.
Fine-Tuning (SFT) in Ihrem Unternehmen nutzen?
Von der Theorie in die Praxis: Wir zeigen Ihnen den passenden Weg — pragmatisch, DSGVO-konform und messbar.
Kostenlos · unverbindlich