Fine-Tuning
Fine-Tuning ist das Anpassen eines vortrainierten LLMs mit domänenspezifischen Daten, um besser bei Nischen-Tasks zu performen oder einen Stil zu matchen.
Fine-Tuning startet von einem bestehenden Modell (GPT, Claude, Llama) und trainiert weiter auf spezifischen Daten: Ihre Tonalität, Branchen-Vokabular, strukturierte Output-Formate. Vorteil: Verhalten, das schwer in Prompts auszudrücken ist, wird dem Modell inhärent. 2024-2026 kamen LoRA/QLoRA als effizientere Fine-Tuning-Methoden.
Beispiel
Eine Kanzlei fine-tuned Llama-3 auf 3.000 intern reviewten Vertragsklauseln. Das resultierende Modell produziert Vertrags-Drafts im exakten Hausstil, weit besser als generisches LLM mit Prompt-Anweisungen.
Häufig gestellte Fragen
Fine-Tuning oder RAG besser?
Abhängig. RAG für aktuelle Daten. Fine-Tuning für Stil, Format, spezialisiertes Denken. Oft: kombiniert — Fine-Tuned-Modell nutzt RAG für Fakten.
Verwandte Begriffe
Weiterführende Links
- → Unser Service: KI-Branche