
LoRA Fine-Tuning für SEO: Mein eigenes LLM Experiment
transcript
show notes
In dieser AI Talk Folge geht es um mein Experiment, ein eigenes SEO LLM per LoRA Fine-Tuning zu trainieren.
Ich spreche darüber, wie ich aus meinem SEO Benchmark Trainingsdaten erstelle, warum gute Datensätze wichtiger sind als reine Menge und wie ich ein Open-Weight-Modell gezielt für technische SEO-Aufgaben, strukturierte Daten, Onpage, Offpage, Crawling und Agent-Workflows optimieren möchte.
Außerdem geht es um Qwen 3.6, lokale LLMs, RunPod, GPU-Setups, Benchmarks, Student-Teacher-Ansätze und die Frage, ob ein kleineres Modell nah genug an große Topmodelle herankommen kann, um in echten Workflows deutlich günstiger eingesetzt zu werden.
Ein großer Teil der Folge zeigt auch, warum Fine-Tuning ein iterativer Prozess ist: trainieren, testen, Fehler analysieren, Trainingsdaten verbessern und erneut benchmarken.
Kapitel:
00:00 Einstieg: Warum ein eigenes SEO LLM?
02:42 SEO Benchmark, Student-Teacher-Prinzip und Modellvergleich
05:12 Codex, Claude Code, Cursor und aktuelle Coding-Tools
07:48 Trainingsstatus, Setup und lokale Modelle
13:15 Qwen 3.6 als Basis für das Fine-Tuning
17:48 Aufbau der SEO-Trainingsdaten
24:45 Training starten, Datensätze kuratieren und LoRA verstehen
30:42 Benchmark-Test mit dem neuen Modell
32:36 Iteration: Trainieren, testen, verbessern
39:02 Erste Ergebnisse, Rückschritte und Learnings
46:38 Analyse mit starken Modellen und Vorbereitung für V4
57:14 Neuer Trainingslauf mit optimierten Beispielen
58:15 Nächster Schritt: Tool- und Function-Calling-Training
59:54 Fazit: Wie ich LLMs optimiere
01:02:05 Warum Benchmark und Trainingsdaten getrennt bleiben müssen
01:03:06 Ziel: Ein günstigeres spezialisiertes SEO Brain Modell