Skip to content
Artwork for Ai Talk Podcast by Dominik Wojcik
Ai Talk Podcast by Dominik Wojcik · June 5 · 52 min

LoRA Fine-Tuning für SEO: Mein eigenes LLM Experiment

In dieser AI Talk Folge geht es um mein Experiment, ein eigenes SEO LLM per LoRA Fine-Tuning zu trainieren. Ich spreche darüber, wie ich aus meinem SEO Benchmark Trainingsdaten erstelle, warum gute Datensätze wichtiger sind als reine Menge und wie ich ein Open-Weight-Modell gezielt für technische SEO-Aufgaben, strukturierte Daten, Onpage, Offpage, Crawling und Agent-Workflows optimieren möchte. Außerdem geht es um Qwen 3.6, lokale LLMs, RunPod, GPU-Setups, Benchmarks, Student-Teacher-Ansätze und die Frage, ob ein kleineres Modell nah genug an große Topmodelle herankommen kann, um in echten Workflows deutlich günstiger eingesetzt zu werden. Ein großer Teil der Folge zeigt auch, warum Fine-Tuning ein iterativer Prozess ist: trainieren, testen, Fehler analysieren, Trainingsdaten verbessern und erneut benchmarken. Kapitel: 00:00 Einstieg: Warum ein eigenes SEO LLM? 02:42 SEO Benchmark, Student-Teacher-Prinzip und Modellvergleich 05:12 Codex, Claude Code, Cursor und aktuelle Coding-Tools 07:48 Trainingsstatus, Setup und lokale Modelle 13:15 Qwen 3.6 als Basis für das Fine-Tuning 17:48 Aufbau der SEO-Trainingsdaten 24:45 Training starten, Datensätze kuratieren und LoRA verstehen 30:42 Benchmark-Test mit dem neuen Modell 32:36 Iteration: Trainieren, testen, verbessern 39:02 Erste Ergebnisse, Rückschritte und Learnings 46:38 Analyse mit starken Modellen und Vorbereitung für V4 57:14 Neuer Trainingslauf mit optimierten Beispielen 58:15 Nächster Schritt: Tool- und Function-Calling-Training 59:54 Fazit: Wie ich LLMs optimiere 01:02:05 Warum Benchmark und Trainingsdaten getrennt bleiben müssen 01:03:06 Ziel: Ein günstigeres spezialisiertes SEO Brain Modell

0:00-52:45

transcript

No transcript — this publisher did not publish one.

show notes

In dieser AI Talk Folge geht es um mein Experiment, ein eigenes SEO LLM per LoRA Fine-Tuning zu trainieren.

Ich spreche darüber, wie ich aus meinem SEO Benchmark Trainingsdaten erstelle, warum gute Datensätze wichtiger sind als reine Menge und wie ich ein Open-Weight-Modell gezielt für technische SEO-Aufgaben, strukturierte Daten, Onpage, Offpage, Crawling und Agent-Workflows optimieren möchte.

Außerdem geht es um Qwen 3.6, lokale LLMs, RunPod, GPU-Setups, Benchmarks, Student-Teacher-Ansätze und die Frage, ob ein kleineres Modell nah genug an große Topmodelle herankommen kann, um in echten Workflows deutlich günstiger eingesetzt zu werden.

Ein großer Teil der Folge zeigt auch, warum Fine-Tuning ein iterativer Prozess ist: trainieren, testen, Fehler analysieren, Trainingsdaten verbessern und erneut benchmarken.

Kapitel:

00:00 Einstieg: Warum ein eigenes SEO LLM?
02:42 SEO Benchmark, Student-Teacher-Prinzip und Modellvergleich
05:12 Codex, Claude Code, Cursor und aktuelle Coding-Tools
07:48 Trainingsstatus, Setup und lokale Modelle
13:15 Qwen 3.6 als Basis für das Fine-Tuning
17:48 Aufbau der SEO-Trainingsdaten
24:45 Training starten, Datensätze kuratieren und LoRA verstehen
30:42 Benchmark-Test mit dem neuen Modell
32:36 Iteration: Trainieren, testen, verbessern
39:02 Erste Ergebnisse, Rückschritte und Learnings
46:38 Analyse mit starken Modellen und Vorbereitung für V4
57:14 Neuer Trainingslauf mit optimierten Beispielen
58:15 Nächster Schritt: Tool- und Function-Calling-Training
59:54 Fazit: Wie ich LLMs optimiere
01:02:05 Warum Benchmark und Trainingsdaten getrennt bleiben müssen
01:03:06 Ziel: Ein günstigeres spezialisiertes SEO Brain Modell