BEL KI v1

Die meisten „deutschen" Modelle sind auf maschinell übersetzten englischen Daten trainiert. Das hört man: Satzbau, Idiome und Fachsprache klingen übersetzt.

Vorgehen

• Datenauswahl — deutschsprachige Quellen aus erster Hand, kein Rückübersetzen.
• LoRA statt Vollfinetune — Adapter mit Rang 32 auf den Attention-Projektionen. Trainierbar auf einer einzelnen Consumer-GPU.
• Bewertung — Blindvergleich gegen Basismodell durch deutschsprachige Tester, nicht nur automatische Metriken.

python train.py \
  --base meta-llama/Llama-3.1-8B \
  --dataset data/de-curated \
  --lora-rank 32 --lora-alpha 64 \
  --epochs 3

Offene Punkte

Der Datensatz ist der Engpass, nicht die Rechenleistung. Version 2 bekommt eine strengere Prüfstrecke für Trainingsdaten.