SteuerLLM

Forschung / Entwicklung: FAU Erlangen-Nürnberg (Forschungsteam laut Paper) · Land: Deutschland · Typ: spezialisiertes Domänenmodell · Zugriff: öffentliche Gewichte (Open-SteuerLLM), lokal nutzbar · Lizenz: CC BY-NC 4.0 (öffentliche Variante)

Modelle aus Deutschland Basisfamilie Mistral Legal-Skill-Projekt

SteuerLLM auf einen Blick

Was ist SteuerLLM?

SteuerLLM ist ein akademisches Forschungsmodell der Friedrich-Alexander-Universität Erlangen-Nürnberg für die Analyse deutschen Steuerrechts – kein kommerzieller Dienst und kein „KI-Steuerberater“. Die zugehörige Studie erschien am 10.07.2026 in Scientific Reports und ist damit eine begutachtete wissenschaftliche Publikation; das frühere arXiv-Preprint bleibt ergänzend verfügbar. Das Modell beantwortet deutsche Steuerrechtsfragen im Prüfungsstil: strukturierte juristische Argumentation, Gesetzesbezüge und numerische steuerrechtliche Aufgaben – ohne Garantie auf Richtigkeit oder aktuellen Rechtsstand.

SteuerLLM, Open-SteuerLLM und Small-SteuerLLM

Die Publikation unterscheidet ausdrücklich mehrere Varianten – diese Trennung ist wichtig, weil nur eine davon öffentlich verfügbar ist:

Architektur: Block Expansion statt einfachem Fine-Tuning

Ausgangspunkt ist Mistral Small 2409 mit 24 Milliarden Parametern. Per Block Expansion wurden acht zusätzliche Transformer-Blöcke in Tiefenintervallen in das Netz eingefügt – das Ergebnis hat 28 Milliarden Parameter. Laut Paper bleiben alle ursprünglichen Blöcke während des Trainings eingefroren; trainiert werden die neuen Blöcke sowie ausgewählte Embedding- und Ausgabekomponenten (Token-Embedding-Matrix, LM-Head). Die neuen Blöcke werden aus benachbarten Layern initialisiert und so genullt, dass sie zu Beginn nahezu identitätsneutral wirken.

Block Expansion vs. LoRA

Block Expansion fügt echte zusätzliche Netzwerktiefe hinzu; LoRA legt dagegen kleine trainierbare Adapter über ein bestehendes Modell. In einer Ablation der Autoren erreichte eine ansonsten gleich trainierte LoRA-Variante 20 % ± 2 auf SteuerEx gegenüber 23 % ± 3 für Open-SteuerLLM – ein laut Studie signifikanter Unterschied (gepaarter Permutationstest, P = 0,011). Das ist ein Autorenexperiment, keine allgemeingültige Aussage über LoRA.

Training in zwei Phasen

Phase 1 – Continued Pretraining: rund 6,3 Milliarden domänenrelevante deutsche Tokens (Gesetze, steuerrechtliche Fachtexte). SteuerLLM ist damit kein From-scratch-Modell, sondern eine Erweiterung eines französischen Basismodells.

Phase 2 – Instruction Tuning: laut Paper etwa 1,5 Millionen steuerrechtliche Instruction-Response-Paare. Das öffentlich verfügbare Instruct-Dataset enthält davon abgeleitet 485.092 validierte Beispiele (als Multi-Turn-Konversationen organisiert) – die beiden Zahlen beschreiben unterschiedliche Datenstufen und dürfen nicht gleichgesetzt werden.

Wie wurden die Steuerrechtsdaten erzeugt?

Die Autoren verwenden einen iterativen, retrieval-gestützten Prozess, den sie Water Fountain Algorithm nennen. Ausgangspunkt sind rund 1.800 authentische Steuerrechtsprüfungsfragen der FAU. Daraus entstehen in mehreren Runden Suchanfragen, Retrieval über Rechtsquellen (u. a. via SearXNG), semantische Relevanzprüfungen und generativ erzeugte neue Frage-Antwort-Paare mit Qualitätsfiltern. Von 605.717 initial erzeugten Instanzen wurden 120.625 im Cleansing entfernt; der finale validierte synthetische Datensatz umfasst 485.092 Frage-Antwort-Paare. Das ist der Datensatz der Autoren – keine BOMOTS-Datenerhebung.

Wichtig: RAG beim Training ist nicht RAG beim Antworten

Der Water-Fountain-Prozess nutzt Retrieval, um Trainingsdaten zu erzeugen und abzusichern. Das bedeutet nicht, dass SteuerLLM beim Antworten automatisch aktuelle Gesetze recherchiert. Im Gegenteil: In der SteuerEx-Evaluation liefen alle Modelle laut Paper ausdrücklich ohne Retrieval-Augmentierung, ohne externe Rechtsdatenbanken und ohne Zugriff auf aktuelle Gesetzestexte zur Inferenzzeit. Was RAG ist und wann es hilft, erklärt unser Grundlagenartikel.

SteuerEx: der Prüfungs-Benchmark

SteuerEx besteht aus 115 Fragen aus 18 realen FAU-Prüfungen (2016/17 bis 2023/24, Schwerpunkt auf neueren Prüfungen) mit 752 einzeln bewertbaren juristischen Aussagen und maximal 1.035,5 Punkten in sechs Steuerrechtsbereichen:

Bewertung: Teilpunkte statt richtig/falsch

SteuerEx bewertet nicht binär. Musterlösungen werden in einzelne bewertbare Aussagen zerlegt; Teilpunkte sind möglich – das entspricht eher universitärer Prüfungsbewertung als einem Multiple-Choice-Test.

LLM-as-a-Judge – und seine Grenzen

Die Bewertung übernimmt ein sekundärer LLM-Evaluator (in der Studie GPT-4o), der Aussagen auf konzeptionelle Korrektheit, Gesetzespräzision und Vollständigkeit prüft. Die Autoren validierten diesen automatischen Grader zusätzlich mit drei menschlichen Experten – mit wichtigem Befund: Auf Ebene einzelner Aussagen war schon die Übereinstimmung der Menschen untereinander begrenzt (ICC(2,1) = 0,367); aggregierte Scores korrelierten deutlich besser (Kendalls τ = 0,718). Benchmark-Prozente sollten deshalb nicht als objektive Wahrscheinlichkeit juristischer Richtigkeit gelesen werden. Hintergrund: KI-Modelle evaluieren.

Ergebnisse der veröffentlichten Studie

Grenzen des Benchmarks

• Alle Prüfungen stammen aus einer einzigen Hochschule (FAU).
• Die sechs Bereiche sind sehr unterschiedlich groß – einige enthalten nur drei oder vier Fragen.
• Universitäre Prüfungen sind nicht dasselbe wie Steuerberatungspraxis.
• Tabellen, Formulare und komplexe strukturierte Artefakte wurden teilweise ausgeschlossen.
• Kein RAG und keine aktuellen Rechtsdatenbanken bei der Benchmark-Inferenz.
• Automatisierter LLM-Grader mit begrenzter menschlicher Übereinstimmung auf Statement-Ebene.
• Der Rechtsstand kann seit der Evaluation gedriftet sein.
• Die verglichenen Modelle stammen aus dem Zeitraum 2025 bis Anfang 2026 – neuere Generationen fehlen. Aus der Tabelle lässt sich deshalb keine aktuelle Rangliste ableiten.

Zugriff, Demo und lokaler Betrieb

Die Open-SteuerLLM-Gewichte (28B, BF16) sind frei auf Hugging Face herunterladbar (nicht gated). Die Model Card dokumentiert den Betrieb mit Transformers, vLLM und SGLang – einschließlich OpenAI-kompatibler lokaler Chat-Completions-Endpunkte; im Ökosystem existieren Quantisierungen (u. a. für llama.cpp, LM Studio, Ollama). Offizielle Hardware-Mindestanforderungen nennt die Model Card nicht; der Bedarf hängt von Präzision, Quantisierung und Laufzeitumgebung ab.

• Forschungs-Projektseite: vorhanden (FAU); die frühere interaktive Chat-Demo wurde laut Projektseite eingestellt (Stand 11.08.2026) – sie verweist jetzt auf den Modell-Download und ein Benchmark-Submission-System.
• Gehostete API: nicht dokumentiert.
• Lokale API: ja – über vLLM/SGLang als selbst betriebener, OpenAI-kompatibler Endpunkt.
• Kommerzieller Webdienst/SaaS: nicht dokumentiert.

Lizenzen: Modell und Datensätze getrennt betrachten

Open-SteuerLLM steht unter CC BY-NC 4.0 („research and academic use“) – die Gewichte sind offen herunterladbar, kommerzielle Nutzung ist nach der öffentlichen Lizenz nicht gestattet. Das ist Open Weights, nicht Open Source AI. Auch die drei offiziellen Datenartefakte – Pretraining-Dataset (1.142.007 Zeilen), Instruct-Dataset (485.092 Beispiele) und SteuerEx – tragen jeweils separat CC BY-NC 4.0; Dataset-Lizenzen folgen nicht automatisch der Modelllizenz. Für die nicht veröffentlichte vollständige SteuerLLM-Variante existiert keine öffentliche Lizenz.

Wofür eignet sich SteuerLLM – und wofür nicht?

Dokumentierter Zweck ist Forschung: Analyse und Evaluation von Sprachmodellen im deutschen Steuerrecht, Experimente mit Domänenspezialisierung und lokale, datensparsame Verarbeitung steuerrechtlicher Texte. Nicht geeignet ist das Modell als Ersatz für professionelle Beratung – die Autoren selbst positionieren es ausdrücklich als Forschungsprototyp.

Fachmodell oder Skill-System? SteuerLLM vs. „Claude für deutsches Recht“

Für die Spezialisierung von KI auf deutsches Recht existieren zwei grundlegend verschiedene Wege – ein trainiertes Fachmodell wie SteuerLLM und ein Skill-/Workflow-System wie das Open-Source-Projekt Claude für deutsches Recht, das auf unveränderten Claude-Modellen arbeitet:

Beide Ansätze lösen unterschiedliche Probleme: Ein spezialisiertes Modell verändert die Modellparameter selbst; Skills verändern Arbeitskontext und Prozess. Ein Qualitätsvergleich wäre nur mit einer eigenen, reproduzierbaren Evaluation seriös – die hat BOMOTS nicht durchgeführt.

Passend zu diesem Thema

• KI-Sprachmodelle aus Deutschland – SteuerLLM im Kontext der deutschen Modelllandschaft
• Claude für deutsches Recht – der Skill-/Workflow-Ansatz im Vergleich
• RAG verstehen · KI-Modelle evaluieren · Halluzinationen
• Open-Weights-Modelle · lokal nutzbare Modelle · Datenschutz bei KI