Was ist generative KI? Funktionsweise, Beispiele und Grenzen

Was ist generative KI?

Generative KI bezeichnet KI-Modelle und darauf aufbauende Systeme, die gelernte Strukturen und Muster nutzen, um neue Ausgaben zu erzeugen – Text, Programmcode, Bilder, Audio, Sprache, Video und weitere Datenformen. Die US-Behörde NIST beschreibt generative KI als Modellklasse, die die Struktur und Eigenschaften ihrer Eingabedaten nachbildet, um daraus abgeleitete synthetische Inhalte zu erzeugen.

„Neu“ bedeutet dabei nicht zwangsläufig neuartig oder unabhängig von den Trainingsdaten. Generative Modelle erzeugen Ausgaben auf Grundlage gelernter statistischer Zusammenhänge. Ebenso irreführend sind pauschale Gegenaussagen wie „die KI kopiert einfach ihre Trainingsdaten“ oder „sie kombiniert nur Vorhandenes“ – beides trifft den Kern nicht.

Traditionell unterscheidet das maschinelle Lernen unter anderem generative und diskriminative Ansätze: Ein diskriminatives Modell lernt, Eingaben einzuordnen (welche Klasse?), ein generatives Modell lernt die Datenstruktur so weit, dass es neue Beispiele erzeugen kann. Moderne Foundation Models verwischen diese Grenze in der Anwendung: Dasselbe Modell kann Text erzeugen, Informationen extrahieren, Inhalte klassifizieren oder Bilder analysieren. Eine Klassifikationsaufgabe macht ein generatives Modell also nicht automatisch zu einem klassischen diskriminativen Modell.

Wie funktioniert generative KI?

Stark vereinfacht durchläuft generative KI zwei getrennte Phasen: das einmalige Training und die vielfache Nutzung (Inferenz).

Training und Inferenz unterscheiden

Viele Einsteiger verwechseln beides. Der Unterschied ist zentral:

• Training: Aus großen Datenmengen werden die Modellparameter angepasst. Trainingsziel, Architektur, Daten und Optimierung unterscheiden sich je Modell.
• Post-Training: Je nach System folgen weitere Schritte wie Instruction Tuning, Fine-Tuning, Präferenzoptimierung oder Sicherheitsanpassungen.
• Inferenz: Gibt eine Nutzerin einen Prompt ein, wird das Modell in der Regel nicht neu trainiert. Es nutzt die bereits gelernten Parameter, den aktuellen Kontext und gegebenenfalls angebundene externe Informationen oder Werkzeuge, um eine Ausgabe zu erzeugen.

Nicht alle generativen Modelle funktionieren gleich

Ein verbreiteter Fehler ist die Aussage, generative KI funktioniere immer, indem „das nächste Wort“ vorhergesagt wird. Das trifft auf viele autoregressive Sprachmodelle zu, gilt aber nicht universell. Wichtig ist außerdem: Tokens sind nicht dasselbe wie Wörter, und über Sampling sind mehrere plausible Fortsetzungen möglich.

Auch bei Sprache ist nicht alles autoregressiv: diskrete Diffusionsmodelle für Text sind ein aktives Forschungs- und Entwicklungsfeld (Stand 2026). Begriffe wie Flow Matching oder Diffusion Transformer bezeichnen weitere aktuelle Verfahren. Für die Praxis genügt: Es gibt mehrere Wege, Inhalte zu generieren – „Transformer“ ist eine Architektur, „generative KI“ eine Funktionskategorie, und beide sind nicht dasselbe.

Generative KI ist ein Oberbegriff – nicht „ChatGPT“

Viele Begriffe werden vermischt. Diese Übersicht trennt sie:

Ein Foundation Model ist breit vortrainiert und anpassbar; viele generative Systeme basieren darauf, aber die Begriffe sind nicht synonym. Der Rechtsbegriff GPAI des EU AI Act hat wiederum eine eigene Definition und darf nicht einfach mit „Foundation Model“ oder „generative KI“ gleichgesetzt werden (siehe EU AI Act).

Was kann generative KI erzeugen?

Eingabe- und Ausgabemodalität getrennt betrachten: Ein Modell kann Bild und Text als Eingabe verarbeiten und trotzdem nur Text ausgeben. „Multimodal“ sollte deshalb immer mit Richtung gedacht werden. Ein wichtiger Sonderfall ist Audio: Transkription (Speech-to-Text) ist primär eine Erkennungsaufgabe, keine typische Inhaltserzeugung. Generative Audiobeispiele sind Sprachsynthese, Musik- und Klanggenerierung oder Stimmumwandlung.

Konkrete Beispiel-Prompts und was der Mensch jeweils prüfen sollte:

Wann generative KI sinnvoll ist – und wann klassische Software besser

Generative KI ist nicht automatisch die beste Lösung. Sie eignet sich besonders, wenn mehrere plausible Ausgaben möglich sind, Sprache oder unstrukturierte Daten verarbeitet werden, Entwürfe oder Varianten gebraucht werden oder natürliche Sprache als Schnittstelle dient.

Klassische, deterministische Software ist oft die bessere Wahl, wenn exakte Berechnungen, feste Geschäftsregeln, reproduzierbare Ergebnisse, eine eindeutige Datenbankantwort oder sicherheitskritische Logik gefragt sind – dort zählt Validierung mehr als sprachliche Flexibilität.

Modell, Produkt und Werkzeuge – und wo RAG hineinpasst

Eine Fähigkeit eines Produkts darf nicht automatisch dem Modell zugeschrieben werden. Ein typischer Aufbau ist: Nutzer → Anwendung → Modell → optionale Werkzeuge/Datenquellen → Antwort. Eine Anwendung kann zusätzlich Websuche, Dateiupload, Datenbank, Code-Interpreter, Taschenrechner, RAG, externe APIs, MCP oder Agentenfunktionen enthalten.

RAG kurz eingeordnet

Retrieval-Augmented Generation verändert nicht die trainierten Parameter. Es stellt zur Anfrage passende externe Informationen bereit, die in die Generierung einfließen. Das kann Aktualität und Belegbarkeit verbessern, ist aber keine Garantie für richtige Antworten.

Grenzen und Halluzinationen

Generative Modelle können falsche Tatsachen erzeugen, Quellen erfinden, Zahlen verwechseln, Kontext falsch interpretieren oder Unbelegtes überzeugend formulieren – ausführlich im Artikel zu KI-Halluzinationen. Die wichtigsten Risiken im Überblick:

Datenschutz: Welche Daten nicht eingeben?

Statt „keine sensiblen Daten in Cloud-Tools“ pauschal zu sagen, hilft eine Prüfung vor der Eingabe vertraulicher oder personenbezogener Informationen:

• Welcher Anbieter, welches Produkt, welche Tarifstufe?
• Welche Datenschutzbedingungen und Speicherfristen gelten?
• Können Eingaben zum Training verwendet werden?
• Wo werden Daten verarbeitet, welche administrativen Kontrollen bestehen?
• Gibt es eine passende Vereinbarung zur Auftragsverarbeitung (AVV)?

Lokale KI ist oft die datensparsamere Alternative – aber nicht automatisch „sicher“. Auch lokale Systeme brauchen Updates, Zugriffsschutz, sichere Konfiguration und geeignete Modelle. Details im Bereich Datenschutz.

Urheberrecht und Rechte Dritter

Ob KI-Ergebnisse – etwa Bilder – kommerziell genutzt werden dürfen, ergibt sich nicht allein aus den Trainingsdaten. Zu prüfen sind unter anderem die Nutzungsbedingungen des Anbieters, Rechte an Ausgangsmaterial, mögliche Rechte Dritter, Marken, Persönlichkeitsrechte, die konkrete Ausgestaltung der Ausgabe, das geltende Recht und die Anforderungen des jeweiligen Einsatzes.

Vertiefung im Bereich Recht und speziell zum Urheberrecht.

EU AI Act und Kennzeichnung

Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 der KI-Verordnung (Verordnung (EU) 2024/1689). Vereinfacht und auf hoher Ebene:

• Anbieter müssen dafür sorgen, dass KI-generierte oder -manipulierte Audio-, Bild-, Video- und Textinhalte maschinenlesbar als künstlich erzeugt markiert werden; interaktive Systeme (Chatbots) müssen erkennbar machen, dass man mit einer KI kommuniziert.
• Betreiber müssen Deepfakes offenlegen und KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse kennzeichnen.

Es gibt jedoch Ausnahmen – etwa für rein unterstützende oder geringfügige Bearbeitungsfunktionen, für künstlerische, satirische oder fiktionale Werke und für Texte, die unter menschlicher redaktioneller Verantwortung geprüft werden. Die pauschale Aussage, seit August 2026 müsse jeder KI-generierte Text gekennzeichnet werden, ist deshalb falsch. Die EU-Kommission hat dazu Leitlinien und einen freiwilligen Verhaltenskodex zur Transparenz veröffentlicht.

Begriffe nicht gleichsetzen: „Generative KI“ ist ein technischer Oberbegriff, „Foundation Model“ ein Fachbegriff der Forschung und „GPAI“ eine eigene Rechtskategorie der KI-Verordnung mit eigener Definition und eigenen Pflichten (u. a. seit 2. August 2025). Sie überschneiden sich, sind aber nicht deckungsgleich.

Vertiefung: EU AI Act, KI-Kennzeichnung und Deepfakes.

Häufige Missverständnisse

So nutzt du generative KI sinnvoll

1. Aufgabe definieren: Was genau soll erzeugt werden?
2. Passendes Tool/Modell wählen: nicht jedes Modell passt zu jeder Aufgabe.
3. Kontext bereitstellen: nur notwendige und zulässige Daten.
4. Ausgabe erzeugen: klare Anforderungen und Format vorgeben.
5. Ergebnis prüfen: Fakten, Zahlen, Code, Quellen und Rechte kontrollieren.
6. Überarbeiten: KI-Ausgaben sind Entwürfe, keine fertigen Endprodukte.
7. Verantwortlich einsetzen: je nach Risikostufe menschliche Kontrolle einbauen.

Weiterführend: Was ist KI?, Large Language Models, Multimodale KI, Halluzinationen, Open-Source-KI und die Verzeichnisse KI-Modelle und KI-Tools.

• Was ist KI?
• Large Language Models
• Multimodale KI
• RAG
• Halluzinationen
• KI-Agenten
• EU AI Act