Was generative AI kann und was nicht

Wie ein Sprachmodell antwortet

Ein Sprachmodell wie GPT, Claude oder Gemini hat aus sehr großen Textmengen gelernt, welches Wort mit welcher Wahrscheinlichkeit auf ein anderes folgt. Wenn du eine Frage stellst, erzeugt es Wort für Wort die wahrscheinlichste Fortsetzung, gemessen an allem, was im Gespräch steht. Es schlägt nichts nach, solange es nicht ausdrücklich mit einer Suche oder deinen Dokumenten verbunden ist.

Daraus folgen drei praktische Regeln:

• Kontext ist alles. Das Modell weiß nur, was in seinem Training stand und was du ihm im Gespräch gibst. Je besser der Kontext, desto besser die Antwort.
• Sprachliche Sicherheit ist kein Wahrheitsbeweis. Ein Modell formuliert eine falsche Antwort genauso flüssig wie eine richtige.
• Wissen hat ein Ablaufdatum. Ohne Websuche kennt das Modell nur den Stand seines Trainings. Preise, Gesetze und Zuständigkeiten können sich seitdem geändert haben.

Halluzinationen und wie du sie abfängst

Wenn ein Modell Fakten, Quellen oder Zitate erfindet, spricht man von Halluzinationen. Sie entstehen, weil das Modell eine plausible Fortsetzung erzeugt, auch wenn ihm die Information fehlt.

Die wirksamsten Gegenmittel im Alltag:

1. Quellen mitgeben: Lade das Dokument hoch oder füge den Text ein und verlange, dass nur daraus geantwortet wird.
2. Belege verlangen: Lass dir zu jeder Aussage die Fundstelle nennen und öffne sie.
3. Einen Ausweg erlauben: Schreib in den Prompt, dass das Modell „nicht gefunden“ oder „UNKLAR“ sagen darf. Ohne diese Erlaubnis rät es eher.
4. Zahlen gegenrechnen: Summen, Prozentwerte und Datumsangaben immer einmal selbst prüfen.

Die gezackte Grenze

Forschende von Harvard Business School und Boston Consulting Group haben 2023 untersucht, wie Beratende mit GPT-4 arbeiten. Bei Aufgaben innerhalb der Fähigkeiten des Modells waren sie im Schnitt 25,1 % schneller, erledigten 12,2 % mehr Aufgaben und lieferten über 40 % bessere Qualität. Bei einer ähnlich schwierigen Aufgabe außerhalb dieser Grenze lagen sie mit AI um 19 Prozentpunkte seltener richtig als ohne.

Die Forschenden nennen das die „jagged frontier“, die gezackte Grenze. Sie verläuft nicht entlang von „leicht“ und „schwer“, sondern quer durch Aufgaben, die für Menschen gleich anspruchsvoll wirken. Deshalb gilt: Probier AI an echten Beispielen aus, bei denen du das richtige Ergebnis kennst, bevor du ihr eine Aufgabe dauerhaft überträgst.

Ein zweiter Unterschied ist wichtig: Assistenz heißt, ein Mensch arbeitet mit AI zusammen und entscheidet. Automatisierung heißt, AI erledigt einen Schritt ohne menschliche Prüfung. Laut Anthropic Economic Index vom September 2025 zeigen 77 % der geschäftlichen Nutzungen über die Programmierschnittstelle Automatisierungsmuster, im Chat sind es rund die Hälfte. Unternehmen automatisieren also über Schnittstellen, Menschen arbeiten im Chat mit.