Generative KI kann in Sekunden erklären, zusammenfassen und programmieren. Doch eine überzeugende Antwort kann auf falschen Annahmen oder unpassenden Quellen beruhen. Wann ist so ein Werkzeug überhaupt sinnvoll?
Zunächst: KI würfelt ihre Antworten nicht einfach aus. Zwischen Frage und Antwort besteht eine mathematisch beschreibbare Beziehung. Das Modell berechnet Wahrscheinlichkeiten für mögliche Textfortsetzungen. Diese Berechnung garantiert aber keine Wahrheit.
Fünf Probleme mit generativer KI
Daraus entstehen fünf grundlegende Probleme.
1. Sprachliche Sicherheit täuscht sachliche Sicherheit vor.
Eine KI kann eine erfundene Geschichte genauso flüssig erzählen wie eine belegte Tatsache. Beispiel: Sie liefert ein eindrucksvolles Einstein-Zitat, das Einstein nie gesagt hat. Die Formulierung überzeugt, der Inhalt täuscht.
2. Falsche Grundlagen machen schlüssige Antworten wertlos.
Auch eine sauber aufgebaute Erklärung kann auf einer falschen Voraussetzung beruhen. Beispiel: Die KI plant eine perfekte Zugreise – mit einer Verbindung, die gar nicht existiert. Jeder weitere Planungsschritt baut auf diesem Fehler auf.
3. Quellen können Belege nur vortäuschen.
Eine echte Quelle muss die zugehörige Behauptung nicht stützen. Beispiel: Die KI behauptet, eine Lernmethode verdoppele den Lernerfolg. Der verlinkte Fachartikel untersucht jedoch lediglich, ob Schüler die Methode angenehm finden. Der Link wirkt wie ein Gütesiegel, belegt aber etwas anderes.
4. Die Antwort kann von der Formulierung abhängen.
Schon eine suggestive Frage kann die Antwort in eine Richtung lenken. Beispiel: „Warum ist Hausaufgabe X sinnvoll?“ liefert Argumente dafür; „Warum ist sie schädlich?“ Argumente dagegen. Wer nur eine Seite abfragt, kann Bestätigung mit einer ausgewogenen Bewertung verwechseln.
5. Die Kontrolle verlangt fehlendes Wissen.
Gerade Anfänger erkennen Fehler oft schwer. Beispiel: Eine KI erklärt eine Rechenregel falsch. Wer die Regel erst lernen möchte, übernimmt womöglich genau diesen Fehler.
Trotzdem lässt sich KI sinnvoll nutzen. Besonders dann, wenn die Prüfung leichter ist als die Erstellung. Einen langen eigenen Text kürzen zu lassen kann Zeit sparen: Ob wichtige Aussagen fehlen, lässt sich am Original überprüfen. Für Ideen ist ebenfalls viel gewonnen, ohne dass jeder Vorschlag eine Tatsachenbehauptung sein muss.
Drei Fragen vor der Nutzung von generativer KI
Entscheidend sind drei Fragen:
- Kann ich das Ergebnis prüfen?
- Welche Folgen hätte ein übersehener Fehler?
- Bleibt nach der Kontrolle eine Zeitersparnis?
Eine misslungene Geburtstagsrede lässt sich leicht überarbeiten. Eine fehlerhafte Bauanleitung kann gefährlich werden. Der passende Einsatz hängt deshalb davon ab, wie zuverlässig sich Fehler erkennen und begrenzen lassen.
SH, Karlsruhe 09.2026
(Unterstützung bei der Formulierung mit generativer KI)