🧨
Phase 1 · Aha-Moment

Welche Aussage wirkt glaubwürdig?

„Die Qualitätsmanagement-Norm ISO 98765 definiert Anforderungen für KI-gestützte Produktionsprozesse und wurde erstmals 2021 veröffentlicht.“

Klingt nach Fachwissen. Eine Normnummer, ein Veröffentlichungsjahr, ein plausibler Kontext. Genau deshalb fühlt sich die Aussage richtig an.

Achtung: Die ISO 98765 existiert nicht. Wir haben sie erfunden. Wenn sie für dich plausibel klang, bist du in guter Gesellschaft. Genau deshalb sind KI-Halluzinationen gefährlich: Sie sehen oft aus wie Fachwissen.
🧠
Phase 2 · Verstehen

Warum halluziniert KI überhaupt?

KI erfindet nicht bewusst. Sie lügt nicht absichtlich. Sie macht etwas anderes:

Deine Frage „Was steht in ISO 98765?“
→
KI ergänzt Muster Normnummer + Fachsprache + typischer Kontext = plausible Antwort

Merksatz: KI füllt Lücken mit Wahrscheinlichkeit – nicht automatisch mit Wahrheit.

Das ist bei kreativen Aufgaben oft nützlich. Bei Normen, Verträgen, Sicherheitsvorgaben oder technischen Daten kann es gefährlich werden.

⚖️
Phase 3 · Echt passiert

Wenn KI-Bullshit teuer wird

Ein bekanntes Beispiel kommt aus den USA: Anwälte reichten ein Dokument mit angeblichen Gerichtsurteilen ein, die ChatGPT geliefert hatte. Die Fälle klangen juristisch plausibel – existierten aber nicht. Das Gericht verhängte Sanktionen.

Reuters-Bericht zum Fall öffnen →

Der Punkt ist nicht: „KI ist schlecht.“ Der Punkt ist: Bei wichtigen Entscheidungen reicht eine gut klingende Antwort nicht.

✅
Phase 4 · Der Test

Die 3-Sekunden-Regel

Wenn eine KI-Antwort wichtig ist, prüfe sie immer mit dieser Mini-Kette:

Antwort
→ Quelle?
→ Unsicherheit?
→ Entscheidung

Die entscheidende Frage lautet:

Woher weiß die KI das?

Kann sie keine Quelle, kein Dokument oder keine nachvollziehbare Grundlage nennen, ist die Antwort nicht entscheidungsreif.

🔍
Phase 5 · Vergleich

Welche Antwort würdest du verwenden?

Szenario: Du fragst nach der ISO 98765.

❌ Antwort A
„Die ISO 98765 wurde 2021 veröffentlicht und beschreibt Anforderungen an KI-gestützte Produktionssysteme.“
✅ Antwort B
„Ich konnte keine verlässlichen Informationen zu einer ISO 98765 finden. Bitte prüfe die Normnummer oder stelle eine Quelle bereit.“

Antwort B ist besser. Nicht weil sie schöner klingt. Sondern weil sie Unsicherheit ehrlich zeigt.

🏭
Phase 6 · Berufsalltag

Wo wird es kritisch?

Normen

Eine falsch zitierte Norm kann Angebote, Audit-Unterlagen oder Kundenfreigaben beschädigen.

Verträge

Eine erfundene Klausel klingt harmlos, kann aber Verhandlungen oder Entscheidungen verzerren.

Maschinen

Falsche technische Daten können zu falschen Einstellungen, Fehldiagnosen oder unnötigen Eskalationen führen.

✍️
Phase 7 · Nachmachen

Prompt für kritische Antworten

Kopiere diesen Prompt, wenn es um Normen, Verträge, technische Daten oder verbindliche Aussagen geht.

Beantworte die folgende Frage nur, wenn ausreichend Informationen vorhanden sind. Falls Informationen fehlen: - weise ausdrücklich auf Unsicherheit hin - erfinde keine Details - nenne die Quelle deiner Aussage - unterscheide klar zwischen Fakten und Vermutungen Frage: [Frage einfügen]
🎯
Merke

Gute KI antwortet nicht um jeden Preis

Gute KI erkennt man nicht daran, dass sie immer antwortet.
Gute KI erkennt man daran, dass sie auch sagen kann: „Dazu habe ich keine verlässliche Information.“