KI im Arbeitsalltag: Halluzinationen, Prüfen von Ergebnissen, Verantwortung

Stand: 27.09.2026. Die KI-Verordnung gilt in der Fassung der Verordnung (EU) 2026/1744 („AI Omnibus", in Kraft seit 27.07.2026); das deutsche Durchführungsgesetz KI-MIG gilt seit 29.07.2026. Prüf das Datum, wenn du diese Lektion später liest.

Lernziele

Nach dieser Lektion kannst du:

erklären, warum KI-Systeme „halluzinieren" und welche Fehlertypen typisch sind,
KI-Ergebnisse systematisch und effizient prüfen,
einschätzen, wann KI das richtige Werkzeug ist und wann nicht,
deine persönliche Verantwortung beim KI-Einsatz klar benennen.

Halluzinationen: der eingebaute Fehler

Sprachmodelle erzeugen Texte, indem sie Wort für Wort das statistisch Wahrscheinlichste vorhersagen. Sie haben kein Konzept von „wahr" oder „falsch", nur von „plausibel". Wenn die Wahrscheinlichkeitsrechnung in eine Sackgasse führt, erfindet das Modell Inhalte: Es halluziniert. Das Tückische: Halluzinationen kommen im selben souveränen Ton daher wie korrekte Antworten. Es gibt keine eingebaute Warnleuchte.

Typische Fehlerbilder im Geschäftsalltag:

Erfundene Fakten und Quellen: Gerichtsurteile, Normen, Studien oder Webadressen, die nicht existieren, inklusive plausibel klingender Aktenzeichen.
Veraltetes Wissen: Das Modell kennt nur Daten bis zu seinem Trainingsstand; Gesetzesänderungen, Preise oder Personalien von gestern kennt es ohne Internetzugriff nicht.
Zahlendreher und Rechenfehler: Gerade bei Kalkulationen, Summen und Einheiten sind Sprachmodelle unzuverlässig.
Übergeneralisierung: Aus „gilt meistens" wird „gilt immer", gefährlich bei rechtlichen oder technischen Aussagen.
Schein-Compliance: Auf die Frage „Bist du sicher?" antworten Modelle oft mit selbstbewusster Bestätigung, auch wenn die Antwort falsch ist. Nachfragen ist keine Prüfung.

Praxisbeispiel: Ein Projektleiter lässt die KI eine Übersicht der DIN-Normen für ein Gewerk erstellen. Drei von acht genannten Normen existieren in dieser Nummerierung gar nicht. Im Angebot wäre das peinlich, im Bauvertrag teuer.

Ergebnisse prüfen: die PRÜF-Routine

Effizientes Prüfen heißt nicht, alles doppelt zu machen. Bewährt hat sich eine risikoabgestufte Routine:

P, Plausibilität: Liest sich das Ergebnis fachlich stimmig? Widerspricht etwas deinem Erfahrungswissen? Dein Bauchgefühl als Fachkraft ist das erste Prüfwerkzeug.
R, Referenzen: Jede Zahl, jedes Zitat, jede Quelle, jeder Rechtsverweis wird gegen die Originalquelle geprüft, nicht gegen die KI selbst. Existiert die Quelle? Sagt sie das wirklich?
Ü, Übereinstimmung mit dem Auftrag: Hat die KI die Aufgabe verstanden? Fehlt etwas? Wurde etwas dazugedichtet, was nie gefragt war?
F, Folgen: Je größer die Wirkung, desto strenger die Prüfung. Interner Brainstorming-Entwurf: kurze Plausibilitätsprüfung genügt. Kundenangebot, Vertragstext, Veröffentlichung, Personalentscheidung: vollständige fachliche Prüfung, bei Bedarf Vier-Augen-Prinzip.

Die Faustregel zur Aufwandssteuerung: KI spart Zeit beim Erstellen, nicht beim Verantworten. Kalkuliere die Prüfzeit immer ein. Wenn die Prüfung länger dauern würde als das Selbstschreiben, ist KI für diese Aufgabe das falsche Werkzeug.

Wofür KI, und wofür nicht?

Stark ist KI bei: Entwürfen und Rohfassungen, Umformulieren und Kürzen, Strukturieren von Stoffsammlungen, Übersetzungen, Routinetexten, Ideenfindung, Erklären von Konzepten, Code-Gerüsten.

Schwach oder riskant ist KI bei: exakten Zahlen und Berechnungen, aktuellen Informationen, verbindlichen Rechts- und Steuerauskünften, Quellenarbeit ohne Prüfung und überall dort, wo Empathie und echte Verantwortung gefragt sind: Kündigungsgespräche, Beschwerden mit emotionaler Dimension, Beileidsschreiben. Praxisbeispiel: Eine per KI generierte, erkennbar schablonenhafte Antwort auf eine ernste Kundenbeschwerde kann mehr Schaden anrichten als gar keine Antwort.

Verantwortung: Du unterschreibst, nicht die KI

Rechtlich wie fachlich gilt: Es gibt keine „Schuld der KI". Wer ein KI-Ergebnis verwendet, übernimmt es als eigenes Arbeitsergebnis, mit allen Konsequenzen. Das entspricht auch der Logik der KI-Verordnung: Sie verlangt menschliche Aufsicht und Kompetenz (Art. 4, bei Hochrisiko-KI Art. 26) gerade deshalb, weil die Verantwortung beim Menschen und beim Unternehmen bleibt.

Konkret heißt das für dich:

Gib nur weiter, was du geprüft hast und vertreten kannst.
Kennzeichne gegenüber Kolleginnen und Kollegen, wenn ein Zwischenstand ungeprüft ist („KI-Rohentwurf, noch nicht geprüft").
Triff Entscheidungen über Menschen (Bewerbungen, Beurteilungen, Kundenkonditionen) nie allein auf Basis einer KI-Empfehlung; prüfe und begründe selbst.
Melde systematische Fehler eines Werkzeugs an die KI-verantwortliche Person; du verbesserst damit die Sicherheit für alle.

Und zum Schluss die gute Nachricht: Wer diese Grundsätze verinnerlicht, hat von KI nichts zu befürchten und viel zu gewinnen. Die Kombination aus deiner Fachkompetenz und einem gut geführten Werkzeug ist besser als beides allein.

Merksätze

- KI klingt immer überzeugend, auch wenn sie falsch liegt. Selbstbewusstsein des Werkzeugs ist kein Qualitätsmerkmal. - Quellen, Zahlen, Normen, Urteile: immer gegen das Original prüfen, nie gegen die KI selbst. - Je größer die Wirkung, desto strenger die Prüfung: nach außen gilt das Vier-Augen-Prinzip. - Verantwortung ist nicht delegierbar: Wer ein KI-Ergebnis nutzt, macht es zu seinem eigenen.