✳ Aus dem Blog
Es gibt diesen einen Moment. Du stellst der KI eine Frage, und sie antwortet dir – flüssig, souverän, ohne mit der Wimper zu zucken. Eine Quelle hier, eine Zahl dort, vielleicht sogar ein Gerichtsurteil mit Aktenzeichen. Klingt perfekt. Ist aber schlichtweg falsch. Das Urteil hat kein Gericht je gefällt. Die Studie hat nie jemand geschrieben. Die Zahl ist erfunden.
Willkommen bei den Halluzinationen der KI – dem Thema, über das ich in meiner aktuellen Podcast-Folge spreche und das mir in Beratungen, in Bachelorarbeiten und in echten Unternehmensberichten immer wieder begegnet.
Die gute Nachricht vorweg: Du bist den Halluzinationen nicht ausgeliefert. Es gibt fünf konkrete Dinge, die du ab morgen tust, um sie deutlich zu verringern. Aber der Reihe nach.
Eine KI-Halluzination ist eine plausible, aber schlichtweg falsche Aussage. Und genau das Plausible ist das Gefährliche daran.
Denn die KI stottert nicht. Sie zögert nicht. Sie klingt extrem souverän – egal, ob sie recht hat oder nicht. Und genau deshalb fallen wir so gern darauf herein.
Denk mal an ein Gespräch unter Menschen: Da erkennst du Unsicherheit in der Sprache. Das Gegenüber zögert, senkt den Blick, formuliert vorsichtig. Wir spüren, wenn jemand etwas nicht so genau weiß. Bei der KI fehlt dieses Signal komplett. Sie schreibt das Falsche genauso überzeugend hin wie das Richtige.
Der Grund liegt tiefer: Die KI kennt keinen Unterschied zwischen Wissen und Vermuten. Wenn du eine Anfrage stellst, macht sie im Kern eine Wahrscheinlichkeitsrechnung – was ist das nächste wahrscheinliche Wort? Wenn zu deiner Frage in den Trainingsdaten wenig hinterlegt ist, biegt die KI beim nächsten plausiblen Wort einfach ab. Sie prüft nicht, ob es richtig ist. Sie prüft nur, was sprachlich am wahrscheinlichsten passt.
Halluzinationen kommen in drei Varianten:
Erfundene Fakten: Zahlen, Daten, Ereignisse, die es nie gab, für die KI aber plausibel wirken.
Erfundene Quellen: Studien, Artikel, Urteile, Bücher, Autoren, die perfekt klingen und gar nicht existieren. (Das lese ich besonders gern in Projekt- und Bachelorarbeiten.)
Die fiesen 90-Prozent-richtig-Fälle: Aussagen, die zu neunzig Prozent stimmen und bei zehn Prozent kippen.
Die dritte Sorte ist die gefährlichste. Eine komplett absurde Antwort erkennst du sofort. Aber eine fast richtige rutscht durch – die entlarvst du nur, wenn du dich im Thema richtig gut auskennst.
Wir kennen mittlerweile alle die Geschichten von Anwältinnen und Anwälten, die ihre Schriftsätze mit KI erstellt haben – inklusive Präzedenzfällen mit Aktenzeichen, Datum, allem Drum und Dran. Nur: Diese Urteile hat es nie gegeben. Und das ist längst kein amerikanisches Einzelphänomen mehr, sondern passiert in all unseren Ländern. Mit ziemlicher Sicherheit gibt es auch in deinem Umfeld ein Unternehmen mit halluzinierten Zahlen im Angebot oder Bericht. Es hat nur noch niemand gemerkt.
Jetzt wird es interessant: OpenAI hat dazu eine eigene Studie veröffentlicht. Stell dir das vor – ausgerechnet der Hersteller schaut ehrlich hin und fragt: Warum erfinden unsere eigenen Systeme Dinge?
Die Kernaussage ist verblüffend einfach. Sprachmodelle halluzinieren, weil im Training das Raten belohnt wurde.
Das ist wie früher bei mir an der Uni mit Multiple-Choice-Fragen. Du hast eine Frage und vier Antwortmöglichkeiten. Antwortest du gar nicht, weil du es nicht weißt, bekommst du null Punkte. Rätst du aber A, B, C oder D, hast du immerhin eine 25-Prozent-Chance auf einen Punkt.
Genau so „denkt" die KI: Sage ich „Ich weiß es nicht", gibt es keine Belohnung. Rate ich und liege vielleicht richtig, gibt es eine. Die Modelle wurden also darauf trainiert und bewertet, dass eine erfundene, plausible Antwort besser abschneidet als ein ehrliches „Ich weiß es nicht".
Quellen:
OpenAI: Why Language Models Hallucinate
Zusammenfassung bei t3n
OpenAIs Lösungsvorschlag klingt logisch: selbstbewusste Fehler stärker bestrafen als zugegebene Unsicherheit (Business Insider). Genau diesen Hebel kannst du dir auch selbst zunutze machen – dazu gleich mehr.
Die Frage bekomme ich oft: „Helga, wie viel halluziniert die KI denn nun?" Und da gibt es keinen einen richtigen Prozentsatz. Es kommt auf das Thema an, auf das Datenmaterial und darauf, wie anspruchsvoll die Aufgabe ist.
Anfang 2026 haben Forschende der EPFL einen neuen Benchmark vorgestellt: HalluHard – ein „harter" Halluzinations-Test. Er prüft nicht nur brave Quizfragen, sondern mehrstufige, offene Gespräche, in denen die Modelle ihre Behauptungen mit Quellen belegen müssen. Also genau das, was wir im Alltag tun, wenn wir recherchieren.
Das Ergebnis ist deutlich:
Ohne Websuche: wenn die KI nur aus ihren Trainingsdaten arbeitet – lagen die Halluzinationsraten sehr hoch.
Mit Websuche sank die Rate auf rund ein Drittel. Die besten Modelle mit Websuche kamen auf etwa 30 Prozent Halluzination.
Quellen: GitHub-Projektseite EPFL, Paper auf Hugging Face
Aber Achtung, hier kommt die getarnte Falle: Die KI findet echte Quellen – und legt ihnen trotzdem falsche Aussagen in den Mund. Sie verlinkt eine seriöse Studie, aber die Behauptung, die sie angeblich daraus zieht, steht dort gar nicht. Das ist eine besonders gut getarnte Halluzination. Deshalb reicht es nicht, zu prüfen, ob eine Quelle existiert. Du musst prüfen, ob die Aussage wirklich in der Quelle steht.
Und die richtig gute Nachricht aus der Forschung: Wenn du der KI eine Datengrundlage gibst – ein PDF, ein Dokument, eine Verlinkung – dann werden die Ergebnisse sehr zuverlässig. „Schau mal, hier ist das PDF, such mir die Info heraus" funktioniert richtig gut. Genau zwischen diesen zwei Polen spielt sich unser Arbeitsalltag ab.
Hier ist der praktische Teil – fünf Hebel, die du sofort anwenden kannst.
Der größte Hebel. Gib ihr ein PDF, eine verlinkte Quelle, einen eingefügten Text – und lass sie aus diesem Material arbeiten statt aus dem eigenen Gedächtnis. Das senkt die Halluzinationsrate signifikant.
Der Fachbegriff dafür ist Retrieval Augmented Generation (RAG), auf Deutsch etwa „abrufgestützte Texterzeugung". Klingt sperrig, ist aber simpel: Du sagst der KI, sie darf nicht frei aus den Trainingsdaten antworten, sondern muss auf deine Dokumente zugreifen und die Antwort daraus bauen.
Alles, was aktuell und faktenlastig ist: Websuche an. Die HalluHard-Studie zeigt, dass die Qualität damit deutlich steigt – bis zu zwei Drittel weniger Halluzinationen. Als Bonus verlinken die Tools ihre Ergebnisse, und du kannst schnell nachprüfen: Stimmt das? Wo steht das?
Mein Lieblingspunkt. Mit einer klaren Anweisung hebelst du das Belohnungssystem aus, das die KI zum Raten verleitet. Schreib ihr wörtlich:
„Wenn du es nicht weißt, gib es zu."
„Wenn du dir bei einer Angabe nicht sicher bist, sag es."
„Gib in Prozent an, wie sicher diese Aussage stimmt."
Klingt banal – wirkt aber. Du erlaubst der KI damit ausdrücklich, ehrlich statt souverän zu sein.
Die KI erfindet nicht immer denselben Fehler – Wissenslücken werden jedes Mal anders gefüllt. Stell dieselbe Frage an zwei oder drei Modelle (z. B. ChatGPT, Claude und Gemini). Wo die Antworten genau an einem Punkt auseinandergehen, hast du deine Lücke gefunden. Genau dort prüfst du nach. Dieses simple Vorgehen bringt laut Studien bis zu acht Prozent mehr Genauigkeit – „Wisdom of the Crowds", aber mit Maschinen. Viele Unternehmen machen das intern längst systematisch; du machst es in zwei Minuten von Hand.
Für mich indiskutabel. Zahlen, Namen, Zitate, alles Rechtliche und Medizinische, alles, was in ein Angebot, einen Vertrag oder in die Kundenkommunikation wandert – das wird geprüft.
Die KI liefert den Entwurf, wir tragen die Verantwortung. Wir können die Arbeit delegieren, aber nicht die Haftung. Und wenn du Führungskraft bist: Genau das gehört schriftlich in eure KI-Guidelines. Wer prüft was, bevor es rausgeht? Wer übernimmt die Verantwortung?
Damit sind wir noch nicht am Ende. Denn es geht nicht nur um Halluzinationen – es geht auch um die Quellen, aus denen die KI schöpft.
Die schwedische Forscherin Almira Osmanovic Thunström von der Universität Göteborg hat sich eine Augenkrankheit ausgedacht: „Bixonimania". Dann hat sie zwei gefälschte Fachartikel dazu auf einer akademischen Plattform veröffentlicht – gespickt mit absichtlichen Warnsignalen: fiktive Autoren, absurde Danksagungen mit Star-Trek-Anspielung (Dank an die Starfleet Academy), und mittendrin ein Satz, dass der gesamte Artikel erfunden sei.
Und dann? Die Chatbots übernahmen die Fälschung, ohne mit der Wimper zu zucken:
Bing Copilot führte die Krankheit als seltene Erkrankung.
Perplexity nannte eine konkrete Betroffenenzahl – frei halluziniert.
ChatGPT hielt sie erst für einen Fake, „änderte" aber wenige Tage später seine Meinung und erklärte sie für real.
Kein einziges System stolperte über die Starfleet-Danksagung oder den Satz, dass alles erfunden ist. Schlimmer noch: Die gefälschten Papers tauchten sogar in echter, peer-reviewter Fachliteratur als Quelle auf.
Quellen: Nurse.org
Die Lehre: Es reicht nicht, die KI zu kontrollieren. Wir müssen die Quellen bewerten, aus denen sie zieht. Ist das eine seriöse, akademische Quelle – oder eine erfundene? Das sagt uns eigentlich der Hausverstand. Wenn in einem Paper steht „diese Studie ist frei erfunden", dann ist es keine gute Quelle. Genau diese Bewertung ist unsere Aufgabe als Menschen – und sie lässt sich nicht wegdelegieren.
Eine plausible, aber falsche Aussage einer KI. Sie entsteht, weil Sprachmodelle Wahrscheinlichkeiten berechnen (das nächste wahrscheinliche Wort) und nicht zwischen Wissen und Vermuten unterscheiden.
Es gibt keinen festen Wert – es hängt von Thema, Datenlage und Aufgabe ab. Ohne Websuche sind die Raten hoch; mit Websuche und eigener Datengrundlage sinken sie auf etwa ein Drittel
Ganz ausschalten lässt sich das nicht – laut OpenAI sind Halluzinationen prinzipbedingt. Aber du kannst sie stark reduzieren: Material geben, Websuche nutzen, Unsicherheit erlauben, zweites Modell befragen, alles Kritische prüfen.
Du. Die KI liefert den Entwurf, die Verantwortung bleibt beim Menschen. Deshalb gehört in jede KI-Guideline: Wer prüft was, bevor es rausgeht?
Die KI ist ein hervorragendes Werkzeug – wenn du ihr das Material gibst und die Aufgabe klar und eng führst. Gefährlich wird es, wenn sie aus dem eigenen Gedächtnis arbeitet und wir ihr blind vertrauen. Zwischen diesen beiden Polen entscheidet sich die Qualität deiner Ergebnisse.
Merk dir die fünf Hebel: Material geben. Websuche an. Unsicherheit erlauben. Zweites Modell fragen. Alles mit Konsequenzen prüfen. Und den einen Satz, der über allem steht: Wir delegieren die Arbeit, nicht die Haftung.
Du willst solche KI-Impulse regelmäßig und sofort umsetzbar? Dann hol dir den Effizienzletter – jede Woche ein Werkzeug, das dir Zeit spart und deine Wirkung stärkt. [Hier eintragen.]
Helga Boss verbindet Effizienz mit künstlicher Intelligenz.
Als Expertin für KI-gestütztes Effizienzmanagement zeigt sie, wie Unternehmen mit klaren Strukturen und smarten Tools messbar bessere Ergebnisse erzielen.
Aus der Praxis. Für die Praxis.
In diesem Blog teilt sie Erfahrungen, Strategien und echte Anwendungsbeispiele – damit KI nicht zur Spielerei wird, sondern zu einem Werkzeug, das Effizienz sichtbar macht.
Jeden Donnerstag ein Effizienz-Tipp!
© Helga Boss
