Question 1

Was sind KI-Halluzinationen?

Accepted Answer

KI-Halluzinationen sind Ausgaben generativer KI-Systeme, die überzeugend klingen, aber sachlich falsch oder frei erfunden sind. Das reicht von erfundenen Quellen und Zitaten bis zu falschen Fakten über Unternehmen, Produkte oder Personen. Die Antwort sieht dabei genauso aus wie eine korrekte.

Question 2

Warum halluzinieren KI-Modelle?

Accepted Answer

Sprachmodelle sagen das statistisch wahrscheinlichste nächste Wort voraus und prüfen keine Fakten. Fehlt Wissen, erzeugen sie trotzdem eine plausible Antwort. Nach einer OpenAI-Analyse verstärken gängige Trainings- und Bewertungsverfahren das Problem, weil sie Raten stärker belohnen als das Eingestehen von Unsicherheit.

Question 3

Welche Beispiele gibt es für KI-Halluzinationen in Unternehmen?

Accepted Answer

Belegte Fälle sind der Air-Canada-Chatbot, der einen erfundenen Rabatt zusagte, sowie Berichte von Deloitte, KPMG und EY mit erfundenen Quellen oder Fallstudien. Dazu kommen weltweit 1.694 dokumentierte Gerichtsverfahren, in denen von KI erfundene Zitate eingereicht wurden.

Question 4

Wer haftet, wenn ein KI-Chatbot falsche Auskünfte gibt?

Accepted Answer

Im Fall Moffatt v. Air Canada entschied ein kanadisches Tribunal, dass das Unternehmen für alle Informationen auf seiner Website verantwortlich ist, auch für die seines Chatbots. Die Rechtslage entwickelt sich weiter und hängt vom Einzelfall ab; wer KI-Auskünfte anbietet, sollte sie deshalb wie eigene Aussagen behandeln.

Question 5

Wie können Unternehmen KI-Halluzinationen vermeiden?

Accepted Answer

Vollständig vermeiden lassen sie sich nicht, aber deutlich verringern: KI-Anwendungen per Retrieval-Augmented Generation an geprüfte Datenquellen binden, Antworten begrenzen, jeden Inhalt von Menschen prüfen lassen und Teams im Umgang mit KI-Fehlern schulen.

Question 6

Wie erkenne ich, ob KI-Systeme falsche Informationen über mein Unternehmen verbreiten?

Accepted Answer

Stellen Sie ein festes Set typischer Kundenfragen regelmäßig an ChatGPT, Perplexity und Gemini und dokumentieren Sie, was die Systeme über Leistungen, Preise und Fakten Ihrer Marke antworten. Ein professionelles GEO-Audit systematisiert diesen Faktencheck und zeigt, welche Signale den Modellen für eine korrekte Darstellung fehlen.

chatbot fehler

KI Halluzinationen im Unternehmen: Risiken und Schutz