Von einer Halluzination spricht man, wenn ein KI-Modell eine Aussage trifft, die sachlich falsch oder frei erfunden ist, aber plausibel klingt – etwa eine falsche Telefonnummer, ein Angebot, das es nicht gibt, oder veraltete Öffnungszeiten.
Warum das passiert
Sprachmodelle erzeugen Text, der statistisch wahrscheinlich ist. Fehlen klare Informationen oder widersprechen sich Quellen, füllt das Modell die Lücke mit dem, was „passen könnte“.
Was Unternehmen tun können
- Angaben überall einheitlich halten: Website, Google-Profil, Verzeichnisse.
- Wichtige Fakten klar auf der eigenen Website nennen, nicht nur in Bildern oder PDFs.
- Strukturierte Daten einsetzen, damit Maschinen Angaben eindeutig zuordnen.
- Regelmäßig prüfen, was KI-Assistenten über das eigene Unternehmen sagen.