Halluzination

Als Halluzination bezeichnet man Ausgaben eines Modells, die überzeugend klingen, aber sachlich falsch oder frei erfunden sind, etwa erfundene Quellen, Zahlen oder Zitate. Ursache ist, dass Sprachmodelle Wahrscheinlichkeiten für den nächsten Text berechnen und kein echtes Faktenverständnis besitzen. Quellenbindung und RAG können das Risiko senken, es aber nicht vollständig beseitigen.