Führende KI-Modelle wie GPT oder Gemini verweisen bei Dokumentenanalysen routinemäßig auf Textstellen, die ihre Aussagen gar nicht stützen. Auch wenn die Antwort stimmt, ist der angegebene Beleg oft falsch. Die Forschenden der Peking University nennen das Phänomen „Attribution Hallucination“ und sehen darin ein ernstes Risiko für regulierte Branchen wie Recht oder Medizin. Der neue CiteVQA testet das Verhalten systematisch.
Der Artikel KI-Modelle geben oft richtige Antworten aus den falschen Quellen erschien zuerst auf The Decoder.